当前位置:首页|资讯

如何在服务器上部署开源大模型 GLM-4-9B-Chat 并应用到RAG应用中

作者:xiaohezi发布时间:2024-10-21

本地服务器部署开源大模型有一个前提,就是得有 GPU 显卡资源,在我下面的例子中我租用了 autodl 中的算力资源,具体是租用了一张消费级别的 RTX 3090 显卡。 环境配置 操作系统及版本:u...【查看原文】


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1