ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

海能机械科技（辽宁）有限公司取得一种用于大型热室放射性废物处理的热室动力机械手专利，增加操作灵活性和通用性

金融界2024年12月26日消息，国家知识产权局信息显示，海能机械科技（辽宁）有限公司取得一项名为“一种用于大型热室放射性废物处理的热室动力机械手”的专利，授权公告号CN222200562U，申请日期为2024年5月。

金融界 2024-12-26

建型建材取得石膏砌块自动夹取机械手专利，有效地提高石膏砌块搬运效率

金融界2024年12月26日消息，国家知识产权局信息显示，建型（山东）建材科技有限公司取得一项名为“一种石膏砌块自动夹取机械手”的专利，授权公告号CN222200559U，申请日期为2024年1月。

金融界 2024-12-26

库卡机器人（广东）取得机器人相关专利，提高机器人的控制效率与安全性

金融界2024年12月26日消息，国家知识产权局信息显示，库卡机器人（广东）有限公司取得一项名为“机器人控制系统以及机器人”的专利，授权公告号CN222200569U，申请日期为2024年5月。专利摘要显示，本实用新型提供了一种机器人控制系统以及机器人。

金融界 2024-12-26

华涧新能源申请一种 VGT 位置参数自学习方法专利，能够提高控制系统的稳定性和可靠性

金融界2024年12月26日消息，国家知识产权局信息显示，华涧新能源科技（上海）有限公司申请一项名为“一种VGT位置参数自学习方法”的专利，公开号CN119179270A，申请日期为2024年10月。

金融界 2024-12-26

华能荆门热电申请调节阀线性纠偏专利，提高调节的稳定性和快速性

金融界2024年12月26日消息，国家知识产权局信息显示，华能荆门热电有限责任公司申请一项名为“种调节阀线性纠偏方法及系统”的专利，公开号CN119179266A，申请日期为2024年8月。

金融界 2024-12-26

重庆华睿新高科技取得一种辅助臂膀专利，可精细化控制电磁吸盘位置

金融界2024年12月26日消息，国家知识产权局信息显示，重庆华睿新高科技有限公司取得一项名为“一种辅助臂膀”的专利，授权公告号CN222200566U，申请日期为2024年5月。

金融界 2024-12-26

通用电气申请用于模型校准的方法和系统专利，能够识别模型调谐参数至少一个值

金融界2024年12月26日消息，国家知识产权局信息显示，通用电气公司申请一项名为“用于模型校准的方法和系统”的专利，公开号CN119179265A，申请日期为2024年6月。在一些实施例中，该方法包括经由控制电路从操作测试接收真实世界系统（诸如发动机）的操作参数的测试数据。

金融界 2024-12-26

瑞安市鹏达冲压件有限公司取得弹簧盘自动化装夹设备专利，改变吸盘位置无需人工手动拆装调节

金融界2024年12月26日消息，国家知识产权局信息显示，瑞安市鹏达冲压件有限公司取得一项名为“一种弹簧盘自动化装夹设备”的专利，授权公告号CN222200557U，申请日期为2023年12月。

金融界 2024-12-26

维特瑞交通科技取得交管机器人运行防倾倒判别机构专利，实现机器人对倾斜程度自主判断

金融界2024年12月26日消息，国家知识产权局信息显示，维特瑞交通科技有限公司取得一项名为“一种交管机器人的运行防倾倒判别机构”的专利，授权公告号CN222200570U，申请日期为2024年9月。

金融界 2024-12-26

南京康尼申请一种用于站台门系统控制的辅助备份系统专利，能够更准确的执行列车停车位置检测及开关门功能

金融界2024年12月26日消息，国家知识产权局信息显示，南京康尼电子科技有限公司和南京康尼机电股份有限公司申请一项名为“一种用于站台门系统控制的辅助备份系统AUXbk”的专利，公开号CN119179281A，申请日期为2024年7月。

金融界 2024-12-26

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

海能机械科技（辽宁）有限公司取得一种用于大型热室放射性废物处理的热室动力机械手专利，增加操作灵活性和通用性

建型建材取得石膏砌块自动夹取机械手专利，有效地提高石膏砌块搬运效率

库卡机器人（广东）取得机器人相关专利，提高机器人的控制效率与安全性

华涧新能源申请一种 VGT 位置参数自学习方法专利，能够提高控制系统的稳定性和可靠性

华能荆门热电申请调节阀线性纠偏专利，提高调节的稳定性和快速性

重庆华睿新高科技取得一种辅助臂膀专利，可精细化控制电磁吸盘位置

通用电气申请用于模型校准的方法和系统专利，能够识别模型调谐参数至少一个值

瑞安市鹏达冲压件有限公司取得弹簧盘自动化装夹设备专利，改变吸盘位置无需人工手动拆装调节

维特瑞交通科技取得交管机器人运行防倾倒判别机构专利，实现机器人对倾斜程度自主判断

南京康尼申请一种用于站台门系统控制的辅助备份系统专利，能够更准确的执行列车停车位置检测及开关门功能

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响