ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

玉环速腾申请电机导线端子及MGU插线总成测试工装专利，该导线端子具有连接可靠，定位稳定，可以进行自动化装配

金融界2024年12月25日消息，国家知识产权局信息显示，玉环速腾机械有限公司申请一项名为“电机导线端子及MGU插线总成测试工装”的专利，公开号CN119171110A，申请日期为2024年10月。

金融界 2024-12-25

龙境科技申请一体式线对板连接器专利，有效避免线路板焊盘脱落风险

金融界2024年12月25日消息，国家知识产权局信息显示，深圳市龙境科技有限公司申请一项名为“一体式线对板连接器”的专利，公开号CN119171104A，申请日期为2024年7月。专利摘要显示，本发明公开了一种一体式线对板连接器，涉及电子配件技术领域，其中，一体式线对板连接器包括主体部、第一压线部和第二压线部。

金融界 2024-12-25

超聚变申请种电源及计算设备专利，能够降低提高连接器的电流通流能力所需的成本

电路板的端部具有第一连接器。第一连接器包括插接部和第一导电套，其中，插接部包括第一子插接部和第二子插接部，第一子插接部的和第二子插接部间隔设置。第一子插接部的表面设置有第一导电触片，第一导电触片与电压输出端电连接。第二子插接部的表面设置有第二导电触片，第二导电触片与接地端电连接。

金融界 2024-12-25

上海航天科工申请适用于低矮空间的分体式轴向定位可旋转接触件及连接器专利，将接触件设置为分体式可根据焊接需求调整方向

金融界2024年12月25日消息，国家知识产权局信息显示，上海航天科工电器研究院有限公司申请一项名为“适用于低矮空间的分体式轴向定位可旋转接触件及连接器”的专利，公开号CN119171108A，申请日期为2024年9月。

金融界 2024-12-25

常州新苑星申请单元主电路静插件等专利，实现单元主电路静插件的小型化

金融界2024年12月25日消息，国家知识产权局信息显示，常州新苑星电器有限公司申请一项名为“单元主电路静插件、电源分配器及多回路单元总成”的专利，公开号CN119171107A，申请日期为2024年9月。

金融界 2024-12-25

斯达半导体申请一种免锡焊接功率端子及功率模块专利，彻底解决现有功率模块锡焊可靠性薄弱的问题

金融界2024年12月25日消息，国家知识产权局信息显示，斯达半导体股份有限公司申请一项名为“一种免锡焊接功率端子及功率模块”的专利，公开号CN119171109A，申请日期为2024年10月。

金融界 2024-12-25

深圳欣锐科技取得控制引导功能发生电路专利，做到元件数量少、电路简单、体积小、成本低、可靠性高

金融界2024年12月25日消息，国家知识产权局信息显示，深圳欣锐科技股份有限公司取得一项名为“控制引导功能发生电路”的专利，授权公告号CN222192151U，申请日期为2024年2月。

金融界 2024-12-25

昆山联滔电子申请插头及用电装置专利，能够满足输出电流大的需求且安全性更高

金融界2024年12月25日消息，国家知识产权局信息显示，昆山联滔电子有限公司申请一项名为“插头及用电装置”的专利，公开号CN119171111A，申请日期为2024年10月。专利摘要显示，本发明属于插头技术领域，公开了一种插头及用电装置，插头包括基座、插设件和连接件。

金融界 2024-12-25

英维克取得一种多路输出的隔离电源电路以及一种逆变系统专利，提高隔离电源电路的工作效率

金融界2024年12月25日消息，国家知识产权局信息显示，深圳市英维克信息技术有限公司取得一项名为“一种多路输出的隔离电源电路以及一种逆变系统”的专利，授权公告号CN222192152U，申请日期为2023年12月。

金融界 2024-12-25

青岛天盈华智取得一种逆变器电路专利，能够延长控制电路的启动时间

金融界2024年12月25日消息，国家知识产权局信息显示，青岛天盈华智科技有限公司取得一项名为“一种逆变器电路”的专利，授权公告号CN222192158U，申请日期为2024年4月。

金融界 2024-12-25

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

玉环速腾申请电机导线端子及MGU插线总成测试工装专利，该导线端子具有连接可靠，定位稳定，可以进行自动化装配

龙境科技申请一体式线对板连接器专利，有效避免线路板焊盘脱落风险

超聚变申请种电源及计算设备专利，能够降低提高连接器的电流通流能力所需的成本

上海航天科工申请适用于低矮空间的分体式轴向定位可旋转接触件及连接器专利，将接触件设置为分体式可根据焊接需求调整方向

常州新苑星申请单元主电路静插件等专利，实现单元主电路静插件的小型化

斯达半导体申请一种免锡焊接功率端子及功率模块专利，彻底解决现有功率模块锡焊可靠性薄弱的问题

深圳欣锐科技取得控制引导功能发生电路专利，做到元件数量少、电路简单、体积小、成本低、可靠性高

昆山联滔电子申请插头及用电装置专利，能够满足输出电流大的需求且安全性更高

英维克取得一种多路输出的隔离电源电路以及一种逆变系统专利，提高隔离电源电路的工作效率

青岛天盈华智取得一种逆变器电路专利，能够延长控制电路的启动时间

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响