ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

苏州元脑智能申请动态电压调节专利，在线调节较大范围的负载电压

金融界2024年12月26日消息，国家知识产权局信息显示，苏州元脑智能科技有限公司申请一项名为“动态电压调节装置、方法及计算机设备”的专利，公开号CN119179361A，申请日期为2024年9月。

金融界 2024-12-26

上海思立微电子申请电流源电路相关专利，解决电流调节精度与芯片版图面积的均衡问题

金融界2024年12月26日消息，国家知识产权局信息显示，上海思立微电子科技有限公司申请一项名为“电流源电路、斜坡发生器、模数转换器和芯片”的专利，公开号CN119179367A，申请日期为2023年6月。

金融界 2024-12-26

南京富顺塑业取得塑料膜切割装置专利，保证塑料膜切割时不产生形变

金融界2024年12月26日消息，国家知识产权局信息显示，南京富顺塑业有限公司取得一项名为“一种塑料膜切割装置”的专利，授权公告号CN222200660U，申请日期为2024年4月。

金融界 2024-12-26

洛阳市星合取得绝缘纸裁剪装置专利，避免裁刀下降破坏绝缘纸内部应力

金融界2024年12月26日消息，国家知识产权局信息显示，洛阳市星合特种变压器有限公司取得一项名为“一种绝缘纸裁剪装置”的专利，授权公告号CN222200659U，申请日期为2024年4月。

金融界 2024-12-26

湖南趣智新视觉取得广告板的裁切装置专利，结构合理、使用效果好

金融界2024年12月26日消息，国家知识产权局信息显示，湖南趣智新视觉广告有限公司取得一项名为“一种广告板的裁切装置”的专利，授权公告号CN222200652U，申请日期为2024年3月。

金融界 2024-12-26

晶华微申请带隙基准电压输出判断电路装置专利，保证带隙基准电压以负载模块正常工作电压作用于负载模块

金融界2024年12月26日消息，国家知识产权局信息显示，杭州晶华微电子股份有限公司申请一项名为“带隙基准电压的输出判断电路、装置以及电子设备”的专利，公开号CN119179363A，申请日期为2024年11月。

金融界 2024-12-26

浙江金纬片板膜设备制造有限公司取得片材切割装置专利，能够避免发生片材切割大小需求与工作人员所需大小不对应的情况发生

金融界2024年12月26日消息，国家知识产权局信息显示，浙江金纬片板膜设备制造有限公司取得一项名为“种片材切割装置”的专利，授权公告号CN222200658U，申请日期为2024年4月。

金融界 2024-12-26

安徽润安信科取得一种色谱柱切割定位装置专利，能够快速简单得到切面平整的色谱柱

金融界2024年12月26日消息，国家知识产权局信息显示，安徽润安信科检测科技有限公司取得一项名为“一种色谱柱切割定位装置”的专利，授权公告号CN222200655U，申请日期为2024年4月。

金融界 2024-12-26

广德方晟科技取得一种覆铜板的切割装置专利，可提升装置通用性

金融界2024年12月26日消息，国家知识产权局信息显示，广德方晟科技有限公司取得一项名为“一种覆铜板的切割装置”的专利，授权公告号CN222200654U，申请日期为2024年3月。

金融界 2024-12-26

深圳市纳芯威科技申请 LDO 电路和电源集成电路专利，提高工作安全性并降低电路能耗

金融界2024年12月26日消息，国家知识产权局信息显示，深圳市纳芯威科技有限公司申请一项名为“LDO电路和电源集成电路”的专利，公开号CN119179365A，申请日期为2024年11月。

金融界 2024-12-26

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

苏州元脑智能申请动态电压调节专利，在线调节较大范围的负载电压

上海思立微电子申请电流源电路相关专利，解决电流调节精度与芯片版图面积的均衡问题

南京富顺塑业取得塑料膜切割装置专利，保证塑料膜切割时不产生形变

洛阳市星合取得绝缘纸裁剪装置专利，避免裁刀下降破坏绝缘纸内部应力

湖南趣智新视觉取得广告板的裁切装置专利，结构合理、使用效果好

晶华微申请带隙基准电压输出判断电路装置专利，保证带隙基准电压以负载模块正常工作电压作用于负载模块

浙江金纬片板膜设备制造有限公司取得片材切割装置专利，能够避免发生片材切割大小需求与工作人员所需大小不对应的情况发生

安徽润安信科取得一种色谱柱切割定位装置专利，能够快速简单得到切面平整的色谱柱

广德方晟科技取得一种覆铜板的切割装置专利，可提升装置通用性

深圳市纳芯威科技申请 LDO 电路和电源集成电路专利，提高工作安全性并降低电路能耗

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响