ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

荣耀高层：部分机型升win11后有bug 建议谨慎升级

昨天，荣耀首席影像工程师罗巍分享了一组手机“200X”变焦的内部仿真效果，并表示“看来支持200X有机会”。针对荣耀手机以后是否会支持放大至200倍，他表示“有可能哦”，而针对12倍以内长焦的后续优化计划，他说“端侧的我们也会有优化推出，不过比云测慢”。

中关村在线 2024-12-30

“智改数转”增强企业信心

公司董事长杨友汉介绍，公司开展“智改数转”后，车间自动化率超过95%，生产周期缩短22.5%，综合运营成本降低5%，不良品率降至0.15%，生产效率和产品质量显著提升。2024年，金凌科技、速波赛等当地锂电企业借力锂电产业数字化综合赋能平台，实现生产效率平均提升25%，生产成本平均降低15%。

经济日报 2024-12-30

新报观察 2024-12-30

人类大脑的转速慢得超乎你想象

对人类大脑处理信息的能力进行研究后，美国加州理工学院的神经科学家发现，人类思考的速度并没有想象中的那么快。大脑处理信息的速度仅为每秒10比特，与计算机每秒能执行数万亿次操作根本无法相比。这一发现提出了一个有趣的悖论：我们的大脑究竟是如何过滤如此庞大的信息量，以便有效地感知世界并作出决策的？

北青网 2024-12-30

万和燃气热水器评测：性能优秀、设计简约、安全保障全面的家居必备设备

在现代家居生活中，热水器几乎是每个家庭必不可少的设备了。无论是洗澡、洗碗还是其他日常用水的需求，热水器都扮演着重要的角色。

新报观察 2024-12-30

vivoY200+，不仅轻薄，续航还相当给力！

vivoY200+机身厚度仅7.99mm，重199g，却内置的6000mAh大电池，采用第二代硅碳负极材料，能量密度高达791Wh/L，较普通石墨电池至高提升11.15%。在2倍行业健康寿命的技术加持下，四年后电池健康度还能保持80%以。vivoY200+采用磐石抗摔结构，搭配2倍抗冲击强度的金刚盾玻璃。

大话百科天地 2024-12-30

保护个人隐私：手机应用隐藏与安全管理全攻略

工具等，大家可以在这些应用里设置独立的密码保护。对于一些敏感信息，使用加密的云存储服务也是个不错的选择。这样一来，即使有人拿到你的手机，也无法轻易获取到你的重要数据。很多云存储服务提供了多重加密的功能，可以大大提升数据的安全性。还有一点需要注意的是，避免在公共场合使用敏感应用。

新报观察 2024-12-30

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

荣耀高层：部分机型升win11后有bug 建议谨慎升级

“智改数转”增强企业信心

小米又有新品！小米MK71 Pro机械键盘将于2025年1月1日开启众筹

江门中微子实验液体灌注启动

OPPOK12x，非常适合作为元旦礼物，送给长辈！

充电宝使用与充电方法详解：掌握技巧延长使用寿命

人类大脑的转速慢得超乎你想象

万和燃气热水器评测：性能优秀、设计简约、安全保障全面的家居必备设备

vivoY200+，不仅轻薄，续航还相当给力！

保护个人隐私：手机应用隐藏与安全管理全攻略

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响