ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

如何在微信中保护隐私与安全，避免实名认证带来的困扰

微信作为一款广受欢迎的社交软件，已经成为我们生活中不可或缺的一部分。在日常使用中，实名认证是个很重要的步骤，它可以帮助用户提升账户安全性，避免一些不必要的麻烦。但是，有些用户可能会因为各种原因，想要取消实名认证。不过，微信目前并没有提供直接取消实名认证的功能。那么，具体该如何处理呢？接下来，我们就来聊聊这个话题。

新报观察 2024-12-25

如何安全有效地删除电脑驱动程序，确保系统稳定运行

在使用电脑的过程中，驱动程序是一个不可或缺的部分。它们帮助操作系统与硬件设备进行沟通，确保一切正常运行。今天就来聊聊如何删除驱动程序，确保你的电脑能够顺利运行。比如，如果你要删除显卡驱动，就点击“显示适配器”，然后找到你的显卡。如果你之前选择了删除驱动程序软件，那么在重启后，你可能需要手动安装新的驱动。

新报观察 2024-12-25

如何在微博上有效利用特别关注功能提升信息获取效率

和评论。另外，特别关注的账号不一定要是大V或者知名人士。有时候，一些小号或者普通用户分享的内容也会很有价值。你可以通过他们的视角，看到不一样的世界。随着时间的推移，你的兴趣和需求可能会发生变化。因此，定期调整你的特别关注列表也是很有必要的。你可以每隔一段时间，回顾一下自己特别关注的账号，看看哪些账号依然符合你的需求，哪些账号可以删除。

新报观察 2024-12-25

RO姬预告新番定档华硕新主板将至

看来自华硕吹雪系列主板后，又将迎来一款“能打能撩”，二次元浓度满满的新主板。提及二次元玩家的热爱装备，新主板到来前，那肯定少不了华硕吹雪系列。

砍柴网 2024-12-25

光合泰道智能科技申请基于安全深度强化学习的数据中心的冷却控制专利，不超过预设的温度安全阈值前提下最小化数据中心总能耗

金融界2024年12月25日消息，国家知识产权局信息显示，光合泰道智能科技（杭州）有限公司申请一项名为“基于安全深度强化学习的数据中心的冷却控制方法及装置”的专利，公开号CN119172985A，申请日期为2024年9月。

金融界 2024-12-25

英维克申请换热系统及负载换热器换热方法专利，能够有效解决实际应用中的换热系统散热不经济问题

金融界2024年12月25日消息，国家知识产权局信息显示，深圳市英维克科技股份有限公司申请一项名为“换热系统及负载换热器换热方法”的专利，公开号CN119172988A，申请日期为2024年9月。

金融界 2024-12-25

全面解析音响使用技巧，提升音乐体验的实用指南

音响怎么用？这个问题听起来好像很简单，但实际上，音响的使用涉及到很多细节和技巧。今天我们就来聊聊如何充分发挥音响的潜力，让你的音乐体验更加出色。先说说音响的基本组成部分。一般来说，一个音响系统主要由音箱、功放、音源和连接线组成。音箱负责发声，功放则是增强声音的力量，让音质更加饱满。

新报观察 2024-12-25

江西德思恩申请折叠电子设备用散热材料专利，能在 40 万次折叠实验中性能更稳定

金融界2024年12月25日消息，国家知识产权局信息显示，江西德思恩科技有限公司申请一项名为“一种折叠电子设备用散热材料”的专利，公开号CN119172987A，申请日期为2024年9月。

金融界 2024-12-25

深圳市万顺纸业取得一种造纸业增白剂消泡沫式搅拌器专利，极大程度避免泡沫带来的不利影响

金融界2024年12月25日消息，国家知识产权局信息显示，深圳市万顺纸业有限公司取得一项名为“一种造纸业增白剂消泡沫式搅拌器”的专利，授权公告号CN222196730U，申请日期为2024年5月。

金融界 2024-12-25

删除的短信怎么找回

生活中，我们常常会因为一时的冲动，或者是误操作，导致一些重要的短信被删除了。那么，删除的短信究竟能不能找回呢？很多安卓手机都自带有备份与恢复的选项，进入设置后，找到相关的功能，看看是否可以从备份中恢复已删除的短信。

新报观察 2024-12-25

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

如何在微信中保护隐私与安全，避免实名认证带来的困扰

如何安全有效地删除电脑驱动程序，确保系统稳定运行

如何在微博上有效利用特别关注功能提升信息获取效率

RO姬预告新番定档华硕新主板将至

光合泰道智能科技申请基于安全深度强化学习的数据中心的冷却控制专利，不超过预设的温度安全阈值前提下最小化数据中心总能耗

英维克申请换热系统及负载换热器换热方法专利，能够有效解决实际应用中的换热系统散热不经济问题

全面解析音响使用技巧，提升音乐体验的实用指南

江西德思恩申请折叠电子设备用散热材料专利，能在 40 万次折叠实验中性能更稳定

深圳市万顺纸业取得一种造纸业增白剂消泡沫式搅拌器专利，极大程度避免泡沫带来的不利影响

删除的短信怎么找回

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响