ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

摩尔线程MTT X300专业卡上线官网，物理规格与MTT S80一致

摩尔线程近日在官网上上线了一款新的专业视觉加速卡：MTTX300，该款显卡是摩尔线程第二款专业视觉加速卡，上一款是MTTS50。显卡配备16GBGDDR6显存，显存位宽256bits，显存带宽448GB/s，接口支持PCIeGen5×16。

砍柴网 2024-12-31

REDMI Turbo 4手机搭载6550mAh最大小米金沙江电池

12月31日消息，小米REDMITurbo4手机将于1月2日14:00，今日官方公布了新机的电池信息。据介绍，REDMITurbo4搭载6550mAh最大小米金沙江电池，支持1600次四年耐用长循环（在25℃标准环境下，按照一天一次满充满放进行测试，约等于使用4年后剩余容量80%）。

砍柴网 2024-12-31

如何轻松打开和安装MSI文件的详细指南与常见问题解决方案

在日常使用电脑的过程中，我们常常会遇到各种各样的文件格式。其中，MSI文件可能是你在安装软件时经常碰到的一种。MSI文件是微软安装程序的缩写，主要用于Windows操作系统中安装和管理软件。虽然MSI文件的使用非常普遍，但对于一些新手用户来说，打开和安装这些文件可能会有些困惑。

新报观察 2024-12-31

如何顺利安装和使用打印机驱动程序的实用技巧与注意事项

在日常生活和工作中，打印机是我们不可或缺的工具之一。无论是在办公室打印文件，还是在家里打印照片，打印机都发挥着重要的作用。

新报观察 2024-12-31

宁波森富利电机取得一种用于车载屏幕的阻尼旋转装置专利，可防止输出主轴自由偏转

金融界2024年12月31日消息，国家知识产权局信息显示，宁波森富利电机有限公司取得一项名为“一种用于车载屏幕的阻尼旋转装置”的专利，授权公告号CN222224034U，申请日期为2024年4月。

金融界 2024-12-31

深圳市金沃德科技取得一种具备束线机构的行车记录仪专利，有效地提升了记录仪本体的实用性

金融界2024年12月31日消息，国家知识产权局信息显示，深圳市金沃德科技有限公司取得一项名为“一种具备束线机构的行车记录仪”的专利，授权公告号CN222224038U，申请日期为2024年5月。专利摘要显示，本实用新型涉及行车记录仪技术领域，具体地说，涉及一种具备束线机构的行车记录仪。

金融界 2024-12-31

云米推出智能门锁 2A Pro 人脸猫眼版：3D结构光+指纹，999 元

IT之家12月31日消息，VIOMI云米现已在小米有品上架一款智能门锁2APro人脸猫眼版，标准定价999元，IT之家附商品页如下（点此访问）。据介绍，这款人脸门锁搭载3D结构光人脸识别技术，同时自带红外补光LED、微波雷达人体感应，人脸识别距离0.3-1米，身高覆盖范围1.2-2米，门锁内部配有4英寸IPS面板便于用户操作互动。

IT之家 2024-12-31

天创壹洲取得自动驾驶中控交互设备专利，提高行车安全性

金融界2024年12月31日消息，国家知识产权局信息显示，天创壹洲（天津）科技有限公司取得一项名为“一种自动驾驶中控交互设备”的专利，授权公告号CN222224039U，申请日期为2024年5月。专利摘要显示，本实用新型涉及汽车自动驾驶中控交互领域，尤其涉及一种自动驾驶中控交互设备。

金融界 2024-12-31

苹果新款Magic Mouse要2026年底才推出！充电位置终于改了

12月31日消息，据媒体报道，苹果公司正计划对其MagicMouse进行重大重新设计，并预计在2026年底与OLEDMacBookPro一同亮相。

砍柴网 2024-12-31

如何轻松制作个性化二维码及其广泛应用与未来展望

随着科技的发展，二维码越来越普及了。还有一些活动，比如会议、展会，通常会使用二维码签到，提前生成好二维码，参与者到场后只需出示二维码，工作人员扫一扫，就能完成签到，节省了时间。

新报观察 2024-12-31

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

摩尔线程MTT X300专业卡上线官网，物理规格与MTT S80一致

REDMI Turbo 4手机搭载6550mAh最大小米金沙江电池

如何轻松打开和安装MSI文件的详细指南与常见问题解决方案

如何顺利安装和使用打印机驱动程序的实用技巧与注意事项

宁波森富利电机取得一种用于车载屏幕的阻尼旋转装置专利，可防止输出主轴自由偏转

深圳市金沃德科技取得一种具备束线机构的行车记录仪专利，有效地提升了记录仪本体的实用性

云米推出智能门锁 2A Pro 人脸猫眼版：3D结构光+指纹，999 元

天创壹洲取得自动驾驶中控交互设备专利，提高行车安全性

苹果新款Magic Mouse要2026年底才推出！充电位置终于改了

如何轻松制作个性化二维码及其广泛应用与未来展望

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响