ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

2025年的重量级选手！极氪6座旗舰SUV来了：对标问界M9

继领克L946先导预热之后，极氪集团25年最重磅的大型旗舰SUV谍照出炉。从图片看到，极氪内部代号为“EX1H”的大型SUV旗舰，设计语言与极氪009高度相似，前脸采用类似的智能前格栅，疑

2024-12-31

REDMI Turbo 4解读：外观/性能/价格都有惊喜

今天，红米官宣了REDMI Turbo 4的发布时间——1月2日，也就是本周四，这款手机在外观设计、硬件配置、性能表现以及交互体验等方面都有着诸多亮点，让我们一同对其进行全面解读。外观

2024-12-31

蔡磊夫妇500万重奖渐冻症科学家：病友们的英雄

快科技12月31日消息，今年是渐冻症抗争者蔡磊抗击渐冻症的第五年，日前，蔡磊与妻子段睿在直播间揭晓2024年度“生命科学破冰奖”，中美瑞康创始人兼CEO李龙承获奖，奖金为500万元。

2024-12-31

韩国务安机场跑道尽头为啥有墙专家：机场设计近乎犯罪

12月31日消息，据媒体报道，当地时间12月29日，一架韩国济州航空的客机在位于韩国全罗南道的务安机场撞上围墙，除2人获救外，机上179人遇难。英国航空专家表示，韩国务安机场的围墙设计在&ldq

2024-12-31

方程豹豹8首次智驾OTA正式开启推送：覆盖行车、泊车、避障

快科技12月30日消息，比亚迪方程豹“豹8”汽车的首次智驾OTA升级今日正式开启并陆续推送。该车型搭载华为乾崑智驾ADS 3.0系统，升级内容包括高速智驾领航辅助（High-way NCA）、智

2024-12-31

Mate 60用户到底值不值得换华为Mate 70 Pro+上手

华为Mate系列新品一直是手机市场的焦点，Mate 70 Pro+的问世引发了众多消费者的关注。对于已经拥有Mate 60的用户来说，是否要升级到Mate 70 Pro+是一个值得深思的问题。在深度使用Mate 70 Pro

2024-12-31

华为乾崑智驾ADS 3.2来了！升级车位到车位、泊车代驾VPD

快科技12月30日消息，华为智能汽车解决方案BU CEO靳玉志宣布，华为乾崑智驾ADS 3.2版本正式发布。此次升级带来了两项重大升级：「车位到车位」智驾功能和泊车代驾VPD功能。ADS 3.2版本的「

2024-12-31

反对企业家带货！钟睒睒再上央视

12月30日消息，据媒体报道，钟睒睒接受央视采访时再次谈起为什么反对企业家带货。钟睒睒表示，电商直播只能短期内帮助农民销售农产品，但会给农民制造一个“畅销”的错觉，今年帮了

2024-12-31

SK海力士子公司被曝裁员：赔偿12个月工资子女学费全包

快科技12月30日消息，据媒体报道，日前，业内人士爆料，称SK海力士旗下晶圆代工子公司SK海力士系统IC开始对员工重组。爆料称，SK海力士系统IC已收到以生产工人为主的国外员工和以上班族为主的

2024-12-31

极氪大型旗舰SUV谍照曝光：前脸霸气神似库里南

快科技12月30日消息，有博主曝光了极氪全新大型旗舰SUV的谍照。尽管新车覆盖着较厚的伪装，但其方正平直的线条和隐约可见的竖条状进气格栅仍可辨认，整体造型十分霸气，神似劳斯莱斯库里南。

2024-12-31

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

2025年的重量级选手！极氪6座旗舰SUV来了：对标问界M9

REDMI Turbo 4解读：外观/性能/价格都有惊喜

蔡磊夫妇500万重奖渐冻症科学家：病友们的英雄

韩国务安机场跑道尽头为啥有墙专家：机场设计近乎犯罪

方程豹豹8首次智驾OTA正式开启推送：覆盖行车、泊车、避障

Mate 60用户到底值不值得换华为Mate 70 Pro+上手

华为乾崑智驾ADS 3.2来了！升级车位到车位、泊车代驾VPD

反对企业家带货！钟睒睒再上央视

SK海力士子公司被曝裁员：赔偿12个月工资子女学费全包

极氪大型旗舰SUV谍照曝光：前脸霸气神似库里南

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响