ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

荣耀笔记本X14 2025战斗版首发3299元：13代i5+金属机机身

快科技12月31日消息，荣耀笔记本X14 2025战斗版目前已经上架，首发3299元。据悉，新款笔记本采用超轻薄金属机身，薄至16.5mm，重量仅有1.4kg。屏幕为14寸IPS雾面屏，1920*1200分辨率，60H

鹿角 2024-12-31

售价499元！理想车用饮水机发布：支持一秒速热

快科技12月31日消息，理想汽车推出了一款专为旗下车型设计的车内悠享即热饮水机，定价为499元。这款饮水机适用于理想MEGA、理想L9、理想L8和理想L7车型。该饮水机采用220V供电，圆柱形设

王略 2024-12-31

降温狂促真维斯三合一冲锋外套+加绒加厚冲锋裤：券后99元

阿里自营店【淘宝内购会】真维斯三合一冲锋外套日常售价为 199.9 元，加绒加厚冲锋裤日常售价为 99.9 元，各加入购物车一件后，领取 200 元优惠券，到手价为 99.8 元 2 件。购买链接：淘宝(

2024-12-31

《射雕英雄传》电影六大人物海报：武林绝技出神入化

今日(12月31日)电影《射雕英雄传：侠之大者》六大人物海报发布。各路英豪齐聚一堂，武林绝技，出神入化。除了由肖战饰演的郭靖与庄达菲扮演的黄蓉，还包括欧阳锋、华筝、大汗以及托雷等角色

2024-12-31

七彩虹首次杀入固态U盘！1秒传1GB文件、1TB只要439元

快科技12月31日消息，近些年来，七彩虹的产品版图不断拓宽，尤其是在游戏本、存储领域收获颇丰，现在又发布了旗下首款高速固态U盘，型号为“SC600K PRO”。这款固态U盘属于七彩虹定

上方文Q 2024-12-31

北京集中治理大数据杀熟等问题对美团、百度调研座谈

快科技12月31日消息，据“网信北京”公众号，近期，按照中央网信办等四部门联合发布的“清朗·网络平台算法典型问题治理”专项行动有关工作部署，北京市委网信办牵头

拾柒 2024-12-31

骁龙8s Elite最强劲敌联发科新U性能激进：仅次于天玑9400

快科技12月31日消息，博主数码闲聊站爆料，联发科将在2025年上半年推出全新的旗舰平台天玑9350，它可以看作是天玑9300+的升级版，由一加手机搭载，硬刚同期上市的骁龙8s Elite处理器。据悉，天

振亭 2024-12-31

京东方副总裁：干技术就要有干技术的尊严不能只卷价格

快科技12月1日消息，据媒体报道，在12月27日举行的BOE（京东方）“向新2025”交流活动中，京东方回顾了2024年在多个关键领域取得的成绩，并剖析了京东方在战略、技术、应用、生态、模

2024-12-31

怪不得有的车厘子会红到发黑：背后原因揭开

12月31日消息，据媒体报道，车厘子虽然吃起来甜，但总含糖量不算高，约为12.8克/100克，由于其中约5.3克为果糖，口感才会偏甜，车厘子的升糖指数只有22，比苹果（36）、梨（36）和葡萄（43）等绝

振亭 2024-12-31

B站跨年晚会节目单出炉：《黑神话》音乐演出来了

快科技12月31日消息，还剩最后几小时，2024年就将远去，各大卫视、网络视频平台也将在今晚举办跨年晚会。据了解，2024年B站（哔哩哔哩）跨年晚会将在今晚19:30举办，目前节目单已经出炉。在

拾柒 2024-12-31

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

荣耀笔记本X14 2025战斗版首发3299元：13代i5+金属机机身

售价499元！理想车用饮水机发布：支持一秒速热

降温狂促真维斯三合一冲锋外套+加绒加厚冲锋裤：券后99元

《射雕英雄传》电影六大人物海报：武林绝技出神入化

七彩虹首次杀入固态U盘！1秒传1GB文件、1TB只要439元

北京集中治理大数据杀熟等问题对美团、百度调研座谈

骁龙8s Elite最强劲敌联发科新U性能激进：仅次于天玑9400

京东方副总裁：干技术就要有干技术的尊严不能只卷价格

怪不得有的车厘子会红到发黑：背后原因揭开

B站跨年晚会节目单出炉：《黑神话》音乐演出来了

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响