ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

如何轻松打开RAR文件：实用方法与技巧分享

RAR文件是一种常见的压缩文件格式，它能将多个文件和文件夹打包在一起，以便于存储和传输。也许你在网上下载了一个包含RAR格式的文件，或者从朋友那里得到了一些压缩包，然而，打开这样一个文件却让你感到困惑。别担心，接下来我会详细介绍如何打开RAR文件，让你轻松搞定这个小难题。首先，咱们得知道RAR文件的特性。

新报观察 2024-12-30

如何在海信电视上轻松安装当贝市场，提升智能娱乐体验

说到安装当贝市场，步骤其实并不复杂，但对于一些不太熟悉智能电视操作的朋友，可能会觉得有点儿棘手。值得一提的是，虽然当贝市场提供了丰富的资源，但在使用过程中，安全性也是一个需要关注的问题。

新报观察 2024-12-30

如何为原创作品添加水印：保护与品牌建设的实用技巧

水印在我们的日常生活中越来越常见，无论是摄影作品、设计图，还是视频内容，水印的作用不仅仅是为了美观，更是为了保护原创作品，避免被盗用。那么，如何给自己的作品加水印呢？

新报观察 2024-12-30

如何设计高效实用的目录提升阅读体验与效率

在我们日常生活中，目录的作用其实是非常重要的。无论是一本书、一个报告，还是一个网站，目录都能帮助我们快速找到所需的信息。今天就来聊聊怎么弄好一个目录，让它既清晰又实用。首先，我们得明确目录的基本结构。一般来说，目录主要包括标题和页码。标题应该简洁明了，能够一眼让读者知道这部分内容讲的是啥。而页码呢，则是帮助读者快速找到相应的内容。

新报观察 2024-12-30

定期清理手机存储空间，提升使用体验与性能的实用指南

在这个数字化时代，手机几乎成了我们生活中不可或缺的工具。无论是拍照、上网、聊天，还是办公、购物，手机都在助我们一臂之力。但随着使用时间的增加，手机里总会积累大量的文件、缓存和应用，这些东西不仅占用存储空间，还可能导致手机变得越来越慢。所以，定期清理手机是个不错的主意。今天就来聊聊手机怎么清理，让你的手机焕然一新。

新报观察 2024-12-30

如何有效生成专业文档目录的全面指南与注意事项

在日常生活中，无论是写论文、撰写报告还是编写书籍，目录都是一个不可或缺的部分。那么，目录到底是怎么生成的呢？

新报观察 2024-12-30

如何选择和操作游戏机，享受健康游戏乐趣

在这个数字化的时代，游戏机已经成为了许多家庭娱乐生活中不可或缺的一部分。无论是孩子还是成年人，游戏机都能带来无尽的乐趣和放松。今天，我们就来聊聊游戏机怎么玩，如何选择适合自己的游戏机，以及一些实用的小技巧。在开始之前，选择一台适合自己的游戏机是非常重要的。市面上有很多种类的游戏机，比如家用游戏机、掌机和PC游戏。

新报观察 2024-12-30

如何简单有效地升级QQ，享受全新功能与安全保障

软件，承载了无数人的青春记忆。在这个信息快速传播的时代，保持软件的更新和升级变得尤为重要。升级不仅可以让你享受到最新的功能，还能提高安全性，修复一些潜在的bug。那么，QQ怎么升级呢？接下来，我就来给大家详细说说。首先，升级的方式其实挺简单的。你可以在手机应用商店里找到QQ，直接点击更新按钮。

新报观察 2024-12-30

如何有效删除微信群及注意事项，管理社交圈更轻松

无论是工作上的讨论，还是朋友间的聚会安排，微信群都发挥着不可或缺的作用。微信群主要分为两种：一种是你自己创建的群，另一种是别人创建的群。

新报观察 2024-12-30

如何高效查询公交车实时位置与到达时间的多种方法

在城市生活，公交车是我们日常出行的重要交通工具。无论是上班、上学，还是外出游玩，公交车都能带我们到达目的地。现在的科技真是发达，手机几乎成了我们生活中不可或缺的一部分。

新报观察 2024-12-30

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

如何轻松打开RAR文件：实用方法与技巧分享

如何在海信电视上轻松安装当贝市场，提升智能娱乐体验

如何为原创作品添加水印：保护与品牌建设的实用技巧

如何设计高效实用的目录提升阅读体验与效率

定期清理手机存储空间，提升使用体验与性能的实用指南

如何有效生成专业文档目录的全面指南与注意事项

如何选择和操作游戏机，享受健康游戏乐趣

如何简单有效地升级QQ，享受全新功能与安全保障

如何有效删除微信群及注意事项，管理社交圈更轻松

如何高效查询公交车实时位置与到达时间的多种方法

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响