ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

Java 数据结构——CopyOnWriteArrayList

CopyOnWriteArrayList 故事要从诞生 CopyOnWriteArrayList 之前说起。其实在 CopyOnWriteArrayList 出现之前，我们已经有了 ArrayList

刘不二 2024-12-17

Vue2 和 Vue3 的批量更新机制详解

Vue2 和 Vue3 的批量更新机制详解在前端开发中，Vue.js 作为一个渐进式框架，以其高效的响应式系统和简洁的 API 著称。Vue2 和 Vue3 在批量更新机制上有一些显著的差异。本文将

小小小小宇 2024-12-17

Java 新特性

Java 8 (2014年发布) Java 8 是一个里程碑版本，带来了许多重大特性： 1. Lambda 表达式简化了匿名内部类的写法，支持函数式编程。语法：示例： 2. 函数式接口 (Fun

AHXGD 2024-12-17

React 中 setState 的同异步性、工作机制与批量更新解析

React 中 setState 的同步性、工作机制与批量更新解析在 React 中，setState 是一个核心的更新机制。理解其同步性、工作原理以及批量更新的实现对于高效地使用 React 至关

小小小小宇 2024-12-17

GoFrame框架中的并发控制利器:gmlock

在高并发的后台服务中,对共享资源的并发访问控制是一个非常常见也非常重要的需求。如果没有合适的并发控制手段,就可能导致数据不一致、逻辑错乱等严重问题。

DemonAvenger 2024-12-17

React封装自定义 Hook 捕获所有错误

React 中的错误捕获方式及自定义 Hook 实现在 React 开发中，错误处理是确保应用稳定性和用户体验的重要部分。React 提供了多种错误捕获方式，包括错误边界（Error Boundar

小小小小宇 2024-12-17

Pandas数据结构：Series与DataFrame

引言在数据分析领域，Python 的 Pandas 库因其强大的数据操作功能而广受欢迎。Pandas 提供了两种主要的数据结构：Series 和 DataFrame。本文将从基础概念出发，逐步深入探

Jimaks 2024-12-17

云计算架构学习整理（一）

学习云计算架构，搞懂IaaS云平台的玩法。了解云平台的基本概念：租户、区域、可用区；了解云环境的基本组件：网络资源、服务器资源、存储资源。

Paramita 2024-12-17

easypoi 使用 ExcelExportEntity 实现一对多动态表格导出时，报空指针问题处理

easypoi 实现动态表格导出时，网上大部分使用封装 ExcelExportEntity 的形式实现，可是在组装一对多数据时，使用网上的教程往往会报一个空指针，处理方式如下。

军师中郎将 2024-12-17

三行命令，免费申请https加密证书，一次配置，永久生效

视频版：https://www.bilibili.com/video/BV1UNzmYpEZz/ 只需3行命令，免费申请配置https加密证书，一次配置，永久生效。

技术爬爬虾 2024-12-16

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

Java 数据结构——CopyOnWriteArrayList

Vue2 和 Vue3 的批量更新机制详解

Java 新特性

React 中 setState 的同异步性、工作机制与批量更新解析

GoFrame框架中的并发控制利器:gmlock

React封装自定义 Hook 捕获所有错误

Pandas数据结构：Series与DataFrame

云计算架构学习整理（一）

easypoi 使用 ExcelExportEntity 实现一对多动态表格导出时，报空指针问题处理

三行命令，免费申请https加密证书，一次配置，永久生效

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响