在AI领域,通用大模型如GPT虽功能强大,但它局限于训练数据的来源、规模和采样时间段,特定行业或企业难以开箱即用。
而且对于多数企业而言,经营过程中所累积的私有数据是其至关重要的“数字资产”,如果将自身的私域数据上传至第三方平台进行训练,可能会有数据泄露的风险。
而通过ChatWiki,企业可以在本地环境私有化部署AI大模型,构建专属的私有AI问答知识库,从而保障企业数据和隐私安全。
一、ChatWiki介绍
ChatWiki是一款开源的知识库 AI 问答系统。系统基于大语言模型(LLM )和检索增强生成(RAG)技术构建,提供开箱即用的数据处理、模型调用等能力,可以帮助企业快速搭建自己的知识库 AI 问答系统。
ChatWiki不仅可以调用云端的大模型服务,还支持纯本地部署,保证数据的安全和隐私。
ChatWiki是一个开源的项目,任何用户都可以在Github上免费下载和使用。
ChatWiki官网:chatwiki.com
GitHub开源地址:https://github.com/zhimaAi/chatwiki
ChatWiki体验地址:http://h5.wikichat.com.cn/#/chat?robot_key=lTo85wvGSj
二、ChatWiki特色功能
1、GitHub上免费开源,开箱即用
整个项目完全开源,允许任何个人或组织机构下载源码后,直接部署使用或者进行二次开发发布。
且提供了完整的前后端套件支持,下载源码后只需要简单部署即可正常使用。
GitHub开源地址:https://github.com/zhimaAi/chatwiki
2、支持多种文件格式,数据自动预处理
通过导入企业已有知识构建知识库,让 AI 机器人使用关联的知识库回答问题,快速构建企业专属 AI 问答系统。
ChatWiki目前支持文件格式包括:pdf、docx、txt、Markdown、xlsx、csv、html、在线网页数据。
提供自动分段、QA分段、手动输入和 CSV 等多种方式导入数据,ChatWiki自动对导入的文本数据进行预处理、向量化或 QA 分割。
3、支持全球20多种主流模型,配置简单
ChatWiki已支持全球20多种主流模型,
包括:OpenAI、Azure OpenAI、Gemini、Anthropic Claude、文心一言、通义千问、讯飞星火、Kimi、火山引擎、百川智能等模型,只需要简单配置模型API key等信息即可成功接入模型。
4、简单易用的使用方式
ChatWiki采用直观的可视化界面设计,通过简洁易懂的操作步骤,可以轻松完成 AI 问答机器人和知识库的创建。
5、适配不同业务场景
ChatWiki为 AI 问答机器人提供了不同的使用渠道,支持H5链接、嵌入网站、桌面客户端等,可以满足企业不同业务场景使用需求。
6、灵活的部署方式
ChatWiki支持两种部署方式,一种是调用云端的大模型服务,另一种是纯本地部署。用户可以根据自己的需求和场景,选择合适的部署方式。云端部署可以享受更强大的模型性能,本地部署可以保证数据的安全和隐私。
三、ChatWiki技术架构
ChatWiki基于 LLM 大模型+ RAG 检索增强生成技术,将传统的检索方法与生成模型结合,通过引入外部知识库来增强生成的内容。
四、ChatWiki技术栈
前端:vue.js
后端:golang +python
数据库:PostgreSQL16+pgvector+zhparser
缓存:redis5.0
web服务:nginx
异步队列:nsq
进程管理:supervisor
模型:支持OpenAI、Google Gemini、Claude3、通义千文、文心一言、讯飞星火、百川、腾讯混元等模型。
五、ChatWiki部署方式
1、准备工作
再安装ChatWiki之前,您需要准备一台具有联网功能的linux服务器,并确保服务器满足最低系统要求
Cpu:最低需要2 Core
RAM:最低需要4GB
2、开始安装
ChatWiki社区版基于Docker部署,请先确保服务器已经安装好Docker。如果没有安装,可以通过以下命令安装:
sudo curl -sSL https://get.docker.com/ | CHANNEL=stable sh
安装好Docker后,逐步执行一下步骤安装ChatWiki社区版
(1)克隆或下载chatwiki项目代码
git clone https://github.com/zhimaAi/chatwiki.git
(2)使用Docker Compose构建并启动项目
cd chatwiki/docker
docker compose up -d
3、部署手册
在安装和部署中有任何问题或者建议,可以联系我们获取帮助,也可以参考下面的文档。
一键部署ChatWiki社区版
如何配置模型供应商及支持的模型
本地模型部署
如何配置对外服务和接收推送的域名
免Docker部署ChatWiki
如何获取大模型ApiKey
六、ChatWiki开源协议
ChatWiki社区版遵循ChatWiki Open Source License(https://github.com/zhimaAi/chatwiki/blob/main/LICENSE)开源协议。ChatWiki Open Source License基于Apache License 2.0协议,但是有一些额外的限制,包括:
1、允许作为后台服务商用,但是不可用于多租户SAAS模式。
2、除非您获取特定的商业许可,否则任何形式的商用服务均不可移除ChatWiki页面上的版权信息和ChatWiki logo。
七、联系我们
GitHub开源地址:https://github.com/zhimaAi/chatwiki
欢迎联系我们获取帮助,或者提供建议帮助我们改善ChatWiki。您可以通过以下方式联系我们:
邮箱:您可以发送邮件到jarvis@2bai.com.cn联系我们。
微信:使用微信扫码加入ChatWiki技术交流群。