当前位置:首页|资讯|GitHub|ChatGPT|LLaMA

ChatStack: Langchain + NestJs 开源项目 教程 笔记 #1 项目演示

作者:James聊出海技术发布时间:2023-11-01

声明:因为内容涉及出海和国际上最新的工程知识。视频和笔记均有可能包含英文,尤其是术语的部分。但是会尽量用中文讲解和附加解释。


项目链接

https://github.com/chat-stack/chat-stack


流程

  • 创建聊天机器人

  • 将文档附加到聊天机器人

  • 向聊天机器人发送消息并获取回复(聊天记录在内部维护)


外挂知识库演示

下面举例:

GPT模型的训练数据只有到2021年9月的信息。llama.cpp这个开源项目是最近几个月才有的。所以如果直接问GPT不知道

ChatGPT 回答

这个网址https://news.ycombinator.com/item?id=37806861 里面有HackerNews的相关讨论。包含了llama.cpp github的信息。我们用这个API新建聊天机器人之后可以外挂网页文档。然后当我们问这个机器人就得到了正确的回答。

项目其他特性

  • 快速的生产模式部署 (ChatStack: deploy whole chatbot stack)

  • 更简洁的接口

  • 同时可以充分为自己的客户规模定制化(后续功能如metadata filters, auth, agent tools)