声明:因为内容涉及出海和国际上最新的工程知识。视频和笔记均有可能包含英文,尤其是术语的部分。但是会尽量用中文讲解和附加解释。
https://github.com/chat-stack/chat-stack
创建聊天机器人
将文档附加到聊天机器人
向聊天机器人发送消息并获取回复(聊天记录在内部维护)
下面举例:
GPT模型的训练数据只有到2021年9月的信息。llama.cpp这个开源项目是最近几个月才有的。所以如果直接问GPT不知道
这个网址https://news.ycombinator.com/item?id=37806861 里面有HackerNews的相关讨论。包含了llama.cpp github的信息。我们用这个API新建聊天机器人之后可以外挂网页文档。然后当我们问这个机器人就得到了正确的回答。
快速的生产模式部署 (ChatStack: deploy whole chatbot stack)
更简洁的接口
同时可以充分为自己的客户规模定制化(后续功能如metadata filters, auth, agent tools)