当前位置:首页|资讯

大模型API的流式数据在前端的实现优化

作者:AI8ge8888888发布时间:2024-09-22

大模型API的流式数据在前端的实现

如果直接将数据传递给前端,会丢失换行符,导致最后呈现的结果都在同一个段落里。

因此需要优化,办法是在传递前利用json进行编码封装,传递给前端后再解码。

之后的优化方向就是将markdown语法写的文本编译成html文本,如果是流式数据转换会比较麻烦,特别是遇到多行代码块的时候,会因为两个换行符/n/n而导致将多行代码块自动切分,不能够完整地转换多行代码块。

如果确实需要更加完善的大模型对话前端界面,且包括保存会话内容等其他较为高级的功能,应该考虑直接部署open-webui/open-webui,mckaywrigley/chatbot-ui,huggingface/chat-ui,lm-sys/FastChatChatGPT-Next-Web、alibaba/ChatUI.



Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1