当前位置:首页|资讯

大模型API的流式数据在前端的实现

作者:AI8ge8888888发布时间:2024-09-21

Flask项目实例

项目文件apis.py

模板文件api.html

浏览器访问127.0.0.1:5000

几个要点

apis.py

1.home路由函数@app.route('/')渲染了api.html模板

2.apis路由函数@app.route('/stream')在请求该路由时,会返回一个响应,这个响应是由从大模型 API 获取的数据以流式格式生成的。这个响应的mimetype被设置为text/event-stream,表示这是一个服务器发送事件(SSE)流。


api.html

  1. 页面加载完成后,通过 JavaScript 创建了一个EventSource对象,连接到/apis路由以接收 SSE 流。

  2. 当接收到 SSE 消息时,将数据添加到页面中的<pre>的文本内容中。

实现流程

浏览器访问路由 / (即127.0.0.1:5000)返回api.html,api.html页面中的javascript代码从/stream获取SSE流数据,在<pre>标签内显示出来。



Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1