当前位置:首页|资讯|OpenAI

OpenAI对Assistants API 进行大量更新

作者:视角先锋队发布时间:2024-04-23

原标题:OpenAI对Assistants API 进行大量更新

OpenAI宣布对 Assistant API 进行了大量更新,并将 Beta 版移至新的 API 版本OpenAI-Beta: assistants=v2中。

主要更新内容如下:

OpenAI正在推出一款名为的改进检索工具file_search,每个助手最多可以提取 10,000 个文件,比以前多了500 倍。速度更快,支持通过多线程搜索进行并行查询,并具有增强的重新排名和查询重写功能。

在API 中引入了vector_store对象。将文件添加到向量存储后,它会自动解析、分块和嵌入,以供搜索。向量存储可以跨助手和线程使用,从而简化文件管理和计费。

用户现在可以在 Assistants API 中控制运行使用的最大tokens数量,从而管理tokens使用成本。用户还可以设置每次运行中使用的先前/最近消息的数量限制。

添加了对tool_choice参数的支持,该参数可用于强制在特定运行中使用特定工具例如,file_search、code_interpreter或 a 。

现在,用户可以使用在线程中创建自定义对话历史记录的角色来创建消息。assistant

Assistant和 Run 对象现在支持流行的模型配置参数,例如temperature、response_format(JSON 模式)和top_p。

用户现在可以在 Assistants API 中使用微调模型。目前,仅gpt-3.5-turbo-0125支持微调版本。

Assistants API 现在支持流式传输。

在Node和PythonSDK中添加了几个流式传输和轮询助手。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1