当前位置:首页|资讯

成本降低90%!Claude上新Gemini同款提示词缓存,一次性记住整个代码库

作者:稀奇古怪的玩家发布时间:2024-09-08

Claude深夜上新重磅功能——API长文本缓存。 新版API可以“记住”一整本书或整个代码库,不需要再重复输入了。 这样一来,不仅处理长文本的延时更低,更是能节省最高90%的成本。 [图片] △假定重复部分为1万Token,模型为3.5 Sonnet,只计算输入 今年5月,谷歌在Gemini更新中提出了这项功能,然后是国内的Kimi和DeepSeek团队,总之现在又轮到了Claude。 值得一提的是,厂商Anthropic的推文当中提到,提示词缓存功能可以让用户用更长、更有指导性的提示词对模型进行“微调...【查看原文】

AI自动化

Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1