斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

作者：努力犯错玩AI发布时间：2024-05-06

斯坦福 GPT-4

前言斯坦福大学研究人员近日推出了开源端侧大模型Octopus v2，引起了广泛关注。Octopus v2拥有20亿参数量，可以在智能手机、车载系统等终端设备上高效运行，在准确性和推理速度方面都超越了...【查看原文】

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

前言在计算语言学领域，将自然语言转化为可执行的SQL查询是一个重要的研究方向。这对于让那些没有编程或SQL语法知识的用户也能轻松访问数据库信息至关重要。Defog团队近日发布了基于Llama-3的S

LLaMA GPT-4 编程

努力犯错玩AI 2024-05-24

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

项目简介Octopus-V2-2B是由斯坦福大学Nexa AI开发的一种先进的开源大型语言模型，具有20亿参数，专为Android API的功能调用定制。与需要详细描述潜在函数参数的检索增强生成(RAG)方法不同Octopus-V2-2B采用了一种独特的功能性标记(functionaltokens)策略，用于其训练和推理阶段。这种方法不仅使其达到了与GPT-4相当的性能水平，还大幅提高了推理速度，超越了基于RAG的方法，特别适用于边缘计算设备。它能够在设备上直接运行，支持广泛的应用场景，从而推动

斯坦福大语言模型 GPT-4

AI研习所 2024-04-10

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

大语言模型的效率，正在被这家「清华系」创业公司发展到新高度。从 ChatGPT 到 Sora，生成式 AI 技术遵从《苦涩的教训》、Scaling Law 和...

大语言模型清华 ChatGPT Sora

机器之心 2024-04-15

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

商汤端侧大模型和端云协同解决方案已在小米SU7落地，小米集团小爱总经理王刚也坦承了大模型的使用成本考量：“一开始将大模型部署到手机上时，一台手机一个生命周期的大模型使用成本是20元，这一投入是巨大的，如今大模…

商汤 GPT-4

IT时报 2024-04-30

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

研究人员评估了Xwin-LM在805个问题上与Text-Davinci-003、ChatGPT和GPT-4的胜率。GPT-4的回答是正确的，但Xwin-LM不仅正确回答了问题，还解释了法语表达中「晚上好」的来…

GPT-4 ChatGPT 斯坦福

巴比特资讯 2023-09-23

近期资讯

如何轻松加入微信群及提升互动技巧的实用指南

无论是为了工作、学习，还是为了兴趣爱好，微信群都能让我们与志同道合的人聚在一起，分享信息、传递感情。那么，如何加入微信群呢？

新报观察 2024-12-31

如何在苹果手机上实现通话自动录音的有效方法与注意事项

在现代社会，手机已经成为我们生活中不可或缺的一部分。想必大家都有过这样的经历，和朋友、同事或者客户通话时，聊到一些重要的事情，结果因为没有记录，事后又忘了细节。

新报观察 2024-12-31

如何轻松格式化U盘：步骤详解与注意事项

格式化U盘其实是个很简单的过程，但很多人可能对这个操作不太熟悉。没关系，今天我就来详细说说怎么格式化U盘，帮助你顺利完成这个操作。无论是为了释放空间，还是为了更好地管理文件，格式化都是一个不错的选择。在我们深入操作之前，先聊聊为什么有时候需要格式化U盘。

新报观察 2024-12-31

如何掌握抽真空技巧，延长食物保鲜与提升生活品质

抽真空，这个词听起来有点高深，但实际上它在生活中并不陌生。一般来说，看到袋子紧紧包裹住食物即可，过于松弛就说明抽真空不完全。

新报观察 2024-12-31

如何有效测试电脑电源的好坏与性能保障方法

在日常使用电脑的过程中，电源的稳定性和性能对整个系统的运行至关重要。一个好的电源不仅能提供稳定的电压，还能确保电脑各个部件的安全和正常工作。然而，电源也像其他电子设备一样，可能会出现故障。当电脑出现无法开机、频繁重启或者蓝屏等问题时，可能就是电源出了问题。那么，怎么测试电源的好坏呢？今天我们就来聊聊这个话题。

新报观察 2024-12-31

如何调节色温提升生活品质与视觉体验的实用技巧解析

调色温，这个词听起来可能有些生涩，但其实它在我们的日常生活中无处不在，比如你家里的灯光、手机的屏幕，甚至是摄影和影视制作中，调色温都是个重要的概念。色温是用来描述光源颜色的一种方式，通常用开尔文（K）来表示。那么，为什么调色温会这么重要呢？相反，在办公室使用冷光源，虽然显得清晰明亮，但如果长时间待在这种环境下，眼睛可能会感到疲劳。

新报观察 2024-12-31

如何通过U盘轻松安装操作系统的详细步骤与技巧

在现代的电脑使用中，U盘已经成为了一个不可或缺的工具。无论是用来存储文件，还是用来安装操作系统，U盘的便捷性都让人爱不释手。今天，我们就来聊聊如何通过U盘来安装操作系统。这个过程其实并不复杂，只要你按照步骤来，就能顺利完成。在开始之前，咱们得先准备一些东西。首先，你需要一个容量足够大的U盘，通常8GB以上的U盘就可以了。

新报观察 2024-12-31

如何在图片上添加文字的实用方法与技巧分享

在这个信息爆炸的时代，图片已经成为我们交流的重要方式。无论是社交媒体上的分享，还是工作报告中的插图，图片都能更直观地传达信息。而在这些图片上添加文字，可以让它们更具吸引力和表达力。今天，我们就来聊聊如何在图片上添加文字，分享一些实用的方法和技巧。首先，选择一个合适的工具是关键。市面上有很多软件和应用可以帮助你在图片上添加文字。

新报观察 2024-12-31

奥克斯空调质量评测：制冷、噪音、节能全面分析，值得购买吗？

提到空调，很多人都会想起各种品牌，而奥克斯空调在众多品牌中算是一个比较知名的选择。说到质量，大家的关注点可就多了。今天就来聊聊奥克斯空调的质量到底怎么样，值得不值得购买。先说说奥克斯空调的整体表现。很多消费者在使用后反映，奥克斯的制冷效果还是相当不错的。无论是在炎热的夏季，还是在湿气重的季节，开上几分钟就能感受到室内温度的变化。

新报观察 2024-12-31

如何顺利打开和使用远程桌面连接另一台电脑的详细指南

无论你是因为工作需要，还是想要在家里访问公司电脑，远程桌面都能为你提供很大的便利。首先，要确保你要连接的那台电脑是支持远程桌面的。

新报观察 2024-12-31

斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

推荐体验

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

近期资讯

如何轻松加入微信群及提升互动技巧的实用指南

如何在苹果手机上实现通话自动录音的有效方法与注意事项

如何轻松格式化U盘：步骤详解与注意事项

如何掌握抽真空技巧，延长食物保鲜与提升生活品质

如何有效测试电脑电源的好坏与性能保障方法

如何调节色温提升生活品质与视觉体验的实用技巧解析

如何通过U盘轻松安装操作系统的详细步骤与技巧

如何在图片上添加文字的实用方法与技巧分享

奥克斯空调质量评测：制冷、噪音、节能全面分析，值得购买吗？

如何顺利打开和使用远程桌面连接另一台电脑的详细指南

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响