斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

作者：努力犯错玩AI发布时间：2024-05-06

斯坦福 GPT-4

前言斯坦福大学研究人员近日推出了开源端侧大模型Octopus v2，引起了广泛关注。Octopus v2拥有20亿参数量，可以在智能手机、车载系统等终端设备上高效运行，在准确性和推理速度方面都超越了...【查看原文】

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

前言在计算语言学领域，将自然语言转化为可执行的SQL查询是一个重要的研究方向。这对于让那些没有编程或SQL语法知识的用户也能轻松访问数据库信息至关重要。Defog团队近日发布了基于Llama-3的S

LLaMA GPT-4 编程

努力犯错玩AI 2024-05-24

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

项目简介Octopus-V2-2B是由斯坦福大学Nexa AI开发的一种先进的开源大型语言模型，具有20亿参数，专为Android API的功能调用定制。与需要详细描述潜在函数参数的检索增强生成(RAG)方法不同Octopus-V2-2B采用了一种独特的功能性标记(functionaltokens)策略，用于其训练和推理阶段。这种方法不仅使其达到了与GPT-4相当的性能水平，还大幅提高了推理速度，超越了基于RAG的方法，特别适用于边缘计算设备。它能够在设备上直接运行，支持广泛的应用场景，从而推动

斯坦福大语言模型 GPT-4

AI研习所 2024-04-10

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

大语言模型的效率，正在被这家「清华系」创业公司发展到新高度。从 ChatGPT 到 Sora，生成式 AI 技术遵从《苦涩的教训》、Scaling Law 和...

大语言模型清华 ChatGPT Sora

机器之心 2024-04-15

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

商汤端侧大模型和端云协同解决方案已在小米SU7落地，小米集团小爱总经理王刚也坦承了大模型的使用成本考量：“一开始将大模型部署到手机上时，一台手机一个生命周期的大模型使用成本是20元，这一投入是巨大的，如今大模…

商汤 GPT-4

IT时报 2024-04-30

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

研究人员评估了Xwin-LM在805个问题上与Text-Davinci-003、ChatGPT和GPT-4的胜率。GPT-4的回答是正确的，但Xwin-LM不仅正确回答了问题，还解释了法语表达中「晚上好」的来…

GPT-4 ChatGPT 斯坦福

巴比特资讯 2023-09-23

近期资讯

现场画面！韩国客机烧得只剩机尾：2名生还者均为乘务员

12月29日消息，当地时间29日上午9时07分左右（北京时间29日8时07分左右），一架正在着陆的客机在韩国全罗南道的务安国际机场偏离跑道，与围栏外墙发生碰撞后爆炸起火。从现场救援视频可以看

2024-12-29

6.6千米！广西最长跨海大桥龙门大桥正式通车

快科技12月29日消息，据报道，中交公路规划设计院有限公司牵头设计的广西首座单跨超千米的跨海大桥，也是广西最长的跨海大桥——龙门大桥于12月29日上午正式通车。龙门大桥以双向六

2024-12-29

索尼高管暗示：PS6或于2027年推出！

近日，索尼互动娱乐（SIE）平台业务集团首席执行官西野英明在Fami通的采访中，提到了PS5的生命周期。他认为PS5的生命周期也会像PS4一样很长，但这并不意味着延迟推出新一代产品。PS4和PS3的生命

2024-12-29

网红辛巴力挺良品铺子：不要为蹭流量恶意搞垮国民企业

快科技12月29日消息，日前，国内头部电商主播辛巴在带货良品铺子时，喊话打假人不要为蹭流量搞垮国民企业。辛巴表示，在这个社会上有太多人为了流量不择手段，甚至不惜搞黄企业，把给社会做了

拾柒 2024-12-29

Copilot全面“入侵”微软产品

快科技12月29日消息，据报道，微软已通知用户，Microsoft 365应用将更名为Microsoft 365 Copilot，并计划在2025年1月中旬生效。这一更名不仅包括名称的变更，还涉及应用程序图标和界面的调整。

黑白 2024-12-29

雷军元旦跨年直播来了：4个半小时！

快科技12月29日消息，今日，雷军发微博预告称，打算在12月31日晚8点做一场直播，陪大家一起跨年。“2024马上就要过去了，回望这一年，大家肯定都有不少感慨。12月31日晚8点，我打算做一

2024-12-29

SIE高管谈小机器人：PS集大成之作 9周卖了150万份！

日前，日本知名游戏媒体公布了对索尼互动娱乐有限公司（SIE）首席执行官Herman Hulst的采访，其中提到了TGA2024年度游戏获得者《宇宙机器人》。Herman Hulst表示，他们对《宇宙机器人》获得的成

2024-12-29

DeepSeek甩出了一张“王炸”

12月26日消息，国产大模型DeepSeek推出DeepSeek-V3，一个强大的混合专家（Mixture-of-Experts, MoE）语言模型。主要的技术迭代是671B的MoE，37B的激活参数，在14.8万亿个高质量token上进行了预训

2024-12-29

小米SU7发布2025年1月限时购车权益！

快科技12月29日消息，小米汽车近日宣布了2025年1月份的小米SU7限时购车权益。从1月1日至1月31日，所有下定购买小米SU7全系车型的用户将享受价值8000元的Nappa真皮座椅、小米智能驾驶智驾增强

王略 2024-12-29

运营时速400公里全球高铁最快！CR450动车组座舱布局公布

快科技12月29日消息，CR450动车组样车今日在北京正式发布，此次发布的CR450动车组样车包括CR450AF和CR450BF两列样车，分别由中国中车旗下四方股份公司与长客股份公司生产。样车采用8节编组，

2024-12-29

斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

推荐体验

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

近期资讯

现场画面！韩国客机烧得只剩机尾：2名生还者均为乘务员

6.6千米！广西最长跨海大桥龙门大桥正式通车

索尼高管暗示：PS6或于2027年推出！

网红辛巴力挺良品铺子：不要为蹭流量恶意搞垮国民企业

Copilot全面“入侵”微软产品

雷军元旦跨年直播来了：4个半小时！

SIE高管谈小机器人：PS集大成之作 9周卖了150万份！

DeepSeek甩出了一张“王炸”

小米SU7发布2025年1月限时购车权益！

运营时速400公里全球高铁最快！CR450动车组座舱布局公布

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响