斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

作者：努力犯错玩AI发布时间：2024-05-06

斯坦福 GPT-4

前言斯坦福大学研究人员近日推出了开源端侧大模型Octopus v2，引起了广泛关注。Octopus v2拥有20亿参数量，可以在智能手机、车载系统等终端设备上高效运行，在准确性和推理速度方面都超越了...【查看原文】

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

前言在计算语言学领域，将自然语言转化为可执行的SQL查询是一个重要的研究方向。这对于让那些没有编程或SQL语法知识的用户也能轻松访问数据库信息至关重要。Defog团队近日发布了基于Llama-3的S

LLaMA GPT-4 编程

努力犯错玩AI 2024-05-24

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

项目简介Octopus-V2-2B是由斯坦福大学Nexa AI开发的一种先进的开源大型语言模型，具有20亿参数，专为Android API的功能调用定制。与需要详细描述潜在函数参数的检索增强生成(RAG)方法不同Octopus-V2-2B采用了一种独特的功能性标记(functionaltokens)策略，用于其训练和推理阶段。这种方法不仅使其达到了与GPT-4相当的性能水平，还大幅提高了推理速度，超越了基于RAG的方法，特别适用于边缘计算设备。它能够在设备上直接运行，支持广泛的应用场景，从而推动

斯坦福大语言模型 GPT-4

AI研习所 2024-04-10

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

大语言模型的效率，正在被这家「清华系」创业公司发展到新高度。从 ChatGPT 到 Sora，生成式 AI 技术遵从《苦涩的教训》、Scaling Law 和...

大语言模型清华 ChatGPT Sora

机器之心 2024-04-15

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

商汤端侧大模型和端云协同解决方案已在小米SU7落地，小米集团小爱总经理王刚也坦承了大模型的使用成本考量：“一开始将大模型部署到手机上时，一台手机一个生命周期的大模型使用成本是20元，这一投入是巨大的，如今大模…

商汤 GPT-4

IT时报 2024-04-30

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

研究人员评估了Xwin-LM在805个问题上与Text-Davinci-003、ChatGPT和GPT-4的胜率。GPT-4的回答是正确的，但Xwin-LM不仅正确回答了问题，还解释了法语表达中「晚上好」的来…

GPT-4 ChatGPT 斯坦福

巴比特资讯 2023-09-23

近期资讯

何小鹏给AGI泼冷水：不可能几年就颠覆世界

快科技12月30日消息，最近，通用人工智能（AGI）引发了业界的广泛关注和热议。AGI被定义为一种具有广泛认知能力的智能系统，它能够执行任何人类智能可以完成的任务，包括理解、学习、推理和解决

随心 2024-12-30

国产CPU之光！10年卖1000万颗、九译二进制跑2+万软件

快科技12月30日消息，在一众国产CPU处理器中，飞腾已经走过整整10年，而截至2024年底，飞腾CPU的总销量突破了1000万颗！根据官方公布的数据，飞腾公司2024年收入超过20亿元，同比增长5％，研发

上方文Q 2024-12-30

女大学生宿舍充电宝炸了：平板电脑等被炸坏损失5000元

近日，据中国消防报道，一起发生在大学宿舍的充电宝爆炸事件引起了广泛关注。上海一名女大学生称她于3月份在网上购买的充电宝，于12月18日在宿舍里发生了爆炸。据了解，事发当天，这名女生将

随心 2024-12-30

春节吉言罐包装：王老吉凉茶2.49元/罐速囤（商超4元）

元旦过节必备，天猫王老吉旗舰店，王老吉凉茶植物饮料310ml*12罐日常售价44.9元，今日下单立减12元。叠加3元优惠券，实付到手价29.9元，约合2.49元/罐。经典红罐包装、吉言罐包装随机发货，

小晖 2024-12-30

宁王曾毓群喜提岚图梦想家！CEO卢放亲自交付

快科技12月30日消息，岚图汽车科技有限公司CEO卢放近日向宁德时代董事长曾毓群交付了全新岚图梦想家乾崑版车型，并为宁德时代员工交付了岚图FREE 318等系列车型。卢放表示，12月全新岚图梦想

王略 2024-12-30

美团防疲劳即将全国上线：外卖小哥跑单12小时强制下线

快科技12月30日消息，据媒体报道，今日，美团骑手防疲劳机制已在全国主要城市范围内启动上线工作。美团骑手收到的通知显示，跑单超过8小时会收到提醒，此后每隔一小时提醒一次；跑单12小时将强

拾柒 2024-12-30

中国汽研：智驾不宜过度宣传、不能完全代替人驾

快科技12月30日消息，今日下午，中国汽研发布行业首个《2024中国汽研汽车指数“极北寒测”测评洞察报告》（以下简称：报告）。据介绍，该报告基于我国“广地域、宽温域”

落木 2024-12-30

联发科天玑9400喜获年度AI大奖！

快科技12月30日消息，作为新一代旗舰平台，联发科天机9400凭借在AI方面的优异设计和实际表现，在飞象网的评奖中勇夺年度最佳智能手机AI芯片大奖！飞象网在评价中指出，联发科技天玑9400是业

上方文Q 2024-12-30

余承东亲测享界S9“车位到车位”智驾：自己全程啥也没干

快科技12月30日消息，近日，搭载了华为乾崑ADS 3.0智驾系统的智能汽车已经陆续OTA升级最新的“车位到车位”新版本，华为车BU董事长余承东就亲自体验了一番，并称自己全程啥也没干。

落木 2024-12-30

曝剪映两位负责人离职：曾带领产品月活用户超8亿

快科技12月30日消息，据媒体综合报道，近日，传字节跳动旗下剪映产品负责人张逍然和技术负责人王学智已离职。据了解，此次被传离职的剪映产品负责人张逍然，自2021年底起，开始负责剪映、醒图

秋白 2024-12-30

斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

推荐体验

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

近期资讯

何小鹏给AGI泼冷水：不可能几年就颠覆世界

国产CPU之光！10年卖1000万颗、九译二进制跑2+万软件

女大学生宿舍充电宝炸了：平板电脑等被炸坏损失5000元

春节吉言罐包装：王老吉凉茶2.49元/罐速囤（商超4元）

宁王曾毓群喜提岚图梦想家！CEO卢放亲自交付

美团防疲劳即将全国上线：外卖小哥跑单12小时强制下线

中国汽研：智驾不宜过度宣传、不能完全代替人驾

联发科天玑9400喜获年度AI大奖！

余承东亲测享界S9“车位到车位”智驾：自己全程啥也没干

曝剪映两位负责人离职：曾带领产品月活用户超8亿

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响