斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

作者：努力犯错玩AI发布时间：2024-05-06

斯坦福 GPT-4

前言斯坦福大学研究人员近日推出了开源端侧大模型Octopus v2，引起了广泛关注。Octopus v2拥有20亿参数量，可以在智能手机、车载系统等终端设备上高效运行，在准确性和推理速度方面都超越了...【查看原文】

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

前言在计算语言学领域，将自然语言转化为可执行的SQL查询是一个重要的研究方向。这对于让那些没有编程或SQL语法知识的用户也能轻松访问数据库信息至关重要。Defog团队近日发布了基于Llama-3的S

LLaMA GPT-4 编程

努力犯错玩AI 2024-05-24

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

项目简介Octopus-V2-2B是由斯坦福大学Nexa AI开发的一种先进的开源大型语言模型，具有20亿参数，专为Android API的功能调用定制。与需要详细描述潜在函数参数的检索增强生成(RAG)方法不同Octopus-V2-2B采用了一种独特的功能性标记(functionaltokens)策略，用于其训练和推理阶段。这种方法不仅使其达到了与GPT-4相当的性能水平，还大幅提高了推理速度，超越了基于RAG的方法，特别适用于边缘计算设备。它能够在设备上直接运行，支持广泛的应用场景，从而推动

斯坦福大语言模型 GPT-4

AI研习所 2024-04-10

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

大语言模型的效率，正在被这家「清华系」创业公司发展到新高度。从 ChatGPT 到 Sora，生成式 AI 技术遵从《苦涩的教训》、Scaling Law 和...

大语言模型清华 ChatGPT Sora

机器之心 2024-04-15

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

商汤端侧大模型和端云协同解决方案已在小米SU7落地，小米集团小爱总经理王刚也坦承了大模型的使用成本考量：“一开始将大模型部署到手机上时，一台手机一个生命周期的大模型使用成本是20元，这一投入是巨大的，如今大模…

商汤 GPT-4

IT时报 2024-04-30

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

研究人员评估了Xwin-LM在805个问题上与Text-Davinci-003、ChatGPT和GPT-4的胜率。GPT-4的回答是正确的，但Xwin-LM不仅正确回答了问题，还解释了法语表达中「晚上好」的来…

GPT-4 ChatGPT 斯坦福

巴比特资讯 2023-09-23

近期资讯

无锡富良机械制造有限公司取得左右箱体清洗机专利，能方便用户更换滤网

金融界2024年12月30日消息，国家知识产权局信息显示，无锡富良机械制造有限公司取得一项名为“一种左右箱体清洗机”的专利，授权公告号CN222220624U，申请日期为2024年4月。

金融界 2024-12-30

iPhone SE 4售价及配置曝光低于4000元搭载A18芯片

然而，在韩国市场，其售价可能会超过800000韩元（折合人民币约为3968元）。此前有传言称，iPhoneSE4的定价范围可能在499美元（折合人民币约为3642元）至549美元（折合人民币约为4000元）之间。

手机中国 2024-12-30

和讯网 2024-12-30

大航跃迁：“筷子夹火箭”回收试验塔架完成静力试验及系统调试工作

12月30日消息，据大航跃迁官方消息，近日，大航跃迁“筷子夹火箭”回收试验塔架圆满完成静力试验及系统调试工作。试验塔架在静力试验考核过程中，关键结构测点数据曲线良好，符合仿真预示结果。试验塔架各功能机构经过系统充分调试，能够遵循预定指令有序执行系列动作，塔架系统各项性能符合预期。

IT之家 2024-12-30

撒贝宁沿运河行吟，央视跨年晚会明晚“启航2025”

除却卫视平台和B站，央视也是跨年晚会的重要玩家。12月31日晚，《启航2025——中央广播电视总台跨年晚会》将如约来袭，极目新闻记者了解到，今年央视跨年晚会落地山东泰安录制，情怀、温度、共鸣与陪伴，将是其跨年晚会的情绪底色。结合XR/AR虚拟现实，融入无人机、机器人表演等科技手段，拓展节目表现形式。

极目新闻 2024-12-30

让用户感到暖心！2025年华为服务日活动带来三大权益升级

2025年，华为服务日活动即将开启第九个年头，权益再升级，为广大用户带来专业且有温度的服务。权益升级一：穿戴设备免费贴膜今年华为发布了WATCHGT5系列、WATCHFIT3等多款智能手表，让更多人可以记录自己的运动、健康等数据，更好地了解自己的身体状况。

ITheat热点科技 2024-12-30

世界最大单机容量、最大尺寸冲击式转轮完成焊接制造

12月30日，随着世界最大单机容量、最大尺寸冲击式水轮机转轮在哈电集团哈尔滨电机厂有限责任公司（以下简称哈电电机）焊接制造成功，世界首台单机500兆瓦扎拉水电站冲击式水轮发电机组转轮问世，这标志着我国高水头、大容量冲击式水电机组的研制技术实现了重大突破。

观察者网 2024-12-30

黑芝麻智能发布华山A2000家族芯片平台，打造全场景通识智驾标杆

12月30日，黑芝麻智能宣布推出其专为下一代AI模型设计的高算力芯片平台——华山A2000家族。A2000家族芯片平台承袭黑芝麻智能华山产品线的使命，以更高算力、更强性能赋能汽车行业，加速高阶智能驾驶成为标配，打造全场景通识智驾标杆。随着行业步入大模型时代，Transformer算法结构和混合模型架构将引领新的技术潮流。

格隆汇 2024-12-30

斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

推荐体验

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

近期资讯

无锡富良机械制造有限公司取得左右箱体清洗机专利，能方便用户更换滤网

iPhone SE 4售价及配置曝光低于4000元搭载A18芯片

谷歌量子芯片的突破点在哪儿

全球最快高铁列车惊艳亮相，运营时速可达400公里！

NBD年度新闻榜 · 2024全球科技十大新闻｜量子计算突破性进展；人形机器人进入量产前夕??

大航跃迁：“筷子夹火箭”回收试验塔架完成静力试验及系统调试工作

撒贝宁沿运河行吟，央视跨年晚会明晚“启航2025”

让用户感到暖心！2025年华为服务日活动带来三大权益升级

世界最大单机容量、最大尺寸冲击式转轮完成焊接制造

黑芝麻智能发布华山A2000家族芯片平台，打造全场景通识智驾标杆

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响