斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

作者：努力犯错玩AI发布时间：2024-05-06

斯坦福 GPT-4

前言斯坦福大学研究人员近日推出了开源端侧大模型Octopus v2，引起了广泛关注。Octopus v2拥有20亿参数量，可以在智能手机、车载系统等终端设备上高效运行，在准确性和推理速度方面都超越了...【查看原文】

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

前言在计算语言学领域，将自然语言转化为可执行的SQL查询是一个重要的研究方向。这对于让那些没有编程或SQL语法知识的用户也能轻松访问数据库信息至关重要。Defog团队近日发布了基于Llama-3的S

LLaMA GPT-4 编程

努力犯错玩AI 2024-05-24

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

项目简介Octopus-V2-2B是由斯坦福大学Nexa AI开发的一种先进的开源大型语言模型，具有20亿参数，专为Android API的功能调用定制。与需要详细描述潜在函数参数的检索增强生成(RAG)方法不同Octopus-V2-2B采用了一种独特的功能性标记(functionaltokens)策略，用于其训练和推理阶段。这种方法不仅使其达到了与GPT-4相当的性能水平，还大幅提高了推理速度，超越了基于RAG的方法，特别适用于边缘计算设备。它能够在设备上直接运行，支持广泛的应用场景，从而推动

斯坦福大语言模型 GPT-4

AI研习所 2024-04-10

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

大语言模型的效率，正在被这家「清华系」创业公司发展到新高度。从 ChatGPT 到 Sora，生成式 AI 技术遵从《苦涩的教训》、Scaling Law 和...

大语言模型清华 ChatGPT Sora

机器之心 2024-04-15

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

商汤端侧大模型和端云协同解决方案已在小米SU7落地，小米集团小爱总经理王刚也坦承了大模型的使用成本考量：“一开始将大模型部署到手机上时，一台手机一个生命周期的大模型使用成本是20元，这一投入是巨大的，如今大模…

商汤 GPT-4

IT时报 2024-04-30

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

研究人员评估了Xwin-LM在805个问题上与Text-Davinci-003、ChatGPT和GPT-4的胜率。GPT-4的回答是正确的，但Xwin-LM不仅正确回答了问题，还解释了法语表达中「晚上好」的来…

GPT-4 ChatGPT 斯坦福

巴比特资讯 2023-09-23

近期资讯

节能新风尚，海尔BCD-218LHC300GL：1019元，218升三门节能冰箱

海尔冰箱以其创新技术、优质材料和精湛工艺，在全球市场上享有盛誉。海尔不断推出新技术，如智能控温、干湿分储、宽幅变温等，满足不同用户的储存需求，其产品品类之多，几乎可以满足所有家庭的冰箱需求。海尔BCD-218LHC300GL冰箱以其1019元的到手价，成为市场上性价比极高的选择。

小米地瓜 2024-12-26

鲸链科技申请基于晶圆堆迭架构的计算机系统和存储器测试方法专利，能统计受测存储器子区块的错误率

金融界2024年12月26日消息，国家知识产权局信息显示，鲸链科技股份有限公司申请一项名为“基于晶圆堆迭架构的计算机系统和存储器测试方法”的专利，公开号CN119181409A，申请日期为2023年6月。

金融界 2024-12-26

百代申请适用于存算一体化的方法等专利，避免神经网络内的相同网络层次使用不同的偏置值

金融界2024年12月26日消息，国家知识产权局信息显示，百代（上海）数据技术有限公司申请一项名为“适用于存算一体化的方法、存储装置及存储系统”的专利，公开号CN119181408A，申请日期为2024年1月。存储晶体管阵列中任一晶体管的权重之大小可利用其阈值电压进行调节以便为神经网络配置其权重矩阵。

金融界 2024-12-26

触控笔使用指南：开启创意与高效办公的新体验

对于很多人来说，触控笔不仅仅是一个工具，它更像是打开创意大门的钥匙。无论你是学生、设计师，还是只是想在平板上写写画画的人，触控笔都能给你带来不少乐趣。

新报观察 2024-12-26

轻松安装电脑字体的简单步骤与技巧分享

别担心，今天就来聊聊如何把那些漂亮的字体轻松地安装到你的电脑上，让你的文档、设计或者任何你想要的地方都能显得更加出彩。首先，你得找到你想要的字体。现在网络上有很多网站提供免费的字体下载，比如GoogleFonts、Dafont、FontSpace等等。

新报观察 2024-12-26

力瑞信申请一种固态硬盘的测试机专利，解决硬盘检测提示信息显示不全问题

金融界2024年12月26日消息，国家知识产权局信息显示，力瑞信（深圳）科技有限公司申请一项名为“一种固态硬盘的测试机”的专利，公开号CN119181416A，申请日期为2024年9月。

金融界 2024-12-26

创维BCD-186D：749元到手，186升双门小冰箱，性价比必选

#年货节好物集市#创维（Skyworth）作为国内家电品牌之一，在冰箱市场中占有一席之地。根据市场调研报告，创维冰箱在年度排行榜中位列第8名，市场份额约为3.6%。这显示了创维在冰箱市场中的竞争力和消费者的认可度。创维冰箱以其多样化的产品线和不断创新的技术，满足了不同消费者的需求，从而在激烈的市场竞争中获得了自己的发展空间。

小米地瓜 2024-12-26

宏博机械取得防卡死型座椅调角器专利，防止碰撞卡死方便人员撤离或施救

金融界2024年12月26日消息，国家知识产权局信息显示，张家港市宏博机械有限公司取得一项名为“一种防卡死型座椅调角器”的专利，授权公告号CN222202324U，申请日期为2024年5月。

金融界 2024-12-26

iPad充不进电的原因及解决方法详解

iPad充不进电，真是让人抓狂的一件事。想象一下，你正计划好在周末用iPad看电影、玩游戏或者处理一些工作，结果发现充电器插上去显示的却是“无效”，这时候心里那个急啊，真是没法形容。

新报观察 2024-12-26

节能新选择，美的BCD-235WTPM(E)：1499元到手，235升三门冰箱

#年货节好物集市#美的作为中国知名的家电品牌，凭借其卓越的产品质量和良好的售后服务，赢得了广大消费者的信任。这款冰箱总容积为235升，其中冷藏室容积为112升，冷冻室容积为90升，中门变温室容积为33升，满足不同食物的储存需求。这一数字不仅证明了BCD-235WTPM(E)在市场上的受欢迎程度，也从侧面反映了其高性价比。

小米地瓜 2024-12-26

斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

推荐体验

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

近期资讯

节能新风尚，海尔BCD-218LHC300GL：1019元，218升三门节能冰箱

鲸链科技申请基于晶圆堆迭架构的计算机系统和存储器测试方法专利，能统计受测存储器子区块的错误率

百代申请适用于存算一体化的方法等专利，避免神经网络内的相同网络层次使用不同的偏置值

触控笔使用指南：开启创意与高效办公的新体验

轻松安装电脑字体的简单步骤与技巧分享

力瑞信申请一种固态硬盘的测试机专利，解决硬盘检测提示信息显示不全问题

创维BCD-186D：749元到手，186升双门小冰箱，性价比必选

宏博机械取得防卡死型座椅调角器专利，防止碰撞卡死方便人员撤离或施救

iPad充不进电的原因及解决方法详解

节能新选择，美的BCD-235WTPM(E)：1499元到手，235升三门冰箱

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响