斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

作者：努力犯错玩AI发布时间：2024-05-06

斯坦福 GPT-4

前言斯坦福大学研究人员近日推出了开源端侧大模型Octopus v2，引起了广泛关注。Octopus v2拥有20亿参数量，可以在智能手机、车载系统等终端设备上高效运行，在准确性和推理速度方面都超越了...【查看原文】

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

前言在计算语言学领域，将自然语言转化为可执行的SQL查询是一个重要的研究方向。这对于让那些没有编程或SQL语法知识的用户也能轻松访问数据库信息至关重要。Defog团队近日发布了基于Llama-3的S

LLaMA GPT-4 编程

努力犯错玩AI 2024-05-24

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

项目简介Octopus-V2-2B是由斯坦福大学Nexa AI开发的一种先进的开源大型语言模型，具有20亿参数，专为Android API的功能调用定制。与需要详细描述潜在函数参数的检索增强生成(RAG)方法不同Octopus-V2-2B采用了一种独特的功能性标记(functionaltokens)策略，用于其训练和推理阶段。这种方法不仅使其达到了与GPT-4相当的性能水平，还大幅提高了推理速度，超越了基于RAG的方法，特别适用于边缘计算设备。它能够在设备上直接运行，支持广泛的应用场景，从而推动

斯坦福大语言模型 GPT-4

AI研习所 2024-04-10

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

大语言模型的效率，正在被这家「清华系」创业公司发展到新高度。从 ChatGPT 到 Sora，生成式 AI 技术遵从《苦涩的教训》、Scaling Law 和...

大语言模型清华 ChatGPT Sora

机器之心 2024-04-15

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

商汤端侧大模型和端云协同解决方案已在小米SU7落地，小米集团小爱总经理王刚也坦承了大模型的使用成本考量：“一开始将大模型部署到手机上时，一台手机一个生命周期的大模型使用成本是20元，这一投入是巨大的，如今大模…

商汤 GPT-4

IT时报 2024-04-30

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

研究人员评估了Xwin-LM在805个问题上与Text-Davinci-003、ChatGPT和GPT-4的胜率。GPT-4的回答是正确的，但Xwin-LM不仅正确回答了问题，还解释了法语表达中「晚上好」的来…

GPT-4 ChatGPT 斯坦福

巴比特资讯 2023-09-23

近期资讯

天冷了，来碗monorepo一锅炖吧

小明同学在做项目的时候遇到了一个问题🤔🤔，用pnpm搭建的monorepo下有三个项目，分别是a、b和sdk，项目a和项目b都依赖sdk，按照monorepo的文档说法，sdk应该提升到根目录的nod

小爱同学_ 2024-12-30

提升Scrapy爬虫效率的动态代理IP设置指南

在数据采集的旅程中，爬虫就像是一位勇敢的探险者，穿梭于信息的丛林中，寻找那些珍贵的宝藏。然而，探险的道路并不总是一帆风顺，尤其是当目标网站设置了重重障碍，试图阻止你的访问时。此时，动态代理IP就像是探

LoongProxy 2024-12-30

手机浏览器跳转微信客服添加页面

问题提供的链接是url = 'https://work.weixin.qq.com/ca/caXXXXX' 开始操作是直接window.location.href = url; 该操作在IOS浏览器

一涯 2024-12-30

Ray Tracing in One Weekend 中译版（上）

Ray Tracing in One Weekend 翻译 Ray Tracing in One Weekend 翻译

寒江雪WWT 2024-12-30

竺梓君 2024-12-30

JNPF凭什么杀出低代码重围……

在众多的低代码开发平台中，JNPF凭借其诸多独特优势脱颖而出，与其他低代码平台相比，在功能、性能、易用性、扩展性以及服务质量等方面都展现出了卓越之处，为企业的选型决策提供了有力依据与参考建议。功能方

树上有只程序猿 2024-12-30

java下集合List快速实现重复判断

在java编写代码中经常会遇到某些重复判定或者去重的操作，包括：数据清洗：从数据库或其他来源获取的数据可能包含重复项，需要去重。用户输入：前段传入的数据可能存在重复，需要校验去除重来避免处理时出现

荧光石 2024-12-30

React Scheduler机制及Demo

主要理解React Scheduler的逻辑/设计思路，了解Scheduler的作用是什么？如何运行的？并且实现一个简易的Scheduler Demo

泡泡茶壶_lemon 2024-12-30

斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

推荐体验

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

近期资讯

天冷了，来碗monorepo一锅炖吧

提升Scrapy爬虫效率的动态代理IP设置指南

手机浏览器跳转微信客服添加页面

Ray Tracing in One Weekend 中译版（上）

flame forge2d 实现随机小怪以及飞镖射中爆炸

同步与异步、JS任务、渲染互斥

浅聊数据库

JNPF凭什么杀出低代码重围……

java下集合List快速实现重复判断

React Scheduler机制及Demo

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响