GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

电商预售是时候“消亡”了

从最初的减轻库存压力和服务器负担，到如今的消费者困惑和不满，预售机制似乎已经走到了一个十字路口。文章将探讨这一模式如何逐渐失去了其原有的意义，以及它如何可能加速传统电商大促活动的衰落。

市象 2024-11-01

江苏万特达矿业取得矿石卸料装置专利，提高装卸效率

金融界2024年11月1日消息，国家知识产权局信息显示，江苏万特达矿业科技有限公司取得一项名为“一种矿石卸料装置”的专利，授权公告号CN221894248U，申请日期为2024年1月。

金融界 2024-11-01

阿里元境大裁员，继Yun OS后，再放弃元宇宙OS

随着元宇宙概念的兴起，阿里巴巴曾重金投入打造“元境”团队，旨在成为这一新兴领域的先行者。然而，面对市场的不确定性和生态建设的挑战，阿里元境团队近期遭遇了大规模裁员，这不仅是对阿里在元宇宙战略的一次重大调整，也反映了整个行业面临的困境。

AI鲸选社 2024-11-01

跳槽拿下40W年薪offer，成长为高级产品经理，我做对了什么？

从独自摸索做产品的野路子，到40W年薪的高级产品经理，这段路我走的比较顺畅且快速。总的来说就是学好产品方法论，换遍工作都不怕，今天就简单分享一下👇我是小帅，一...

起点课堂 2024-11-01

铜陵善纬申请具有快速更换滤芯结构的环氧树脂生产用过滤装置专利，能够在不影响环氧树脂持续过滤的情况下快速更换滤芯

金融界2024年11月1日消息，国家知识产权局信息显示，铜陵善纬新材料科技有限公司申请一项名为“一种具有快速更换滤芯结构的环氧树脂生产用过滤装置”的专利，公开号CN118874031A，申请日期为2024年9月。

金融界 2024-11-01

OWC 雷电 5 移动固态硬盘 Envoy Ultra 国行上市：2TB 4299 元、4TB 7499 元

这款产品售价较高，达到了4299元人民币，而海外价格为399.99美元（约合2850元人民币）。根据OWC官网介绍，EnvoyUltra支持在+5℃~+35℃环境温度下工作，并提供3年有限保修服务。

中关村在线 2024-11-01

宠物博主商业化迷局

宠物赛道因为上手简单，用户喜欢且黏性高一直备受关注，但对于博主而言，最大的问题在于：变现太难了。宠物是流量密码，但不是流量密码的全部。

海克财经 2024-11-01

山东睿和取得稳定剂加工用接料装置专利，避免物料粘连

金融界2024年11月1日消息，国家知识产权局信息显示，山东睿和新材料有限公司取得一项名为“一种稳定剂加工用接料装置”的专利，授权公告号CN221894245U，申请日期为2024年4月。

金融界 2024-11-01

龙口港集团取得货物装卸装置专利，能够提高装卸效率

金融界2024年11月1日消息，国家知识产权局信息显示，龙口港集团有限公司取得一项名为“一种货物装卸装置”的专利，授权公告号CN221894247U，申请日期为2024年6月。

金融界 2024-11-01

宝应博瑞混凝土取得输送装置专利，保证骨料质量提高混凝土性能

金融界2024年11月1日消息，国家知识产权局信息显示，宝应博瑞混凝土有限公司取得一项名为“一种混凝土骨料用输送装置”的专利，授权公告号CN221894230U，申请日期为2024年4月。

金融界 2024-11-01

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

电商预售是时候“消亡”了

江苏万特达矿业取得矿石卸料装置专利，提高装卸效率

阿里元境大裁员，继Yun OS后，再放弃元宇宙OS

跳槽拿下40W年薪offer，成长为高级产品经理，我做对了什么？

铜陵善纬申请具有快速更换滤芯结构的环氧树脂生产用过滤装置专利，能够在不影响环氧树脂持续过滤的情况下快速更换滤芯

OWC 雷电 5 移动固态硬盘 Envoy Ultra 国行上市：2TB 4299 元、4TB 7499 元

宠物博主商业化迷局

山东睿和取得稳定剂加工用接料装置专利，避免物料粘连

龙口港集团取得货物装卸装置专利，能够提高装卸效率

宝应博瑞混凝土取得输送装置专利，保证骨料质量提高混凝土性能

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响