GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

覆盖城市到乡村、大路到胡同！长城全场景NOA正式全国开城

快科技11月17日消息，在2024广州车展上，长城汽车宣布全场景NOA技术全国开城，并推出焕新升级的Coffee OS 3.1系统。同时，20余辆魏牌全新蓝山（沧浪青配色）亮相展台，展现了长城汽车在智

王略 2024-11-17

小米15定制版发货慢被喊话拧螺丝雷军：已经专门催了

快科技11月17日消息，日前，小米集团总裁卢伟冰微博发文称，去小米昌平手机智能工厂慰问一线生产团队，小米15的交付非常不错，也请工厂加快生产缺货的版本。没想到，有网友评论称"定制色

2024-11-17

零跑高管回应被称为小理想：不希望把这个标签贴在身上

快科技11月17日消息，在广州车展期间，零跑汽车高级副总裁曹力接受媒体采访时表示：并不排斥“小理想”称号，零跑还是零跑，而理想汽车是我们学习的榜样，但不希望大家把这个标签贴

若风 2024-11-17

进口燃油小钢炮！全新MINI COOPER家族正式上市：20.88万起

快科技11月17日消息，全新一代MINI COOPER家族已于11月16日正式上市，以进口方式销售。此次上市的包括三门、五门及JCW车型，官方售价区间为23.38-31.08万元，限时礼遇价为20.88-30.58万元。

2024-11-17

奇瑞高管：未来顶多只有5家中国品牌存活下来

快科技11月17日消息，广州车展期间，奇瑞品牌营销中心副总经理姚飞接受媒体采访时表示：打价格战的时候，说明汽车行业已经开始整合了，未来一定不会有很多品牌。例如现在家电行业和手机行业

2024-11-17

路特斯CEO：即便美国把关税加到100% 我们也要去美国卖车

快科技11月17日消息，日前，路特斯CEO冯擎峰接受媒体采访时谈到了出口美国的看法：美国是全球第一大豪车市场，这样的豪车市场我们永远不会放弃，近期路特斯在美国的销量表现也非常好，这也与我

2024-11-17

共享电动车被吐槽是价格刺客：20分钟收费9.9元比打车还贵

快科技11月17日消息，据报道，近日，武汉东湖风景区因为秋景正浓，不少市民和游客纷纷来到这里骑行打卡。该景区投放的有共享电动车，因为方便快捷，不少人选择骑电动车游湖景。但也有许多游

若风 2024-11-17

美国《财富》网站AI语音是河南话网友：郭德纲相声成真了

快科技11月17日消息，近日，全球知名财经杂志《财富》在其官网上推出了一项AI语音播报功能，有网友发现，其中文朗诵的口音有浓重“河南味”。该AI语音播报功能提供了英语、德语、法

2024-11-17

沙特肝帝被封号炮轰索尼：身心受重大伤害靠药物维持一生

此前我们曾报道过，被誉为“沙特肝帝”的传奇PS玩家Hakoom发文炮轰索尼，称自己的账号被无故永封，邮件地址被更改，并在黑市上售卖，而这一切都是PlayStation内部员工所为。而就在

2024-11-17

谷歌Gemini AI惊人回复！用户竟收到“请去死吧”

快科技11月17日消息，据媒体报道，谷歌的AI聊天机器人Gemini近日又引起了争议。一名密歇根州的研究生在使用该机器人辅助作业时，突然向用户发送了“请去死”的恶意信息。Gemini回

黑白 2024-11-17

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

覆盖城市到乡村、大路到胡同！长城全场景NOA正式全国开城

小米15定制版发货慢被喊话拧螺丝雷军：已经专门催了

零跑高管回应被称为小理想：不希望把这个标签贴在身上

进口燃油小钢炮！全新MINI COOPER家族正式上市：20.88万起

奇瑞高管：未来顶多只有5家中国品牌存活下来

路特斯CEO：即便美国把关税加到100% 我们也要去美国卖车

共享电动车被吐槽是价格刺客：20分钟收费9.9元比打车还贵

美国《财富》网站AI语音是河南话网友：郭德纲相声成真了

沙特肝帝被封号炮轰索尼：身心受重大伤害靠药物维持一生

谷歌Gemini AI惊人回复！用户竟收到“请去死吧”

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响