GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

红果短剧回应被广电约见：排查所有剧集违规立即下线！

快科技12月26日消息，今日，红果短剧官方发文称，红果短剧在接受广电主管部门约见后，高度重视，迅速响应，坚决落实好主管部门关于微短剧管理的有关规定和指导要求，进一步完善审核制度。即日

拾柒 2024-12-26

周鸿祎：2025年这7大风口最赚钱单身经济排第一

快科技12月26日消息，近日，360集团创始人周鸿祎通过其个人社交账号发布了一条以“2025年赚钱7大风口”为主题的视频。在视频中，他指出，2025年7大赚钱风口分别是单身经济、银发经济

秋白 2024-12-26

男子恶意退货一年多骗了227万元！结果获刑11年

快科技12月26日消息，据央视新闻报道，“七天无理由退货”本来是为保障消费者的合法权益制定的规则，但有人却恶意利用这一规则，给电商平台造成巨大损失，自己则牟利百万元。报道称

若风 2024-12-26

爆火韩剧《鱿鱼游戏2》今日开播主创悉数回归

快科技12月26日消息，三年前，韩剧《鱿鱼游戏》横空出世，迅速成为全球范围内的文化现象，其YouTube播放量甚至超越了热门剧集《权力的游戏》。经过三年的翘首以盼，《鱿鱼游戏》第二季今天终于

随心 2024-12-26

造车之后再造“人”：超十家车企布局人形机器人越来越卷

从特斯拉推出首款人形机器人原型Optimus，到今年AI概念持续火爆，人形机器人作为AI与物理世界的接口，成为继飞行汽车之后，主机厂又一跨域融合的新标的。12月25日，理想汽车董事长李想回应是否

2024-12-26

紧追比亚迪！丰田提出将收益率提高至20%

快科技12月26日消息，据媒体报道，丰田汽车公司提出了将其净资产收益率（ROE）提高至20%的目标。这是目前水平的两倍，远高于日本上市企业平均水平（2023年度为9%）以及全球大型车企中的顶级水

王略 2024-12-26

英伟达新“王炸” 未发先难产

继B200/GB200芯片交付推迟后，英伟达或又面临新品难产的问题。12月24日，据Wccftech报道，英伟达最新旗舰芯片B300/GB300的参数已经确认。其中B300的显存规格从上代产品的192Gb提升至288Gb；GB

2024-12-26

英伟达新品倒计时：新“核弹”RTX 5090即将驾到

在2025年将至的节骨眼上，全球芯片产业正翘首等待新一轮“军备竞赛”打响——行业领跑者英伟达又要在未来几个月里，把芯片算力的上限重写一番。考虑到今年初英伟达发布Bl

2024-12-26

零部件100%国产化：亿华通发布全新300kW氢燃料电池发动机

快科技12月26日消息，近日，亿华通发布最新一代300kW氢燃料电池发动机（M30+）。据介绍，M30+发动机采用具有完全自主知识产权的国产电堆，零部件国产化率高达100%，最高质量功率密度突破900W/

落木 2024-12-26

久违的李想刚见面就丢王炸

李想对“家”的执念，逐渐具像化。阔别9个月，他给出了理想汽车的“新剧本”——All in AI。也透露了不少接下来的产品布局，比如理想同学将成为“个人助

2024-12-26

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

红果短剧回应被广电约见：排查所有剧集违规立即下线！

周鸿祎：2025年这7大风口最赚钱单身经济排第一

男子恶意退货一年多骗了227万元！结果获刑11年

爆火韩剧《鱿鱼游戏2》今日开播主创悉数回归

造车之后再造“人”：超十家车企布局人形机器人越来越卷

紧追比亚迪！丰田提出将收益率提高至20%

英伟达新“王炸” 未发先难产

英伟达新品倒计时：新“核弹”RTX 5090即将驾到

零部件100%国产化：亿华通发布全新300kW氢燃料电池发动机

久违的李想刚见面就丢王炸

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响