GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

【汽车】小米SU7官宣交付量已超过13万台车主可免费领新年礼物

12月28日小米汽车官方微博发文表示：去年的今天，小米汽车正式跟大家见面。这一年，小米汽车顺利完成所有全年目标，也收获了超预期的成绩和口碑，截至目前小米SU7交付量超过13万台，还将扩充产能，保障交付；这一年持续布局销售网络，目前已开业200家，覆盖全国58个城市。

小白测评 2024-12-29

安全强制关机技巧与注意事项：保护数据与设备的指南

在日常生活中，我们经常会遇到电脑或手机卡住、不响应的情况。这种时候，强制关机就成了一项必不可少的技能。虽然听起来简单，但操作不当可能导致数据丢失或者设备损坏。所以，了解怎么安全地强制关机非常重要。接下来，我们就来聊聊这个话题。先说说电脑吧。大多数人用的都是Windows系统。假设你正在忙着工作，突然间屏幕变黑，鼠标也不动了，真是让人抓狂。

新报观察 2024-12-30

探索绘画技巧：轻松描绘夜空中迷人的月球

月球，这个在夜空中闪烁的美丽天体，常常引发我们的无限遐想。无论是古老的诗词，还是现代的科幻电影，月球总是以它那神秘的面纱吸引着无数人。今天，我们就来聊聊怎么画月球，帮助你在纸上重现这个迷人的星球。首先，准备好你的绘画工具。无论是铅笔、彩铅还是水彩，选择你最喜欢的工具都可以。对于初学者来说，铅笔是最合适的选择，因为可以随时擦掉修改。

新报观察 2024-12-30

快速有效加群指南：在QQ数字时代找到属于你的交流空间

工具，依然在很多人的生活中占据着重要的位置。无论是工作、学习还是娱乐，QQ都能发挥它独特的作用。而在QQ的功能中，加群这一步骤常常被许多人所忽略。如果你还没有QQ账号，那可得先去官网或者应用商店下载QQ，注册一个。注册完成后，登录你的QQ账号，就可以开始加群的旅程了。

新报观察 2024-12-30

屏幕截图技巧全解析：从设备到用途，助你高效记录生活精彩瞬间

在这个信息爆炸的时代，屏幕截图已经成为我们生活中不可或缺的一部分。无论是工作、学习，还是日常生活，总会遇到需要截图的情况。比如，你在网上看到一篇特别有意思的文章，想要保存下来；或者在游戏中打出了一局漂亮的战斗，想要留个纪念；甚至是和朋友聊天时，有些搞笑的对话想要分享。总之，屏幕截图在我们的生活中随处可见。

新报观察 2024-12-30

定期更换WiFi密码的重要性及修改步骤详解

可是，你有没有想过，定期更换WiFi密码其实是一个非常重要的事情呢？如果你在修改WiFi密码的过程中遇到困难，不妨参考一下路由器的说明书，或者在网上寻找相关的教程。

新报观察 2024-12-30

铭凡UN1250迷你主机首发1599元起：酷睿i5-1250P

快科技12月29日消息，铭凡UN1250迷你主机上市，首发1599元起。据介绍，铭凡UN1250迷你主机采用极光银配色设计，容积0.9升，搭载12核16线程英特尔酷睿i5-1250P处理器，12M缓存，最高4.4GHz。

驱动之家 2024-12-29

提升PPT吸引力的实用技巧：从设计到互动尽显魅力

在如今这个信息爆炸的时代，PPT（即PowerPoint）已经成为了我们日常工作和学习中不可或缺的工具。不论是学生在课堂上汇报，还是职场人士在会议中展示，PPT帮助我们更好地传达思想、分享信息。那么，在PPT中，究竟怎么做才能让你的幻灯片更吸引人、更有效呢？

新报观察 2024-12-30

12月30日打开京东搜「1」3C数码“疯狂星期一”惊喜放价

12月30日，京东3C数码“疯狂星期一”携海量低价精品再度上线。每逢周一都可以打开京东APP搜索「1」，一键进入活动页面，享受众多限时低价的爆款产品，还有机会瓜分海量京豆，心动的朋友们记得抓住机会。数码品类方面，魅畦旋转手机支架限时7折，到手价低至2.8元。

中国财富网 2024-12-29

AMD的雷霆一击！锐龙9 9950X3D首次现身跑分

快科技12月29日消息，AMD将在CES2025上发布一大波新品，包括锐龙AIMAX300系列(StrixHalo)、锐龙AI300系列(Krackan)、锐龙9000HX/X3D系列(FireRange)、锐龙99900X3D系列、锐龙Z2Extreme、RX9070系列(RDNA4)、FSR4.0、B850/B840主板芯片组。

驱动之家 2024-12-29

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

【汽车】小米SU7官宣交付量已超过13万台车主可免费领新年礼物

安全强制关机技巧与注意事项：保护数据与设备的指南

探索绘画技巧：轻松描绘夜空中迷人的月球

快速有效加群指南：在QQ数字时代找到属于你的交流空间

屏幕截图技巧全解析：从设备到用途，助你高效记录生活精彩瞬间

定期更换WiFi密码的重要性及修改步骤详解

铭凡UN1250迷你主机首发1599元起：酷睿i5-1250P

提升PPT吸引力的实用技巧：从设计到互动尽显魅力

12月30日打开京东搜「1」3C数码“疯狂星期一”惊喜放价

AMD的雷霆一击！锐龙9 9950X3D首次现身跑分

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响