GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

深圳市华智信息科技有限公司取得卷纸装置专利，能够连续地自动生产卷形片状物

金融界2024年12月31日消息，国家知识产权局信息显示，深圳市华智信息科技有限公司取得一项名为“卷纸装置”的专利，授权公告号CN222225479U，申请日期为2024年4月。

金融界 2024-12-31

如何在微信中轻松开启和分享位置功能的详细指南

在现代社会，手机已经成为我们生活中不可或缺的一部分，而社交软件则是我们日常交流的重要工具。很多朋友可能会问，微信位置怎么打开呢？对于大部分安卓手机，你可以在设置中找到“位置”或者“定位服务”，然后将其打开。

新报观察 2024-12-31

夏季空调省电技巧：如何在享受清凉的同时降低电费支出

在炎热的夏天，空调几乎成了我们生活中不可或缺的伙伴。它不仅能让我们在高温中保持凉爽，还能提高我们的生活质量。然而，空调的使用也带来了不小的电费负担。如何在享受清凉的同时又能省电呢？今天就来聊聊一些实用的省电小技巧。首先，选择合适的空调型号是关键。市场上有很多种类的空调，功率和能效比各不相同。在购买空调时，尽量选择能效等级高的产品。

新报观察 2024-12-31

太仓智迎取得高速干式铝塑复合机收卷结构专利，能实现多组收卷装置互不干扰收卷

金融界2024年12月31日消息，国家知识产权局信息显示，太仓智迎复合材料有限公司取得一项名为“一种高速干式铝塑复合机的收卷结构”的专利，授权公告号CN222225482U，申请日期为2024年5月。

金融界 2024-12-31

如何合理使用美颜功能，提升自信与真实自我

《美颜怎么用》在这个追求颜值的时代，美颜功能已经成为了我们日常生活中不可或缺的一部分。无论是在社交媒体上分享生活点滴，还是在视频通话中展示自己的状态，能够拥有一张“完美”的脸庞似乎成了很多人的追求。

新报观察 2024-12-31

江苏格优碳素新材料有限公司取得卷材石墨压延机专利，实现产能有效提升

金融界2024年12月31日消息，国家知识产权局信息显示，江苏格优碳素新材料有限公司取得一项名为“一种卷材石墨压延机”的专利，授权公告号CN222225481U，申请日期为2024年5月。

金融界 2024-12-31

如何优雅地删除微信好友：简单步骤与心理探讨

录”中搜索他们的名字。找到了对方后，点击进入他们的聊天界面。在聊天界面的右上角，有一个小人的图标，点击这个图标后，会跳出一个菜单。在这个菜单中，有一个“更多”选项，点击它。接下来，你会看到一个“删除好友”的选项，点击确认就可以了。这样一来，你们之间的联系就被正式解除。不过，删除好友后，对方是不会收到任何通知的，你可以放心。

新报观察 2024-12-31

成都博实科睿新材料取得易于辊压薄膜凸点的复卷机专利，能够使薄膜片凸点消除的效果更好

金融界2024年12月31日消息，国家知识产权局信息显示，成都博实科睿新材料有限公司取得一项名为“一种易于辊压薄膜凸点的复卷机”的专利，授权公告号CN222225484U，申请日期为2024年5月。

金融界 2024-12-31

如何安全有效地修改QQ密码，保护个人账户信息安全

大家或多或少都会使用社交软件，而QQ作为一个老牌的聊天工具，依然有着众多用户。那么，怎么改QQ密码呢？无论你是使用手机还是电脑，进入QQ后，你会看到一个界面，通常在左上角会显示你的头像和昵称。为了确保你账户的安全，建议你在设置完新密码后，再次检查一下你的账户安全设置。

新报观察 2024-12-31

浙江铭普环境科技取得一种软管光催化清洁薄膜生产的收卷结构专利，在相同工作时间内增加产能

金融界2024年12月31日消息，国家知识产权局信息显示，浙江铭普环境科技有限公司取得一项名为“一种软管光催化清洁薄膜生产的收卷结构”的专利，授权公告号CN222225476U，申请日期为2024年4月。

金融界 2024-12-31

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

深圳市华智信息科技有限公司取得卷纸装置专利，能够连续地自动生产卷形片状物

如何在微信中轻松开启和分享位置功能的详细指南

夏季空调省电技巧：如何在享受清凉的同时降低电费支出

太仓智迎取得高速干式铝塑复合机收卷结构专利，能实现多组收卷装置互不干扰收卷

如何合理使用美颜功能，提升自信与真实自我

江苏格优碳素新材料有限公司取得卷材石墨压延机专利，实现产能有效提升

如何优雅地删除微信好友：简单步骤与心理探讨

成都博实科睿新材料取得易于辊压薄膜凸点的复卷机专利，能够使薄膜片凸点消除的效果更好

如何安全有效地修改QQ密码，保护个人账户信息安全

浙江铭普环境科技取得一种软管光催化清洁薄膜生产的收卷结构专利，在相同工作时间内增加产能

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响