GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

苏州海泰斯取得半导体手动检测定位治具专利，避免检测时半导体偏移影响效果

金融界2024年12月28日消息，国家知识产权局信息显示，苏州海泰斯半导体检测设备有限公司取得一项名为“一种半导体手动检测定位治具”的专利，授权公告号CN222212821U，申请日期为2024年3月。

金融界 2024-12-28

湖南华电常德发电有限公司取得一种继电保护测试线辅助装置专利，便于单独放置更多数量的测试线

金融界2024年12月28日消息，国家知识产权局信息显示，湖南华电常德发电有限公司取得一项名为“一种继电保护测试线辅助装置”的专利，授权公告号CN222212805U，申请日期为2024年4月。

金融界 2024-12-28

宁波方太取得一种微流控检测仪专利，具有体积小、方便安装、使用方便的优势

金融界2024年12月28日消息，国家知识产权局信息显示，宁波方太厨具有限公司取得一项名为“一种微流控检测仪”的专利，授权公告号CN222212780U，申请日期为2024年2月。

金融界 2024-12-28

沈阳瑞科尔取得交通运输速度传感器用保护装置专利，避免速度传感器在防护罩内随意晃动被碰撞

金融界2024年12月28日消息，国家知识产权局信息显示，沈阳瑞科尔科技有限公司取得一项名为“一种交通运输的速度传感器用保护装置”的专利，授权公告号CN222212792U，申请日期为2024年5月。

金融界 2024-12-28

重庆奥百诺生物科技取得一种生物技术用生物标志物检测设备专利，减少生物提取液外泄浪费

金融界2024年12月28日消息，国家知识产权局信息显示，重庆奥百诺生物科技有限公司取得一项名为“一种生物技术用生物标志物检测设备”的专利，授权公告号CN222212783U，申请日期为2024年4月。

金融界 2024-12-28

杭州聚致生物科技取得核酸质谱分析系统专利，具有移动精度高等优点

金融界2024年12月28日消息，国家知识产权局信息显示，杭州聚致生物科技有限公司取得一项名为“核酸质谱分析系统”的专利，授权公告号CN222212788U，申请日期为2023年12月。

金融界 2024-12-28

晟斯莱德信息科技取得一种弯头型转速传感器专利，使得传感器与测量设备之间的连接线可以灵活弯曲

金融界2024年12月28日消息，国家知识产权局信息显示，晟斯莱德信息科技（郑州）有限公司取得一项名为“一种弯头型转速传感器”的专利，授权公告号CN222212795U，申请日期为2024年5月。

金融界 2024-12-28

朗斯测试技术取得隔离型加速度传感器专利，提高传感器本体抗干扰能力

金融界2024年12月28日消息，国家知识产权局信息显示，朗斯测试技术（秦皇岛北戴河）有限公司取得一项名为“一种隔离型加速度传感器”的专利，授权公告号CN222212800U，申请日期为2024年2月。

金融界 2024-12-28

成都清陶新能源取得电池内阻检测装置专利，可对电池内阻精准检测

金融界2024年12月28日消息，国家知识产权局信息显示，成都清陶新能源科技有限公司取得一项名为“电池内阻检测装置”的专利，授权公告号CN222212806U，申请日期为2023年12月。专利摘要显示，本实用新型涉及电池制造技术领域，尤其涉及电池内阻检测装置。

金融界 2024-12-28

广州威绰取得一种基于霍尔传感器的便携式转速测试仪专利，有效避免使用不便的问题

金融界2024年12月28日消息，国家知识产权局信息显示，广州威绰商品检测技术服务有限公司取得一项名为“一种基于霍尔传感器的便携式转速测试仪”的专利，授权公告号CN222212794U，申请日期为2024年5月。

金融界 2024-12-28

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

苏州海泰斯取得半导体手动检测定位治具专利，避免检测时半导体偏移影响效果

湖南华电常德发电有限公司取得一种继电保护测试线辅助装置专利，便于单独放置更多数量的测试线

宁波方太取得一种微流控检测仪专利，具有体积小、方便安装、使用方便的优势

沈阳瑞科尔取得交通运输速度传感器用保护装置专利，避免速度传感器在防护罩内随意晃动被碰撞

重庆奥百诺生物科技取得一种生物技术用生物标志物检测设备专利，减少生物提取液外泄浪费

杭州聚致生物科技取得核酸质谱分析系统专利，具有移动精度高等优点

晟斯莱德信息科技取得一种弯头型转速传感器专利，使得传感器与测量设备之间的连接线可以灵活弯曲

朗斯测试技术取得隔离型加速度传感器专利，提高传感器本体抗干扰能力

成都清陶新能源取得电池内阻检测装置专利，可对电池内阻精准检测

广州威绰取得一种基于霍尔传感器的便携式转速测试仪专利，有效避免使用不便的问题

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响