GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

小兵张健 2024-12-26

装饰器模式

装饰器模式详解定义装饰器模式（Decorator Pattern）是一种结构型设计模式，允许动态地向对象添加新功能，而不改变其结构。装饰器模式通过将对象放入包含行为的新对象中，解决了继承的局限性。

超爱吃士力架 2024-12-26

Easysearch Chart Admin 密码自定义

使用 Easysearch Chart 0.2.0 之前的版本（包括 0.2.0）创建出来的集群， admin 用户初始密码固定为 admin，这样的集群存在安全隐患。 Easysearch 1.8.

极限实验室 2024-12-26

🌍 创建你自己的3D地球：用代码带你环游世界

如果你能通过简单的代码，在网页上创建一个逼真的3D地球，让你的访客无需离开座位就能探索这个蓝色星球的每一个角落。

AAA酒席代吃刘哥包顺礼金 2024-12-26

C#拾遗补漏之goto跳转语句

前言在我们日常工作中常用的C#跳转语句有break、continue、return，但是还有一个C#跳转语句很多同学可能都比较的陌生就是goto，今天大姚带大家一起来认识一下goto语句及其它的优缺

追逐时光者 2024-12-26

69天探索操作系统-第21天：内存段划分

1.介绍分段是一种内存管理技术，它根据程序的逻辑结构组织内存。与分页不同，分页将内存划分为固定大小的页，而分段则将程序划分为逻辑单元，如代码、数据、堆栈和堆。这样就可以更自然地表示程序的结构，并促进

电赛小陈找出路 2024-12-26

别只知道KFC，你还应该知道BFC，FFC，GFC和IFC

今天是星期四，一提到星期四就有不少掘友想到KFC疯狂星期四，要去吃肯德基了，所以有没有人能V我50，我也要去吃肯德基。偷偷说一句，虽然肯德基涨了2%，但你只需要V我50就可以了，剩下那1块钱我自己掏

少年姜太公 2024-12-26

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

69天探索操作系统-第22天：虚拟内存 - 对需求分页的深度剖析

.NET 在 Visual Studio 中的高效编程技巧集

智保未来：国泰产险的 AI 网关革新之旅

研发工作中的感悟

装饰器模式

Easysearch Chart Admin 密码自定义

🌍 创建你自己的3D地球：用代码带你环游世界

C#拾遗补漏之goto跳转语句

69天探索操作系统-第21天：内存段划分

别只知道KFC，你还应该知道BFC，FFC，GFC和IFC

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响