提到 AI PC,不知道你会想到什么呢?是人工智能的大语言模型ChatGPT?还是可以把一段文字变成图画的SD绘图?这些大家在应用层面使用的AI功能,以及带有AI功能的AI PC,都依赖于最核心的一个要素 —— 算力。
AI PC 在现在的语境里,其实比较适合的定义,是指拥有AI加速能力的PC产品。
在消费级AI 计算领域,NVIDIA 的 GeForce RTX 独立显卡,毫无疑问是目前拥有最强算力和最广泛生态应用的硬件。最关键的就是 RTX 独立显卡在算力上有着远超竞品的优势。
很多人或许对于 NVIDIA 在 AI 领域的建树没有那么了解,近期我有幸受邀参加了 RTX AI媒体品鉴会,我将从最直接的体验角度,和大家分享一下 RTX AI PC 如何在这个新的时代引领新的生产力革命。
RTX GPU 带来更高 AI 算力
想要知道什么是 AI 生产力,其实得从 AI 的技术原理讲起。很多 AI 采用的是参考人脑神经元网络结构的模型,而在训练这些模型,或者是微调这些模型参数的时候,里面都涉及到大量的并行计算。
GPU 内部是有大量的并行运算单元的,并且有更好的存储读写操作,特别擅长同时间多个小核心,一起并行做数据运算。所以在 AI 相关的领域,往往都是会使用拥有强大算力的 GPU 来运算。
AI PC 可以说是搭载专用 AI 加速硬件的计算机,在带有 RTX GPU 的机器上,这些专用的 AI 加速器被称为 Tensor Core。
衡量 AI 性能强弱其实也是有数据指标的,这个指标叫做 TOPS,意思是 1 秒能进行多少万亿次运算(Teraops),搭载核显的 AIPC 算力目前在 10 - 45 TOPS 这个量级,而搭载GeForce RTX 40 系列 GPU 的设备,涵盖了笔记本电脑和台式主机,能提供 200 - 1300 TOPS 不同级别的产品方案选择。
NVIDIA 很早就开始布局 AI 领域的生态,自1993年成立以来,一直是加速计算领域的先驱,拥有最广泛 CUDA 生态应用的 AI 生产力,现在几乎民间看到的所有 AI 小应用也好,AI大型工具也好,都是最优先支持 NVIDIA 显卡进行使用的。
本地的个人电脑 PC ,如果拥有一张 RTX 独显,显然会有更好的算力优势,而且还能直接利用到社区生态的能力。如果一台笔记本配有足够大显存的 RTX 独显,基本上无需等专门的适配,直接都能用。
这样的本地 AI PC,不那么依赖于 OEM 的适配,不但可以玩轻量极的 AI 工具,比如本地的大语言模型,简单的 Stable Diffusion绘图,甚至可以玩中等规模的 AI 模型,实际使用的生成速度,也比普通核显玩 AI 快得多。
在生态方面,RTX AI PC目前已成为拥有超过 1 亿用户和 500 款 AI 应用的生态。下面的内容给大家聊一聊本次会上展示的一些RTX AI应用demo。
ChatRTX -- 本地部署 LLM 助手
ChatRTX 使用检索增强生成、NVIDIA TensorRT-LLM 大模型推理加速库和 NVIDIA RTX 加速,将本地生成式AI功能引入到支持 RTX 的 Windows 系统中。用户可快速、轻松地将本地文件作为数据集,连接到开放式大语言模型,快速查询与上下文相关的答案。
在现场的演示中,我们现场感受到了 ChatRTX 的强大检索和生成能力。
ChatRTX 不单可以作为一个智能助手来进行文字交互回复,而且还能支持语音和图片检索。在工具内选择对应的文件夹路径之后,可以直接通过对话进行图片检索。演示中实测让 ChatRTX 找到阳光洒在沙发上的照片,马上就能检索得到结果。
这样的高性能本地 AI 生产力,在大算力的加持下,不单可以快速高效助力一些日常工作场景,而且完全本地运行也能更好的保护个人的隐私。
未来 ChatRTX 还将会继续开放支持更多的大模型,并且可以通过 NVIDIA TensorRT-LLM 大模型推理加速库这样的加速工具,在微小合理精度损失的情况下,极大地加速推理过程。
RTX AI 加速创意设计
Stable Diffusion绘图玩转更快速度的创意灵感
过去一年的时间,AI 创意领域一直有一个很火的本地AI绘图应用 Stable Diffusion(简称SD)。它能够理解你的文字,并且生成一张指定的图像,就像是AI界的神笔马良。
本地部署的SD绘图,将会利用本地的算力,以及使用一些开源训练好的绘图模型,解析你的正向反向提示词,通过指定的算法,每次逐步模糊图案进行猜像素的迭代,最终生成一张图片。
在现场,来自AI模型平台吐司/Tensor.Art的创始人展示了 UL Benchmark SD1.5 TensorRT vs. OpenVINO的对比测试,RTX 4090 笔记本电脑 GPU 的SD绘图跑分,相比于友商核显iGPU (Arc Graphics)有超过 27 倍的跑分数据。
在开箱即用的 SD 绘图工具包中,使用 RTX 4090 D GPU,可以享受到高达每秒 8 张图的生成速度,如果再使用当前最快的 Stable Diffusion 加速方法TensorRT,配合开发者进一步的性能优化,目前官方数据表明 RTX 4090 D GPU 最高能实现每秒超过100张图的生成速度。
创意灵感连1秒都无需等待,丝滑畅快。
有 RTX 独显的情况下,不单 512*512 的小图跑起来比核显更快,而那些核显跑不动的大图,有更强性能,更大算力的 RTX 独显也能跑。
人无我有,人有我优,RTX AIPC 带来的是遥遥领先的出图速度和质量。
线稿实时变实拍:建筑效果渲染AI绘图工具
在媒体发布会现场,实地真实地体验了 RTX 独显生态下的强大 AI 工具。
左边画上幼儿园级别的简笔画,右边能迅速输出基于这个简笔画作骨架,所生成的AI渲染建筑图。这种所见所得,即画即有的超高效输出,在设计领域可以带来极好的生产力。
添加任何一笔线稿,都可以立刻在几乎不到1秒内,得到AI帮你完善的渲染图。全部流程都在本地完成,大算力下不单快速,而且安全可靠,隐私可控。
结合即致AI自研的全网下载量超 50W 国内建筑行业大模型,通过本地 RTX GPU 的加速,建筑设计师可以利用 AI 快速生成大量的高质量渲染图,经过微调之后可以快速交付初稿进行方案初选,节省了大量的出图时间。
自拍换脸生成影棚级证件照
RTX 显卡的工具链很强大,不单在普通灵感创意能有 AI 工具加持,还可以通过人像生成控制模型 InstantID 基于设定的参数,提示词,以及底图,换脸生成一个影棚级别的肖像。
只需一张随意的正脸自拍,这个工作流就能自动给你生成无数张证件照,想要多少要多少。一旦我们在本地 AI PC 搭建一个这样的自动化的工作流,只需要准备好一堆输入文件,放着跑一个小时,就可以得到上百人的标准证件照输出了。
通过强大的生态应用和工具链,RTX GPU 能为 Stable Diffusion 用户带来工业生产力级别的体验。
只需一句录音,声音完全克隆:GPT-SoVITS
以前看生化危机电影的时候,有一个片段印象很深。一个科学家负责人,为了违抗上级要求撤退的命令,偷偷录音了上级的一句话,然后他输入电脑改成了其他命令,大概几秒,就输出了上级说出假命令的假录音。
现在这样的技术已经完全可以在一台带有 RTX 独显的笔记本电脑上实现了。
实测在现场用 ROG 幻 14 Air,基于开源的GPT-SoVITS 项目,声音克隆快速使用5秒声音样本,就能自动根据其发音特征,由文本生成个性化语音片段。现场的工具包经过RTX的加速,基本上就录一句话进去,生成几十字的录音就不到5秒,声音几乎就是一样的,不过一些断句咬字和情绪没有波动。如果基于更多样本(1分钟)的微调训练,肯定还能实现更高质量接近1:1复刻的声音克隆。
无限进步 RTX AI 追求更强视听的游戏交互
更好的虚拟交互体验,一直是计算机永无止境无限进步追求贴近现实世界的一个目标。
在游戏方面,我们期望画面越来越好,帧数越来越高,光影越来越贴近真实物理,操控的角色能代入到自己。
发布会上,NVIDIA 给大家展示了相关领域的生产力变革。众多 NVIDIA AI 技术将游戏提升到了更强的水平。
自由对话栩栩如生的游戏NPC:NVIDIA ACE
像大语言模型目前的表现,已经涌现出了非常近似人类对话的智能,所以对于游戏一些对话或者解谜场景,可以利用 AI 的能力进行更大自由度的模拟。
Inworld AI公司与 NVIDIA 合作开发的一项全新技术,通过 Inworld AI 引擎集成 NVIDIA Riva,可以实时让玩家自己构建对话,进行精确的语音转换文字和 NPC 交谈,而 NPC 则有一些具体的人格规则和性格设定,通过大语言模型来生成对应的回复,再使用 NVIDIA Audio2Face 提供逼真的面部表情,进行对话回复。
说通俗一点,就是游戏的 NPC 角色能够更像真的人了,他会基于人物设定和你的问题,来做自己的回答,而不是像传统游戏一样只能固定选择对话内容。
NVIDIA ACE技术 给人物NPC塑造了独特的个性,能有更贴近人类的自然回复对话,让玩法更多样新奇。
遥遥领先的游戏画面和帧数体验:NVIDIA DLSS 3.5
游戏表现不单依赖于显卡的传统光栅性能表现,还可以通过一些黑科技的技术加持得到更好的体验。
NVIDIA DLSS 3.5 不但延续之前的优秀表现,能利用 AI 提高帧率并改善图像质量,还树立全新游戏标准,通过AI增强光线追踪表现,《黑神话:悟空》和《永劫无间》即将支持DLSS 3.5光线重建和全景光线追踪技术,实现画质和性能的大幅提升,为 GeForce 玩家带来极致体验。
游戏渲染使用 DLSS 优化的画面,可以提高边缘细节,减少降噪器错误渲染,增强画质和帧数,而实时光线追踪的AI科技,也让追求极致的玩家得到满足。
在强大AI算力的 NVIDIA GeForce RTX 显卡和DLSS技术加持下,游戏大作可以更好地在PC上流畅运行,降低普通玩家畅玩运行的使用门槛。
小结:
AI 生产力是未来大家都在押宝的方向,大算力显然是更有力量,更为稳健的选择。
人无我有,人有我优, NVIDIA RTX AIPC拥有更强大的硬件规格,拥有更高性能的算力,拥有更快速度的生成,拥有更强的综合体验。
这一切,都离不开 NVIDIA RTX 独显得天独厚的优秀技术,以及庞大的 NVIDIA AI 生态应用。
用大算力让自己的 AI 工具能有更好的发挥,更高更快更强地冲击最前沿的顶尖AI生产力。以强大的算力为基础,加速创意的落地,加速画面处理的效率,提供更多本地AI的能力。
这应该就是 RTX AI PC 带来最具有力量的生产力变革。