高通孟樸：终端侧生成式AI无处不在 将变革广泛终端

11月5日，在2023中国国际进口博览会期间，第六届虹桥国际经济论坛——“智能科技与未来产业发展”分论坛在上海国家会展中心举行。此次论坛由工业和信息化部、商务部共同主办，聚焦以人工智能、信息技术为代表的战略性新兴科技发展前沿，汇集全球智能科技和未来产业领域的专家、学者和行业领军企业，围绕未来产业发展中的机遇与挑战、智能科技引领下的转型与创新等议题开展交流与分享，为全球智能科技与未来产业发展提供有益洞察。

图为第六届虹桥国际经济论坛——“智能科技与未来产业发展”分论坛现场

高通公司中国区董事长孟樸出席论坛，并发表题为《在边缘侧赋能下一轮数字化转型浪潮》的主题演讲。在演讲中他强调，以5G和终端侧AI等关键边缘技术，正在为智能手机、个人电脑（PC）、智能网联汽车等智能终端赋能，进而在提升用户体验，推动千行百业的数字化转型，促进新一轮经济增长中发挥重要价值。孟樸还分享了高通与中国行业生态系统合作的实践，双方共同推动技术的落地与商用，并合作开拓全球市场。

图为高通公司中国区董事长孟樸发表主题演讲

当前，通用大模型备受瞩目，具有庞大参数规模，需要强大的算力支持。孟樸指出，生成式AI的发展进一步完善了人机交互的方式，变革了智能终端的使用体验。云端AI和边缘AI的发展各有不同，终端侧AI带来即时性、可靠性、个性化、成本效益等诸多显著优势，为在本地终端上实现交互式人工智能提供可能。而终端侧AI带来的体验变革将体现在智能手机、PC、智能网联汽车等各类终端。

随后，孟樸以个人电脑（PC）的发展趋势为例指出，智能和连接正在变革PC，下一代PC将会进入一个新的AI PC时代。这一时代的AI PC以智能、联网、高性能、高效、多媒体和安全为特点，对于办公效率、个人隐私等方面都具有重要意义。高通致力于为支持生成式AI的手机和个人电脑提供智能处理能力。

据悉，在近期举办的骁龙峰会上，高通推出第三代骁龙8移动平台和骁龙X Elite两款新产品，将AI技术应用提升到了新高度。特别是第三代骁龙8在生成式AI方面实现巨大突破，算力显著提升，可以支持超大参数模型，而骁龙X Elite也为AI PC领域带来全新价值，为设备的便携性、个性化等方面带来更多便利。

如今，5G商用已逾四年。孟樸指出，5G演进已行至中场，我们正在迈入5G演进的全新阶段。在5G+AI赋能千行百业的大背景下，随着生成式AI进入终端侧并和云端的通用大模型中的生成式AI相结合，将会促进包括零售、安全、能源和公用事业、供应链、资产管理等千行百业的数字化转型。

高通公司正处于推动数字化转型的多项关键技术的交汇点。孟樸强调，希望通过与中国产业链的合作，一起推动5G、终端侧AI等技术能力惠及越来越多的大众用户，惠及社会发展，助力中国数字化转型。

以下为演讲实录：

很高兴和大家在这里见面。今天，我将代表高通公司与各位分享，高通在边缘侧赋能下一轮数字化转型方面的进展。

目前，通用大模型的讨论度很高，具有庞大参数规模，需要强大的算力支持。我们生活中每个人触手可及的智能终端——无论是智能手机、个人电脑（PC）、还是智能网联汽车等，这些在网络边缘侧的终端，通过终端侧AI赋能，能够显著提升用户体验，使智能终端成为用户的个性化数字助手，进而推动数字化转型，提高生产力和成本效益，降低算力成本，促进新一轮经济增长。

云端AI和边缘AI的发展各有不同。AI在云端的发展非常重要，未来也将继续发挥重要作用。同时，AI在边缘侧终端的发展也十分重要。随着技术的演进，每个人每天使用的终端设备，它所接收的信息具有即时性，例如，了解用户的实时位置信息，或者接受类似的仅限于终端侧的内容。云端的通用大模型并不能获得这些即时信息，云端大模型训练所得到的数据，通常是基于过去某一个时间段内的信息，并不能与用户当下所处的环境匹配。云端AI的可靠性在一定程度上会受到连接的影响，而终端侧AI在可靠性、情境化和个性化方面都更具优势，因为我们的终端也在不断发展变化。

目前，智能手机的使用场景是智能终端里最具代表性的：以应用程序（App）为主导，人机交互方式是用户根据不同的需求和目的，选择进入不同的App。每个人的手机中都有几十个不同的App。举例来说，如果你今晚需要订餐厅和订机票，那需要分别进入两个不同的App。这是我们熟悉的智能终端应用场景。

生成式AI的发展进一步完善了人机交互的方式，无论是从语言输入，还是文字输入，这在一定程度上改变了使用体验。这些变化将体现在智能手机、智能网联汽车、个人电脑（PC）等各种智能终端。未来的人机交互将更加自然且个性化，与用户能够直接对话。你可能并不希望将你与智能网联汽车的交互内容和个人习惯分享至云端。如果能在本地终端上实现交互式的人工智能，这对于我们的出行，无论是安全驾驶，还是智慧出行，都会带来更多的便利。这些变革会体现在每个人日常所使用的智能手机、个人电脑等各种终端。

在个人电脑（PC）方面，智能和连接正在变革这一设备，提升了生产力，并推动了移动办公的发展。终端侧AI有助于降低数据中心的成本，保证数据安全。由此我们相信，下一代PC会进入一个新的AI PC的时代。这一时代的AI PC以智能、联网、高性能、高效、多媒体和安全为特点，对于办公效率、个人隐私等方面都具有重要意义。它能够改善个性化体验，基于用户具体所在位置、所处场景和所做的工作，AI PC能够提供需要的数据，也可以帮助提高生产力、生成文档、制作演示文档、进行信息检索等。

上周，我们在高通骁龙峰会上推出了两款新产品。第一个是高通每年为智能手机打造的旗舰芯片——第三代骁龙8移动平台。它大大提高了针对生成式AI的算力支持。如大家所知，在今年2月底举行的世界移动通信大会上，高通展示了全球首个运行在Android手机上的Stable Diffusion终端侧演示，支持一个超过10亿参数图像的生成，可以在15秒内执行20步推理，将输入的文字转化成一个图像并显示出来。我们上周发布的第三代骁龙8，AI每秒可以生成20个token，今年年初需要15秒才能在智能手机上完成的图像生成，现在不到1秒钟就可以实现，并支持运行高达100亿参数的模型。这就是算力以及新的技术对生成式AI在终端侧所提供的支持。

同时，我们还发布了下一代AI PC芯片——骁龙X Elite，专门针对个人电脑、便携式电脑，拥有行业领先的CPU、GPU、NPU以及先进连接，在算力、性能方面领先行业其它芯片产品。高通AI引擎算力高达75 TOPS，支持在终端侧运行超过130亿参数的生成式AI模型，在算力支持、计算能力上实现了非常大的突破。在同等的算力情况下，它还能够更省电，待机时间也更长。所有这些提升，都在支持下一代AI PC变成更便携、更个性化的移动办公工具，从而提高生产力。

除了智能手机、个人电脑等个人终端设备方面，高通认为5G+AI能够赋能千行百业，智能终端在生成式AI的加持下，一定也会深入千行百业，赋能垂直市场的各类行业应用。举例来说，在工业应用领域，AI+5G连接能够带来更多新的变革机遇，将支持更加灵活、更加高效的工厂，通过机器学习和生成式AI提供关键功能，专为工业场景打造的高性能5G网络，能够提供高可靠性、低时延、大容量，以及可扩展和安全性。

在高通看来，随着生成式AI进入终端侧，并和云端通用大模型中的生成式AI相结合，将会促进千行百业的数字化转型。举例来说，在零售、安全、能源和公用事业、供应链、资产管理等领域，通过5G无线连接和生成式AI的具体应用，实时数据分析、供应链效率、智能化高可靠性控制、基础架构优化等应用场景将得以实现，进而促进数字化转型。

如今，5G商用已过四年，中国已建成全球规模最大的5G网络。从技术发展的角度来看，我们常说“10年磨一G”，经过四年的发展，5G演进已经行至中场。当前，移动通信行业经常提及“5G Advanced”，这是5G演进的全新阶段。相比几年前部署的5G网络，5G Advanced能够高效利用更多频谱，支持更快的下载速度，使时延变得更低，并支持更多的工业应用场景，这些技术的发展将会推动整个产业的进步。

此外，提到新技术的发展，特别是新技术在产业侧的应用，就不能不提到新能源汽车和智能网联汽车。新能源和智能网联，这两项技术的发展时间正好同步。因此，当这两项技术相结合，就大大推动了汽车产业的进步。我们相信，整个汽车产业正迎来重大的变革，这也为中国汽车产业带来巨大的发展机遇。先进驾驶辅助、自动驾驶等技术的发展，也将带来更高效、更安全、更舒适的驾乘体验。我们相信，这些技术的落地将改善现有的服务形态，并带来全新的商业模式，例如车队服务、共享服务等。

在中国，高通公司与各行业的生态系统合作，推动技术的落地与商用，并且持续助力中国智能手机厂商等各个行业的合作伙伴开拓全球市场。随着智能网联汽车和物联网的发展，我们在中国的合作伙伴也越来越多。在智能网联汽车产业合作方面，过去两年来，高通已与超过40家中国汽车品牌合作，支持他们基于骁龙数字底盘解决方案推出了超过100款车型。这展示了我们和生态系统的合作成果。

从技术发展的角度来看，智能技术将会支持各个产业的发展。从移动连接、移动计算到其它创新技术，高通公司正处于推动数字化转型的多项关键技术的交汇点。我们希望通过与中国产业链的合作，一起推动这些技术能力惠及越来越多的大众用户，惠及社会发展，助力中国数字化转型。

欢迎大家前往国家会展中心（上海）4.1号馆高通主展区和3号馆人工智能体验展示区，了解新技术，感受新体验。在终端侧AI方面，我们为大家带来了高通与中国多家大模型厂商共同打造的应用，包括能够生成音乐的、文字生成文字、文字生成图像等各类型演示，希望大家都能切身体验到终端侧AI和生成式AI的落地应用。