人工智能狂飙猛进伴随风险挑战

文 / 本刊记者 张莉

当前，新一轮科技革命和产业变革深入发展，人工智能作为最耀眼的“科技明星”，对人类价值创造活动正在产生全面而深远的影响。人工智能特别是大语言模型、生成式人工智能技术取得突破性进展，引领互联网变革。人类在经历PC互联网、移动互联网之后，开始进入智能互联网时代。

引领科技向善，坚持以人为本

“以大模型等为代表的人工智能技术快速发展，正在深刻改变人们的生产方式和经济形态，日益成为影响人类未来发展的关键变量。”工业和信息化部科技司科技发展处处长王正近日在由中国互联网协会主办的“人工智能大模型论坛”上如是说。

关于人工智能技术如何与制造业深度融合，高水平赋能新型工业化，王正指出，需从三方面发力：一是要提升创新能力，夯实技术底座。加快人工智能领域的关键核心技术攻关，打通高水平的通用大模型，加快培育行业大模型，尤其是面向工业领域的大模型。二是要丰富应用场景，加强应用推广。开展人工智能+制造的专项行动，促进精准的供需对接，形成一批示范性强、带动性广的应用场景，凝练人工智能赋能制造业的前行解决方案。三是要健全支撑体系，培育壮大产业生态。建立健全人工智能赋能新型工业化标准体系，引领产业链上下游协同，打造若干生态主导型龙头企业和生态产业链，培育一批专精特新小巨人企业，支持高水平人工智能开源社区发展，增强国际合作与交流。

中国互联网协会副理事长黄澄清指出，今年是中国全功能接入互联网30周年。回顾过往30年，科技创新一直是互联网发展的蓬勃动力，人工智能是当前备受关注的创新技术，也是引领未来的战略性的技术。近年来，多模态大模型取得突破性进展，通用大模型加速拓宽应用场景，正在引领新一轮人工智能创新的热潮。

黄澄清认为，人工智能只有通过应用才能得到更好的发展，加快各领域应用转化，是人工智能+行动赋能产业升级的关键。我国各行业巨大的市场需求为人工智能落地提供了丰富的应用场景，应深度结合各业务场景和专业知识，既探索大而强的通用模型，又研发小而精的垂直行业模型，重塑应用场景流程、培育数字人等有需求、有效益、有前景的人工智能创新应用，实现技术创新和场景需求互动演进。

在赋能人类社会经济发展的同时，人工智能的狂飙猛进也伴随着安全隐患和风险挑战，黄澄清建议，应高度关注人工智能技术带来的数据共享、数字安全、隐私保护、技术伦理等问题，引领科技向善，坚持以人为本的理念，加强多元共治，积极构建由多主体参与的技术先进、协同高效、保障有力的安全体系，倡导行业自律，呼吁各类主体尤其是平台企业切实履行社会责任，确保人工智能健康发展。

人类即将全面进入智力时代

伴随人工智能技术的加速演进，AI大模型已成为全球科技竞争的新高地、未来产业的新赛道、经济发展的新引擎。

北京智源人工智能研究院理事长、中国互联网协会人工智能工委会主任委员、北京大学教授黄铁军表示，未来3年，大模型扩展到视觉、听觉、具身、行动等通用智能，规模变大，尺寸变小，成为具身智能的“大脑”。普通语言升级为科学语言，人工智能解决重大科学问题。未来10年，人类全面进入智力时代，就像工业革命解放体力，就像电力革命解决能源流通，以智力为核心的科技、经济、社会生态构建完成。未来20年，行为主义（强化学习）和类脑智能（彻底连接主义）发挥更大作用。他呼吁，AI安全要同等重视，出路是理性对齐和融合发展。

天翼安全科技有限公司副总经理张晖指出，中国电信依托多年积累的高质量数据集与海量安全知识库，结合对网络安全运营场景的深入理解，在去年推出安全垂类大模型：星辰—见微安全大模型，并于今年5月升级发布2.0版本。目前星辰—见微安全大模型已经完成了全面升级，在通用大模型的基础上通过不同的微调策略打造了L1到L4级的核心能力。在中国电信两级SOC运营体系下，以实际攻防场景为切入点，深度嵌入运营流程，形成了符合IPDRR模型的五大能力，包括数字地貌、智能渗透、威胁研判、智能运营、大模型护栏等，从预防到检测，再到响应和恢复，覆盖了安全运营的每一个环节。

中国联通软件研究院副院长王志军介绍了中国联通“构建新一代人工智能产业增长引擎，推动人工智能创新应用规模化发展，打造人工智能领域的国家核心力量”的人工智能愿景和目标。中国联通作为运营商央企，发挥国家重要信息基础设施建设者的重要作用，在人工智能领域通过“智能算网、智能技术、智能服务”努力打造成为AI基础设施优质提供者、AI技术和应用创新引领者、AI安全产业首席护航者和领先的全栈智能服务运营商。

中国移动研究院、人工智能与智慧运营中心副总经理袁向阳表示，AI大模型技术带来了中国移动网络运营运维整个流程的重构，整体运营效率的提升，在中国移动推动自智网络向L4（高度自智网络）目标迭代的过程当中发挥着极大的作用。“我们希望通过大模型技术的引入，极大地提升中国移动网络运营运维的效率，降低运维的成本，给客户提供更好的通信网络的服务。” 袁向阳说。

AI爆炸式增长为企业带来了巨大发展机遇

蚂蚁集团平台技术事业群总监、基础大模型技术负责人郭清沛表示，蚂蚁以百灵语言大模型和多模态大模型为底座，构建了很多行业应用，这些行业应用支撑了蚂蚁内部以及外部、面向消费者和企业服务、专业服务的各项业务。百灵语言大模型在2023年11月完成了备案，在智能金融、医疗等方面也有广泛的布局。

360集团智脑总裁张向征指出，随着大模型技术的快速发展，安全问题也日益凸显。为了应对这些挑战，需从四个方面入手，首先是算法安全，通过生态链漏洞扫描和防护技术，确保算法本身不被攻击；其次是内容安全，利用过滤和检测机制，避免生成不良或有害内容；再次是结果可信，通过多源验证和一致性检查，保证输出结果的准确性和可靠性；最后是Agent可控，通过权限管理和行为监控，确保系统在复杂环境中的安全运行。

滴滴自动驾驶副总裁盛克华表示，滴滴在亚太、拉美、非洲等市场提供网约车、出租车召车、代驾、顺风车等多元化出行服务，并运营车服、外卖、货运、金融业务。过去10余年，滴滴搭建的智能出行网络引领了交通产业变革。展望未来，以L4自动驾驶技术为代表的智能化变革是一个重要机遇，滴滴自动驾驶的技术战略、商业战略，从核心技术全栈自主可控，到商业模式从0到1的验证，最终实现规模化的商业化，让出行更美好，滴滴一直在路上。“期待抓住AI变革这样一波技术升级，能够将出行的体验，再推进到下一个台阶。”盛克华表示。

极光技术副总裁冯志民认为，在当前的市场环境下，生成式AI正迎来爆炸式增长，这为企业带来了巨大的发展机遇，但同时也存在认知与技术鸿沟。要开发一个AI Bot，开发者需要具备一定的技术技巧和相关领域知识，极光推出的GPTBots.ai是一个专为企业打造的无代码AI Bot构建平台，旨在帮助不同规模的企业将AI应用到实际的企业业务场景中，如市场、客户服务、人力资源、IT、数据分析等，大幅提升了生产力。

人工智能正引领人类迈向未来，以前所未有的力量重塑各行各业。其强大的数据处理、学习与创新能力，正深刻改变着社会运行的方式。在智能科技的驱动下，未来世界将更加高效、便捷与智能，为人类社会带来前所未有的发展机遇与变革。