直击2023外滩大会主论坛：迈克尔·乔丹院士谈AI隐患
AI的本质是集体、不会替代人
中国科学院院士、复旦大学副校长张人禾。 主办方供图
9月7日，2023上海·外滩大会在上海黄浦世博园正式开幕。主论坛上，生成式人工智能的发展与挑战依然是热点话题，来自机器学习、人工智能领域的泰斗、院士等对AI发展进行了探讨和展望。
机器学习泰斗、美国科学院院士迈克尔·乔丹分享了对人工智能不确定性的思考，提出集体智能体概念，他认为，“ChatGPT没有办法对不确定性进行量化，不会有一种所谓的超级电脑会替代人，应该把技术看做是一个工具来赋能人类。”中国科学院院士何积丰则重点探讨了大模型时代的安全与隐私问题，指出可以利用“对齐”技术为大模型戴上“紧箍咒”。中国科学院院士、复旦大学副校长张人禾则表示，随着Al时代来临，单打独斗已不适应大科学时代的科技创新，要进行“有组织科学”，最大优势在于布局建设大平台。
大会上，迈克尔·乔丹表示，人类与人工智能相比更擅长处理沟通以及应对不确定的信息。在他看来，ChatGPT没有办法对不确定性进行量化，他不认为有一种所谓的超级电脑会替代人，应该把技术看做是一个工具来赋能人类，建议关注集体的智能体。
美国科学院院士迈克尔·乔丹。 主办方供图
“科技就是一个非常好的新的工程系统，因为每个人是普适，而且是公平、公正、透明、稳定的，这些特性是整个工程系统的特点，而不是系统当中个体的特点。所以AI是关于一个集体，而不是关于一个个体。”迈克尔·乔丹表示。
对于智能集体的具体表现形式，迈克尔·乔丹以蚂蚁集团为例指出，蚂蚁创造了双边市场，把商户和客户有效联结在一起，他认为这是一个智能的集体，有真正的智能。
在实现集体智能具体路径方面，迈克尔·乔丹表示需要建立一个协作式、去中心化的系统，并设计一个机制使之公平、稳定、可扩展。“我们在日常生活中经常遇到不确定性，让去中心化的系统能够帮助我们更好、有效地应对日常和世界当中的不确定性，这才是我们亟待解决的问题。”迈克尔·乔丹称。
利用对齐技术，为大模型戴上“紧箍咒”
AI驶入快车道后，引发了一系列对于安全隐私问题的探讨。如何解决这一隐患？何积丰开出了他的“药方”：利用对齐技术为大模型戴上“紧箍咒”，即大模型对齐技术。
据介绍，“对齐（alignment）”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。“如果把人工智能看做西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用胡作非为。”何积丰表示。
目前，对齐技术已经成为了一项令人眼花缭乱的跨学科研究，不仅考验技术，也审视文化。据何积丰院士介绍，反馈强化学习是实现对齐的技术途径，目前有两种方式，一种方式是通过人工反馈给模型不同的奖励信号，引导模型的高质量输出；另一种则是事先给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。
中国科学院院士何积丰。 主办方供图
科学智能成为人工智能重点发展方向
随着AI在各行各业的应用逐渐深入，全球掀起科学智能的热潮，人工智能等数字技术成为科学研究的有力辅助。今年7月，马斯克成立对标OpenAI的新公司xAI，旨在回答更深层次的科学问题，期望未来可以用AI去帮助人们去解决复杂的科学和数学问题并“理解”宇宙。斯坦福大学、麻省理工学院等知名学府，也联合谷歌、Meta等科技企业纷纷入局开展体系化研究。
与此同时，国内科学智能也在迅速发展，陆续涌现出大量的科学领域大模型。例如首个工业级流体仿真大模型东方御风、用于天气预测的盘古气象大模型等。张人禾表示，面对“AI时代”的来临，“单打独斗”已不适应大科学时代的科技创新，要进行“有组织科研”，最大的优势在于布局建设大平台。
值得一提的是，复旦大学也在AI For Science进行了深度布局。承担了“人工智能前沿基础理论与关键技术”“脑与类脑智能基础转化应用研究”两个市级重大专项攻关国际首个全脑计算平台。此外，还发布了伏羲气象大模型，据悉，伏羲气象大模型拥有45亿参数，预报未来15天的全球天气，仅需耗费3秒。今年6月，上线中国高校规模最大的云上科研智算平台CFFF，为科学智能提供强大计算资源。
采写：南都记者 赵唯佳 马宁宁 实习生 魏珊珊 发自上海