外滩大会今日开幕，生成式AI和大模型成“顶流”话题
来源：财联社
作者：黄心怡
2023 Inclusion·外滩大会9月7日在上海黄浦世博园正式开幕。这场以“科技·创造可持续未来”为主题的大会为期三天，近20位“两院”院士、诺贝尔奖和图灵奖得主，全球超500位有影响力的科技领军企业和专家学者，在此带来一场科技、人文和产业的思想碰撞。
大会设有1场主论坛、36场见解论坛、8000平方米科技展览、3000平方米绿色集市，并首次举办科技人才招聘会。
在开幕式上，上海市副市长解冬表示，三年来，上海持续推进国际金融中心和科创中心建设，取得了积极的成效。上海科创中心正从形成基本框架体系向实现核心功能转变。上海将以更大力度推动具有全球重要影响力的金融科技中心向更高能级迈进，为上海国际金融中心的发展注入新的动力。
中国科学院院士、复旦大学副校长张人禾指出，科学智能(AI for Science)已经成为人工智能的重点发展方向，推动跨学科的交叉研究，激发创新突破。加速科技创新与产业变革的深度融合，推动产业转型升级。“国内科学智能也在迅速发展，相继涌现出大量的科学领域大模型，但仍处在起步阶段。”张人禾表示，面对 “AI时代”的来临，“单打独斗”已不适应大科学时代的科技创新，要进行“有组织科研”，最大的优势在于布局建设大平台。
大模型的通用能力让AI能够应用到人类生产生活的各个场景中，可谓“无孔不入”，也因此带来了新的安全隐私问题，如何解决这一隐患，中国科学院院士何积丰认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。隐私问题既可能发生在训练过程，也可能发生在使用过程中，而大模型的生成能力则让“隐私泄露”的方式变得多样化，造成隐私保护更加困难。
“为了应对这些问题，我们需要大模型对齐技术。”何积丰说，“对齐（alignment）”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”
不过，对齐技术同样面临挑战。首先，对齐的基础，人类的价值观是多元且动态变化的，需要保证大模型为人服务、与人为善；其次，大模型的有用性与无害性之间目标也不完全一致。如何对错误进行有效纠正，设好大模型的“紧箍咒”也是挑战。因此，对齐技术已经成为了一项令人眼花缭乱的跨学科研究，不仅考验技术，也审视文化。
何积丰介绍，反馈强化学习是实现对齐的技术途径，目前有两种方式，一种方式是通过人工反馈给模型不同的奖励信号，引导模型的高质量输出；另一种方式，事先给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。“这意味着，不仅智能系统需要向人类价值观对齐，人类的训练方法也要向价值观对齐。”何积丰说。
不少业内分析指出，大模型引领下的生成式人工智能是一项强大的新技术，有可能改变全球经济。麦肯锡中国区主席、麦肯锡全球资深董事合伙人倪以理指出，生成式AI对全球经济的正面影响最高可达7.9万亿美元，而整体广泛的AI可能达到25万亿美元。生成式AI将对各个行业都产生影响，对高科技、零售、银行的影响位列前三。
大模型的突破，被认为是人工智能的“iPhone时刻”，带来AI时代的产业变革。蚂蚁集团董事长兼CEO井贤栋引用了电影《奥本海默》的一句台词，正如发明原子弹“不是一种新武器，而是一个新世界”，大模型的出现，“不是一个新技术，而是一个新世界”。他说，iPhone时刻巨大的冲击，远远不是大屏幕变成小屏幕这么简单，而是通过小屏幕实现了用户“永远在线”，从而极大促进了人和服务、人和商品的整个连接。井贤栋还透露，蚂蚁将在9月8日发布的大模型，是全栈布局的、纯自研的。