生成式AI成外滩大会热点，或为全球经济创造数万亿美金！三位院士畅谈科学智能与大模型安全
智东西
作者 | ZeR0
编辑 | 漠影
智东西9月7日报道，2023Inclusion·外滩大会9月7日在上海黄浦世博园正式开幕。这场以“科技·创造可持续未来”为主题的大会为期三天，设有1场主论坛、36场见解论坛、8000平方米科技展览、3000平方米绿色集市，并首次举办科技人才招聘会。
在主论坛上，机器学习泰斗、三院院士Michael I.Jordan分享了对解决人工智能（AI）系统中不确定性的思考，中国科学院院士张人禾谈到科学智能已成AI重点发展方向，中国科学院院士何积丰重点探讨了大模型时代的安全与隐私问题。
包括他们在内，近20位“两院”院士、诺贝尔奖和图灵奖得主，全球超500位有影响力的科技领军企业和专家学者，以及来自孟加拉、马来西亚、尼日利亚等新兴市场国家的科技创业者，聚焦人工智能、大模型、抗量子密码、隐私计算、图计算、安全智能、区块链、Web3.0等前沿数字科技及产业实践，展开深度交流，并与会发布最新科技成果。
本届大会以“科技·创造可持续未来”为主题，展区面积达8000平米，参展单位包括英伟达、蚂蚁集团、美国运通中国合资公司、众安保险、复旦大学、同济大学、泰康、万事利等。6G、无人安全检测实验室、脑纹核身、蚁鉴2.0、城市链、AI大脑训练、支付芯、宠物生物识别系统、区块链溯源、数字人虚拟空间等十大黑科技在展区亮相。
▲由蚂蚁安全实验室联合信通院、脑机合作生产厂商博瑞康共同推出的全球首个脑机头戴核身技术互动
现场还有一支特殊的讲解团——由蚂蚁集团与上海老年大学共同打造的蓝马甲银发宣讲团，用通俗易懂的语言，向参展观众介绍隐私计算、图计算、可信AI等，带领大家感受科技力量。
本届外滩大会同时打造有线上虚拟空间，在支付宝上搜索“外滩大会”进入官方小程序，即可创建属于自己的虚拟数字人，在虚拟世界中体验数字展厅、观看外滩论坛直播。
一、机器学习泰斗Michael I.Jordan：AI的本质是集体，而不是个体
机器学习泰斗，美国科学院、美国工程院、美国艺术与科学院三院院士Michael I.Jordan在演讲中谈道，不确定性应对不好，不可能有非常好的金融科技技术。ChatGPT也没有办法对不确定性进行量化，所以我们需要去解决这个问题，找到一个可能的方法去应对这些挑战。
怎么应对在一个协作式的、去中心化的系统当中来实现集体智能？他分享说，可以设计一个集体智能体，去解决AI系统中不确定性。
一个小小的个体错误，可能会产生很大的系统性错误。以AI蛋白质结构预测系统AlphaFold为例，它的预测能力强于人类，但可能得出完全错误的预测结果，如果不用AlphaFold，又没办法很快做科学实验。
对此，Michael I.Jordan提到一个叫预测驱动的推理方法，能够找到一个高可信的值，可将置信区间做修正，得出一个新的可预测数字。
“我并没有觉得AI会替代人，它只不过就是一个新的工程系统，”Michael I.Jordan说，“科技就是一个非常很好的新的工程系统，因为每个人是普适，而且是公平、公正、透明、稳定的，这些特性是整个工程系统的特点，而不是系统当中个体的特点。所以AI它是关于一个集体，而不是关于一个个体。”
二、中科院院士张人禾：科学智能已成AI重点发展方向，要进行“有组织科研”
耗时3秒以内，拥有45亿参数的伏羲气象大模型，即可预报未来15天的全球天气。这便是AI和科学研究结合之后带来的改变。
中国科学院院士、复旦大学副校长张人禾在演讲时谈道，科学智能（AI for Science）已经成为AI的重点发展方向，推动跨学科的交叉研究，激发创新突破；加速科技创新与产业变革的深度融合，推动产业转型升级。“科学智能是推动科学研究范式变革、实现科技原始创新策源的利器，拥有引爆产业创新核爆点的巨大潜能。”
科学智能的发展正从部分机构的探索变成产学研各界的共识，从点状突破转变为系统布局。
近年来，国外加速布局，科学智能发展进入快车道。2023年5月，美国能源部发布《面向科学、能源和安全的人工智能》报告指出AI将从底层推动科学、能源和安全的发展，并展开布局。马斯克近期成立对标OpenAI的新公司xAI，旨在回答更深层次的科学问题，期望未来用AI去帮助人们去解决复杂的科学和数学问题并且“理解”宇宙。
在科研领域，斯坦福大学、麻省理工学院等知名学府，谷歌、Meta等科技企业纷纷入局开展体系化研究。国内科学智能也在迅速发展，相继涌现出大量的科学领域大模型，但仍处在起步阶段。张人禾说，随着AI时代来临，“单打独斗”已不适应大科学时代的科技创新，要进行“有组织科研”，最大的优势在于布局建设大平台。
他透露道，近年来，复旦大学在AI领域进行了颇有成效的探索。截至2023年6月17日，复旦大学申请的有效法律状态的发明专利共6973件，其中计算机科学技术领域2048件。此外，学校承担“人工智能前沿基础理论与关键技术”、“脑与类脑智能基础转化应用研究”两个市级重大专项攻关国际首个全脑计算平台。多个团队在顶刊、顶级会议发表AI领域代表性论文成果。
三、中科院院士何积丰：给大模型安全问题戴上“紧箍咒”
中国科学院院士何积丰谈道，大模型存在一些安全隐忧：1、大模型开启了真正意义上的通用人工智能，人类如何应对一个比自己更强大的智能？2、大模型的通用能力让其能应用到人类生产生活的各个场景中，一旦AI出现安全问题，其影响将难以预估。
大模型的安全问题包括隐私与对齐。
隐私问题主要是指未经同意的情况下收集、使用和泄露个人信息，可能发生在训练过程中，涉及大量用户个人信息和数据，也可能发生在使用过程中，涉及很多用户私密信息。而大模型的生成能力让“隐私泄露”的方式变得多样化，使得隐私保护更加困难。
应对这些问题，需要大模型对齐技术。
何积丰说，对齐是指系统的目标和人类价值观一致，使其符合设计者的利益和预期不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空，对齐就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”
他分享了机器人学三定律：第一定律是机器人不得伤害人类，或因不作为使人类受伤害；第二定律是除非违背第一定律，机器人必须服从人类的命令；第三定律是除非违背第一及第二定律，机器人必须保护自己。
对齐的基础是，“人类价值观”是多元且动态变化的。人类的价值与判定系统本身充满偏见和盲点，有很多互相矛盾的地方和没有明确指出的潜在条件。大模型“有用性”和“无害性”两个目标不完全一致，如何对错误进行有效纠正，设好大模型的“紧箍咒”，给做好对齐带来挑战。
因此，对齐技术成为一项令人眼花缭乱的跨学科研究，不仅考验技术，也在审视我们的文化。
何积丰认为，反馈强化学习是实现对齐的技术途径，目前有两种方式，一是通过反馈给模型不同的奖励信号，引导模型高质量输出；二是基于给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。“这意味着，不仅智能系统需要向人类价值观对齐，人类的训练方法也要向价值观对齐。”何积丰说。
四、麦肯锡中国区主席倪以理：生成式AI或为全球经济增加数万亿美元
麦肯锡中国区主席、麦肯锡全球资深董事合伙人倪以理以《中国下一个十年：中国企业的制胜关键期》为主题发表演讲。
他谈道，生成式AI可能会为全球经济增加数万亿美元的价值，但这个时代才刚刚开始。
“我们做了一个测算，在未来的AI对于全球经济的创造的收益，是9万亿美金，但是整体广泛的AI可能是达到25万亿美元。”倪以理说，所有的行业多多少少都受到生成式AI的影响，生成式AI的是2万亿到4万亿美金。
生成式AI用例可能大幅度促进生产力提升，并提供新的就业机会。2023年，生成式AI对过去自动化潜力较低的领域将产生最大影响，对所有的决策跟协作的工作带来的影响是加大的。
然而，关键是组织要改变、适应、重新培训员工，从而使生成式AI和其他创新在组织中落地——这需要领导力和变革。
2023年是变革开启的一年，倪以理认为中国十年、二十年，中国企业的商业模式须从过去的Beta走到Alpha。Beta是市场，Alpha是在市场当中比人家做得好。
从Beta到Alpha年代的转变中，倪以理看到中国企业大规模转型面临的关键挑战有4个：
1、沿用固有战法。中国企业过去20年取得了辉煌成就，但未来20年的制胜因素与过去的成功因素明显不同。
2、人才和思维。部分高管白手起家，缺少面向未来作出改变的思维模式。“下命令、强管控”的领导风格在复杂的行业环境下需要适应和调整。
3、创新成果“规模效应”。新业务规模太小，短期无法产生影响。各项变革往往半途而废，或在阻力增大时被叫停。
4、变革的勇气不足。任何转型需要勇气和企业文化深刻变革，渐进主义是变革大敌，关键是转型知易行难。
”时代新章即将开启，下一个时代将是一个怎么样的时代？最主要当然是科技，最主要当然是人工智能，还有很多其他的，让我们觉得未来的十年，未来的年代，跟过去不一样。”倪以理说，更重要的是企业本身，要具备这样的条件、勇气、抱负、愿景，使其能战胜下一个新的时代。
结语：集中展示前沿技术创新，注重人文、绿色、可持续发展
本届外滩大会展示了AI、区块链、隐私计算等前沿技术的创新突破、产业实践，同时也将以沉浸式、场景化的方式让与会者体验数字技术推动下城市、产业和生活的新可能。
“人文”这一关键词贯穿大会始终，在技术发展的大背景下，如何帮助社会更好地适应数字革命？对此，大会设有“可持续发展篇章”，重点关注社会责任、风险应对、ESG、科技伦理、消费者权益保护、数据安全和隐私保护、就业和人才发展等话题，并将举办40家科技企业联合招聘会。
本届大会的科技展览和绿色集市，展示科技在金融服务、出行、政务办事、安全等领域的应用成果，更加贴近市民生活；绿色集市设有荒漠、森林、海洋、城市四大主题体验区，近30个绿色可持续品牌参与，展示新潮的绿色生活方式、丰富的低碳商品、有趣的公益环保互动。