AI圈都在关注的外滩大会，大咖们都在聊些什么？
作者 | 月山橘
编辑 | 张洁
校对 | 卷毛
AIGC的风吹到了上海黄浦江边。
9月7日，2023 Inclusion·外滩大会在上海黄浦世博园正式开幕，在AI圈引起不少热议。
这场以“科技·创造可持续未来”为主题的大会为期3天，有近20位“两院”院士、诺贝尔奖和图灵奖得主，超500位科技领军企业代表和专家学者，以及来自孟加拉、马来西亚、尼日利亚等新兴市场国家的科技创业者参会。
作为科技+金融属性的高精尖大会，这次外滩大会都有啥“尖货”？参会的大咖们都说了啥？发布了什么最新科技成果？
经过两天的实地参会，“头号AI玩家”给大家总结了本次大会的3个看点，以及大咖们的重要观点集锦。
看点一：
大咖们围绕人工智能、大模型、抗量子密码、隐私计算、图计算、安全智能、区块链、Web3.0等前沿数字科技及产业实践，展开深度探讨交流，并与会发布了最新科技成果。
蚂蚁金融大模型“AntFinGLM”正式发布
蚂蚁财富平台发布智能理财助理支小宝2.0、支小助
首个大模型与图计算融合研究“大图模型”（Large Graph Model）亮相
Web3品牌ZAN正式发布，为海外Web3玩家提供全栈安全可信技术
ATEC前沿科技探索社区“数星”计划发布，开源亿级工业数据集
IIFAA探索下一代分布式认证体系：用户自主可控、可跨平台身份核验
看点二：
除了科技浓度高之外，大会还围绕社会责任、风险应对、ESG、科技伦理、消费者权益保护、数据安全和隐私保护、就业和人才发展等人文话题展开了讨论与行动。
行业首个平台生态数据安全标准发布
中国电信、蚂蚁、华为、百度、字节跳动等30余家企业机构共同发起AI安全工作组
如何解决大模型的安全问题？中国科学院院士何积丰：用对齐技术给大模型戴上“紧箍咒”
看点三：
大会现场设有8000平方米的科技展览区和3000平方米的绿色集市，展示了6G、无人手机安全检测、脑纹核身、刷脸识狗、未来养老公寓等众多贴近日常生活的AI黑科技。
展区还可以进行有趣的互动体验，比如用图计算来设计80天环游世界路线；体验一把隐私计算的“魔法打败魔法”游戏；看一场宠物走秀，观摩宠物的IoT核身；手机贴贴耐克鞋就能溯源产地……
为了帮各位玩家节约时间，我们还为各位整理了现场大咖们的重要观点集锦：
生成式AI有望开启万亿美元新赛道
iPhone的诞生开启了移动互联网的黄金15年。大模型的应用突破，也意味着产业变革来到了“人工智能”的iPhone时刻。
今年以来，AI热度持续攀升，近半年内，全球近百家公司、机构相继发布大语言模型相关产品。国内也正面临着“百模大战”，有数据显示，全国有至少130家公司研究大模型产品，其中做通用大模型的有78家。
但业内普遍认为，这一技术带来的产业红利才刚刚开始。
麦肯锡中国区主席、全球资深董事合伙人倪以理在大会现场预测，生成式AI的技术风暴，有望开启一场8-10年的新一轮技术和产业变革，“AI对全球经济的潜在收益将达到25万亿美元，是当前所有企业最重要的赛道之一，但这个时代刚刚开始”。
他举例说，在高科技行业，该技术每年可以额外创造2400亿至4600亿美元价值；在零售和消费品领域，每年可达2400亿至3900亿美元；在整个银行业，每年可达2000亿至3400亿美元。
金沙江创投主管合伙人张予彤的观察也印证了上述观点。当前生成式人工智能创业与投资爆发，今年上半年投资额已超过去年全年水平。
张予彤预测，AIGC还将在企业的关键职能中释放巨大价值潜力，包括客户运营、营销和销售、 软件工程、产品研发。以游戏行业为例，AIGC首先将优化内部效率，随后重塑开发流程并引领游戏玩法创新。
蚂蚁集团董事长兼CEO井贤栋引用电影《奥本海默》的一句台词说，“This is not a new weapon. This is a new world（这不是一个新武器，而是一个新世界）”，他认为大模型不只是一个新技术，而是一个新世界，会引发全面的变革。
他说，iPhone时刻巨大的冲击，远远不是大屏幕变成小屏幕这么简单，而是通过小屏幕实现了用户“永远在线”，从而极大促进了人和服务、人和商品的整个连接。
科学智能已成人工智能重点发展方向
耗时3秒以内，拥有45亿参数的伏羲气象大模型，可以预报未来15天的全球天气。这便是人工智能和科学研究结合之后带来的改变。
除了因ChatGPT引发的人工智能在内容生产领域的爆火外，中国科学院院士、复旦大学副校长张人禾表示，科学智能（AI for Science）已经成为当今科技届最热门的话题。
马斯克近期成立对标OpenAI的新公司xAI，旨在回答更深层次的科学问题，期望未来可以用AI去帮助人们去解决复杂的科学和数学问题并且“理解”宇宙。
而在学术研究方面，斯坦福大学、麻省理工学院等知名学府，谷歌、Meta等科技企业纷纷入局开展体系化研究。科学智能的发展正在从部分机构的探索变成产学研各界的共识，从点状突破转变为系统布局，科学智能已经成为人工智能的重点发展方向。
人工智能是“孙悟空”，对齐技术就是“紧箍咒”
AI大模型的通用能力，能够应用到人类生产生活的各个场景中，但也因此带来了新的安全隐私问题。
如何解决这一隐患？中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上“紧箍咒”。
何积丰院士认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。隐私问题既可能发生在训练过程，也可能发生在使用过程中，而大模型的生成能力则让“隐私泄露”的方式变得多样化，造成隐私保护更加困难。
“为了应对这些问题，我们需要大模型对齐技术。”何积丰说，“对齐（alignment）”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”
不过，对齐技术同样面临挑战。首先，对齐的基础——人类的价值观是多元且动态变化的，需要保证大模型为人服务、与人为善；其次，大模型的有用性与无害性之间目标也不完全一致。如何对错误进行有效纠正，设好大模型的“紧箍咒”也是挑战。
何积丰介绍，反馈强化学习是实现对齐的技术途径，目前有两种方式，一种方式是通过人工反馈给模型不同的奖励信号，引导模型的高质量输出；另一种方式是，事先给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。“这意味着，不仅智能系统需要向人类价值观对齐，人类的训练方法也要向价值观对齐。”何积丰说。
机器学习泰斗迈克尔 · 乔丹：AI的本质是集体，不会替代人
ChatGPT对它写的内容确定吗？
美国科学院、美国工程院、美国艺术与科学院三院院士迈克尔 · 乔丹（Michael I.Jordan）教授在谈到这一话题时直言，ChatGPT完全无法回答上述问题，但人类则非常擅长处理类似的问题，擅长沟通以及应对不确定的信息。
在他看来，AI的本质是集体，而不是个人，AI也不会替代人。ChatGPT没有办法对不确定性进行量化，他不认为有一种所谓的超级电脑会替代人，应该把技术看作是一个工具来赋能人类，建议关注集体的智能体。
拟人化，并不一定是人工智能唯一的发展方向
电影《流浪地球2》中，拥有超强算力和“自我意识”的550W量子计算机给很多人留下深刻印象。
从科幻回归现实，生成式人工智能的出现也让人们惊觉，数字生命及其背后的深度智能世界，会不会在不远的未来真正实现？
蚂蚁技术研究院院长陈文光认为，判断数字生命是不是真的实现，有两个标准：
第一是它的大脑要真正达到图灵测试。虽然ChatGPT大语言模型目前取得了很大的进展，但实际上还是有很多的问题，无法真正通过图灵测试。
第二就是对外展现上，要有真实感、实时可渲染、高精度可交互的展现模型，这个目前技术上也还有不小的差距。
但拟人化并不一定是人工智能唯一的发展方向。清华大学人工智能研究院副院长朱军认为，我们更希望人工智能变成一个比较友好的人类的辅助，能够在一些危险的环境、人类不擅长的任务等方面，去协助人完成一些有挑战性的，对智能要求比较高的任务，“但它并不一定需要在形体上、行为上、大脑上去仿造人、与人类对齐。”
现场还设计了一个人工智能向人类专家提问的环节。面对人工智能提出的“如果我能写出四大名著那样的伟大作品，你们允许我参加诺贝尔文学奖评选吗？我可以出书赚版税吗？”科幻作家陈楸帆分享了一个小故事。
2019年他与AI共同创作的一篇小说，获得了“AI评委”评选出来的文学奖项第一名，第二名是诺贝尔文学奖得主莫言老师，也就是说，一个AI觉得另一个AI参与创作的小说领先了人类诺奖得主，“我并不排斥跟AI共生，而且在我们用AI创作过程中，它会倒逼我们去成为一个更好、更聪明的人类创作者，写出更伟大的作品。这是我们跟AI相处的态度。”
高效产业协作，是抓住AI技术变革机遇的关键
中国科学院院士、复旦大学副校长张人禾认为，面对“AI时代”的来临，“单打独斗”已不适应大科学时代的科技创新，要进行“有组织科研”，布局建设大平台。
产业变革也急需走向高效协作。蚂蚁集团资深副总裁、数字科技事业群总裁蒋国飞指出，“信任问题是产业高效协作的最大障碍。”
很多产业比如跨境贸易，从时间和空间上都有很长的链路，产业协作涉及多个参与方，环节众多、流程复杂，很容易因为缺乏信任造成协作不畅。
他认为，在物理世界产业供应链的背后，需要用数字科技构建一个围绕数据供应链的协作网络。
比如，在数据生成环节，物联网可以实现数据源头可信；在数据流通环节，区块链技术可以进行数据确权，防篡改；隐私计算技术确保数据在流通与融合过程中“可用不可见、可算不可识”；在数据价值的挖掘环节，人工智能技术与场景结合，能够让数据价值释放出巨大潜力。
AI、区块链、隐私计算、数字人民币等新技术、新场景的应用，将在实体领域创造巨大价值。
北京智源人工智能研究院顾问、美国国家工程院外籍院士张宏江说，AI、区块链和数字人民币的结合，会带来未来更加自动化、更加可信、更加有效的金融服务体系。
井贤栋说，隐私计算的突破，能够实现数据价值的交换，而非数据本身去交换，意义极其巨大。蚂蚁在重点投入，希望未来有一天加密计算的成本和效率做到今天的明文计算一样，那个时代会真正迎来数据时代的大爆炸。
联合国开发计划署可持续金融中心高级顾问迈克尔·舍伦则指出，新技术的应用，可以促进绿色融资，并降低融资成本，帮助我们创造一个更可持续的世界。
突破GPU时代算力瓶颈，绿色计算成共识
今年以来，大模型产业呈井喷式发展。目前国内已有100多个大模型公开发布，加速了智能算力的稀缺，出现GPU“一卡难求”、“排队预定”的局面。
智能算力需求爆发，以及由此带来的能耗暴涨，产业应该如何应对？
在“云原生时代的绿色计算论坛”上，蚂蚁集团提出要关注“端到端的绿色算力体系”，特别是算力应用阶段的计算绿色化，带动突破算效瓶颈。
端到端的绿色计算，即从电力生产、算力生产（包括智算中心建设商、硬件厂商、云厂商），到算力应用全产业环节的绿色计算。中国信通院在2023算力大会发布的《面向算力应用环节的计算绿色化白皮书》中提到，算力应用环节的绿色计算，是智能算效提升空间最大、收效最快，也是尚未被足够重视和仍需加强的部分。
在大模型时代，科技公司处在算力紧缺的最前线。蚂蚁集团首席技术官、平台技术事业群总裁何征宇介绍，从CPU通算时代开始，蚂蚁集团就开始构建绿色高效的智能计算体系，形成了低碳算力选择、全局资源调度优化、工作负载优化、绿色监测评估四大核心能力，这将为智算时代的绿色计算提供“度量衡”。
何征宇说：“AI大模型时代，技术下沉，新的优化空间被打开，底层软件栈的针对性优化应被关注。”
在算力资源供不应求的大趋势下，通过软硬件协同，驱动智能算力突破瓶颈，已经成为行业共识。