热议人机共生 打造负责任AI

参观者跟着AI“逛”上海 本版摄影 记者 陈梦泽

在外滩大会上，不同研究领域的众多专家聚焦人工智能领域，发表了一些前瞻性研究成果，就人工智能应用、脑机接口拓展、人机交互升级等话题，展开深入交流。

发展AI应以人为本

9月5日，在2024外滩大会的主论坛上，24岁的独臂男孩周键借智能仿生手演奏钢琴，在舞台上定格了温暖的一幕。随后，复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华与浙江强脑科技创始人兼CEO韩璧丞就人机共生的未来展开对谈。

他们认为，AI等技术的大规模应用将重塑人的内涵，进而重塑我们的社会关系。面对AI伦理等一系列风险挑战，应提前建立AI应用准则，将以人为本作为首要出发点。

随着脑机接口与AI技术的广泛应用，机器已经成为人类的外脑、人类的四肢。人将成为机器智能增强下的“超人”，在长期使用相关先进技术后，会对人类社会的生产和生活带来较显著的影响。“与之伴随的是，人与机器之间的关系，将不可避免纳入我们对社会关系的考察范围。”肖仰华说。

新技术将带来更多新可能，但潜在的科技伦理问题值得关注。AI大规模应用对人类生活有多重的突出挑战。肖仰华说：“生成式人工智能技术发展，已经需要以月为单位进行记录。但是人类的情感、价值、伦理观念调整却是十分缓慢的。如何调和这个矛盾，是我们需要直面的挑战之一。”其次是技术普惠问题，要避免少部分人借助先进技术形成不正当的竞争优势。此外，还应该特别注意防范技术成瘾，防止先进技术对人类造成反噬。

人工智能可以“造人”，甚至可以“造超人”。作为脑机接口技术应用的推动者，韩璧丞认为，在助力肢体、视力障碍等人群上，AI技术已经发挥出越来越大的作用，帮助视障者重新“看见”，帮助肢体残疾的人重新恢复行动能力。但技术也可以使人获得一些超出常人的能力，如何平衡这些风险值得思考。

他们认为，AI应用的首要原则应该是以人为本，回归科技服务于人的本质。肖仰华表示，要重视技术治理，并提前考虑，做到未雨绸缪。韩璧丞表示，AI伦理委员会的存在非常重要。技术前进的时候，更应该关注“走得慢”的人，“当一个足以改变世界的技术出现时，先用它来帮助最需要的人”。

云计算已成基础设施

中国工程院院士、之江实验室主任、阿里云创始人王坚分享了他对于AI、AI+和AI基础设施的思考。

他指出，AI+不是AI和产业的简单结合，而是数据、模型和算力的组合，云计算就是AI时代的基础设施。

从人工智能发展历程看，图灵等科学家从上世纪四五十年代起就有很多与人工智能有关的思考，但直至2017年谷歌提出Transformer，才让人工智能重回大家的视野，形成对产业上的影响。从ChatGPT到AlphaFold，再到预报天气，这是三个跨度非常大的应用。但它们背后有一个最基本的东西，就是Transformer。2017年以前的人工智能，和今天说的人工智能有很大区别，所以说人工智能只有7年的历史。

王坚认为，当我们讲“人工智能+”的“+”时，不是加什么东西，而是怎么加，更重要的是一个机制创新。这个创新就是数据、模型和算力的组合。当数据、模型、算力的规模都有了巨大发展时，就要引入新的东西，即AI的基础设施。

到了谈到基础设施的时候，就是一项技术渗透的终结形式。什么技术会对人类产生长远的影响？就是它变成了基础设施。他援引红杉资本的观点，在云时代、移动时代、AI时代，基础设施就是云计算。他总结道：“当你看AI、AI+、AI基础设施的时候，就会发现，这个世界不但技术在革命，机制也在革命，基础设施也在革命。没有比这三项革命在同一时间发生再令人激动的了。”

AI与IA融合共进

“今天大模型带来的震撼，有多少是来自人机交互？又有多少是来自机器智能的进步？”在外滩大会上，香港科技大学校董会主席、美国国家工程院外籍院士沈向洋谈到了大模型时代人机交互方式的演变。

沈向洋认为，AI为人类提供了与技术共生的全新语境，人机交互的新方式指向“AI与IA”的融合共进。IA（Intelligent Augmentation），即“智能增强”，代表着一种以人为本的AI发展路径。它聚焦于运用技术提升人类的能力，而非取代人类，强调了人类与AI之间的协作关系。“我们要时常把发展人工智能的真正目的、初心想清楚。”他说。

沈向洋表示，从人机共存的新范式到大模型的行业应用落地，折射的是技术与商业逐渐形成闭环，以及技术创新真正改变世界的新趋势。在人工智能的颠覆性力量逐步显化的过程中，须更加重视对AI的治理，打造负责任的AI。“从治理的角度看，我们需要新的治理框架和体系，以应对不同国家和地区的情况，从全球的视角构建新体系。”（记者 金志刚 杨硕 金旻矣）