智库要览 | 把好人工智能“方向盘”
ZHIKUYAOLAN
编者按
人工智能治理正前所未有地成为一项全球性议程。近日举办的世界经济论坛2024年年会把“人工智能推动经济社会发展”作为四大关键议题之一。这个足以改变人类未来的技术领域，引起会场内外、国际国内相关机构和智库的共同关切，他们在有喜有惊、又爱又怕中，表达了对人工智能的复杂感情。
人工智能风险引全球关切
阅读提示：人工智能将改变全球经济，这是国内外各大机构和智库的共识。多家机构的研究认为，即将迎来的这场技术革命可以提振生产力和创新，促进全球经济增长。然而，人工智能的难预测性，也令这些机构担忧。福祸之间，技术向善的关键保障成为全球机构和智库的呼声。
担忧体现在就业方面。国际货币基金组织研究了人工智能对全球劳动力市场的潜在影响。该机构对人工智能可能取代一些工作岗位并加深“智能鸿沟”表达了不安。担忧也体现在“智能鸿沟”方面。世界经济论坛在对首席经济学家们进行意见调查后发现，人工智能给高收入经济体和低收入经济体带来的收益存在广泛差异。受访专家倾向于认为人工智能会给高收入经济体创造更高价值。担忧还体现在医疗领域。世界卫生组织在新指南中介绍了多模态大模型在伦理上的新倾向和管理方面的问题，同时提出了如何安全使用该技术的建议。
国际货币基金组织：
人工智能将影响全球近40%的就业
国际货币基金组织1月14日发布的《Gen-AI：人工智能与未来的工作》显示，全球近40%的就业将受到人工智能的影响。与新兴市场和发展中经济体相比，发达经济体面临着人工智能带来的更大风险，但也有更多机会利用它的好处。
在发达经济体中，大约60%的工作岗位可能受到人工智能的影响。其中，约有一半可能受益于人工智能集成，从而提高生产力。对于另一半，人工智能应用程序可能会执行目前由人类从事的关键任务，这可能会降低劳动力需求，导致工资下降和招聘减少。在最极端的情况下，一些工作岗位可能会消失。
相比之下，在新兴市场和低收入国家，受到人工智能影响的工作岗位预计分别占40%和26%。尽管许多新兴市场和发展中经济体可能不会立即遭遇来自人工智能的直接破坏，但是鉴于许多国家缺乏相关基础设施或具备技能的劳动力，没能具备抓住人工智能的优势，长期而言，这可能导致数字鸿沟和跨国收入差距的加剧。
人工智能还可能影响国家内部的收入和财富不平等，加剧不同收入阶层之间的两极分化——能够利用人工智能的劳动者的生产率和工资将提高，而那些不会利用人工智能的劳动者则会落在后面。这可能取决于年龄、学习能力、工作经验等多个方面。例如，人工智能可以帮助经验不足的劳动者更快地提高生产率。年轻的劳动者可能会发现更容易利用有关机会，而年长的劳动者则可能难以适应。
世界经济论坛：
高收入经济体或受益人工智能更多
世界经济论坛2024年年会发布的《首席经济学家展望》显示，金融形势的紧张、地缘政治的分裂和生成式人工智能的快速发展继续影响全球经济，导致经济前景依然暗淡并充满不确定性。尽管生成式人工智能有望提振生产力和创新，但受访专家倾向于认为人工智能会给高收入经济体创造更高价值。
首席经济学家预计人工智能给不同收入群体带来的收益存在广泛差异，对于其给高收入经济体带来的价值持更加乐观的态度。绝大多数受访者认为，生成式人工智能今年能提高高收入经济体生产（79%）和创新（74%）的效率。展望未来五年，94%的受访者认为上述生产力红利能给高收入经济体带来巨大的经济效益，而只有53%的受访者认为低收入经济体能获得同样巨大的经济效益。
近四分之三（73%）的受访者认为人工智能不会给低收入经济体的就业带来净积极影响，而对于高收入经济体，持有这一观点的受访者比例仅为47%。在生成式人工智能能否提高生活水平和降低信任方面，受访者的意见分歧更大，但均认为高收入市场发生上述两种情形的概率略高一些。
世界卫生组织：
人工智能将改变医疗但需警惕风险
世界卫生组织1月18日发布的多模态大模型治理相关新指南称，人工智能在医疗卫生领域应用前景广阔，但同时也要防范其中可能出现的诸如“自动化偏见”导致的过度依赖等风险。
这份新指南概述了多模态大模型在医疗卫生领域的五大应用场景：诊断和临床护理、患者自主使用、文书和行政工作、医疗和护理教育、科学研究和药物研发。
多模态大模型尽管拥有巨大的应用潜力，但同时可能带来“虚假、不正确、歪曲或不完整”的结果。新指南指出了医疗系统面临的相关风险：表现最佳的多模态大模型的可及性和可负担性；多模态大模型可能助长“自动化偏见”，使医疗专业人员和患者过于依赖人工智能，忽略原本可以由人发现的差错，或把困难的选择不恰当地交给多模态大模型；多模态大模型与其他形式的人工智能一样，也容易受到网络安全风险的影响，从而危及患者信息安全、有损算法的可信度等。
为了创造安全有效的多模态大模型，世界卫生组织建议，政府、科技公司、医疗服务提供者、患者等利益攸关方需要参与相关技术研发和部署的各个阶段，对多模态大模型进行监管并制定相关规范。
以“善治”促“善智”是大道
阅读提示：人工智能是未来生产力的发动机。面对技术进步带来的挑战和风险，以“善治”促“善智”，引导人工智能朝着有利于人类文明进步的方向发展，被多家智库认为是大道。
大道体现在全球人工智能治理方面。中国信息通信研究院的研究认为，大国共识推动全球人工智能治理的合作进程。人工智能的安全合作正拉开序幕，预计人工智能对话磋商未来将密集展开。大道也体现在发展和安全的平衡方面。中国社会科学院大学数字中国研究院的研究认为，提高社会对于安全科技的认知、重视与参与非常必要。该机构认为，人工智能和安全科技将会是未来的两项通用技术，并提出将安全科技视作新型公共产品的新思路。大道还体现在创新发展方面。赛迪顾问的研究认为，随着中国加快打造更可信、可控、可解释的人工智能应用，中国人工智能产业将迎来更大的发展空间，预计中国人工智能产业未来将呈现十大发展趋势。
中国信息通信研究院：
全球人工智能对话磋商预计将密集展开
中国信息通信研究院1月初发布的《全球数字治理白皮书（2023年）》认为，各方未来在联合国等多边机构下的合作进展、对新的全球人工智能治理架构的参与，可能成为判断全球数字治理发展方向的重要根据。
2023年，全球数字治理面临复杂多变的新形势。前沿人工智能“飞跃”突破敲响安全警钟，人工智能技术军民两用、危险难预测、转移难监测、私营部门主导等特性放大了伦理偏见、虚假信息、隐私泄露、版权侵权等风险，引发数据主权、文化多样性、劳动替代等讨论。
展望未来，各方围绕人工智能在军事和信息内容领域的应用可能成为对话磋商的优先领域。据不完全统计，2024年全球将有70多个国家和地区举行大选，利用人工智能制造虚假信息将对各国政治生态造成严重冲击。如何化解这些重大风险将成为各方对话磋商的重点。
国际治理机构将加快酝酿。联合国正在组建新的全球性人工智能治理机构，新机构将如何与联合国系统内机构合作、如何与其他国际进程协调，值得高度关注。
各国治理框架间协调值得高度关注。尽管人工智能治理正在加速从原则走向落地实施，但是各国对治理关键环节、重要主体、治理工具有着不同的认识。未来，不同治理框架之间能否形成全球性的规则共识，仍有待观察。
中国社会科学院大学数字中国研究院：
人工智能潮流下安全科技的价值在放大
中国社会科学院大学数字中国研究院联合蚂蚁集团1月18日发布的《数字时代安全科技价值报告》认为，在人工智能大模型及深度数字化趋势下，安全科技的价值在放大。人工智能和安全科技将会是未来的两项通用技术。
数字化安全风险已经进入快迭代、高智能、全覆盖的新格局。例如，伴随人工智能大模型的诞生，一个新的安全技术研究领域逐渐形成，含数据去毒、模型安全、AIGC检测技术等。
近几年，面对新的安全威胁和新的应用需求，一大批新的安全技术不断涌现。中国科学院院士冯登国将这些新技术呈现出的特征概括为智能化、零化、弹性化、匿名化、量子化。
安全科技正处在时代的转折点，从传统的网络安全技术发展成当前更为通用，包含多个领域，多种前沿技术的复杂系统性技术。安全科技本质上是一种伴生技术。根据技术成熟性与前沿性，安全科技可以被分为四大板块——基础安全、业务安全、AI安全、未来安全。
该研究建议，以公共品的定位来判断安全科技的价值，推动其发展。政企合作是安全科技成为公共品的核心驱动力。要通过更多的公共力量投入，构建更好的安全科技实力和制度。
赛迪顾问：
人工智能铺平数字经济发展的“快轨”
赛迪顾问人工智能与大数据研究中心1月16日发布的《2024年人工智能行业趋势洞察》显示，随着数字经济产业的高速发展，中国人工智能产业将迎来更大的发展空间。同时，预计中国未来将加快推动基于“代码规制代码”的算法监管技术、伦理治理等路线的人工智能治理，打造更可信、可控、可解释的人工智能应用。
该研究预计，中国人工智能产业未来将呈现十大发展趋势：中国人工智能产业将在未来10年到15年取得长足发展；大模型将借助多模态技术实现全面感知；在生成式人工智能的推动下，中国的“数字中点”将有望提前10年到来；AIAgent将重构人机交互方式；具身智能将成为颠覆制造业的下一个浪潮；智算中心连点成面，人工智能算力网络统筹加速部署；各行业应用加速向人工智能原生转型，场景赋能持续创新；人工智能人才将从“算法型”向“复合应用型”跃升；人工智能治理将打造更可信、可控的产业应用；MaaS将成为人工智能产业生态构建的核心。
这一研究同时提醒，中国人工智能的发展需要关注四方面问题：基于大模型创新应用的算力资源供给不足；通用人工智能应用场景建设进度迟缓；重点产品的评测体系尚不健全；围绕垂直行业应用产品的孵育优化能力不足。
本报记者郭锦辉据公开资料整理
总 监 制丨王 辉
监 制丨李丕光 王彧 刘卫民
主 编丨毛晶慧 编 辑丨邹 朵