首尔人工智能峰会开幕：谷歌OpenAI等承诺安全开发AI

鞭牛士报道，5月21日消息，据外电报道，世界领先的人工智能公司在一次人工智能小型峰会开始时承诺，将安全地开发这项技术，包括如果不能控制最极端的风险，就停止开发这项技术。

他们齐聚一堂，讨论人工智能的潜在风险以及促进其优势和创新的方法，从而就人工智能达成进一步协议。

人工智能首尔峰会是 11 月在英国布莱切利公园举行的备受瞩目的人工智能安全峰会的低调后续行动。

这次为期两天的会议由韩国和英国政府共同主办，与此同时，Meta、OpenAI和谷歌等主要科技公司也推出了最新版本的人工智能模型。

据英国政府公告，谈判开始时，已有 16 家人工智能公司自愿承诺保证人工智能安全，其中包括亚马逊、微软、法国的Mistral AI、中国的智浦和阿联酋的 G42，这些公司承诺将确保其最尖端人工智能模型的安全，并承诺实施负责任的治理和公开透明的政策。

该承诺包括发布安全框架，说明他们将如何衡量这些模型的风险。在风险严重且无法忍受的极端情况下，如果人工智能公司无法降低风险，他们将不得不按下终止开关并停止开发或部署其模型和系统。

签署该协议的人工智能公司之一 Cohere 的首席执行官艾登·戈麦斯 (Aiden Gomez) 表示，自去年英国会议以来，人工智能行业“越来越关注最紧迫的问题，包括错误和虚假信息、数据安全、偏见以及让人类了解情况”。

「我们必须继续考虑所有可能的风险，同时优先考虑那些如果不得到妥善解决就最有可能产生问题的风险。」

周二晚上，韩国总统尹锡烈和英国首相里希·苏纳克将与其他世界领导人、行业巨头和国际组织负责人举行在线会议。

据组织者称，在线峰会结束后，周三将举行由数字部长、专家和其他人士参加的面对面会议。

韩国国家安全局副局长王云钟周一对记者表示，虽然英国会议的重点是人工智能安全问题，但本周会议的议程已扩大到包括创新和包容性。

王说，与会者随后将不仅讨论人工智能带来的风险，还讨论其积极方面，以及它如何以平衡的方式为人类做出贡献。

尹总统的科学技术高级顾问朴相旭表示，人工智能协议将包括有关安全、创新和包容性的讨论成果。

世界各国政府一直在忙于制定人工智能法规，尽管这项技术取得了快速进步，并有望改变日常生活的许多方面，从教育和工作场所到版权和隐私。有人担心人工智能的进步可能会夺走就业机会、欺骗人们并传播虚假信息。

本周的会议只是制定人工智能护栏的一系列努力之一。联合国大会批准了第一项关于安全使用人工智能系统的决议，美国和中国最近举行了首次人工智能高层会谈，欧盟世界首个人工智能法案将于今年晚些时候生效。