布莱切利宣言：人工智能时代的国际共识

布莱切利庄园的历史地位

布莱切利庄园在历史上有着举足轻重的地位。这里曾是二战期间盟军破译密码的主要地点，被誉为“现代计算机科学与人工智能之父”的数学家阿兰·图灵在此发明了第一代图灵计算机。2023年11月1日，首届全球人工智能安全峰会在这座具有象征意义的地方举行，28个国家和欧盟共同签署了《布莱切利AI宣言》。

ChatGPT引发的争议

自2022年11月底，ChatGPT面世以来，迅速引发了广泛的争议。作为现象级应用，它颠覆了公众对聊天机器人的认知，同时也再次唤醒了人类对人工智能的担忧。2023年3月，国际AI领域非营利组织“未来生命研究所”公开倡议，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。5月，“人工智能安全中心”发布了超过350名专家学者联署的公开信，称“人工智能或导致人类灭绝”。

在这样的背景下，《布莱切利AI宣言》的签署显得尤为重要，表明各国同意通过国际合作，建立人工智能监管方法。

宣言的签署过程

此次峰会邀请了约100名各国官员、人工智能企业代表和专家。参会者包括来自美国、中国、日本、德国、印度等20多个国家的政府代表，以及联合国、经合组织、国际电信联盟等多个国际组织的代表。另有超过80个学术机构、企业和协会组织的代表参会。英国媒体称，美国商务部长雷蒙多和中国科技部副部长吴朝晖与唐兰一起登台，“这是罕见的全球团结表现”。

宣言诞生的背景

（一）ChatGPT引发的争议

ChatGPT的出现如同一颗巨石投入平静的湖面，激起层层波澜。自其面世后，便不断引发争议，主要体现在以下几个方面：

1.隐私和网络安全问题**：以ChatGPT为代表的人工智能大模型在缺乏有效法律规制的情况下，涉及大量隐私问题和网络安全问题。例如，意大利个人数据保护局宣布禁止使用ChatGPT，原因是该平台出现了用户对话数据和付款服务支付信息丢失的情况，且没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。加拿大隐私专员办公室也宣布开始调查OpenAI，涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。

2.科技界的担忧：科技界人士对人工智能的潜在问题深表担忧。美国非营利组织“未来生命研究所”发布了一封名为“暂停巨型AI实验”的公开信，上千名人工智能专家和行业高管在信中呼吁，所有人工智能实验室应当暂停对更强大的人工智能系统的开发和训练，至少暂停半年。“人工智能教父”杰弗里·辛顿、特斯拉和推特CEO埃隆·马斯克、图灵奖得主约书亚·本希奥等在这封公开信上签下了自己的名字。

3.教育领域的争议：ChatGPT在教育领域也引发了争议。包括美国纽约市在内的多个地区，已在公立学校的网络和设备上限制使用ChatGPT，因为它可能无法培养学生批判性思维和解决问题的技能。

（二）各国对风险的认识

各国逐渐意识到人工智能对人类构成潜在的灾难性风险。随着人工智能技术的飞速发展，其带来的风险和挑战日益凸显。各国政府和国际组织开始认识到，必须通过国际合作建立监管方法，以确保人工智能的发展在可控范围内。

例如，英国首相苏纳克宣布，英国将成立全球首个“AI安全研究院”，以评测各类人工智能新模型和工具的能力和风险，并愿与各国分享其成果。美国政府也宣布将成立美国人工智能安全研究所。在首届全球人工智能安全峰会上，包括英国、美国、欧盟、澳大利亚和中国等在内的28个国家和地区共同签署了《布莱切利宣言》，表明各国同意通过国际合作，建立人工智能监管体系。这一宣言是应对快速新兴技术的首份国际声明，各国本着对智能发展的共识，一致认为人工智能对人类构成潜在的灾难性风险，故愿携手共建人工智能监管体系。

宣言的主要内容

《布莱切利宣言》强调以人为本，将人类的利益和价值置于核心位置。它明确指出，AI应该以人类的利益和价值为导向，尊重人类的尊严、自主性和多样性，保护人类的权利、自由和安全，促进人类的福祉和社会正义，以及保护地球的生态系统和生物多样性。

宣言肯定了AI在改善人类福祉上的巨大潜力。AI技术的发展为人类带来了诸多便利，如在医疗领域，AI可以辅助医生进行疾病诊断，提高诊断的准确性和效率；在教育领域，AI可以为学生提供个性化的学习方案，满足不同学生的学习需求。据统计，目前全球已有超过80%的医疗机构在使用某种形式的AI技术，而在教育领域，AI个性化学习方案的应用也在不断扩大，预计未来几年将覆盖全球50%以上的学生群体。

然而，宣言也警告了在发展AI过程中有意或无意带来的伤害。例如，AI可能导致大量的工作岗位被替代，从而引发就业问题。据预测，未来十年内，全球可能有超过30%的工作岗位会受到AI技术的影响。此外，AI还可能被滥用，如用于网络攻击、虚假信息传播等。宣言特别指出了“前沿”AI可能带来的风险，如ChatGPT、Bard、Midiournev等大语言模型以及其他“超”能力的狭义AI。这类系统的能力难以预测，可能被误用或失控。

为了避免这些风险，宣言希望通过法规等方式进行规范。各国应制定相关法规，加强对AI科研机构、企业等的监管，确保AI以负责任的方式设计、开发、部署和使用。同时，宣言也呼吁国际合作，共同应对AI带来的风险。由于人工智能带来的许多风险本质上具有国际性，最好通过国际合作加以解决。各国应在“已有的国际平台和相关倡议的框架下进行合作”，共同制定共同原则和行为准则，加强对前沿AI的科学研究合作，提供最佳科技以促进政策制定和公共产品的提供。

宣言的重要意义

（一）国际合作的里程碑

《布莱切利宣言》作为全球第一份针对人工智能的国际性声明，具有重大的历史意义。它标志着各国在人工智能领域迈出了携手共建监管体系的关键一步。在当今全球化的时代，人工智能的发展已经超越了国界，任何一个国家都无法单独应对其带来的挑战。宣言的签署，为各国提供了一个合作的平台，促进了信息共享、技术交流和政策协调。

此次宣言的签署是国际合作的一个里程碑，它打破了国家之间的壁垒，让各国认识到人工智能的发展需要全球共同努力。通过共同签署宣言，各国表达了对人工智能风险的共同关注，以及共同应对这些风险的决心。这种国际合作不仅有助于提高各国对人工智能的监管水平，还能够促进人工智能技术的健康发展，为人类社会带来更多的福祉。

例如，宣言签署后，各国可以共同开展人工智能安全研究，分享研究成果和经验。同时，各国还可以在国际平台上共同制定人工智能的标准和规范，确保人工智能的发展符合人类的利益和价值观。此外，宣言的签署还可以促进各国在人工智能领域的贸易和投资，推动全球人工智能产业的发展。

（二）应对潜在风险

《布莱切利宣言》对未来强大人工智能模型的威胁及当前增强有害信息的担忧，为我们敲响了警钟。人工智能的快速发展给我们带来了巨大的便利，但同时也带来了潜在的风险。如果不加以控制，这些风险可能会对人类社会造成严重的危害。

宣言的发布有助于确保人工智能在合法规范的轨道上运行，造福人类。通过制定相关法规和政策，各国可以加强对人工智能科研机构和企业的监管，确保人工智能的发展符合人类的利益和价值观。同时，宣言还呼吁国际合作，共同应对人工智能带来的风险。这种国际合作可以促进各国之间的信息共享和技术交流，提高全球对人工智能风险的应对能力。

例如，宣言特别关注网络安全和生物技术等领域的风险，以及前沿AI可能放大虚假信息等风险。这些风险不仅会影响到个人的安全和利益，还会对国家的安全和稳定造成威胁。通过国际合作，各国可以共同制定应对这些风险的策略，加强对人工智能的监管，确保人工智能的发展不会对人类社会造成危害。

《布莱切利宣言》的重要意义在于它为全球人工智能的发展和监管提供了重要的指导方向。通过国际合作，各国可以共同应对人工智能带来的挑战，确保人工智能在合法规范的轨道上运行，造福人类。

#人工智能#