美国白宫颁布人工智能行政令，这三件事最值得关注

原标题：美国白宫颁布人工智能行政令，这三件事最值得关注

美国总统乔·拜登（Joe Biden）今天发布了一项行政令，制定了（美国）迄今为止最全面的人工智能规则和指南。该行政令将要求人工智能公司提高其模型工作方式的透明度，并将制定包括标注人工智能生成内容在内的一系列新标准。

（来源：AI 生成）

白宫表示，该行政令的目标是改善“人工智能安全”。它还包括一项要求，如果测试表明该技术可能对国家安全构成风险，则开发人员必须与美国政府分享新人工智能模型的安全测试结果。这是一个令人惊讶的举动，它援引了通常在国家紧急状态期间使用的《国防生产法》。

该行政命令进一步推动了白宫 8 月份制定的人工智能政策的自愿要求，但缺乏有关如何执行规则的具体细节。行政令也很容易随时被未来的总统推翻，而且它们缺乏通过国会进行人工智能立法的合法性，不过这在短期内看起来不太可能实现。

哥伦比亚大学专门研究数字监管的法学教授阿努·布拉德福德（Anu Bradford）表示：“美国国会两极分化严重，甚至无法履行它的职能，在近期都不太可能制定任何有意义的人工智能立法。”

尽管如此，人工智能专家仍称赞该行政令是向前迈出的重要一步，特别是由于它对水印和美国国家标准与技术研究所（NIST，National Institute of Standards and Technology）制定的标准的关注。然而，其他人则认为，它还不足以保护人们免受人工智能造成的直接伤害。

以下是人们需要了解的，关于该行政令及其可能产生的影响的三件最重要的事情。

关于标记人工智能生成的内容有哪些新规则？

白宫的行政令要求美国商务部制定对人工智能生成的内容进行标记的指南。人工智能公司将使用该指南来开发白宫希望联邦机构采用的标记和水印工具。白宫的一份解释性文件称：“联邦机构将使用这些工具，让美国人知道他们从政府收到的通信是真实的，并为世界各地的私营部门和政府树立榜样。”

标记文本、音频和视觉内容的来源，将使我们更容易了解网络上的哪些内容是使用人工智能创建的。这类工具被广泛认为是解决深度伪造和虚假信息等人工智能问题的解决方案。在 8 月份白宫宣布的自愿承诺中，谷歌和 OpenAI 等领先的人工智能公司承诺开发此类技术。

一个问题在于水印等技术仍在开发中。目前还没有完全可靠的方法来标记文本或调查一段内容是否是机器生成的。人工智能检测工具仍然很容易被欺骗。

该行政令也没有要求行业参与者或政府机构使用这些技术。

在上周日与记者的电话会议上，白宫发言人回答了《麻省理工科技评论》关于未来是否会提出任何要求的问题，其表示：“老实说，我可以想象，在几年后会出现这样的要求。它会附有一个加密签名，让你知道你实际上是在与（真正的白宫新闻团队）交谈，而不是人工智能版本。” 该行政令旨在“促进我们实现这一目的之前所需的技术发展。”

白宫表示，它计划与内容来源和真实性联盟（称为 C2PA 倡议）一起推动这些技术的开发和使用。正如我们之前报道的那样，随着公司争相为人工智能生成的内容贴上标签，该计划及其附属开源社区近几个月来一直在快速增长。该组织包括 Adobe、英特尔和微软等一些大公司，并设计了一种新的互联网协议，该协议使用加密技术对有关内容来源的信息进行编码。

该联盟与白宫没有正式关系，目前还不清楚这种合作会是什么样子。 美国政府事务团队联合主席穆尼尔·易卜拉欣（Mounir Ibrahim）在回答问题时表示，“一段时间以来，C2PA 一直与美国国家安全委员会和白宫的各个办公室保持定期联系。”

华盛顿大学语言学教授艾米丽·本德（Emily Bender）表示，重视水印开发是件好事。她说她还希望能够为文本开发内容标记系统，因为当前的水印技术在图像和音频上效果最好。“行政令当然不会成为添加水印的强制要求，但这将是使其合理化的重要一步。” 本德说。

这个行政令会有效力吗？它可以强制执行吗？

虽然拜登的行政令超越了美国政府此前监管人工智能的尝试，但它更强调建立最佳实践和标准，而不是如何和是否执行它们。

该命令呼吁NIST 在模型推出之前为全面的“红队”测试制定标准，即旨在破坏模型以暴露漏洞的测试。NIST 在记录面部识别等人工智能系统的准确度或偏差方面已经取得了一定的成效。2019 年，NIST 对 200 多个面部识别系统的研究揭示了该技术中普遍存在的种族偏见。

然而，该行政令并没有强制要求人工智能公司遵守 NIST 的标准或测试方法。哥伦比亚大学法学教授布拉德福德表示：“行政令的许多方面仍然依赖于科技公司的自愿合作。”

该行政令还要求，如果新人工智能模型的计算量超过一定阈值，开发该模型的公司要在训练系统时通知联邦政府，并根据《国防生产法》共享安全测试结果。传统上，该法律用于在战争时期或新冠疫情大流行等紧急情况下干预商业生产，因此这是一种不寻常的推动监管的方式。

白宫发言人表示，这项命令将是强制执行的，并将适用于美国未来所有的商业人工智能模型，但可能不适用于已经推出的人工智能模型。根据白宫的情况说明书，该门槛的设定是，所有可能对“国家安全、国家经济安全或国家公共健康和安全”构成风险的主要人工智能模型，都可能受到该命令的管辖。

该行政令还呼吁联邦机构为不同的应用制定规则和指南，例如支持工人权利、保护消费者、确保公平竞争和管理政府服务。这些更具体的准则优先考虑隐私和偏见保护。

人工智能初创公司 Hugging Face 的研究员兼首席道德科学家玛格丽特·米切尔 (Margaret Mitchell) 表示：“至少，其他联邦机构得到了授权，他们或许能够认真解决这些问题。尽管对于一些受人工智能负面影响最严重的人来说，为了让他们的权利真正得到认真对待，他们需要进行一场更加艰难而疲惫的斗争。”

到目前为止，对该行政令的反应如何？

各大科技公司基本上对这项行政令的出台表示欢迎。

微软副董事长兼总裁布拉德·史密斯（Brad SmithBr）称赞这是“人工智能技术治理方面又向前迈出的关键一步”。谷歌全球事务总裁肯特·沃克（Kent Walker）表示，该公司期待“与政府机构进行建设性合作，以最大限度地发挥人工智能的潜力，包括让政府服务变得更好、更快、更安全。”

Adobe 总法律顾问兼首席信托官 Dana Rao 表示：“很高兴看到白宫通过创建负责任的人工智能实践框架来投资人工智能的发展。”

白宫的做法总体上仍然对硅谷友好，强调创新和竞争，而不是限制和制约。该战略符合参议院多数党领袖查克·舒默（Chuck Schumer）提出的人工智能监管政策的重点，并进一步体现了美国对人工智能监管的宽松态度。

然而，一些人工智能研究人员表示，这种方法令人担忧。米切尔说：“我最担心的是，它忽略了如何训练和开发模型以尽量减少可预见的危害。”

她补充说，白宫没有“在部署之前预防人工智能的危害”。比如，它没有改进科技公司的数据实践，而是使用“打地鼠”的方法来解决已经出现的问题。

这项备受期待的人工智能行政令是在英国召开人工智能安全峰会（AI Safety Summit）前两天发布的，旨在将美国定位为人工智能政策的全球领导者。

布拉德福德补充道，这可能会对美国以外的地区产生影响。它将为英国的安全峰会定下基调，并可能鼓励欧盟最终敲定其人工智能法案，因为该行政令发出了一个明确的信息，即美国同意欧盟的许多政策目标。

布拉德福德表示：“这份行政令可能是美国政府目前能拿出来的最好的监管手段。”

支持：Ren