CSET决策者如何可信地揭示和评估人工智能领域的意图（附下载）
今天分享的是人工智能系列深度研究报告：《CSET决策者如何可信地揭示和评估人工智能领域的意图》。
（报告出品方：CSET）
报告共计：66页
海量/完整电子版/报告下载方式：公众号《人工智能学派》
执行摘要
决策者如何可信地揭示和评估人工智能领域的意图?铝技术正在迅速发展，使广泛的民用和军事应用成为可能。私营部门的公司在人工智能领域的创新占主导地位，但他们的动机和激励机制可能与总部所在地的国家有所不同。随着政府和公司竞相部署功能更强大的系统，误判和意外升级的风险也将增加。在地缘政治竞争日益激烈的时代，了解政策工具的全面补充，以防止误解和明确沟通，对于这些系统的安全和负责任的发展至关重要。
代价高昂的信号对于促进国际稳定是有价值的，但重要的是要了解它们的优势和局限性。古巴导弹危机后，美国与莫斯科建立了直接热线，可以通过热线传递信息，从而受益匪浅。2在当今竞争激烈和多方面的信息环境中，有更多的参与者对信号领域具有影响力，误解的机会比比皆是。信号可能会在不经意间造成昂贵的代价。美国政府对民主的人工智能发出的信号发出了一个关于其对某些价值观的承诺的强有力的信息，但它冒着与可能不分享这些原则的伙伴违约的风险，并可能使美国受到虚伪的指控。并非所有的信号都是有意的，商业行为者对成本的概念可能与其他部门和国家的政府或行业行为者不同。虽然这些复杂性并非不可克服，但在私营部门企业推动创新并可能与所在国存在利益冲突的经济背景下，它们为信号传递带来了挑战。
考虑到误解和意外升级的风险，公共和私人部门领导人必须注意在连贯的战略中嵌入信号。昂贵的信号伴随着需要管理的权衡，包括信号目的的透明度与隐私和安全规范之间的紧张关系。当政策制定者和技术领导者不仅考虑是否“隐藏或显示”一种能力，而且还考虑如何显示以及通过哪些具体渠道传达意图信息时，可靠地发出信号的机会就会扩大。3多价信号，或发送多个信号的做法，可以产生互补或相互矛盾的效果。从公共和私营部门的领导人兼容的消息可以提高在人工智能的承诺的可信度，但官员也可能误解的信号，如果他们缺乏适当的背景下，评估在不同的技术领域的能力。政策制定者应考虑将代价高昂的信号纳入桌面演习和与盟国和竞争国家的重点对话，以澄清假设，减轻升级的风险，并在危机时期就沟通达成共识。信号可能是嘈杂的，偶尔会混淆一些观众，但他们仍然是必要的。
介绍
1962年10月22日，当古巴导弹危机接近其可怕的顶点时，苏联第一书记赫鲁晓夫对他打算发出的威慑信号如此错误表示沮丧。“我们的整个行动都是为了阻止美国这样他们就不会攻击古巴”苏联领导人对他的亲信说他认为，既然美国导弹在意大利和土耳其，为什么要剥夺苏联恢复平衡的机会呢?赫鲁晓夫在古巴部署导弹的决定是为了实现地缘政治的三重目标:阻止美国入侵古巴，在国内重建信誉，并从日益强硬的中国手中夺取主动权。华盛顿的分析人士并不清楚莫斯科的动机。在苏联的发射器和导弹抵达古巴后不久，一架美国U-2侦察机捕捉到了这些地点的证据，并将其传回了震惊的白宫。
在这种相互竞争的关切和相互矛盾的信息的背景下，一系列的灾难进一步加剧了紧张局势。肯尼迪总统和国防部长罗伯特·麦克纳马拉(Robert McNamara)煞费苦心地避免一位历史学家所观察到的“克里姆林宫将未经授权的行动视为有意的“信号’的危险”。“然而，10月26日，美国空军在加州范登堡空军基地进行了洲际弹道导弹试验。7接着，10月27日上午，苏联地对空导弹在古巴东部击中了一架美国U-2间谍飞机，飞行员鲁道夫·安德森少校身亡。当天晚些时候，另一架在北极上空执行收集核试验样本任务的美国U-2在未经授权的情况下，飘然进入苏联领空。U-2在苏军的火力范围外机动后返航，但华盛顿并没有忽视被误解的风险。
古巴导弹危机提醒人们，在危机时期很难发出明确和可信的意图信号。领导者可能认为他们在传达一个信息，但执行他们的命令或他们不知道的低级别行动可能传达另一个信息。镜像和将其他国家视为巨石的倾向只会加剧这一挑战。几十年后，美国再次面对一个充满大国紧张关系、战略军备竞赛和新技术快速发展的世界。今天，避免误判和可信沟通的紧迫性不亚于1962年那令人痛心的13天。
事实上，在目前的环境下，发出明确信号的任务可能更加艰巨。创新更加全球化和分散化国家安全考虑日益渗透到公司关于投资和供应的决策中Chain.1商业玩家发挥作用。
代价高昂的信号及其重要性
决策者不仅要依靠外交和情报来衡量朋友和敌人的能力，还要辨别他们的意图。信息是珍贵的，领导人不能忽视对手虚张声势、误导或双重交易以获得优势的可能性。有什么办法可以摆脱这个困境吗?
研究人员在两个基本问题上存在分歧:领导者是否能够以任何程度的确定性来预测意图;如果是的话，言论或行动--言语或行动--是否更具有决定性意义。信号悲观主义者认为，国际关系太不确定了，欺骗的诱惑太大了，任何意图的信号都不能只看表面价值。但是，未来的利益是可以改变的，没有一个国家可以在持久友好的基础上推行其外交政策。领导人在塑造对手意图的能力上投入了大量精力，这就冒着与竞争对手寻求合作战略的风险，这些战略在短期内似乎很有吸引力，但从长期来看可能会使他们变得脆弱。24悲观主义者认为，对其他国家的意图作最坏的假设并相应地做好准备要明智得多。25
另一方面，发出信号的乐观主义者认为，在某些条件下，意图是可以辨别的。已故的理论家罗伯特杰维斯区分了“信号”和“指数”。“26按照他的定义信号是“声明或行动”，旨在“影接收者对发送者的印象”27它们是可观察的、可控制的、本质上可操作的离散行为。因此，它们能说明问题，但不如杰维斯所谓的“指数”可靠，“指数”是“带有一些内在证据的陈述或行动这些证据表明所投射的形象是正确的，因为人们相信它们与行为者的能力或意图有着千丝万缕的联系。“28指数不受发送方控制。 它们本身是有用的，但也作为信号和发送者旨在呈现的相关图像的诊断。
昂贵的信号机制和AI
对昂贵信号的研究提供了一个框架，在人工智能和机器学习的背景下思考意图基于对文献的回顾，本文简要阐述了四种信号机制: 捆绑手、沉没成本、分期付款成本和可还原成本。在实践中，这些机制并不相互排斥。它们可以同时使用，以提高承诺的可信度，有时它们之间的界限变得模糊不清。综合起来，它们提供了几种途径，公共、私人和非政府行为者可以通过这些途径表达对Al的意图。
实践中的高成本信号
军用AI和自主武器
如果有人想证明信号和噪音是很难区分的，那么关于致命自主武器(LAWS)的国际辩论将是一个很好的起点。本案例研究揭示了在新的和不断发展的政策制定领域，不仅涉及政府官员，而且还涉及商业实体的声明和行动的信号的复杂性。鉴于在低信任环境中传递意图的挑战，本案例探讨了捆绑、沉没成本、分期付款成本和可还原成本作为稳定大国之间关系的机制的作用，因为它们正在竞争开发和部署军事AI应用程序。
政策考虑和经验教训
在低信任度的情况下，昂贵的信号提供了一种沟通意图的方式，但它们今天的运作方式与冷战时期不同。经济环境发生了变化，商业实体在推动创新方面的作用显著扩大。在竞争日益激烈的全球科技环境中，双重用途技术显然为信息传递带来了挑战和机遇。基于对军用铝和自主武器的主要功率信号的仔细研究，美国国防部的政府对民主人工智能的信号，以及围绕强大的语言模型发布的私营部门的信号，本研究强调了以下政策考虑和经验教训。
报告共计：66页
海量/完整电子版/报告下载方式：公众号《人工智能学派》