ChatGPT的潜在军事应用分析
1
前言
OpenAI于2022年11月30日开放测试ChatGPT聊天机器人，此后ChatGPT风靡全球。两个月后，ChatGPT用户达到1亿，在1月份的访问量约为5.9亿。瑞银银行分析师在报告中写道，这是互联网领域发展20年来，增长速度最快的消费类应用程序。在以ChatGPT为代表的生成式人工智能（Generative AI）技术迅速风靡互联网后，其在军事及情报领域可能具有的巨大潜在价值，也开始引起相关领域专业用户们的关注——负责美国军事网络基础设施建设及运维的国防信息系统局（DISA）已在考虑将生成式人工智能纳入其新一财年的“关注技术清单”（tech watch list）。
ChatGPT与以往公开提供服务的对话机器人相比，性能有了显著提高，这得益于Transformer和GPT等相关技术的发展，Transformer是一种用于序列到序列任务的神经网络模型，使用了注意力机制来计算输入序列和输出序列之间的关系，GPT技术提出了自然语言的一种新的训练范式，可通过对海量数据的无监督学习来训练一个语言模型。
2
ChatGPT具备的能力
ChatGPT是一种专注于对话生成的语言模型，它能够根据用户的文本输入，产生相应的智能回答，这个回答可以是简短的词语，也可以是长篇大论。通过学习大量现成文本和对话集合（例如Wiki），ChatGPT能够像人类那样即时对话，流畅地回答各种问题，支持包括英文在内的多种语言（例如中文、韩语等），从回答历史问题，到写故事，甚至是撰写商业计划书和行业分析，“几乎”无所不能，ChatGPT具备以下能力：
(1)回答问题和撰写文章：ChatGPT能通过与人做文字对话的方式，针对人输入的提示文字，提供相应的文字回答，且回答的内容形式上合理。此外，ChatGPT还可以写脚本、写作业、写论文、创作诗歌、故事等。
(2)总结提炼。ChatGPT能对输入的材料进行总结提炼，用户可以给它输入一篇文章，让它概括文章大意；或者给它输入一段讨论，让它总结主要观点和论证。
(3)生成代码。ChatGPT的代码能力非常强，当用户提一个要求，比如“如何实现XX效果？”，ChatGPT 会生成几种可行的方案，并提供这些方案的主要函数和算法；当用户向它提问，比如“在XX情况下出现了一个bug，为什么？”，ChatGPT会分析几种可能的原因，并告知用户如何处理每一种可能性。
3
ChatGPT存在的不足
尽管ChatGPT表现出出色的上下文对话能力甚至编程能力，完成了大众对人机对话机器人（ChatBot）从“人工智障”到“有趣”的印象改观，但是ChatGPT技术仍然有一些局限性，还需不断进步。
1）ChatGPT在其未经大量语料训练的领域缺乏“人类常识”和引申能力，甚至会一本正经的“胡说八道”。ChatGPT在很多领域可以“创造答案”，但当用户寻求正确答案时，ChatGPT也有可能给出有误导的回答。例如让ChatGPT做一道小学应用题，尽管它可以写出一长串计算过程，但最后答案却是错误的。因此，ChatGPT在某些领域的问题回答方面虽然读起来逻辑通顺，但是一些常识性错误可能只有专业人士才能发现。
2） ChatGPT无法处理复杂冗长或者特别专业的语言结构。对于来自金融、自然科学或医学等非常专业领域的问题，如果没有进行足够的语料“喂食”，ChatGPT可能无法生成适当的回答。
3） ChatGPT需要非常大量的算力（芯片）来支持其训练和部署，目前ChatGPT在应用时仍然需要大算力的服务器支持，而这些服务器的成本是普通用户无法承受的，即便数十亿个参数的模型也需要惊人数量的计算资源才能运行和训练，如果面向真实搜索引擎的数以亿计的用户请求，如采取目前通行的免费策略，任何企业都难以承受这一成本。
4） ChatGPT还没法在线的把新知识纳入其中，而出现一些新知识就去重新预训练GPT模型也是不现实的，无论是训练时间或训练成本，都是普通训练者难以接受的。如果对于新知识采取在线训练的模式，看上去可行且语料成本相对较低，但是很容易由于新数据的引入而导致对原有知识的灾难性遗忘的问题。
5） ChatGPT仍然是黑盒模型。目前还未能对ChatGPT的内在算法逻辑进行分解，因此并不能保证ChatGPT不会产生攻击甚至伤害用户的表述。
4
ChatGPT的潜在军事应用
此外，美国空军也曾探索过利用自然语言处理技术开发类似ChatGPT的智能问答系统。2018 年1 月，美空军发布数字企业多源开发助手（MEADE）项目的广泛机构公告，寻求研发一种交互式问题解答系统，作为虚拟助手帮助分析人员开展数据分析。MEADE 项目将基于多情报源搜索/检索、自然语言处理、推荐引擎、应用分析等人工智能技术构建一种在云端或分布式计算环境中运行的会话式问答系统，提供交互式搜索、信息检索并分析能力。同时开发情境融合和预测分析服务，利用人工智能技术进行多源情报的数据分析、跨多平台或多传感器的情境融合以及实体行为分析，最终为给定态势生成最优的行动方案，以此提高作战人员在快节奏战场中的海量数据分析和方案筹划能力。
ChatGPT可以进行自然语言处理和语义理解，其生成式人工智能技术并具有强大的文本生成能力，其文本生成能力取得了革命性突破，这类技术能够有效改进战场上的人机交互过程，具有以下应用潜力：
（1） 任务分析能力
在任务分析阶段，分析人员需要处理和融合信息以生成一张通用作战图（COP）。为完成该任务，分析人员需要对接收的信息进行分类并确定当前态势以构建动态更新的COP，此外，还需要检测己方系统是否被欺骗。在生成式人工智能技术的辅助下，战术级系统可根据接收到的情报报告的自动生成态势分析报告。
（2）简化参谋工作流程
在计划执行过程中，生成式人工智能技术可用于自动生成报告总结。在层级指挥结构中，上级需要接收下级的信息，如果没有报告总结上级将接收过量的信息。传统的总结报告需要从原始文档中复制和粘贴相关内容，目前可利用ChatGPT的摘要生成式方法来总结报告，从而加快报告的上报速度。
（3）加速情报信息共享
ChatGPT聊天机器人能够快速处理大量的情报信息，为部队信息共享提供支持，这种聊天机器人已经在俄乌冲突中得到了应用，乌克兰副总理米哈伊洛•费多罗夫迅速主导乌克兰数字改革部开发了一款基于聊天机器人Telegram的“电子敌人（e-Enemy）”情报众筹应用程序（eVororog），并号召乌克兰民众大量下载，从而可将手机拍摄到俄军的即时动态和定位情报上传汇集，供乌克兰军方发现、打击俄军。
（4）开展信息战行动
在一个数字化程度不断提高的国家，一个新的聊天机器人被介绍给公众。这个聊天机器人能被宣传为人工智能驱动的虚拟助手，被数百万人用来交流，获取新闻和信息，并参与政治讨论。但是这个聊天机器人可能是由一个敌对的外国行为者设计和编程的，目的是操纵公众舆论，破坏国家的政治格局。随着选举季节的开始，该聊天机器人开始传播虚假信息，使用微妙而复杂的战术来操纵公众舆论。这些虚假信息旨在分化民众，破坏对政治机构的信任，并散布关于主要候选人的虚假说法。自推出以来，已经有许多ChatGPT传播虚假信息的例子，这可能进一步分化社会，造成分裂和不信任。一项研究用 "Minsinformation Fingerprints "目录中的100条错误叙述来引诱ChatGPT，发现80%的提示中，聊天机器人上当了，并提供了关于实质性话题的虚假和误导性声明，如COVID-19、乌克兰战争和校园枪击事件等。
虽然ChatGPT所用的生成式人工智能技术能够大幅提升战场上的人机交互能力，加快信息处理速度，但是由于这类技术目前的可解释性较低，在用户信任方面仍有一定差距。此外，训练和部署ChatGPT模型在计算上要求很高，并且需要能够处理大量数据和处理复杂算法的强大计算平台，因此这种模型难以应用到战术边缘。
本文来源：防务快讯
关注公众号了解更多
会员申请 请在公众号内回复“个人会员”或“单位会员
欢迎关注中国指挥与控制学会媒体矩阵
CICC官方网站
CICC官方微信公众号
《指挥与控制学报》官网
国际无人系统大会官网
中国指挥控制大会官网
全国兵棋推演大赛
全国空中智能博弈大赛
搜狐号
一点号