AI造假如何应对？ChatGPT冒充英国记者写文章，记者：太逼真了，我都信了

据英国《卫报》4月6日报道，《卫报》社内一位记者3月收到了一封有趣的电子邮件，一名研究员在进行研究时查找到了一篇文章，是该记者在几年前写的，但在《卫报》网站中却搜不到这篇文章。这位记者也不记得自己写过，但是文风和主题都确实高度雷同，连他自己都不敢肯定到底是不是自己的文章。《卫报》方面担心出问题，把内部系统翻了个底朝天，但是这篇文章的确从来没有存在于他们的官方网页中，连删除的记录都没有。

为什么？因为这篇文章是ChatGPT编写的，而非记者写的。

研究员称，他在研究的时候用到了ChatGPT，让ChatGPT替他找来一些类似主题的文章，于是GPT就编了这篇文章出来给他。内容非常流畅，完全看不出来拼凑的痕迹。甚至记者本人都不敢说自己一定没写过，因为和他的风格实在太像。

ChatGPT等AI编造事实已经不是什么新鲜事了。特朗普被起诉后，网上开始流传一张特朗普以一种极其夸张的方式被警方围捕的照片，实际上特朗普是毫发无伤地走出法庭，坐飞机回家充满激情地辱骂检察官和拜登。照片是一个网民用AI合成的。媒体和记者都对类似现象深感不安，因为如果不是这位研究员多问了一句，他可能就真的会把这篇从未存在过的《卫报》文章拿去用在研究里，到时候万一出问题，《卫报》就百口莫辩了。专家还担心，AI这种行为可能会促进阴谋论滋生。想象一下，如果ChatGPT告诉你，某报发表过敏感内容，但却又搜不到，那会不会是该报社心虚，偷偷删除了这篇文章呢？AI的高度发展让本就半真半假的互联网更是充满了重重疑云。

4月初，推特上广泛流传的一张夸张的特朗普被捕照。实际上这是网友用图像生成AI“Midjourney”合成的。

从11月到1月，ChatGPT只用了短短两个月的时间就使注册用户增长到了1亿。不久后，微软也推出了类似的生成式人工智能。最近一项针对1000名美国学生的研究发现，89%的学生用ChatGPT辅助自己写作业。推出不到半年，AI已经以惊人的速度融入人们的日常，在提高效率的同时，带来了大量伦理问题。

生成式AI的问题在于，它能提供大量细节，如文章的遣词造句、照片中人物的皱纹和毛发，以及视频中主播的语速和腔调，让内容看起来无比流畅而真实，但这些细节都是不透明的。AI不会告诉你它是从哪里找来这些数据，不会去鉴定这些数据的真假，也不会给使用AI的人提供一个高效的去伪存真的途径。当特朗普被围捕的照片传遍网络，它本身就已经成为AI数据库的一部分，可能会滋生更多的假照片、假新闻。甚至许多自媒体信以为真，没有去核查事实，直接看图写作，发了不少“特朗普被捕”的新闻通稿，而这些假新闻又将成为AI的养分。这些都会模糊人们的认知，甚至模糊历史的真相。

亨利·阿杰德(Henry Ajder)的专业领域就是合成技术，作为顾问供职于多家公司和政府，包括Meta。阿杰德担心，网上会有太多虚假的却又十分真实的内容，误导大量网民。今后，人们的认知来源将都是一些虚假的东西，观点也都不再基于事实和实证。

据CNN报道，生成特朗普被捕图的AI工具“Midjourney”团队仅成立不到一年，只有11个全职员工，却已经造出了大量假照片，包括醉酒的教皇方济各和穿着特斯拉机器人紧身衣的马斯克，这还仅仅只是过去几天的作品。Midjourney的CEO大卫·霍尔兹（David Holz）发帖称，由于“巨大的需求和滥用”，Midjourney已经暂停了免费试用。

特朗普被捕照片的创作者声称，Midjourney已经禁止他访问。他合成照片的时候没有恶意，甚至明确标注了图片是假的，但是网上一顿疯转，许多人不标注也不关注真伪，假的慢慢就成了真。

目前，各大社交平台都在着手解决这个问题，例如引入辨别图像真伪的系统，但专家指出，此举可能也会带来反效果，即给用户虚假的信心。如果系统不小心漏掉了一张虚假图片，用户却因为该图片经过了系统检测，就认定图片一定是真的。另外，也有在图片生成时自动加上水印等方案。

此前，包括马斯克和苹果联合创始人史蒂夫·沃兹尼亚克在内的一批科技精英写了一封公开信，呼吁停止训练尖端AI至少6个月，理由是“对社会和人类造成了深刻的风险”。不过，目前还不清楚是否有团队真的停止。另外，意大利政府已经禁止使用ChatGPT，理由是ChatGPT危及用户隐私。

4月4日，一位学生联系《卫报》，询问另一篇出自该报记者之手的文章。《卫报》同样翻遍系统也没找到那篇文章。所以文章是哪来的？一问，又是ChatGPT。

特朗普团队出售印着特朗普入狱照的周边。当然是AI合成的。

《卫报》写道，他们将致力于找到和AI和平共处的方法，并继续思考新闻的意义究竟是什么，新闻的价值究竟在哪里。世界上各个机构仍然在就如何合法合规地使用AI，尽量避免产生伦理问题而绞尽脑汁。究竟要不要禁止？不禁止的话，应该怎么用？这些全都还没有一个确定有效的方案。

围绕AI的道德争议还在继续，假照片也在源源不断流出，5日有人发出特朗普竞选团队制作的特朗普周边T恤照片，虽然团队的确有打算把他的入狱照印在T恤上，但可没有发布过这种商品（而且还要价36美元）。一位网友调侃道，36美元可以买7个巨无霸，就算特朗普一次吃两个，都够喂饱三个半特朗普了——虽然他不配在局子里吃麦当劳。然而这张照片在推上已经被转疯了，甚至有的大V媒体都在转发。一位网友感慨自己竟然真的信了这些假照片——“看来我是很难在如此科幻的未来存活了。”

九派新闻实习记者

【来源：九派新闻】

版权归原作者所有，向原创致敬