衡宇 发自 凹非寺
量子位 | 公众号 QbitAI
太离谱!
有人用Midjourney给生物学论文配图,画得漏洞百出,结果还一路顺畅成功发表???
比如下面这幅Figure 1,就被大家“一起来找茬”,轻易找出了5处不符合现实的情况。
这里小卖个关子,究竟有哪五处错误,我们放在本文文末揭晓(doge)。
更令人费解的是,接收并发表该篇论文的期刊,是生物学SCI期刊 Frontiers in Cell and Developmental Biology(《细胞与发育生物学前沿》,为方便阅读,下文统一简称Frontiers),影响因子在5.5左右。
发表3天,该论文就有30万+的阅读量,以及超16000的下载量。
Unbelievable!
被发现并指出后, Frontiers采取的紧急公关策略简单粗暴:撤稿。
还原离谱AI绘画事件始末
舆论风暴中心的这篇论文,叫做《Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway》(《精原干细胞的细胞功能与JAK/STAT信号通路的关系》),是一篇综述(review)文章。
论文的主要内容是全面回顾精原干细胞 (SSC) 和JAK/STAT信号通路之间的相互关系。
三名作者均来自中国西安,从事脊柱外科方面的工作。
根据此前的信息,该论文主编为来自印度国家乳制品研究所的Arumugam Kumaresan;2位审稿人一位同样来自印度,名叫Binsila B. Krishnan,另一位则在美国西北大学医疗系统工作,名叫Jingbo Dai。
Frontiers官网信息显示,该论文于去年11月17日投稿,12月28日圣诞假期间被接收,正式发表则是2月13日,即上周的事儿。
但就是这么一篇论文,文章配图令人大跌眼镜。
除了本文开篇提到(并将在文末揭晓答案)的鼠鼠配图,以下几张配图都有无法容忍的bug。
这是Figure 2:
网友们指出,这张图颜色丰富,乍一看很不错。
但稍微仔细一点,就能发现里面的文字那叫一个鬼画桃符,并且箭头和流程连接也缺乏逻辑。
更重要的是作者们也没来个图例注释,根本不知道图上都是些什么……
接下来看看Figure3:
同样也是色彩丰富鲜艳,实则“中看不中用”。
究竟为什么,本该严谨的学术论文会出这么大岔子?
其实谜题就在谜面上,作者们早就明明白白地标出来了——
文章中的配图,是由AI生成的,用的还是Midjourney。
众所周知,AI绘画可能存在bug,在写字方面也并不精通,这才导致了这场闹剧。
因此,发表3天后,Frontiers出版社宣布,对这篇论文作撤稿处理。
同时宣布进入调查程序。
(这篇论文)发布后,人们对其中由AI生成的数据的性质提出了担忧。该文章不符合本刊的编辑和科学严谨标准;因此,该文章已经被撤回。
撤回行为已得到Frontiers首席执行编辑的批准。我们衷心感谢因本次事件来联系我们的读者们。
网友玩梗,疯狂鞭尸
对于这件乌龙事,Frontiers处理得其实还算迅速。
然而网友们并不特别买账,在网络上开启了机关枪式嘲讽。
具体方式就是用AI绘画,然后配文一顿瞎编。
非常高兴和大家分享我写的《关于他汀类药物引起的舞蹈》的Frontiers review。
但看这条推文,好笑程度100%,但看到这条推特底下的评论,好笑程度10000%。
网友是这么说的:“简直是100个AI机器人‘盲’审的。”
玩梗鞭尸的人还有人多,比如下面几个:
“恭喜
您题为“小鼠胃肠道模型”的论文已完成同行评审,现已准备在Frontiers发表。”
这是我写的最新文章,《胎儿编程的迷人机制》~
看看我的大作——一篇有关Fly Dck干细胞的文章,它即将在frontiers review上发表。
玩闹之外,还有相关从业人员出来表达了自己的出离愤怒。
有人说,这件事非常糟糕,但居然仅仅是Frontiers发表失实论文的一个小小代表。
而所有有问题的论文,都是经过这次闹剧也经过“同行评审”,才出现在世人面前。
更可怕的是,Frontiers是科学界文献的巨大出版平台,它在全球出版商中排名第六,被引用次数则位列前三。
还有一位剑桥病理学教授站出来,称他对所有卷入本次AI配图事件的人感到羞耻。
发推特还不够,他洋洋洒洒,写了个blog小作文讲述自己的亲身经历。
他曾经是Frontiers的编辑,但现如今不仅已经辞职,还拒绝再为Frontiers审稿。
原因只有一个,那就是Frontiers很难对投稿人说“婉拒了哈”——这或许也是Frontiers近年来发文数量膨胀的主要原因。
由此编辑只能日以继夜、夜以继日地不断审稿。
他认为Frontiers的乌托邦愿景与无限扩展期刊发生了冲突,逐渐走上“发表废话以换取金钱的道路”,与自己道不相同,因此毅然决然辞职拜了个拜。
此外,他还在blog中提到了几点。
一是近10年来,Frontiers发表的文章数量比所有学会期刊发表文章数量的总和还要多。
需要重新设计科学出版,充分意识到它可能被操纵的方式,并预防有毒后果。
二是同行评审的失败。
科学期刊的同行评审质量差异很大。需要严格的认证体系来为出版危害科学的期刊提供依据
三是生成式AI可以快速伪造论文内容(包括数据、配图等),这加剧了目前的混乱局面。
这必须引起重视,需要积极设计系统来减轻这些危害。
在实施有效的防止方法之前,需要警惕警惕再警惕,谨慎谨慎再谨慎。
One More Thing
好了,是时候揭晓本文开头Midjourney画的鼠鼠AI图的不合理之处。
可以对照看看,你都找出来了吗?