半个月前,NeurIPS公布了2023 年度获奖论文。
其中时间检验奖颁给了十年前提出开创性的词嵌入技术 word2vec 的NeurIPS 2013论文,这篇论文的作者包含谷歌AI掌门人Jeff Dean以及后来的OpenAI首席科学家 Ilya Sutskever。word2vec目前引用量已经超过 4 万次,该技术可谓大大推动了自然语言处理的发展,本次获奖实至名归,要比单独的一次“最佳论文”更有含金量。
然而有趣的是,word2vec 论文的一作 Tomas Mikolov在获奖后在Facebook上自曝,这篇论文曾被2013年首届 ICLR 会议拒稿,一位审稿人甚至给出了4次强拒绝。
这让Tomas Mikolov感慨审稿人预测论文的未来影响是多么困难。
LoRA 论文的作者也表示在第一次投稿时也被拒绝了,因为审稿人认为 LoRA 太简单了,然而大多数真正有效的事情往往都是简单而优雅的。
事实上,历史上有很多AI大佬们的优秀论文甚至“最佳论文”都曾被顶会拒稿。
前字节跳动AI Lab总监、CMU助理教授李磊发推表示,他们的一篇关于词汇学习的论文在 ICLR 2021上被评审全部拒绝(得分是 4、4、3、3),但在修改了论文提交给ACL 2021后,获得了ACL 2021最佳论文。但李磊表示:“我并不抱怨评审,我们确实听取了意见并对论文进行了大幅修改。
当时这件事还在知乎上引起了广泛讨论。
ACL 2021最佳论文:
CVPR 2020年的最佳论文颁发给了论文《Unsupervised Learning of Probably Symmetric Deformable 3D Objects from Images in the Wild》。这篇论文由牛津大学的吴尚哲、Christian Rupprecht、Andrea Vedak三位合著。
吴尚哲曾表示,该篇论文曾被 NeurIPS 2019 拒稿,NeurIPS评审给到的得分分别是 3、5、7,但遗憾被拒,吴尚哲感慨:“当时投给NeurIPS时,论文工作确实还要需要完善的,论文写作也不够出彩,很庆幸被NeurIPS拒了”。
一位在MIT读博士的知乎网友爆料,提出了彩票假设理论的 ICLR 2019最佳论文《THE LOTTERY TICKET HYPOTHESIS:FINDING SPARSE, TRAINABLE NEURAL NETWORKS》曾被NeurIPS拒稿。
ICLR 2019最佳论文:
彩票假设:任何随机初始化的稠密的前馈网络都包含具有如下性质的子网络——在独立进行训练时,初始化后的子网络在至多经过与原始网络相同的迭代次数后,能够达到跟原始网络相近的测试准确率。
下面还有两篇曾被顶会拒稿的论文工作,虽然都不是顶会最佳论文,但是含金量要比简单的一篇“最佳论文”高的多。
提出了图像处理领域里大名鼎鼎的的SIFT算法(尺度不变特征转换)的论文,大家肯定都不陌生,原作者David Lowe 亲自承认论文曾被1997 年 ICCV 和 1998 年 CVPR两次被拒稿。
计算机视觉领域里无人不知的工作YOLOv1没想到也被NeurIPS拒过。
作者在网站里列出了当时收到的评审,感兴趣的朋友可以查看:
最后,各位科研人员们,如果大家某篇论文被某个顶会拒绝了,请不要灰心不要放弃,说不定转投一下,下一篇顶会最佳论文就是你的了!
- AI所有方向论文合集 & SCI论文写作指导资料 -
➤ 获取:这里是动态链接!点点领取~
【一】人工智能+顶刊顶会论文合集
124个方向,主要包括:目标检测、AIGC、Transformer、边缘检测、点云等636篇论文。
【二】人工智能前沿精选优质论文合集
15个大方向,包括:计算机视觉、自然语言处理NLP、医疗、3D重建、遥感影像等上千篇论文及代码。
【三】AI相关专业论文写作最全指南
14个专题教程,主要包括:SCI写作、顶刊顶会投稿、答辩、润色、硕博专用写作工具等优质资源。