ICML2021刚刚做出了一个“艰难的决定”:将论文接收率直接砍掉10%

机器之心报道

编辑:蛋酱、小舟

年初投过 ICML 2021 的同学们要注意了,组委会刚刚做出了一个艰难的决定……影响结果是,各位的论文的接收概率似乎又下降了一点。今天,马里兰大学计算机系副教授 Tom Goldstein 在推特上表示,他从一位 ICML 2021 主席那儿获知,大会主办方正准备削减本次的论文接收数量。「请与您的SAC一起提升水准,AC/SAC 不再仅因为未出现错误就同意接收一篇论文。」

ICML 是机器学习领域最重要的会议之一,在该会议上发表论文的研究者也会备受关注。近年来,ICML会议的投稿数量一直增长:ICML 2020 投稿量为4990篇,ICML 2021的投稿量据说更多,有研究者在官网注册ID,发现已经排到了8000多名。这一度让人好奇,ICML 2021 会成为CVPR 2020 之后又一个「投稿破万」的AI顶会吗?

投稿数量激增一定会带来很多问题,比如审稿人数量不足、工作量激增、部分审稿人资质不足,长远来看也会对会议本身的口碑造成影响。

也许这就是推动ICML 2021 主办方决定主动降低接收率的原因之一。Tom Goldstein 补充说:「他们表示首要任务是接收有趣的、原创的(或高风险的)论文,但没有说明为什么要削减目前接收的论文数量……」同为AI顶会,其实 ICML 会议并不属于接收率很高的那一档:ICML 2019 为22.6%,ICML 2020 为 21.8%。相比于26.5%(ICLR 2020)、28.7%(ICLR 2021)等数字来说,是有一定差距的。

普林斯顿大学计算机教授 Ryan Adams 透露,本次降低的接收比例大概是10%:「根据当前的 Meta-Review 统计数据,我们需要提高接收标准。请与 AC 协调以减少大约10%的接收。」但这一消息也受到了机器学习社区部分研究者的质疑,Ryan Adams 就认为:作为线上举办的会议,又不受线下资源限制,为什么要来这么一出呢?滑铁卢大学教授Gautam Kamath也认为:我同意「论文没有错」确实不足以被接收,论文也应该有趣。但我不同意减少接收论文的数量,尤其当我们没有传统的空间限制时。纽约大学教授机器学习教授Andrew Gordon Wilson表示,基于平均审阅者分数对论文进行排名也是个问题,特别是如果目标是鼓励「冒险」和「启发性」,这样的论文在得分上常常是两极分化的。有人认为ICML会议主办方搞的这个方法,如果真正落实,未必会取得更好的效果:

理想效果:1、会议排名提升;2、效果提升。

实际效果:1、审稿心态变为「为什么要拒掉这篇稿」,而不是「为什么要接收这篇稿」;2、技术上不合格或懒惰的审稿人变得更加不认真,为了让均分低于6.0而审稿,不再好好阅读Rebuttal。再过几天,ICML 2021就要放榜了,骤闻拒稿新规,各位投稿人心里大概是起起落落……

顶会该怎么改革?

随着投稿数量逐年激增,机器学习顶会审稿压力日益加大,审稿质量也成为人们的一大忧虑。最近,各大顶会也都纷纷推出改革措施,以提升审稿质量。围观之后,方式主要有几种:

降低接收率

以IJCAI为例,降低论文接收率也许是提升顶会论文质量的一种方法。在4月30日放榜的IJCAI 2021上,论文接收率仅为13.9%。相比于去年的12.6%虽略有上涨,但仍低于15%。对比往年接收率会发现,IJCAI的论文接收率自2016年开始出现断崖式下跌。图源:https://github.com/lixin4ever/Conference-Acceptance-Rate

另一方面,一些顶会通过改革审稿机制来提升论文质量。

公开审稿意见

今年4月初,NeurIPS 2021宣布将大会的全部审稿流程转移到论文审阅平台 OpenReview 上,并在被公开的论文下,把审稿意见、作者的讨论等内容全都一并曝光出来。NeurIPS 2021大会方面表示:「尽管现在我们还是无法利用开放审稿系统的全部好处,但新政策确实可以给论文作者们提供一个可以公开显示,并反击论文评审中存在问题的机会。」糟糕的审稿意见。

滚动审稿

国际计算语言学协会 ACL 今年推出了自己的新机制 ACL Rolling Review,它适用于所有 ACL 系列会议和 Workshop 的投稿与审稿流程。这种滚动审稿机制将在今年 11 月 7 日举行的 EMNLP 2021 大会上首次得到应用。AI协助审稿

在一些AI 顶会的审稿工作中,主办方使用了 Toronto Paper Matching System (TPMS),在此之前 TPMS 也被应用于其他多个会议的投递论文分配工作,它通过对比投稿论文和审稿人研究工作之间的文本,来计算投稿与审稿人专业知识之间的相关性。这个筛选过程是匹配系统中的一部分,期间审稿人也可以主动争取自己希望审阅的论文。TPMS架构。

此外,OpenReview 开发了一种「亲和力评测」系统,借助了神经网络「Spectre」来分析论文标题和摘要。OpenReview 和麻省大学阿默斯特分校的计算机科学家 Melisa Bok 和 Haw-Shiuan Chang 表示:「包括 NeurIPS 在内的一些计算机科学大会将在今年把亲和力评测系统与 TPMS 结合使用。」

在机器学习论文爆炸的今天,顶会不断引进的新措施将让论文质量迈上一个新的台阶。

参考链接:

[D] ICML Conference: "we plan to reduce the number of accepted papers. Please work with your SAC to raise the bar. AC/SAC do not have to accept a paper only because there is nothing wrong in it." from MachineLearning

原标题:《ICML 2021刚刚做出了一个「艰难的决定」:将论文接收率直接砍掉10%》

发表评论

电子邮件地址不会被公开。 必填项已用*标注

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据