ICLR 2021于前些天正式放榜,本次ICLR 2021一共有2997篇有效论文投稿,最后一共860篇被接收,录取率达到了28.7%,相比去年的26.5%有提升,与其他一些AI顶会大幅降低接收率相比,ICLR似乎显得更加友好。被接收论文中有53篇论文被接收为Oral(录取率仅为6%)、114篇论文被接收为Spotlight、693篇论文被接收为Poster。
在论文放榜之后,Criteo AI Lab机器学习研究科学家Sergey Ivanov,他又一次火速爬取了ICLR 2021全部的被接收录用的论文,并统计出了每位作者的论文接收量,简单做了个排名。本表不仅统计出了作者的论文全部投稿量和接收数量,还统计出了论文被接收为Oral还是Spotlight。
之后,斯坦福大学Sharon Zhou在Sergey Ivanov统计数据的基础上做了如下的一些列可视化统计,Sharon Zhou本科毕业于哈佛大学计算机专业目前为斯坦福大学计算机专业博士生,其导师是吴恩达。
下图显示了ICLR 2021论文接收量排名前二十的研究机构,分别是:谷歌、斯坦福大学、UC伯克利大学、卡纳基梅隆大学、麻省理工学院、微软、KAIST、牛津大学、Facebook、蒙特利尔大学、苏黎世联邦大学、华盛顿大学、Deepmind、清华大学、德克萨斯大学奥斯汀分校、剑桥大学、普林斯顿大学、多伦多大学、南加州大学。
下图也是ICLR 2021论文接收量排名前二十的研究机构统计图,和上图的差别多出了论文的投稿量(灰色部分也即是论文被拒的数量)。可以看出谷歌全部的论文投稿量多达400余篇!这样来看,论文被接收近200篇也才是近50%的接收率。同样可以看出前二十的研究机构论文接收率基本都不会高于50%。
下图是ICLR 2021论文平均分排名前二十的研究机构,腾讯天衍实验室平均分7+排名最高,另外同样排在前二十的国内研究机构还有商汤科技、华为诺亚方舟实验室。而在接收论文平均得分最高的 Top 20 研究机构中,艾伦人工智能研究所以近8分的平均得分位列第一,国内腾讯天衍实验室、商汤分列第4和第9位。
以下是 ICLR 2021 论文接收量排名前二十的作者,可以看出论文接收量最高的,是来自加州伯克利分校电气工程与计算机科学系的助理教授Sergey Levine,今年共有16篇论文被接收(大多都是非一作),简直是论文收割机!论文接收数排名第二的是大家都比较熟知的图灵奖得主Yoshua Bengio,今年共有10篇论文被接收。
以下也是ICLR 2021论文接收量排名前二十的作者,和上图相比多出了论文的投稿量(灰色部分也即是论文被拒的数量)。而从上图可以看出LSTM发明人Juergen Schmidhuber有5篇论文投稿且全部被接收,接收率100%!另外还可以看出Sergey Levine的投稿量达到了令人震惊的30篇!
值得一提的是,他最近两年有12篇论文被NeurIPS 2020接收,12篇论文被NeurIPS 2019接收,同样位列NeurIPS榜单的第一位,实在是恐怖如斯。以下是以anchor作者身份投稿论文数量最多的前二十位作者,Sergey Levine同样名列第一,刘铁岩紧随其后。
以下是ICLR 2021上以第一作者身份接收量Top 20的作者,可以看出百度旧金山实验室的研究科学家Yuanpeng Li和Dani Kiyasseh二人并列第一,都有5篇论文被接收。在本次ICLR 2021上华人学者表现亮眼,其中论文接收量5篇以上的有6人,分别是:汪张扬8篇、刘铁岩7篇、熊蔡明6篇、王小龙6篇、陈天龙5篇、杜少雷5篇。
而论文接收量4篇的学者当中也能看到微软亚洲研究院秦涛、斯坦福大学马腾宇、清华大学张崇杰、清华大学朱军等人的身影。以下对汪张扬等6人做一简单介绍。汪张扬2012年从中国科大电子工程系获得学士学位,之后博士就读于UIUC,师从Thomas Huang教授。目前是德克萨斯大学奥斯汀分校计算机科学工程学院助理教授。他最新的研究兴趣集中在AutoML、基于学习的优化、机器学习的鲁棒性和高效的深度学习上。
刘铁岩为微软亚洲研究院副院长、IEEE Fellow、ACM杰出科学家。刘铁岩本硕博均就读于清华大学,是机器学习和信息检索领域的知名专家,尤其是在排序学习方面取得了国际领先的研究成果。同时还是中国科技大学和南开大学的客座教授。熊蔡明目前是Salesforce AI的高级研究总监。2014年6月至2015年9月,他于加州大学洛杉矶分校(UCLA)担任博士后研究员。
2014年他在纽约州立大学布法罗分校计算机科学与工程系获得博士学位(由Jason J. Corso教授指导)。他分别于2005年和2007年在华中科技大学获得计算机科学学士学位和硕士学位。王小龙目前为加州大学圣地亚哥分校助理教授,他本科就读于华南农业大学计算机科学专业,硕士就读于中山大学计算机科学专业,博士毕业于CMU机器人专业(卡内基梅隆大学),博士导师是Abhinav Gupta。
博士后在加州大学伯克利分校AI研究院((BAIR))度过。曾获得2013年谷歌奖研金、2017年英伟达奖学金。2014年获ICME最佳学生论文。曾担任或即将担任CVPR 2021、AAAI 2021和ICCV 2021的领域主主席。陈天龙目前是德克萨斯大学奥斯汀分校博士生,导师为上文介绍的汪张扬教授(助理)。他本科就读于中科大少年班。他的研究兴趣包括AutoML、对抗鲁棒性、自监督和图神经网络等。
他在NeurIPS、CVPR、ICCV、ICLR、ECCV、ICML等顶会上一共发表了20多篇论文。其中他在NeurIPS 2020上也有5篇论文发表,且都为一作或共同一作。杜少雷目前为华盛顿大学助理教授。
他本科(2011年-2015年)就读于加州大学伯克利分校,取得了电子工程和计算机科学、工程数学与统计学双学位,他于2013年在清华大学电子系做过一段交换生,博士毕业于卡内基梅隆大学机器学习专业,博士后于普林斯顿度过。他的研究兴趣包括深度学习、表征学习和强化学习等。他在NeurIPS 2020上有六篇论文被接收。
除此之外,杜少雷博士也曾在微软研究院、Facebook AI研究院、谷歌大脑等有着丰富的研究实习等经历。本次ICLR 2021提交论文关键词的词云图:以下则是每篇论文的作者人数分布图,可以看出论文作者为三人的数量最多,达到了631篇。
论文共同作者最多的论文则是:《Predicting Infectiousness for Proactive Contact Tracing》,这篇论文一共有多达23位的作者,且容易看到这篇论文的第一作者正是Yoshua Bengio。论文标题最短的论文则是《AlgebraNets》,这篇论文只有一个单词,这篇论文研究了神经网络中实值权重的多种替代方法,并声称并找到了有前途的替代方法。
不过很遗憾的是这篇论文被拒绝了。