ChatGPT写的论文,有多少被发表了?

作者: 杜伟、泽南

来源: 机器之心

发布日期: 2023-08-11 18:16:50

斯坦福本科生在谷歌学术搜索中发现大量直接使用ChatGPT生成的论文被发表,引发对学术诚信和AI生成内容滥用的讨论。

ChatGPT出现以后,很多学术机构都发出了禁令,因为这种AI虽然生成能力强,但有时会胡说八道,滥用大模型写文章也违背了做研究的初衷。但随着大模型的应用浪潮,我们很快忘记了刚开始的恐惧。有学术机构正在解禁,微软也计划在年内把ChatGPT整合到Office全家桶里。或许过不了多久,人人都可以用大模型去写文章。这让不得不去想象以后的学术论文会被AI生成的内容冲击成什么样。

其实,这种事可能已经在发生了。今天,有个斯坦福本科生在谷歌学术搜索(Google Scholar)上就发现了这类「浑水摸鱼」的掺假论文。当你输入「“As an AI language model” -“ChatGPT”」搜索时,会搜到很多直接将ChatGPT答案贴上去的论文。

比如下面这篇经过同行评审、发表在《国际工程与技术创新期刊》的论文中,作者似乎遗漏了一个重要的合著者——AI语言模型(ChatGPT)。另外一篇经过同行评审、发表在《网络银行和商业杂志》上的论文,题目为《基于反向传播神经网络和梯度下降的股价预测》,同样有不存在的作者——ChatGPT。开篇就是AI,看上去让人忍俊不禁。

类似例子还有很多,比如下面两篇分别发表在《国际现代农业和环境期刊》和《技术创新和能源杂志》上的论文。更离谱的是,下面这篇发表在《国际高级工程和土木研究期刊》的论文,ChatGPT甚至引用了作者X和Y的一篇虚假(fake)文章。

除了参与论文撰写之外,ChatGPT还参与了一些书籍的写作,比如下面《性知识入门》和《利比亚概览》。

机器之心也在谷歌学术中输入「“As an AI language model” -“ChatGPT”」,结果出现了10个页面,有100篇左右。Andrew Kean Gao的发现在推特(X)上吸引了上百万人的围观,Google Scholar似乎对此很快做出了反应。最新的情况是:很多能被搜到的AI文章只有名字,不给链接了。

不过必须要说的是,这距离真正的「整顿」还差的挺远。在AI领域,大模型的发展速度以天为计,学术期刊的审稿规则为了应对也在急速变化。此前,很多期刊、会议禁止将ChatGPT列为合著者。其中《科学》杂志明确表示不接受ChatGPT生成的论文,也不允许ChatGPT作为论文作者。《自然》杂志则表示可以使用ChatGPT等大语言模型工具撰写论文,但也禁止列为论文合著者。

对于这位斯坦福本科生的发现,有人揶揄道,你不会以为人们在发表论文之前会再通读一遍吧。也有人再补了一刀,在发表之前让ChatGPT再读一遍。或许真正的问题在于,这些论文是如何通过编辑审核或同行评审的。最后有人一语道破天机,表示这些都是四级(four-tier)期刊,只要付钱啥都可以发表,都是一些毫无意义的垃圾。至少目前来说,ChatGPT生成的论文还没造成太大影响。

就是不知这种工具在Office上真正流行起来,学术界会变成什么样子。

UUID: a33a0a15-1d27-4c0f-8de7-12200801f1ab

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/学术头条公众号-pdf2txt/学术头条2023年/学术头条_2023-08-11_ChatGPT写的论文,有多少被发表了?搜完谷歌学术后我慌了.txt

是否为广告: 否

处理费用: 0.0033 元