暂停GPT-5研发呼吁引激战!吴恩达、LeCun带头反对,Bengio站队支持

作者: 编辑部

来源: 新智元

发布日期: 2023-04-02 21:01:54

千位大佬联名呼吁暂停超强AI训练六个月,引发业内激烈讨论。吴恩达、LeCun等反对暂停,认为应平衡AI的价值与风险;Bengio、马库斯等支持暂停,强调需谨慎行事。Sam Altman未明确表态,但提出通用AI的构成要素。Eliezer Yudkowsky则激进主张关闭所有AI开发。

3月29日,千位大佬写的暂停超强AI训练六个月的联名信,如同一枚炸弹一般,在国内外的互联网上炸响。经过了⼀天的唇枪舌剑,几位关键人物以及其他各路大牛,都纷纷出来公开回应。有的非常官方,有的十分个性,也有人并没有直面问题。但有一点可以肯定,不论这些大佬自己的观点,还是背后所代表的利益集团,都值得细品。

此次事件中,前谷歌大脑成员、在线教育平台Coursera创始人吴恩达是旗帜鲜明的反对派。他明确亮出了自己的态度:把「让AI取得超越GPT-4的进展」暂停6个月,这个想法很糟糕。他表示,自己在教育、医疗保健、食品等领域看到了许多新的AI应用,许多人将因此受益。而改进GPT-4也会有好处。我们该做的,应该是在AI创造的巨大价值与现实风险之间,取得一个平衡。

联名信一发出,就有网友奔走相告:图灵奖巨头Bengio和LeCun都在信上签了名!而时时冲浪在网络第一线的LeCun,立马辟谣:没,我没签,我不同意这封信的前提。在谜一般地沉默了20小时后,LeCun忽然转发了一位网友的推文:「OpenAI足足等了6个月,才发布了GPT4!

他们甚至为此还写了一份白皮书....」对此,LeCun大赞道:说得对,所谓「暂停研发」,不过就是「秘密研发」罢了,这与一些签名者所希望的恰恰完全相反。

公开信署名的第一位大佬,便是赫赫有名的图灵奖得主Yoshua Bengio。当然了,纽约大学教授马库斯也投了赞成票。他似乎是最早曝光这次公开信的人。而讨论声逐渐喧嚣之后,他也火速发了一篇博客解释自己的立场,依然充满亮点。

截至目前,对于这封公开信,Sam Altman并未作出明确表态。不过呢,他倒是发表了一些关于通用人工智能的观点。构成好的通用人工智能的要素:1. 对齐超级智能的技术能力 2. 大多数领先的AGI工作之间的充分协调 3. 一个有效的全球监管框架。

还有一位名叫Eliezer Yudkowsky的决策理论家,态度更为激进:暂停AI开发是不够的,我们需要把AI全部关闭!全部关闭!如果继续下去,我们每个人都会死。公开信一发布,Yudkowsky立马写了一篇长文发表于TIME杂志上。他表示,自己没有签字,原因是在他看来,这封信太温和了。这封信低估了事态的严重性,要求解决的问题太少了。

UUID: 8264ae44-fb3e-4aeb-849e-1da3204d8ab0

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/环球科学公众号-pdf2txt/2023/环球科学_2023-04-02「转」_暂停GPT-5研发呼吁引激战!吴恩达、LeCun带头反对,Bengio站队支持.txt

是否为广告: 否

处理费用: 0.0057 元