图灵奖得主Yoshua Bengio:我不想把⼤模型未来押注在Scaling Law上,AGI路上要“注意安全”

作者: 李梦佳,杨周锦

来源: 智源社区

发布日期: 2024-05-03 12:09:08

图灵奖得主Yoshua Bengio认为,不应将大模型的未来完全依赖于Scaling Law,而应探索更多不同的方法。同时,他强调了AI对人类的潜在风险,并呼吁在追求AGI的过程中注意安全问题。

漫⻓的30年间,数度从主流⽅向的超然出⾛,是Bengio的制胜秘诀。这种不盲从主流的⻛格体现在他研究⽣涯的⽅⽅⾯⾯。90年代末期,神经⽹络被打⼊冷宫,Bengio的论⽂多次遭拒,连学⽣们也开始担⼼,和他⼀起研究神经⽹络会导致毕业后找不到⼯作。“那场有关神经⽹络的⽂化沙漠可能‘劝退’了很多研究者,但我有点固执,坚信我们应该坚持下去。

”⽽时过境迁,如今神经⽹络早已成为主流,审稿⼈的看法也发⽣了翻天覆地的变化。

此时,Bengio却已经开始研究新⽅向,寻找新问题。“我认为不能把所有鸡蛋放在⼀个篮⼦⾥,我们应该探索更多不同的⽅法。在过去的七年⾥,我⼀直在努⼒探索当前神经⽹络⽅法的局限性,这样才能让未来的⼈⼯智能具备当前缺乏的能⼒。

”谈及现如今Scaling Law催⽣的模型性能⼤爆发,Bengio依然保持着客观审慎的思考,他认为“Scaling Law并不是理论定律,只是基于经验性观察总结的规律。为了解决⼤模型⽬前存在的问题,我们需要探索Scaling Law之外的新⽅法。”

在OpenAI等巨头纷纷为AGI的到来摩拳擦掌之时,Bengio更关⼼的是如何应对AI对⼈类的潜在⻛险。正如奥本海默所带来的核末⽇⼀样,AI引发的⼈类安全危机甚⾄⽐核武器更为沉重。Bengio坦⾔,假如有机会回到年轻时,会提醒当时的⾃⼰注意AI⻛险,⽽即便覆⽔难收,当下最重要的是明确,“我能做什么,我们每个⼈能为⼀个更好的世界做什么。”

UUID: b4f79bf3-12d3-45d8-861b-92b57b6e8a96

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/学术头条公众号-pdf2txt/学术头条2024年/学术头条_2024-05-03「转」_图灵奖得主YoshuaBengio:我不想把大模型未来押注在ScalingLaw上,AGI路上要“注意安全”.txt

是否为广告: 否

处理费用: 0.0124 元