漫⻓的30年间,数度从主流⽅向的超然出⾛,是Bengio的制胜秘诀。这种不盲从主流的⻛格体现在他研究⽣涯的⽅⽅⾯⾯。90年代末期,神经⽹络被打⼊冷宫,Bengio的论⽂多次遭拒,连学⽣们也开始担⼼,和他⼀起研究神经⽹络会导致毕业后找不到⼯作。“那场有关神经⽹络的⽂化沙漠可能‘劝退’了很多研究者,但我有点固执,坚信我们应该坚持下去。
”⽽时过境迁,如今神经⽹络早已成为主流,审稿⼈的看法也发⽣了翻天覆地的变化。
此时,Bengio却已经开始研究新⽅向,寻找新问题。“我认为不能把所有鸡蛋放在⼀个篮⼦⾥,我们应该探索更多不同的⽅法。在过去的七年⾥,我⼀直在努⼒探索当前神经⽹络⽅法的局限性,这样才能让未来的⼈⼯智能具备当前缺乏的能⼒。
”谈及现如今Scaling Law催⽣的模型性能⼤爆发,Bengio依然保持着客观审慎的思考,他认为“Scaling Law并不是理论定律,只是基于经验性观察总结的规律。为了解决⼤模型⽬前存在的问题,我们需要探索Scaling Law之外的新⽅法。”
在OpenAI等巨头纷纷为AGI的到来摩拳擦掌之时,Bengio更关⼼的是如何应对AI对⼈类的潜在⻛险。正如奥本海默所带来的核末⽇⼀样,AI引发的⼈类安全危机甚⾄⽐核武器更为沉重。Bengio坦⾔,假如有机会回到年轻时,会提醒当时的⾃⼰注意AI⻛险,⽽即便覆⽔难收,当下最重要的是明确,“我能做什么,我们每个⼈能为⼀个更好的世界做什么。”