ChatGPT的横空出世万众瞩目，但我们不应忘记在它背后默默无闻的天才。Ilya Sutskever是OpenAI的联合创始人和首席科学家。正是在他的领导下，OpenAI在开发尖端技术和推动人工智能领域的发展方面取得了重大进展。在这篇文章中，我们将探讨二十年间，Sutskever是如何从一个年轻的研究人员一步步走到人工智能领域的领导人物之一的。
无论你是人工智能爱好者，还是研究人员，或者仅仅是对这一领域的内部运作感到好奇的人，这篇文章都会提供宝贵的观点和信息。
Ilya Sutskever，OpenAI的联合创始人和首席科学家，2005年毕业于多伦多大学，2012年获得计算机科学博士学位。
2012年至今，他曾先后就职于斯坦福大学、DNNResearch、Google Brain，从事机器学习与深度学习的相关研究，并于2015年放弃谷歌的高薪职位，与Greg Brockman等人联合创建了OpenAI，在OpenAI主导了GPT-1、2、3以及DALL-E系列模型的研发。2022年，他入选英国皇家科学学会院士。
他是人工智能领域的先驱，在塑造人工智能的当前格局方面发挥了重要作用，并在继续推动机器学习的可能性的界限。他对人工智能的热情让他的开创性研究熠熠生辉，也由此塑造了深度学习和机器学习领域的发展历程。
2003年，Sutskever在多伦多大学读本科时，想加入Geoffrey Hinton教授的深度学习实验室。他直接敲开了Hinton教授办公室的门，询问自己是否可以加入实验室。
教授让他提前预约，但Sutskever不想再浪费时间，于是立即问：“就现在怎么样？”Hinton意识到Sutskever是一个敏锐的学生，于是给了他两篇论文让他阅读。Sutskever一周后回到教授办公室，告诉教授他不理解。Hinton问：“为什么不理解？”Sutskever解释说：“人们训练神经网络来解决问题，当人们想解决不同问题时，就得用另外的神经网络重新开始训练。
但我认为人们应该有一个能够解决所有问题的神经网络。”这段话展示了Sutskever得出结论的独特能力，而这种能力即使是有经验的研究人员也需要花费数年时间才能找到，Hinton于是向他发出邀请，希望他加入自己的实验室。
2011年，Sutskever在多伦多大学时，曾飞到伦敦去DeepMind找工作。
在那里他见到了DeepMind的联合创始人Demis Hassabis和Shane Legg，他们正在建立AGI（人工通用智能）。AGI是一种通用的人工智能，它能够像人类一样思考和推理，并完成与人类智能相关的各种任务，如理解自然语言，从经验中学习，做出决定，以及解决问题。在当时，AGI并不是严肃的研究人员会谈论的东西。
Sutskever也认为他们已经与现实脱节，所以他拒绝了这份工作，回到了大学，最终于2013年加入了谷歌。
2012年，Sutskever在ImageNet竞赛中获胜。Geoffrey Hinton慧眼独具，在其他人都不相信的时候相信了深度学习。他坚信，在ImageNet竞赛中获得成功就会彻底解决这一争论。
ImageNet竞赛是斯坦福大学的实验室每年举办的比赛，参赛者需要创建一个能够识别最多图像的系统。Hinton的两个学生，Ilya Sutskever和Alex Krizhevsky参加了这个比赛。他们打破了传统的手工设计方案，采用了深度神经网络，并突破了75%的准确率大关。因此他们赢得了ImageNet竞赛，他们的系统后来被命名为AlexNet。从那时起，图像识别领域焕然一新。
之后，Sutskever、Krizhevsky和Hinton发表了一篇关于AlexNet的论文，这篇论文成为计算机科学领域被引用次数最多的论文之一，总共被其他研究人员引用了六万多次。
2013年，Sutskever与Krizhevsky一起成立了DNNresearch。他们没有任何产品，也没有在未来打造任何产品的计划。
Hinton问律师，如何让他的新公司具有最大的价值，尽管目前只有三名员工，既没有产品，也没有底蕴。律师给他的选择之一是设立一个拍卖会。最终，Hinton以4400万美元将他的公司卖给了谷歌。他认为为他的研究找到合适的“家”更重要。在这之后，Sutskever成为了谷歌大脑的研究科学家，他的想法产生了更大的变化，并开始与DeepMind创始人的想法逐渐一致。他开始相信，属于AGI的未来就在眼前。
2014年，Sutskever在谷歌工作期间发明了一种神经网络的变体，能将英语翻译成法语。他提出了“序列到序列学习”，它能捕捉到输入的序列结构（如英语的句子），并将其映射到同样具有序列结构的输出（如法语的句子）。他的发明击败了表现最好的翻译器，为谷歌翻译提供了重大升级。
2015年，Sam Altman和Greg Brockman将Sutskever和其他9名研究人员聚集在一起，尝试是否还有可能与该领域最优秀的人才组成一个研究实验室。当讨论到这个将成为OpenAI的实验室时，Sutskever意识到他找到了志同道合的人。最终，他愉快地放弃了谷歌数百万美元的工作机会，成为非营利组织OpenAI的联合创始人。
2018年，Sutskever领导OpenAI发明了GPT-1，随后发展到GPT-2、GPT-3和ChatGPT。GPT模型的每一次更新换代，都是自然语言处理领域的突破性进展。GPT-1是该系列的第一个模型，GPT-2在其成功基础上产生了一个更强大的模型，GPT-3在规模和性能上都是一个实质性的飞跃。
2021年，Sutskever还领导OpenAI发明了DALL-E 1，这是一个由AI驱动的图像生成模型。2022年11月30日，Sutskever帮忙推出了ChatGPT，这引起了大众的广泛关注，并在短短5天内就发展到100万用户。ChatGPT的工作方式是在大量的文本数据集上预先训练一个深度神经网络，然后在特定的任务上对其进行微调，如回答问题或生成文本。
理解对话的背景并产生适当的反应是ChatGPT的主要功能之一。
尾注：Ilya Sutskever对人工智能的热情推动了他的突破性研究，改变了该领域的进程。他在深度学习和机器学习方面的工作对推进技术水平和塑造该领域的未来方向起到了重要作用。尽管多次面临物质上的诱惑，Sutskever还是选择了追求他的激情，专注于他的研究；他对工作的奉献对任何研究人员来说都是堪称典范。如今我们已经见证了Sutskever对我们这个世界的影响。很显然，这仅仅是个开始。