清华计算机系本科毕业的杨宗瀚,在第37届国际机器学习大会(ICML)上发表了一篇论文,其标题为《残差和非残差网络的插值》。杨宗瀚今年秋季将在清华大学计算机科学与技术系直博,进入自然语言处理与社会人文计算实验室,师从刘洋教授。
杨宗瀚提出了一种新的常微分方程模型,这种模型可以同时建模残差和非残差网络,离散化处理得到的插值网络可以在准确率和鲁棒性间取得更好的平衡。神经常微分方程是近年来深度学习领域中的热点方向,相关论文曾在2018年获得神经信息处理系统大会(NeurIPS)最佳论文奖。
杨宗瀚最初接触科研是从自然语言处理开始的,他参与的第一个科研项目与机器作诗有关。他参与了其导师课题组创立的机器翻译阅读清单项目,这一清单主要对近年来机器翻译领域发表在顶会上的论文进行整理分类。
杨宗瀚在科研的起步阶段,具体从什么课题入手并不是最重要的,重要的是在这些尝试中,我们能不断提升自己的能力,并对如何更好地进行下一步有了更切身的体会。杨宗瀚希望继续保持目前这样的状态,在科研路上坚定地前进,努力做出基础性、原创性的工作,不畏困难,无问西东。