# 北大学霸 By [DJY Crypto Note](https://paragraph.com/@djy-crypto-note) · 2022-04-17 --- 近日，两位本科生学霸在实习期间研究出了一种新的AI算法，受到了广泛关注和热烈讨论。相关论文不仅被领域主席赞不绝口，还已确认被人工智能顶级会议ICLR 2019收录。而本期报道的主人公便是“传说中学霸”、该论文的共同第一作者之一——北京大学地球与空间科学学院骆梁宸。 　　作为一名地球与空间科学学院的大四学生，骆梁宸的学习生活本可能与NLP（注：自然语言处理）算法没有太多的关联。然而，他参与开发的AdaBound算法在训练速度和稳定性上都有着优于主流算法的表现。 　　AdaBound算法给学习率划出了动态变化的界限，实现了从Adam到SGD的渐进和平滑过渡，让模型在开始阶段有和Adam一样快的训练速度，后期又能保证和SGD一样稳定的学习率。该算法适用于CV、NLP领域，可以用来开发解决各种流行任务的深度学习模型，同时，AdaBound算法对超参数不是很敏感，省去了大量调参的时间。 　　能够取得这样的成果，骆梁宸说这离不开他自身的兴趣，更离不开北大所提供的平台。 　　骆梁宸读大一的时候，很喜欢数学、物理等基础课程。而当大二各类专业课接踵而至时，他开始感到有些迷茫，于是在大二结束之后，他选择休学一年作为自己的gap year（间隔年），以便更好地寻找自己的方向。当时正值共享单车热潮，他便发挥自己工程能力强的优势和小伙伴们进入了共享单车行业，拿到了一个亿的融资。这样休学创业的经历，让骆梁宸决定要依托自己在北大打下的坚实的数理基础和出色的工程能力，在企业平台的实习实践过程中进行自我发展。在休学结束回到北大后，骆梁宸先后在微软亚洲研究院、滴滴等单位进行了实习。此次顶会论文的共同一作熊远昊就是他在滴滴实习的时候认识的。北大兼容并包的学术环境让他可以随时请教各领域的大牛老师，也可以在跨院系的实验室中进行科研，这为他能够拿出出色的科研成果创造了良好的条件。 　　说到自己的算法，骆梁宸有几分自豪，也有几分谦虚。“在机器学习里边，有一个应用了五六十年的经典算法，叫随机梯度下降。这种算法从数学上讲，是一种一阶优化算法。这种算法在人工智能研究中属于基础中的基础，很多研究者都需要用到，其重要性不言而喻。它虽然被广泛地使用，但毕竟时间有些久远，存在着很多问题。在最近的4到5年内，大家提出了很多新的方法想要对原有算法进行改进，目标是能让它更稳定，让我们的模型学习得更快、更好。这次我也只是基于比较新的研究成果，在它们的基础上更进一步做了一些推进，得到的算法比之前大家公认那几个目标训练得更快、更稳定，效果也更好，取得了一点点成效。” 　　“这个问题很难，所以真正的进步是很小的，但可能因为大家都会用到它，所以哪怕很小的一点点进步，大家也会感兴趣。我们的成果实际上并没有媒体上说得那么夸张，在我们圈内人自己看来，其实是蛮普通的一个进展。” 　　在学业之外，骆梁宸很喜欢探险和运动，他在车协参加了很多的活动。同时他也是PKUHelper安卓端运营团队的第二任负责人。PKUHelper是北大学生自主开发的手机软件，它融合了课表，北大邮箱，成绩查询，BBS等常用功能，大大方便了同学们的学习生活。回忆起做PKUHelper的日子，骆梁宸觉得很充实，但也有遗憾。“当时没想什么，就是觉得自己的工程能力还可以，有安卓开发的经验，还能帮助同学。其实我们做得还不够，有很多东西都很想完善，但因为我们都是在校生，真正用来开发的时间实在太少了。很多想做的东西都没有办法，也没有时间把它做完，这个确实蛮遗憾的。而且现在，低年级的同学也越来越不愿意参与工程开发，大家都想去做算法，其实我自己也是这样，所以很难招到新人。这对于我们来说也是个蛮大的困难。” 　　说起自己对北大的爱，骆梁宸说自己是始于颜值，终于内涵。起初，北大的园林与未名湖的波光让他心驰神往。作为一名非典型的理科生，骆梁宸对古代经典，尤其是四书五经有着浓厚的兴趣。他在北大不仅能学习本专业的知识，更有充足的机会广泛涉猎，发展兴趣。在他看来，北大是一个很包容的地方，不仅是学习和科研，只要你能在一个方面做得足够好，在这片园子里就会有立足之地，就会受到认可。“我是完全凭兴趣直接上手写工程，而且写的是直接面向客户的内容。这一点反倒是很多信科同学不太擅长的，大家更擅长的是很前沿很理论的算法，但实际做出产品又是另一回事。所以这也可能算是另辟蹊径的一种。” 　　讲到高中的生活，骆梁宸觉得不仅要读好书，更要对未来有规划。“高中还是尽量多拓展自己的兴趣，这样有助于在大学解决自己真正想要做什么的问题。大学基本上都是自主支配的时间，这种问题越早想好就越有利。”对于有志于投身计算机领域的学弟学妹们，骆梁宸准备了一句Linus的名言：“Talk is cheap, show me the code.”（注释：夸夸其谈不算什么本事，有本事给我看看代码）。他很注重实践操作对计算机专业的意义，大量的实际编程是提升科研和工程能力的法门。而对于三个月后即将走入高考考场的学生们，骆梁宸很希望大家能珍惜最后的时光。“高中其实挺好的，虽然有时候会累会苦，但是等到上了大学再回头看，能记住的就都是快乐的日子，顺其自然过来就好了。” 　　习惯了自由的骆梁宸还没有决定好自己的未来。大四的他打算秋天先到国外做一期助研或者访问学者，然后再决定是否读博士。不过不管走到哪里，骆梁宸都已经习惯了北大给他带来的一切。 　　“自己已经把迷茫留在这里，可以清醒地做一些事情了。” 　　他如是说。 --- *Originally published on [DJY Crypto Note](https://paragraph.com/@djy-crypto-note/xYHuFCp7ds7E004CaSIh)*