提起PyTorch,几乎无人不知,但很少有人了解它的创造者之一SoumithC

量子位看科技 2025-11-17 17:53:49

提起PyTorch,几乎无人不知,但很少有人了解它的创造者之一Soumith Chintala,他的故事比想象中曲折得多。本月初,Soumith发文告别工作了11年的Meta。人们重新翻看他的经历才发现:二流大学毕业、为了读硕士申请27所学校、求职屡屡碰壁、连自己带的项目都差点被砍……但他却最终创造了PyTorch。故事要从他的中学时代说起。在印度,有一条几乎被神话的路径:考高分、进IIT(印度理工学院)、跻身科技精英圈。但Soumith没拿到这张入场券。他的数学不好,对计算机专业学生来说很致命。最终他去了VIT(韦洛尔科技学院),一所被视为"二线"的工程学院。没有名校光环,意味着资源更少、机会更少,甚至在后来的简历筛选中,这都是隐形劣势。大学毕业后,Soumith想去美国读硕士。他GRE考了1420分(满分1600),成绩不错,自信满满地申请了12所美国大学,结果全被拒。12封拒信足以摧毁大多数人的信心。但Soumith做了个非常"工程师思维"的决定:既然远程调试不通,那就去现场解决。他在没有任何学校录取的情况下,申请了J-1交流签证,买了张单程机票,直接飞到了卡内基梅隆大学所在的宾夕法尼亚州。没有具体计划,只有一种近乎偏执的坚持:既然来了,就不能空手回去。到美国后,他顶着签证倒计时的压力,又申请了15所大学。这一回,运气终于站在他这边。南加州大学和纽约大学发来录取通知,他选择了纽约大学。虽是晚期入学,但总算挤进了赛道。读硕士期间,Soumith其实已经展现出极强的工程能力,他曾构建了当时移动设备上最快的AI推理引擎之一。但找工作时,现实还是狠狠给他上了一课。他几乎被所有申请的一线大厂研究岗都拒绝了,包括他最想去的DeepMind。整个早期职业生涯,他前后被谷歌和DeepMind拒绝了三次。最后,除了亚马逊一份测试工程师的offer,他没有其他选择。那是段灰暗的日子。签证问题像达摩克利斯之剑悬在头顶,职业方向不明朗,自信心也备受打击。后来在导师帮助下,他加入了一家叫MuseAmi的小创业公司。虽然正规求职路磕磕绊绊,但Soumith在开源社区找到了慰藉。他迷上了一个叫Torch7的机器学习框架(PyTorch的前身),开始疯狂贡献代码、修复Bug、在论坛里回答问题。这种纯粹的用爱发电,引起了Yann LeCun(杨立昆)的注意。当时LeCun正在组建Facebook的AI实验室FAIR,他在开源社区看到了Soumith活跃的身影和扎实的代码能力,觉得这个年轻人有点东西。正是这段开源经历,帮Soumith敲开了Facebook的大门。进入FAIR,并不意味着从此走上人生巅峰。起初,Soumith只是L4级别的普通工程师,周围全是大佬,他必须在严苛的工程师训练营中挣扎求生。真正的转机来自于一个具体难题。当时FAIR的研究员们在训练ImageNet模型时遇到大麻烦,训练一直不稳定甚至失败,好几位资深工程师折腾很久都没解决。Soumith站了出来。凭借他对数值计算和超参数的敏锐直觉(尽管他以前数学不好,但这并不妨碍他对工程数值的理解),他找到了问题症结。这个突破让他一战成名,也成为他在FAIR的第一个重要里程碑。人们开始注意到这个不善言辞,但技术嗅觉异常灵敏的年轻人。确立地位后,Soumith开始带领一个三人小团队维护Torch7。在使用过程中,他敏锐察觉到痛点:Lua语言太小众,而且当时的框架(如TensorFlow 1.0)使用"静态图",调试起来非常痛苦,就像在黑盒子里抓瞎。他们萌生了一个想法:为什么不能创造一个像Python一样简洁、像Numpy一样灵活、让研究人员用得爽的框架?这就是PyTorch的雏形。然而内部并不顺利。那时TensorFlow独霸天下,Facebook管理层觉得FAIR不该在"框架"上浪费资源,甚至打算关闭PyTorch。那段时间对他来说极为黑暗,Soumith甚至会跑到酒吧里崩溃痛哭。就在项目即将被砍掉的边缘,转机出现了。FAIR内部一些相信这个项目价值的人站了出来,一些关键人物出面斡旋,硬是把PyTorch从"死亡名单"上救了下来。PyTorch活下来了,并在2017年1月正式发布,迅速成为全球研究者最喜爱的深度学习框架。从MIT的课堂到印度乡村的自学者,大家都在用PyTorch。Soumith花了8年时间,把PyTorch从一个没人知道的小项目,带到了如今90% AI研究都在使用的行业标准。本月初,Soumith宣布离开Meta,结束了11年的旅程。这其实是一个很难的决定。他在Meta待了11年,手握PyTorch这款现象级产品,用他自己的话来说就是:“我掌握着驱动整个AI行业的软件层,这种权力很难放弃。”但他还是走了。他在告别信里说,他不想带着“从未在Meta之外尝试过其他可能”的遗憾退休。与其守着巨大的成功当一个维护者,他更想重新变回那个充满好奇心的探索者,去做一些“小而新”的事情。数学不好、没上名校、求职屡屡碰壁、签证几乎断送前途、自己的项目差点被公司砍掉——Soumith Chintala的经历告诉我们:你不需要一开始就完美,只需要不停向前。

0 阅读:0
量子位看科技

量子位看科技

感谢大家的关注