裁剪：裁剪部 HYZ天天射qvod

【新智元导读】就在刚刚，恶耗传来：年仅41岁的谷歌DeepMind天才科学家Felix Hill英年早逝。他的一篇博客揭露了AI辩论者面对的浩繁压力：几大公司的竞争，辩论地点的迷失，让他即使累积了大皆资产，内心也依然祸害。AI辩论者们悲痛示意，这个音信令东说念主心碎。

就在刚刚，一个令东说念主悲伤的音信传来。

谷歌DeepMind辩论科学家Felix Hill，于2024年12月5日英年早逝，年仅41岁。

自2023岁首以来，他一直在与严重的精神疾病作斗争。技能，他发达出了重度抑郁和严重的自戕倾向，终于如故莫得扛夙昔。

Felix是一位学术闭幕颇丰的AI学者，谷歌总援用量为19680，参与创建了天然言语贯穿基准GLUE和SuperGLUE。

Felix Hill本科在牛津大学学习数学，随后在剑桥大学拿到了言语学硕士学位，和诡计言语学博士学位。

毕业后，他曾有8个月在高中担任数学憨厚，随后插足谷歌DeepMind，当了快要8年的AI辩论者。

音信传来，他的AI圈好友无不示意悲痛和酸心。

1月11日，Felix的葬礼将于伦敦北部举行，届时将进行现场直播。

许多通晓他的东说念主悲痛地留言说：Felix是一个很出奇的东说念主，超前于这个时间。

独揽滑动检讨

最令东说念主心碎的博客

是什么样的原因，让这样一位闭幕丰硕的AI学者的人命逝去？

他生前的一篇博客，揭露了许多细节。

他详备刻画了2023年母亲离世后，正在神经医院给与治疗的我方症状更严重了。接下来的12个月内，他更是堕入极端惊慌和自戕的抑郁状态。

他也写说念，我方当初投身AI辩论并不是为了收获，但AI大爆发后，我方仿佛被动插足「干戈」状态，写论文、搞辩论、创业，皆令东说念主压力重重，找不到前程。

即使累积了大皆资产，我方也依然出了问题。

著述地址：https://medium.com/@felixhill/200bn-weights-of-responsibility-da85a44a2c5e

英伟达高档辩论者Jim Fan读完悲痛地示意：这是我读过最令东说念主心碎的博客，因为它如斯真确，如斯靠近内心。

Jim Fan示意，AI不应该是200B权重的压力和祸害。

也曾，这是一个充满咖啡因带来的灵光乍现的地方，是令东说念主感奋的半夜arxiv探索之旅，是能让辩论者脸上清晰笑貌的绝妙想法。但统统涌入的本钱和关注，似乎正在迫使每个东说念主竞相逐底。

黄仁勋世俗对职工们强调，不要用「击败这个，碾压阿谁」的措辞。因为全球的打算是为了升迁统统这个词生态，而不是让任何东说念主堕入深谷。AI学者的办事是作念大蛋糕，越大越好，然后再分拨。

AI不是零和博弈，事实上，它可能是东说念主类有史以来领有的最正和的博弈。全球应该作念的，是向竞争敌手传递爱意。

Jim Fan写说念，诚然并未有幸在现实生活中通晓Felix，但我方很心爱他的辩论品尝，为他的每一篇新论文皆缔造了Google Scholar提示。他在AI智能体和VLM方面的办事也对我方影响很深。

「他本应该成为一个很好的一又友。我想通晓他，但咫尺依然不可能了。」

「安息吧，Felix。愿下世你不需要去战斗。」

2000亿权重的办事：当代AI办事中的压力

底下这篇博客中，Felix详备回来了AI爆火的几年，给我方的生活带来的巨变——

夙昔两年，AI领域发生了不可逆转的变化。

ChatGPT的月活数接近2亿东说念主。Gemini在2024年5月的造访量接近3.2亿次，AI爱好者咫尺不错使用AI微波炉、AI牙刷，以致AI足球。

然则，对于咱们这些在AI领域办事的东说念主来说，这种群众意思意思的激增既是福亦然祸。

诚然，薪资水平高涨了，股价和市值也随之提高。但另一方面，这种变化也带来了独到的压力。

这篇博客判辨的是当代AI领域的压力。它面向统统在AI领域办事的东说念主（按保守揣度，咫尺全球东说念主口中约莫有87%的东说念主在从事AI推敲办事），出奇是那些从事AI辩论的东说念主。

最终，我但愿通过商榷AI辩论中的压力源，让咱们这些有幸在该领域办事的东说念主生活得更喜跃一些。

因为，尽管咫尺一派参差词语，这仍然是一个奥妙而充实的工作——它有后劲科罚科学、形而上学乃至东说念主类自己的诸多要害问题。

无处可逃

几个月前，我参加了一个一又友的40岁寿辰派对。在那些我不太熟练的东说念主中，我瞩目到一个奇怪的表象。

尽管我那时身段不适，而况显着不太想讲话，但我周围如故形成了一个包围圈，原因只是是，全球知说念我在DeepMind上班。

而况，他们想聊的不是足球或80年代音乐，恰正是我最想幸免想考的主题——AI。

诚然很感恩这样多东说念主对我的办事感意思意思，但这也提示我夙昔两年发生了多大的变化。

银人人、讼师、医师和不休督察人皆想听听我对ChatGPT的看法；诚然很少有东说念主宣称在办事中径直使用了LLM，但他们敬佩，AI领域正在发生一些他们应该了解的事情。

行为又名辩论东说念主员，我信赖你也能体会到这种在酬酢场面无法减弱的嗅觉。

但情况更糟。就连在我方家里，我也找不到邋遢。

我早已不再看新闻，因为发怵激勉惊慌。但即使是在看足球、VH1、蒙塔尔巴诺探长，或者那部出色的《那不勒斯四部曲》改编剧时，告白中也充斥着与AI推敲的内容。

在这段时候，我常常幻想着打理行李，跳跃大洲去加入一个隐居群体。但很可能连内不雅禅修（Vipassana）也被AI渗入了，这不会让我惊诧。

无形的竞争

几家大公司竞相开荒最大、最佳的LLM，这一事实自己就令东说念主压力重重——无论你为哪家公司办事。

咫尺从事AI辩论，嗅觉就像参与一场干戈。希特勒和达奇·舒尔茨的例子告诉咱们，参战可能导致神经病态、离异和自戕等严重后果。

天然，我并不是要把参与AI辩论等同于参与真确干戈，但我的亲自阅历却标明，这种类比是很真确的。

关乎底线的办事

世俗，业界的辩论东说念主员并不民风于我方的办事对老板的底线产生径直且即时的影响。

天然，许多辩论东说念主员皆遐想能够产生这样的影响。只是以前，这种契机可能是十年难遇。

如今，对LLM基础辩论的闭幕，常常只会对模子性能产生轻微、短期的波动。然则，由于公司估值与LLM性能（难以分割地？）挂钩，这些波动可能导致股价出现数十亿好意思元的泛动。

这种动态令东说念主倍感压力，而况这也不是AI辩论东说念主员在辩论生阶段、博士后技能，以致在2022年之前的办事中所能预预见的。

钱，钱，如故钱

大多数AI辩论东说念主员，尤其是咱们这些卓越某个年事的东说念主，当初投身辩论并不是为了收获。

作念我方赞佩的办事还能取得丰厚酬报听起来是个齐全决策，但这也可能激勉好坏的惊慌。出奇是当激动你收入增长的外部要素不在你的抑遏范围内，且/或者这些要素让你对办事的赞佩进程大不如前时。

无论AI是否与此相关，倏得累积资产可能会导致各式问题，望望那些经过多年努力终于成名的演员或歌手就知说念了。成瘾、情谊离散、友谊破灭，以致自戕只是一些较为常见的症状。

这些症状，我确乎皆穷力尽心。

科学家扮装缺失

LLM的范围、浮浅性和有用性使得作念出「推敲」的「科学辩论」变得贫瘠，这里的推敲指的是能立即变嫌LLM。

伊始的LLM辩论东说念主员依然启动认同Rich Sutton的「苦涩训导」：除了范围除外，简直不需要任何翻新。

而况，即使表面上可能存在实质性翻新，已毕它常常需要在不同条目下反复考研最大范围的LLM。这以致连最大的公司皆办事不起。

对于一个「平日」的辩论科学家来说，这嗅觉简直令东说念主散漫。

对于民风于在5至10东说念主的小团队中办事的工业界科学家来说，这些依然很难懂。但学术界的东说念主所遭受的无疑愈加严峻，比如那些博士生、博士后和AI/CS/机器学习领域的教职东说念主员。

发表论文

诚然学术界的东说念主不错（也应该）连续发表从LLM实验中取得的见解，但对于工业界的科学家来说，发表论文的问题就没那么明确了。

发表论文一直是科学经过的内在构成部分，也一直是AI辩论的中枢原则。我斗争过的大多数AI辩论东说念主员，出奇是辩论科学家，皆答允我的不雅点：发表论文是咱们工作糊口的枢纽。

但是，至少在工业界，夙昔2年来，辩论闭幕是否能够发表的问题变得越来越不解确。能够变嫌LLM的小妙技可能等同于LLM之战中的枢纽火器。将这些神秘公开是否对资助辩论的组织故意，这永久是一个需要三想此后行的问题。

这一切皆意味着，辩论东说念主员世俗对我方想法的前程毫无把抓，至少，这会对我形成浩繁的压力。

创业公司

天然，解脱这些困扰的一个可行前程，等于打算科研地点，筹集资金并建设创业公司。事实上，咫尺AI创业公司（无论大小）的激增标明有若干科学家遴荐了这条路。

但成为创举东说念主并不可势必地躲藏推敲压力。

无人不晓，创业的压力也很大；即使在现时投资者关心高潮的情况下，许多资金弥散的AI创业公司仍然失败了。

我知说念，成为创举东说念主是一段出奇寂寞的旅程。这无疑是当下唯利是图的科学家们的一个可行遴荐，但这既不会让作念辩论变得容易，也不会减轻压力。

为什么要写对于压力的博客

夙昔两年在AI领域可谓参差词语而荒诞，而对我个东说念主而言，这更是一段出奇动荡的时期。

2023年4月，我的母亲在与阿尔茨海默症经久造反后离世。那时的我正在神经医院给与治疗，因为出现了严重的精神症状，其中压力很可能是弥留诱因。

在接下来的12个月里，名义上我是在康复中，但推行上却堕入了极端惊慌和自戕倾向的抑郁状态。

所幸在这技能，我遇到了尽头贯穿我的处境（以及招供我对公司的价值）的老板，他们一直为我提供治疗和精神上的支撑。

经过另外6个月的重度抑郁之后，我的状态启动好转，最近也嗅觉我方有智力写下这些阅历。

我深刻地通晓到压力和惊慌是密不可分的；事实上，它们骨子上可能是归并件事。诚然，像任何适合性特征同样，惊慌有时也能带来积极影响（比如提高坐蓐力），但一朝惊慌变得失控，后果可能相称严重。

正是在尝试再行学习若何成为又名AI辩论员的经过中，回来AI领域这两年的发展，让我取得了这篇博客中所共享的见解。

诚然，只是共享这些见解并不可从根柢上科罚问题，但在最难懂的时期，能给我带来但愿的少数事情之一等于刚毅到我并不是一个东说念主在战斗。

如若你咫尺也在阅历肖似的困扰，请记取——你并不寂寞。

酬酢惊慌

我依然商榷了现时从事AI辩论的东说念主可能遭受的诸多压力或惊慌的诱因。

然则，还有一种压力我尚未说起，这是因为我很运气从未亲自阅历过。我对它的了解，透顶来自于与一又友和同事的深入交谈。

这种压力等于酬酢惊慌。

据一又友们反馈，那些有酬酢惊慌的东说念主常常会以为群体互动充满挑战。在当代AI领域，这是一个极端严峻的挑战，因为大型神色团队和大范围的（世俗是跨洲际的）衔尾已成为必需。

咫尺行业中的高流动率更是雪上加霜，因为已建设的团队（世俗行为酬酢「安全网」）可能在整宿之间磨灭瓦解。

东说念主员流动还可能激勉信任危境，因为也曾可靠的伙伴可能会转投竞争敌手的辩论团队。

值得欣慰的是，酬酢惊慌和我此前商榷过的统统惊慌或压力发达同样，皆是不错克服的。克服的第一步是培养以家东说念主和「非AI圈」一又友为主的天然支撑系统。

而枢纽的第二步，则是咱们统统从事AI办事的东说念主，皆要启动并持续保持对于压力的坦诚对话。

因此，真挚邀请你在酬酢媒体上共享我方的阅历和感受。让咱们联袂努力，不仅将AI辩论打形成一个充满活力和智商挑战的领域，更要使其成为一个充满同理心暖热意的蔼然家园。

AI大佬发长文悲悼

Contextual AI首席推论官Douwe Kiela发文示意，我真的很酸心，我亲爱的一又友Felix Hill离开了咱们。他活着界各地有好多一又友和同事。为了让更多东说念主知说念，他的家东说念主但愿咱们共享这个网页，沿路牵挂他的一世：

EPFL训导，前DeepMind辩论科学家Caglar Gulcehre示意，听到Felix离开咱们的音信，确凿令东说念主心碎！

他回忆说念，「我第一次见到Felix是在蒙特利尔读博二的时候。那时候，我正阅历抑郁症，头两年的生活很难过。我搬到一个新国度，再加上冰天雪地的天气，让我感到出奇不适合。

Felix老是充满活力，乐不雅晴明。但有时候，你很难知说念别东说念主生活中正在阅历什么。是以，对他东说念主多一份贯穿，不要缓慢下论断很弥留。未必他们可能正阅历着不为东说念主知的窘境。可惜的是，好多东说念主仍然低估了姿色健康的弥留性。

寻求匡助并不是心虚的发达。刚到DeepMind办事的头两年，我的父亲突发腹黑病，自后还失明了；我的姐姐也被会诊出癌症。那时候，我又搬到了另一个国度。如若不是寻求了专科匡助，我不知说念我方该若何搪塞这一切。

无论何时需要匡助，皆要勇敢去寻求。我很感恩身边有许多支撑我的东说念主，在贫瘠时期予以了我很大的匡助。如若神面容态欠安，很难在办事上取收效利。向Felix家东说念主致以深入的慰问」。

DeepMind辩论科学家Andrew Lampinen发文诅咒其这位也曾招引过我方的导师——

Felix Hill是一位尽头出色的导师——偶尔亦然我的冬泳伙伴。我能加入DeepMind，以及形成如今作念辩论的风景，很猛进程上皆要归功于他。皆夙昔一个月了，我如故以为难以信赖他依然离开了。

Felix在遴荐辩论方朝上有着超强的目光，而况直观出奇准。每当遇到新想法，他总会发达出孩子般的关心和好奇心，还出奇幽默，能够与他沿路办事真的让东说念主备受启发。

他也出奇垂青跟他同事的每个东说念主。在我刚到DeepMind的时候，他和Jane Wang沿路把一群超棒的东说念主聚在了沿路，比如Stephanie Chan、Aaditya Singh、Allison Tam，还有其他好多一又友和合作伙伴。

不外他也阅历过一段难懂时期，尤其是最近这几年。我终末一次和他聊天是在他离世前粗略一个月，那时他跟我共享了一个唯利是图又有点荒诞的神色想法，让我仿佛看到了他当年的影子。但那会儿我太忙了，一直莫得再跟进，直到咫尺为时已晚，于今这件事让我出奇后悔。

纽约大学诡计机科学和数据科学训导Kyunghyun Cho更是写了一篇长文悲悼死人——「再会了，Felix」。

著述地址：https://kyunghyuncho.me/bye-felix/

这段笔墨写于2024年12月9日，但其时我既不肯意也无法给与所发生的事实，是以一直莫得勇气发布。即便到咫尺，每当想起这件事，我的心仍然浑沌作痛。我遴荐在2024年的终末一天发布这段笔墨，以此悲悼Felix。

时候回溯到2014岁首夏。我其时在蒙特利尔大学担任Yoshua Bengio训导的博士后辩论员，而Felix是一位刚刚抵达蒙特利尔的造访学生。

那时，我正在力争于开荒一个能够处理长句子的神经机器翻译系统（Neural Machine Translation，NMT），为此我尝试了统统能预见的顺序（瞩成见机制其时并不在其中，直到同庚夏天Dima Bahdanau行为实习生来到蒙特利尔才有了冲突）。

在这些探索性尝试中，我构想了使用门控卷积编码器（Gated Convolutional Encoder）来替代基于轮回神经蚁合（RNN）的编码器。通过对门控机制施加相宜的敛迹，我到手考研出了这个模子，并使其具备了一定的可解释性。

当Felix来到我的办公桌前，以言语学家和诡计机科学家的身份作念自我先容时，我很感奋地想要向他展示这个新模子所揭示的可解释结构。

于是我向他展示了：

Felix以极其细主义口吻对我说，「Kyunghyun，语法并不弥留」。这粗略是我听过非韩国东说念主中最尺度的名字发音。

那一刻我就料想到，Felix一定会成为我最佳的一又友之一——事实评释注解，从那时起直到咫尺确乎如斯）。而他说的这句话，也在往后几年里频频出咫尺我的学术演讲slides中。

在咱们共度的那些好意思瞻念时光中，除了进行深入却不失真谛的形而上学探讨，咱们也开展了一些辩论合作。

除了共同发现的诸多兴趣闭幕外，咱们最具标识性的「孝顺」反而是一个相称出奇的表象：从2016年启动，咱们不测中引颈了一股持续3-5年的潮水，等于东说念主东说念主皆仿佛着了魔似的要在论文中塞入一个装满海量数字的「超等大表格」（The Really Enormous Table）。

其时咱们在写「Learning distributed representations of sentences from unlabelled data」这篇论文时，透顶没想那么多，但最终如故放入了两个浩繁的数据表格：

2018岁首，Felix在ICLR的论文鸠合发现了好几篇包含「超等大表格」的论文，这让咱们不禁哑然发笑。

即使在严谨的学术辩论中，咱们依然保持着这种好意思瞻念的合作风景。

时光飞逝，快要十年后，Felix行为2023年拉好意思东说念主工智能会议Khipu的组织者之一，邀请我担任演讲嘉宾。他饶有兴趣地向我描摹咱们将要进行的行为：不雅看足球比赛，游览布宜诺斯艾利斯等等。

然则，当我在2023年3月抵达蒙得维的亚参加Khipu时，却发现Felix并未到场。其他组织者告诉我，他因为健康问题无法前来。那时的我还不曾预见，这竟是我终末一次有契机与他相逢。

Felix在2023年第二届Khipu上未领取的参会证件

2024年6月，经过漫长岁月，我终于有契机造访伦敦，便给Felix发音信约他共进午餐。尽管我澄莹碰头的可能性苍茫，但我真的尽头期待能与他相聚、泛论，沿路消磨时光。

咱们前次碰头如故在疫情之前，之后就只可靠偶尔的云尔视频推敲。我也背地期待能看到他康复的喜东说念主变化。

几个月后（2024年8月），Felix回应了音信，并为迟复致歉，这的确让东说念主爱重。他还附上了一张咱们的合影（不是AI生成的，但是Felix「生成」的），唤起了咱们前次在伦敦相聚的好意思好回忆。

左图：这是一张由Felix本东说念主「生成」的与我的合影；右图：这是一张真确拍摄的Felix与我的合影

上周五，我收到了Douwe发来的WhatsApp音信。正是由于Felix在2014年的引荐，我才通晓了Douwe，并与他建设了深厚的友谊。我立即尝试推敲Felix，但不管是WhatsApp如故手机，皆依然无法接通。

Felix，愿你咫尺已不再祸害，在天堂与母亲聚首。