谷歌 DeepMind 天才科学家 Felix Hill 英年早逝,年仅 41 岁

xxn 阅读:4162 2025-01-03 12:01:40 评论:0

刚刚传来一个令人伤心的消息

Google DeepMind 的研究科学家 Felix Hill 在2024年12月5日英年早逝,年仅41岁

自2023年初以来,他一直在与严重的精神疾病作斗争。期间,他表现出了重度抑郁和严重的自杀倾向,终于还是没有扛过去。

Felix是一位学术成果颇丰的AI学者,Google总引用量为19680,参与创建了自然语言理解基准GLUE和SuperGLUE

Felix Hill本科在牛津大学学习数学,随后在剑桥大学拿到了语言学硕士学位和计算语言学博士学位

毕业后,他曾有8个月在高中担任数学老师,随后进入谷歌DeepMind,成为了将近8年的AI研究者

他的AI圈朋友对这一消息表示了悲痛和震惊

1月11日,Felix的葬礼将在伦敦北部举行,并将进行现场直播

许多认识他的人悲痛地留言说:Felix是一个很特别的人,超前于这个时代

最令人心碎的博客

是什么原因导致这位AI学者的生命逝去?他生前的一篇博客详细揭露了许多细节

他详细描述了2023年母亲离世后,他在精神病院接受治疗期间症状进一步恶化的情况。在接下来的12个月里,他深陷于极度焦虑和自杀倾向的抑郁状态

他也写道,自己加入AI研究并不是为了赚钱,但似乎被迫卷入「战争」状态,写论文、搞研究、创业都给他带来巨大压力,找不到出路

即使积累了大量财富,他也依然面临问题

文中地址:https://medium.com/@felixhill/200bn-weights-of-responsibility-da85a44a2c5e

英伟达高级研究者Jim Fan读完悲痛地表示:这是我读过最令人心碎的博客,因为它如此真实,如此贴近内心

Jim Fan表示,AI不应该是200B权重的压力和痛苦

曾经,这是一个充满咖啡因带来的灵光乍现的地方,是令人兴奋的深夜arxiv探索之旅,是能让研究者脸上露出笑容的绝妙想法。但所有投入的资本和关注似乎正在推动每个人不断竞争

黄仁勋经常对员工们强调,不要用「击败」或「碾压」的话语。因为大家的目标是为了提高整个生态,而不是让任何人深陷

AI不是零和游戏,实际上,它可能是人类历史上最正面的游戏。我们应该传递爱意给竞争对手

Jim Fan写道,虽然未曾有幸在现实生活中认识Felix,但他很喜欢他的研究品味,每次新论文出炉都会设立Google学者提醒。他在AI智能体和VLM方面的工作对他影响很深

「他本应该成为一个很好的朋友。我想认识他,但现在已经不可能了」

「安息吧,Felix。愿来世你不需要再奋斗」

2000亿权重的责任:现代AI工作中的压力

以下是Felix详细回顾了AI兴起几年来对他生活造成的巨大变化——

AI领域经历了不可逆转的变革

ChatGPT的月活数接近2亿人。Gemini在2024年5月的访问量接近3.2亿,AI爱好者现在可以使用AI微波炉、AI牙刷,甚至AI足球

然而,对于我们这些在AI领域工作的人来说,这种大众兴趣的激增既是福气也是祸根

薪资水平的上涨,股价和市值的提高,虽然是好事,但伴随而来的独特压力也是不容忽视的

这篇博客着重探讨了现代AI领域的压力,针对所有从事AI领域工作的人(估计全球人口87%从事AI相关工作)特别是从事AI研究的人

我希望通过讨论AI研究中的压力源,让我们这些有幸在该领域工作的人生活得更快乐一些

因此,无论目前处境如何混乱,AI仍是一个美好且充实的职业,有助于解决科学、哲学甚至人类自身的一系列重大问题

无处可逃

几个月前,我参加了一个朋友的40岁生日派对。在那些我不太熟悉的人中,我注意到一个奇怪的现象

尽管我那时身体不适,而且明显不太想讲话,但我周围还是形成了一个包围圈,原因仅仅是,大家知道我在DeepMind上班

而且,他们想聊的不是足球或80年代音乐,恰恰是我最想避免思考的主题 ——AI

尽管很感激这么多人对我的工作感兴趣,但这也提醒我过去两年发生了多大的变化

银行家、律师、医生和管理顾问都想听听我对ChatGPT的看法;虽然很少有人声称在工作中直接使用了LLM,但他们确信,AI领域正在发生一些他们应该了解的事情

作为研究人员,我相信你也能体会到这种在社交场合无法放松的感觉

但情况更糟。就连在自己家里,我也找不到安宁

我早已不再看新闻,因为害怕引发焦虑。但即使是在看足球、VH1、蒙塔尔巴诺探长,或者那部出色的《那不勒斯四部曲》改编剧时,广告中也充斥着与AI相关的内容

在这段时间,我时常幻想着收拾行李,跨越大洲去加入一个隐居群体。但很可能连内观禅修(Vipassana)也被AI渗透了,这不会让我惊讶

无形的竞争

几家大公司竞相开发最大、最好的LLM,这一事实本身就令人压力重重 —— 无论你为哪家公司工作

现在从事AI研究,感觉就像参与一场战争。希特勒和达奇・舒尔茨的例子告诉我们,参战可能导致精神病态、离婚和自杀等严重后果

当然,我并不是要把参与AI研究等同于参与真实战争,但我的亲身经历却表明,这种类比是很真实的

关乎底线的工作

通常,业界的研究人员并不习惯于自己的工作对雇主的底线产生直接且即时的影响

当然,许多研究人员都梦想能够产生这样的影响。只是以前,这种机会可能是十年难遇

如今,对LLM基础研究的结果,往往只会对模型性能产生微小、短期的波动。然而,由于公司估值与LLM性能(难以分割地?)挂钩,这些波动可能导致股价出现数十亿美元的起伏

这种动态令人倍感压力,而且这也不是AI研究人员在研究生阶段、博士后期间、甚至在2022年之前的工作中所能预料到的

钱,钱,还是钱

大多数AI研究人员,尤其是我们这些超过某个年龄的人,当初投身研究并不是为了赚钱

做自己热爱的工作还能获得丰厚报酬听起来是个完美方案,但这也可能引发强烈的焦虑。特别是当推动你收入增长的外部因素不在你的控制范围内,且/或者这些因素让你对工作的热爱程度大不如前时

无论AI是否与此有关,突然积累财富可能会导致各种问题,看看那些经过多年努力终于成名的演员或歌手就知道了。成瘾、感情破裂、友谊破碎,甚至自杀只是一些较为常见的症状

这些症状,我确实都感同身受

科学家角色缺失

LLM的规模、简单性和有效性使得做出「相关」的「科学研究」变得困难,这里的「相关」指的是能立即改进LLM

领先的LLM研究人员已经开始认同Rich Sutton的「苦涩教训」:除了规模之外,几乎不需要任何创新

即使理论上可能存在实质性创新,实现它往往需要在不同条件下反复训练最大规模的LLM。这甚至连最大的公司都负担不起

对一个「普通」的研究科学家来说,这感觉简直令人绝望

对于习惯于在5至10人的小团队中工作的工业界科学家来说,这些已经很艰难。但学术界的人所遭遇的无疑更加严峻,比如那些博士生、博士后和AI/CS/机器学习领域的教职人员

发表论文

<
声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

搜索
排行榜
关注我们

扫一扫关注我们,了解最新精彩内容