《The Infinity Machine Demis Hassabis, DeepMind, and the Quest for Superintelligence》

  • 中文名是《哈萨比斯：谷歌AI之脑》
  • douban
  • 因为原版出版其实也没多久是2026-3-31的， 在这之前可能中文译本就也准备好了，所以在知道出英文版的时候，买英文原版还比较麻烦，过了一段时间在Google playbooks上面看了一点内容，后面还是在中文版上线后买了纸质版，主要原因是太厚了,没太多时间，还是中文比较高效，过滤亮点。
  • 但是这次和以往不同的是，我pin了一个tab在Gemini中，专门针对Demis的biography，在此之前我已经交流过很多这方面的思考，从李飞飞，或者说小学时候看的巴甫洛夫传，富兰克林传，再到后面Elon的传记，还有阿姆斯特朗的（特殊时期值班时候看的）。总会有读到的地方需要更广泛的context背景来理解的，或者说比较有特殊意义的观点，能和当前project可以联系，借鉴，启发的。虽然之前reading也会用AI助手，notion本身也嵌入AI（笔记都在notion ) 但是这次毕竟有很大的不同，一边用Gemini产品，一边阅读背后的历史演变，偶尔已经记录过点滴。从22年末，一直用chatgpt到似乎24年，中途Google发布的bard也试过，太差放弃了，就是浅尝版本，现在的chrome中收藏的Gemini标签的内容还是bard的网址，只不过每次点击bard都会自跳转到Gemini，现在很少有人记得bard了。之前用chatgpt都不用收藏标签，browser打个字母C即可出来，后来订阅Geminiplan之后几乎就再没用过openai的，有过几次浪潮，吉卜力风格等等。22年那时候还在discord社区用免费的midjournery尝鲜，一切发展的太快了，现在的AI text2image比当初midjourney细节多，复杂度高，更加逼真。
  • 不理解的是fact check或者website access 的能力这两家还是太差了，即使是现在，很多访问不了还是会胡编乱造。
  • 从startup的视角看，成长一路看的动画片，电影，等等这些消费的content都会从小树立一些理念，长大会在公司管理，发展的十字路口做出选择的时候产生影响。比如从火影忍者中学习到，其实也一路比较类似，Naruto一开始是三人小队第七班（Demis, Shane, Mustafa），这时候很多同一级的小队都是这样，三个人个性鲜明，整个小队间都风格各异，与如今的主流AI厂商类似，毕竟成员的出身家世路径都不一样，然后个人修行，慢慢变强之后面对伟大挑战，后面必须合伙，队伍慢慢壮大，各种角色都有，面临的困难也五花八门。Same can be said with 《航海王》，最近真人版第二季？ 没太多意思，但是路径很像，或者还有F&F, 速度与激情，有tech guy，有攻击手，防御的，各种角色，或者Football team， 欧冠球队或者NFL， 防守组 进攻组，后勤组，还能细分部门。Google也是，一只大船或者舰队，deepmind并入Google之后，Demis本身也不太擅长管理，更想能够集中更多精力投入科学突破，并不会像Sam那样左右逢源，Stanford毕业对硅谷那么熟悉，能够拉到人脉资源，Demis受到的教育或者从小都是更偏向于Scholar一点，尤其反映在他获得Nobel prize，成为laureate之后的喜悦，因为从小立志与科学突破相关，并不是打造XX产品 成立XX公司…… 但是无奈这种突破就是需要市场上去打磨，需要资金时候只能靠这条路线，而不是稳定的fundings, 从这种角度来看，AlphaFold和Gemini就是两种服务对象下的目标产品，前者注定不会大众化作为社会产品，虽然有助于医药研发，health care但是毕竟服务的直接用户是Tech Scholar Staff 所以作为科学突破，Demis等三人成为laureates，但是像Gemini XAI这些基于LLM的，会越来越被学术界重视，但是除图灵奖之外，Nobel没什么表示，更偏向于工程？ 虽然具体的突破依靠方法创新，还有像是液体火箭回收技术这种，Falcon Heavy很多突破很难基于说是单一的科学突破，现代更多的是工程技术，基础科学确实比较难再突破。总之从AlphaFold和Gemini这两种划时代意义的产品就可以映射出Demis的发展和转变，从学术到工业界，一路的成长。
  • 还有，biography毕竟还是文化艺术作品，故事是了解elites的一个视角，但当然不是那么完整或者完美，经过包装，并且只能展现出正确的一面，实际上如果体现出一些负面的言论思想，毫不意外，F cancel culture.
  • 还有，基于这是Demis的biography，所以视角下肯定会更有利于Demis的叙事和形象的展现，屁股就坐在这，所以会有一点倾向和选择性，字里行间可以明显感受到对于Sam Elon等竞争者的一丝丝敌意。
  • 另外以前通过一些经贸论坛的采访和Lex Fridman Podcast和Google deepmind pod上，Demis经常表达的观点还有两个，印象深刻：
    • 坚信所有事物都是computable，programmable （分子动力学MD，力学折叠DFT 强化学习，SA，但还有很多问题介观很难量化自动化）
    • 如果没有AI这场军备竞赛，他坚信在取得alphafold之后如果多在Scholar待一段时间，或许会攻克更多科学难题，而不是早早竞赛中将AI推到前台。（被迫加入没办法，Google已经落后，不加入就会被裁，deepmind相当于破产，还谈什么梦想） 基本上到最后，Demis也承认用后者作为盾牌，去守护前者的梦想。
  • Again and last:
    • 是个利物浦球迷…… 还是不太懂，父亲希腊裔，母亲新加坡裔，除了认同精神外，除非是在港口认识的。 London三强怎么你了。 BTW Spurs要降级了
    • 就算有了财富之后还没有多少变化，用了十年的车，没有别墅，消费就是利物浦季票，去看过几次，估计恰好缝上冠军赛季之后没太多突出成绩，更加有利于专心于手头的事进行突破，LOL.
    • 有点像TG的杜洛夫兄弟，适合Demis的理想状况就是哥哥杜洛夫那样，低调享受生活，沉浸于科学。
    • Demis独爱Nature 透露办公室有几张封面挂在那。实则是墙面挂满了

顶尖科学期刊上彰显实力，哈萨比斯是行家里手，一年前，他就曾证明了这一点——成功将 DeepMind 雅达利系统的论文发表在《自然》杂志上。他的同事们曾怀疑这是否可能：在所有人的记忆中，《自然》从未发表过计算机科学领域的论文。但哈萨比斯与该期刊的一位编辑建立了良好的关系，花了近一年的时间说服编辑打破常规：AI是一门新兴科学，《自然》应该为其盖上权威印章。此外，为了增加这篇论文不仅能发表，还能登上《自然》封面的机会，哈萨比斯求助于在 DeepMind负责电子游戏设计的图形艺术家。艺术家们设计了一个表现 DeepMind 先进的雅达利智能体与外星入侵者战斗场景的封面。《自然》打破了所有先例，不仅发表了这篇文章，还让其登上了封面，这无疑是对哈萨比斯所做努力的回报。

  • 还有如今的这些AI实验室为什么能举重若轻瞬时全球分发，因为很大程度上做的是软件、SAAS，其他理工类lab突破，想整体推出成就太难，scale是客观物质条件限制的，如果Demis将下一个触手伸向能源基础领域（GNoME？），很多工作都需要Lab之外来完整scale落地。比特世界（Bit）与原子世界（Atom）之间巨大的“摩擦力差异”
  • 加速主义者
    • ❤️就像2022 2021一样 有个TV show 北欧的动画 《万神殿》，可以这种画风改编deepmind的一些纪录片，或者基于本书，AI生成一部anime动画给小朋友看一路的历程，从下棋的小男孩到捣鼓游戏的少年，再到求学，科研，头部elite brick by brick step by step
      ↩️

** Notes **

  • “当你试图解决人类面临的问题、理解现实的本质时，你没有任何时间可以浪费。”

  • “这就像跑马拉松。你基本上要排到冲过终点线就倒下的程度⋯••理想情况下，你应该被送进医院，但不能死掉。只有这样，你才能说自己尽了最大努力。但如果你还有一丝力气，还能站起来，那可能意味着你还能再努力点

  • “可能来自我的母亲，”哈萨比斯说，“她对我的宗教教育影响了我。她是基督徒，非常虔诚。宗教帮助她摆脱了童年的困境，她小时候基本上就是个孤儿。在我的成长过程中，她总是通过教会帮助那些贫穷或孤独的人。”“我以前会去主日学校，在教堂乐队里吹长笛，睡前会祈祷，还会参与慈善工作。母亲的宗教信仰无疑对我产生了深远的影响。但我觉得这也和我的性格有关。我想帮助别人，看到有人受苦，我会感到非常难过。”

  • 当然，哈萨比斯早已从侯世达的思想中取了这一观点的精髓。侯世达认为，生物学本质上是一个信息处理系统，定义生命的不是肌肉或组织，而是赋予它们生命的信号。“但在多格曼的影响下，哈萨比斯进行了更深入的研究，学习了克劳德•香农关于信息的理论：信息如何被量化、存储和在时间与空间中传输。/香农用一个简单却深刻的观点定义了信息：信息是不确定性的对立面。以这个角度来看，任何不确定性的减少都依赖于经过智能处理的信息。“万物理论”，也就是一种能将不确定性无限趋近于零的理论，极有可能以计算机程序的形式呈现。

  • 我惊叹于哈萨比斯的经历和想法似乎都完美地契合在一起。他对物理学的好奇心促使他投身于 AI 研究，将其视为解锁科学奥秘的终极工具；他对AI的好奇心又引导他去研究人类大脑——这个智能存在的证明。他在电子游戏中对模拟的研究，与他在心智中对模拟的研究相呼应。从康德、《哥德尔、艾舍尔、巴赫》、约输•多格曼的辅导课，到神经科学，各种不同的影响都将哈萨比斯引向了同一个核心结论：信息是现实的基本单位

  • 哈萨比斯前往美国，希望那里能有更浓厚的AI 研究氛围。按照哈萨比斯的一贯风格，他同时争取到了麻省理工学院和哈佛大学的两份博士后职位。’他在麻省理工学院的导师托马索•波吉奥（Tomaso Poggio）原本是物理学家，后来转行成为计算神经科学家，还教授着该校历史最悠久的机器学习课程，哈萨比斯与他一见如故。后来，波吉奥表示，在他遇到过的众多诺贝尔奖得主中，大多数人既才华横溢又运气极佳。这里的运气指的是，他们选择的研究课题最终被证明既有重大意义又切实可行。但波吉奥说，有少数诺贝尔奖得主天赋异禀，无论从事什么研究都注定会获奖。在这一类人中，波吉奥列举了物理学家理查德•费曼、生物学家弗朗西斯•克里克，以及他的博士后学生哈萨比斯。

  • 我不禁想，如果哈萨比斯身在加利福尼亚，他的经历可能会大不相同。在硅谷，那些想要改变世界的梦想家几乎随处可见，而且有一个现成的网络可以支持你。但在伦敦，这种打破常规的抱负是一种孤立的特质，你必须主动去寻找合作者。

  • 哈萨比斯则反驳说，学术界的节奏太慢，要打造强大的Al，他们需要一个团队、一种紧迫感，以及摆脱学术官僚主义的自由。/正如哈萨比斯喜欢说的，一个以使命为驱动的初创公一个“曼哈顿计划”，肯定能找到合适的投资者———个有耐心

  • 蒂尔和他的合作伙伴们还不喜欢 DeepMind 位于伦敦这一点。风投圈曾奉行这样的信条：任何值得投资的初创公司都应该在斯坦福大学45分钟车程范围内。Founders Fund 团队甚至戏称，投资英国就像投资索马里一样。但诺塞克认可哈萨比斯的论点，即伦敦将是吸引被低估的欧洲人才的最佳地点。

  • 无论他多么不喜欢控制他人的想法，他都决心掌控自己追求超人类智能的过程。

  • 我想起了那部激励哈萨比斯申请剑桥大学的电影《生命的故事》中的一句台词。DNA 双螺旋结构的共同发现者之一詹姆斯•沃森说：
    我是信徒之一。那些在没有任何证据之前就选择相信某件事的人，是会有福报的。
    姆尼赫原本深信 DeepMind 会像大多数初创公司一样，很快就会倒闭。但与哈萨比斯的视频面试结束后，他还是决定加人。

  • 辛顿却对谷歌团队的想法表示反对。在他的公司的拍卖过程中，哈萨比斯曾鼓励他坚持要价5000万美元。现在，他告诉迪恩，仅哈萨比斯一个人就值1.5亿美元。“我见识到了德米斯的动力、领导力和政治手腕。”辛顿后来解释道。

  • 最成功的创始人并非一心只想创办公司，他们肩负的使命更接近于创立一种信仰。

  • 佩奇表达的观点已经存在超过了半个世纪。1964年，科幻作家阿瑟•C.克拉克 （Arthur C. Clarke）称，“人类成为通往更高阶事物的垫脚石，这是一种特权。”“我怀疑有机生命的进化或生物进化差不多已近乎走到尽头，我们正处于无机生命的进化或机械进化的开端，而这一过程将比过去的变化快数千倍。”@3body LOL

  • 后来者的模仿行为得益于研究成果公开发表的惯例：这些实验室鼓励科学家在期刊上公布自己的发现，认为一流的发表记录对于招募最优秀的人才至关设沒有重要。尽管如此，来自 Facebook 和 OpenAI 的竞争对手既不像西尔弗那样认这未可强化学习，也没有在这一领域达到像他那样的造诣，他们也无法缩小这一差距。西尔弗的声望和谷歌充足的资金，几乎确保了最优秀的强化学习研究人员都会选择加人 DeepMind。

  • 正如彼得•蒂尔对哈萨比斯的评价：/天才的卓越往往体现在特定使命上，他们往往非常适合完成某项特定任务。/对哈萨比斯来说，他的使命是创办一家追求 AGI 的公司。

  • “太完美了，” 苏茨克维后来表示，“理查德•哈明（Richard Hamming）有一个著名的演讲，题为《你和你的研究》（You and Your Research）。”苏茨克维补充道，他指的是这位贝尔实验室科学家 1960年的一次演讲，“我在读研究生时反复阅读过。他说的其中一件事是，如果你已从各个角度反复思考过一个问题，那么当正确的解决方案出现时，你会立刻认出它。”“我就是这样。我长时间思考序列建模，然后 Transformer 就出现了。”

  • 确实是事实，也恰如其分地描述了 DeepMind 的情况。哈萨比斯和他的同事们贬低 OpenAI 的工作是以工程学为主导，只有蛮力，没有智能。他们发表《自然》论文，而OpenAI 只能发布博客文章。

  • 尽管如此，哈萨比斯的判断力还是比大多数人强。在职业生涯的多个节点上，/他都展现出敏锐的洞察力，比竞争对手更早发现并探索科学趋势。然而，在语言建模领域，他的判断力却出现了偏差，原因包括他对无接地符号的怀疑、对游戏的热爱，以及他假定人类经验比互联网上的所有文本都更丰富，或许也更宏大。2022年底，当OpenAI 的ChatGPT 风靡全球时，DeepMind 为这个错误付出了代价——它不再被视为世界顶级 AI实验SHI

  • 事情并不是非黑即白，尤其是当你面对一项后果未知的技术时。所以你必须学会适应，从理想主义者转变为现实主义者，但仍然希望保持理想主义的内核

  • 我在剑桥大学时，并没有进行过太多关于蛋白质的讨论，”哈萨比斯后来表示，“可能就只有一次，在酒吧里，我们在玩桌上足球游戏时聊过。但那个想法就在我脑海深处生根发芽了。我的很多想法都是这样形成的：潜意识里慢慢琢磨，等我需要的时候，就已经完全成形了。

  • 哈萨比斯持反对意见。他不想成为该领域的佼佼者，而是想解决这个问题。“我完全理解安德鲁观点的合理性，”哈萨比斯后来表示，“或许我当时确实有些不切实际，但我认为实现伟大的成就都需要一定程度的不切实际。”

  • 如果带领团队的人认为问题无法解决，那么团队绝对不可能破解这个难题。”哈萨比斯后来解释道。

  • 每位研究人员都被要求在下一次会议上带来一张幻灯片，提出一个可能彻底改变 AlphaFold 准确性的大胆想法

  • 就像20世纪40年代的奥本海默一样，一些科学家不得不从技术构建者转变为技术管控的倡导者

  • 如果说哈萨比斯是一个逆势而为的独行者，热爱伦敦，那么奥尔特曼则处于一个强大网络的中心，这个网络连接着人才、资本和流量，一切都为创造新的未来服务。尽管哈萨比斯更早地想象出了一个拥有强大 AI 的世界，但奥尔特曼同样能令人信服地描绘出一个新的未来。）

  • 没有任何例子表明，聪明的事物会被不聪明的事物控制，

  • 这套模式源自哈萨比斯从游戏行业引人的方法论，早已深深融入 DeepMind 的文化基因。多年前，他在和杰克•雷在伦敦共事时，就直接将其传授给了后者。所有突击小组成员将合力研发同一模型，任何人都可以提出系统改进建议，但只有能提升模型性能的建议才会被实际采用。一切都以数据说话。这套模式屡试不爽，杰克•雷现在要做的就是照搬这一成功经验。

  • “科学收藏品呢？”
    “我有一些香农论文的首版，大概花了5000 英镑。”【“你总该有需要花更多钱的东西吧？”我追问道。
    “我的诺贝尔奖奖章就是我最贵重的财产。”“那爱好呢？有些爱好也很烧钱。”
    “看足球。卖掉公司后，我买了利物浦足球俱乐部的赛季票。我一有空就
    去看，一个赛季大概去5次。这是我主要的娱乐活动。”
    〝那慈善捐赠呢？”
    “我通过我母亲的教堂捐赠过。/我还捐了几百万英镑，设立了奖学金，专
    门用于资助那些考人剑桥大学的贫困生。”
    我决定不再追问，但哈萨比斯想把自己的想法说得更清楚一点。
    “就像我之前说的，人确实需要一些钱。人需要优化自己的生活，这样才能有更多时间去做该做的重要事情，或者多陪伴家人。

  • 我们又回到了他的核心主题：/财富和权力本身并非目的，而是获取科学知识的手段。他说：“人生很短暂，如果你想做这类项目，实在没有多少时间可以浪费。”

  • 以下是交流之后AI总结的笔记内容：

1. 核心世界观：万物皆可编程（Programmable World）

  • 第一性原理： 坚信世界底层是逻辑与信息的组合。从蛋白质折叠到宏观物理系统，本质上都是复杂的计算问题。
  • 范式转移： AI 的作用不是为了提供一个“只给答案的黑箱”，而是通过格式化数据，将原本处于“炼金术”阶段的经验科学（如生物、材料）转化为可预测、可编程的数字化系统。

2. 技术演进逻辑：ImageNet 矩（ImageNet Moment）

  • 基础设施优先： 科学突破往往不始于算法的改进，而始于数据的标准化（如 ImageNet）。当混乱的实验信号被转化为高纯度的“语言”时，AI 才能产生真正的洞察力。
  • 缩微模型策略： 在高成本、长周期的实验前，建立低成本的预测模型（Proxy Models）进行快速迭代，是打破科研“恶性循环”的关键工程智慧。

3. 团队与组织：从“第七班”到“大科学工程”

  • 角色分化： 伟大的突破始于性格互补的小团队（如 DeepMind 三剑客），但最终必须走向“大科学工程”模式——统一评估指标、集中资源调度，将个体创意转化为工业化的产出。
  • 管理者的博弈： 存在于“追求纯粹科学突破的学者（Scholar）”与“必须在市场打磨产品的执行者（Product Manager）”之间的永久张力。AI 军备竞赛迫使科学家必须学会用“商业产品”作为盾牌，去守护“科学梦想”。

4. 认知与工具：可解释性（Interpretability）

  • 黑箱的透明化： 面对超越人类大脑处理极限的复杂系统（如生物或高维材料），利用 SHAP 或归因分析等工具挖掘“特征重要性（Feature Importance）”。
  • 机制的本质： AI 发现的隐藏模式是人类洞察力的延伸。可解释性不是为了证明 AI 的正确，而是为了从 AI 学习到的高维逻辑中，提取人类尚未掌握的物理规律。

5. 宿命与意志：技术加速主义

  • 可能性的必然： 凡是物理定律允许的技术，终将被实现。竞争压力（如 OpenAI vs Google）会加速这一过程，打破学术的优雅，迫使技术跨越“奇点”。
  • 时间观： 人生短暂，财富与权力仅是获取知识的手段。在“创意源源不断”的窗口期，应当通过流程化管理保护深层认知带宽，避免在平庸的忙碌中产生磨损。

《思考之弈 The Thinking Game (2024)》

↩️

  • 之前有一次在机场的路上，出租车里很快看完了这部纪录片，特殊时期，特殊记忆。

Thanks for being an insider till the end!
Till next , stay safe and stay hydrated!