Confronting Our AI Future · 闭幕主题演讲与对谈 — 全文中文译文
| 项 | 值 |
|---|---|
| 对应原文 | ../sources/2026-11-09-confronting-our-ai-future-jeff-dean-feifei-li-transcript.md |
| 活动 | Stanford HAI「Confronting Our AI Future: Hope, Fear, and the Choices Ahead」，2026-10-28 |
| 本场 | 4:00–4:15 Jeff Dean 演讲《Discovery Loop: Accelerating Science and Engineering》 + 4:15–4:45 与李飞飞闭幕炉边对谈；约 48 分钟 |
| 主讲 / 对谈 | Jeff Dean / 李飞飞 Fei-Fei Li |
| 译者 | 小 Q · 2026-11-09 |
| 状态 | 第 2 步交付：全文译文 + 单词表。不含观点分析、不含提问——按侃姐指定的顺序，她读完译文后提问，再把提问与回答存进本卷 notes/ 的批注区 |
翻译说明（先读这 7 条）
- 底本是自动转录字幕，逐行带
MM:SS时间码，不是逐字校订稿。译文清掉了口吃、重复词和无意义语气词（"um"、"uh"、"I I"、"the the"、"you know" 一类），把碎句合并成完整句子，但不改动任何实质内容；原文一字未动存在sources/。 - 本份有时间码，译文用 ¶1–¶34 段落编号 +
tMM:SS锚点定位。原字幕存在05:60、07:60、14:60、25:60这类秒数溢出写法，译文按上下文归入相邻分钟，不编造新时间码。 - 说话人由内容判断。原字幕只在部分位置用
>>标说话人切换，多处漏标；Jeff Dean 主讲段（¶2–¶14）不另标名字，对谈段按「李飞飞」「Jeff」区分，个别拿不准处标[?]。 - 专名按核实结果校正：
fee Lee / FFE→ 李飞飞 Fei-Fei Li；John Levven→ John Levin（斯坦福校长 Jonathan Levin）；Sanjay Gimat / Quacle / Quack / Oral / Oriel Vignyals→ Sanjay Ghemawat / Quoc Le / Oriol Vinyals；Jeff Hinton→ Geoffrey Hinton；Nurips→ NeurIPS；archive→ arXiv；Terrace / Terrence→ 陶哲轩 Terence Tao；shaping AI's impact on billions of people→ 论文实际标题《Shaping AI's Impact on Billions of Lives》。完整清单见文末。校正只用于译文理解，原文不改。 - 本份全篇译出，无整段省略；与 AI / 工程主题无关的政治社会议题本场基本未涉及。少数转录残破、无法确证的词句标
[?]，集中在文末「存疑处清单」，引用原话前请回官方视频核对。 - 演讲中提到的数字（27 年、4,400 人、400 场面试、20 个循环、20–50 倍产能、1 亿次实验、4 万次引用、720 篇论文、500 页 Lean 等）均为讲话者口述，未经核实，照译不作背书。
- 同步产出单词 / 术语表：
-words.md。按侃姐 2026-11-09 的要求新增，分「核心技术术语 / 学术与抽象词 / 口语与习惯表达」三组，每条带原文语境与时间码。
¶1 · 主持人开场介绍（t00:00–01:26）
主持人：好了，我们一整天都在谈 AI 的硬问题——谁来治理它、它跑得有多快、我们怎么围绕人来设计它。闭幕主题演讲，我们要转向最让人抱有希望的承诺之一：用 AI 来加速科学发现本身。
Jeff Dean 是 Discovery Loop 的联合创始人兼 CEO，这是一家聚焦「AI 用于科学与工程」的新公司。在此之前，他在 Google 待了 27 年，参与打造了 MapReduce、BigTable 这样的系统，创建了 TensorFlow，并担任首席科学家与 Gemini 的联合负责人。他的演讲题目是《Discovery Loop：加速科学与工程》。演讲之后，李飞飞教授会上台，进行闭幕对谈。
李飞飞是 Stanford HAI 的创始主任与高级研究员、斯坦福首任 Sequoia 计算机科学讲席教授，也是 World Labs 的联合创始人兼 CEO。她最近出任校长 John Levin 的 AI 特别顾问，并担任 HAI 顾问委员会联席主席。如果没有她的远见，以及她坚持「把人放在 AI 的中心」，就不会有今天的 HAI；这份创所愿景至今仍是研究院一切工作的核心。
现在，请大家和我一起欢迎 Jeff Dean。〔掌声〕
¶2 · 使命：自动化科学实验循环（t01:32–02:16）
Jeff：太好了，今天能在这里和各位在一起很愉快。我要讲的是 Discovery Loop。我们的使命是：造出能自动解决机器学习、科学和工程领域重要问题的 AI 系统。我们认为这最终会带来世界上更多的发现，这正是让我们兴奋的事。
很多很多学科里都有一个共同的循环，可以说是科学与工程通用的回路：提出实验 → 实现并运行这些实验 → 看结果 → 考察你能对结果做的各种测量 → 决定下一步做什么，而下一步往往就是再做一次实验。
¶3 · 缩短迭代时间，对标工程院大挑战（t02:16–03:18）
Jeff：我们的做法，是把这类实验循环自动化。我们认为，如果你能把迭代时间压下来——也就是跑完一遍这个回路所需的时间——又能自动地提出并运行大量实验，还能从每一次评估里学习，让后续提出的实验更好、并且建立在前面跑过的实验之上，同时在质量和数量两个维度上把实验规模做大，你就会得到突破性的结果。本质上我们要做的就是这件事。
如果你眯着眼看这份美国国家工程院「大挑战」问题的清单——这些是当年提出的、21 世纪对人类极为重要的问题，而我们现在大约走过了这个世纪的四分之一——再去看其中某些领域（尤其是标红那些）需要解决的子问题，我们认为这类自动化发现回路确实能帮上忙，覆盖所有这些不同方向。〔场内轻笑声〕
¶4 · 为什么单独成立一家公益公司（t03:22–03:53）
Jeff：有一件事对我们很重要，也是我们把它做成一家独立公司的部分原因：我们相信，技术如果做对了，能对世界产生惊人的正面影响——但这份正面影响不会自动发生，得靠所有人一起努力去确保。所以我们把公司注册为公益公司（public benefit corporation），公开使命是：开发能应对重大社会问题的技术，并让它的收益被广泛获取，以改善人们的生活。
¶5 · 四位创始人与在 Google 做过的事（t03:53–05:02）
Jeff：简单介绍我们四个人。我有三位了不起的联合创始人：Sanjay Ghemawat、Quoc Le 和 Oriol Vinyals。按两两组合算，我们一起共事的时间在 14 到 30 年之间。我们很享受一起啃难题，经验也各不相同。
我们都来自 Google，所以列出来的都是 Google 系的东西：很多代产品——Google 搜索、最初的广告系统、内容广告、Gmail、News、Translate；第二列是基础设施系统，上面那部分是用来组织、管理海量数据、在数据上跑大规模计算以提取有趣洞见的东西，下面四个则是多代大规模机器学习基础设施，用来训练能力越来越强的模型，还有我们参与过的、面向机器学习的硬件 TPU。
我们还做过不少 AI 研究问题，包括一些今天很多高能力模型的核心：模型蒸馏、混合专家（MoE）模型；神经架构搜索可以看作这类自动化回路的早期版本——它试图找出能解决问题的神经网络架构。再就是 AI 落到不同领域、包括科学领域的应用：Quoc 和我都参与了 AlphaChip，用强化学习做芯片设计里的布局与布线；Oriol 参与了 AlphaFold 和神经天气预报。经验组合挺不错。
¶6 · 管理规模与那封邮件（t05:02–06:10）
Jeff：我们也管过很大的团队。我管过最多 600 人的 Google 评级
[?]团队，也管过最多约 4,400 人的 Google Research 与 AI 团队——直到我意识到自己大量时间花在「第二季度运营支出（Q2 OPEX）」的会议上。于是我按下发送，发出一封邮件，把我从 4,400 个直接下属变成了 4 个。接着第二周 Geoffrey Hinton 退休了，我就只剩 3 个。后来 Oriol 和我一起担任 Gemini 项目的技术负责人，Quoc 是我们的后训练负责人。我们也很为团队里走出去的校友骄傲，他们做了很多了不起的事，包括创办 Anthropic、OpenAI、Physical Intelligence（在斯坦福大概不用多介绍）等等公司。
¶7 · 高引榜单与一起旅行（t06:10–07:19）
Jeff：我们觉得自己有一种不错的组合，把 AI 研究能力和分布式系统能力混在了一起。这是按 Google Scholar 统计的、被引用最多的 AI 研究者与分布式系统研究者，红框里是我们；带星号的那些人都在我们的团队里待过，挺好。
我们在一起也很开心，去过好几个大洲：右上是伦敦，左上是巴塔哥尼亚，左下是越南——Quoc 和我吃完晚饭坐类似 Uber 的摩托回去——还有加州。
¶8 · 组建创始团队（t07:19–08:37）
Jeff：我们前期花很多精力的一件事，是怎么组建一支了不起的创始团队。公司成立初期，主要就是在招厉害的人。他们来自很多不同的地方（屏幕上看得到那些公司标志），不少人有过创办公司或主导重要项目的经历。
团队里有带过 Go 编程语言项目的人，有 Gemini、DeepSeek
[?]、Kimi K3[?]等模型的关键贡献者，Kimi K3 论文的合作者、以及 attention residuals[?]那项工作的作者最近也加入了我们。我们既有经验很丰富的人，也有职业早期正在冒起来的新星；公司里大约 10% 的人拿过 ACM Prize in Computing，大约 10% 拿过奥赛奖牌[?]。对招到的这支团队，我们挺兴奋的。招聘时我们也特别看重「一起把事做成的协作能力」，这部分本身就很有意思。
¶9 · 为什么是现在：过去 10–15 年的积累（t08:37–09:48）
Jeff：为什么是现在？因为我们已经有了能力很强的前沿模型，能做很多惊人的事。这部分来自过去大约 10 到 15 年 AI 领域里一连串不同层面的创新：
硬件层性能大幅提升，TPU、GPU 以及更专用的东西；软件抽象变好了，人们更容易实现自己在意的东西，也更容易高效映射到硬件上；模型架构在进步——word2vec、seq2seq，再到 Transformer，都是「该训练什么样的模型」上的重要创新；训练算法也好了很多，比如蒸馏让我们能得到质量很高但更小的模型；推理算法其实进步相当大，你可以在推理时投入更多算力、拿到更好结果，比如思维链，或者推理时算力扩展——把同一个问题试很多种解法，再回过头检查发生了什么。
¶10 · 光有好基座模型不够（t09:48–10:48）
Jeff：但一个很强的基座模型，并不足以解决我们想解决的那些问题。我们的判断是：从好基座模型出发，但还需要 agent + 模型，能真正有效地使用工具去完成很复杂的任务。
我们希望 agent 和模型特别擅长创造力——得出惊人的科学或工程突破，很多时候不是把已经做过的事再做一遍，而是把大量洞见拼到一起、提出真正新的东西，再看它效果如何。我们还认为 agent 和模型应该能从先前的实验、先前的经验里学习：既包括解决当前这个问题时的学习，也包括长期——你会看到有些系统也许已经解决了 5,000 个问题，到第 5,001 个时，它能从与这个新问题最接近的那些问题里学到东西。
¶11 · 传统实验循环的代价：分解本身很难（t10:48–12:00）
Jeff：在传统实验循环里，每个阶段往往都要大量人工。而当你想解决一个更大的问题，情况会更复杂：通常得把大问题拆成一堆子问题或子块，于是「怎么拆」本身就是一个很难的分解难题（左边那部分）。然后每个子问题、子领域又有很多人在跑实验、弄清什么有效什么无效、试不同路线，就会产生大量协调开销，还会出现资源冲突、大系统效应。所以这种分解其实相当难。
而且，把各子问题的结果重新合起来也很难。或许更糟的是：在一个超大规模项目里，你一开始决定怎么拆，等项目跑起来之后几乎没法再改。造一架飞机、训练最好的前沿模型这类大型工程，你没法很有效地回头重审那些早期决定。
¶12 · 少量专家 + 自动分解 + 支撑数万次实验的基础设施（t12:00–13:06）
Jeff：我们认为可能的是：用相对少量的领域专家，配上自动化系统，理想情况下由系统自动拆成有意思的子问题、再自动把这些子问题解掉。也可能人的指导对分解有帮助，由人来指定哪些子问题重要，从而让一小群有领域专长的人真正去啃大而有影响的问题。
这要成立，得有对的基础设施：你要跑数万次自动化实验，系统得扛得住，得能理解「跑这个实验 vs 跑那个实验」的价值差，再决定下一步做什么。用强化学习或进化算法做自动化决策。这样早期那些决定就能更流动地被重新审视；而每一次先前的实验，都应该为未来每一次实验提供信息。
¶13 · 公司到目前为止做了什么（t13:06–14:40）
Jeff：到目前为止我们做了什么？头三周做了 400 场面试，大多在 University Avenue 上的 Café Venetia，用来找厉害的人（前面提到过其中几位），还找了办公室——我们在旧 Zibbo 餐厅
[?]里，空间挺有意思。我们自建了 agent harness，自己全部的开发和自动化都跑在它上面。这个 harness 有一些很好用的协作特性：你可以把它想成一个「你和模型对话、让它解决问题」的系统，但你也可以把同事邀请进来一起协作，两个人同时跟一个模型 / agent 说话；别人还能对你在做的事加评论，或者在正式提出之前先给 agent 提一个设计。
我们还建了 agent-first 的基础设施，让它能扩展到几万、几十万个 agent 在干活，而不是几百个人在干活，我们认为这点很重要。目前大概有 20 个自动化改进循环在按我们设想的方式跑，我们能看到它们在跑、在改进，也在评估用什么方法能让这些实验迭代更有效、更快：怎么从先前的实验结果、先前采集到的测量里学得更快？
¶14 · 目标与收尾（t14:40–15:39）
Jeff：我们现在的位置，是在搭这套软件回路，先自动化机器学习任务——因为我们认为这会为很多自主科学打开空间。但起步阶段，我们聚焦的是：怎么造出能解决机器学习研究与机器学习工程问题的自动化系统。目标说到底，是让领域专家的生产力提高 20 到 50 倍。
我们不是要把人从这件事里拿掉，只是想赋能那些厉害的人、或者想解决某个具体问题的领域专家，让他们少费点力气就把问题解决掉。
总结一下：15 年机器学习的突破带来了能力很强的模型，为自动化 ML 科学与工程、从而大幅加速发现铺好了舞台。谢谢。哦，我们还在招人，去 discovery.com
[?]投。谢谢。〔掌声〕
¶15 · 对谈开场（t15:46–16:31）
李飞飞：哦，这杯。抱歉，我拿了你的水。
Jeff：没事。
李飞飞：刚才那场演讲很棒，谢谢你 Jeff。我想这是最后一场了……好吧，我们现在是夹在观众和茶点之间。
Jeff：从来不是个好位置。
李飞飞：是。我本来希望这一场能更「技术宅」一点、往技术里钻一点，但安排的是我们俩对谈，所以我得戴两顶帽子：既向你提问，又参与讨论。谢谢你刚才的演讲，因为我本来第一个问题就想问「为什么」——为什么会有 Discovery Loop。恭喜。
Jeff：谢谢。
¶16 · 第一问：为什么离开 Google（t16:33–17:13）
李飞飞：你们四位基本都是「Google 终身员工」，尤其你 1999 年就加入了，对吧？
Jeff：对。
李飞飞：过去几年宏观上的技术进步非常清楚、也非常惊人，但我还是好奇：过去有没有某一个时刻——我猜是一两年前——技术走到了某个状态，让你和 Quoc、Sanjay、Oriol 觉得「我们得做点不一样的事，而且在 Google 里做不了」？
¶17 · 从 NAS 到自然语言指定搜索空间（t17:13–18:35）
Jeff：有。我们一直对「能帮人更自动化地开发软件系统的自动化系统」很兴奋，或者说……Quoc 十年前就做了很多神经架构搜索的工作，你可以把它看作那类递归式、自我改进系统的早期版本：你说「请帮我找出适合计算机视觉问题、或者语言问题的好模型架构」，它就去找。
我们知道那种方法是管用的。但在那个年代，你得用一堆歪歪扭扭（janky）的 Python 代码去指定搜索空间，而不是像今天这样用自然语言。今天你可以对一个「有能力的模型 + agent 系统」说：请去探索一些可能有助于解读 MRI 图像的模型架构，它就会自己去做。
我觉得这是对「计算机系统和 AI 系统能做什么」的想象方式的一次非常深刻的转变。如果你能让这些东西可靠地工作，就能解锁很多事；尤其对科学和工程，我们认为那是一批特别成熟、值得下手的领域（原文 ripe），可以用来真正推进对世界的正面影响。
¶18 · 「loop / loopy」与小团队的乐趣（t18:35–19:28）
李飞飞：我明白了。所以真的是那些循环、自我改进让你们觉得想做这件事？
Jeff：有人会说我们有点 loopy（既指「绕圈」也指「疯癫」），不过，是的。
我还想说一点：我们一直很享受从很小的项目起步。5 个人在做一件事，加进第 6 个，再加第 7 个、第 10 个，那种神奇的感觉真的很有意思。这在大公司里也能做，但我们同时希望以公益公司的形式来做——我们觉得那是对自身价值观的一个重要体现；也意味着要纵身一跃，现在连办公场地、开公司的各种杂事都得自己搞定。
李飞飞：某种程度也挺好玩的。
Jeff：是啊，挺好玩。
¶19 · 李飞飞：World Labs 的启动时刻（t19:28–19:55）
李飞飞：嗯，很酷。其实我自己创办 World Labs 时，也是「看到技术到了某个节点」的时刻——只是跟你们看到的不一样：计算机视觉和生成模型在那一刻汇合了，我们终于能做出超越文字的生成模型，那就是我们启动 World Labs 的时刻。
Jeff：是啊，你们做出来的、以及现在成为可能的那些生成模型，真的相当惊人。
¶20 · 概念的命名史，以及为什么要严格定义（t19:55–21:01）
李飞飞：好，那我们来聊聊自我改进、递归自我改进，稍微往技术里钻一下。我们在机器学习这个领域受的教育算是同代人。我刚才在心里数，这个概念从我做研究生到现在，一辈子换过多少名字：先是 incremental learning（增量学习），然后 continuous learning（持续学习），然后 meta-learning（元学习），然后 lifelong learning（终身学习），再是神经架构搜索。你刚才提到现在有 self-improvement，还有 RSI。
能不能给台下的观众、尤其技术侧的观众，一个更严谨的定义：什么是自我改进，什么才算递归自我改进？我这里的目的是把虚构和事实拆开（tease apart the fiction from the facts）。
Jeff：当然。
¶21 · 两个定义：MRI 例子（t21:01–22:22）
Jeff：我前面讲的那些循环，可以套到很多类问题上。我理解的 self-improving system（自我改进系统） 是这样：你给系统一个目标，通常是某个可测量的指标，比如一个 ML 模型的准确率，让它去改进；它会尝试不同的模型架构来提高这个准确率。
李飞飞：这里停一下——很多机器学习算法都能做到这个。
Jeff：是的。
李飞飞：那本身并不递归，对吧？
Jeff：对，不递归。
比如我们把系统指向一批 MRI 数据和 MRI 结果，说「我想开发一个能帮助解读 MRI 图像的模型」。这会是一个自我改进系统：它能自动把那个模型开发出来，你看到被尝试的不同方法，准确率随着系统跑实验有望逐步上升——但这并没有改进那个「提出下一步该试什么」的基础系统，对吧？
李飞飞：对。所以递归自我改进是：你怎么让这种自我改进的方法，去改进那个你希望它提出更好下一步的基础系统本身。如果这么说成立的话。
Jeff：对，说得通。
¶22 · 概念被滥用，以及 RSI 的物理极限（t22:22–23:06）
李飞飞：嗯，我觉得说得通，但这个对很多人来说是个非常容易混淆的概念，尤其现在在硅谷，大家用得特别松（loose）；作为科学家，这让我挺不舒服的。所以我就是想借这个舞台，确保我们把 RSI 定义清楚。
那我们来谈谈 RSI 的物理极限。现在 RSI 被炒作成几乎是……几乎像一个没有尽头的系统，可以一路加速、加速到无穷。炒作在哪、虚构又在哪？
¶23 · 人类怎么改进模型，以及为什么不可能无限快（t23:06–24:56）
Jeff：先想想过去 10 到 15 年人类是怎么提升模型能力的：把很厉害的研究员和 ML 工程师聚到一起，小规模跑大量实验，说「哦，这些想法没用、这些有用」，然后把有用的纳入下一代模型。Gemini 2 之所以在 Gemini 1 之后出现，就是我们跑了大量实验、改进了东西。这其实是研究与工程的正常流程。
当你开始把自动化用上去，是的，你能让这件事变快一些：人启动一个实验，实验凌晨 2 点跑完，人早上 8 点才回到桌前看结果；如果是自动化系统，它能立刻看结果、想清楚下一步，而且在整个大项目上，可能比每个各自决定下一步的个体做出好得多的决策。
但如果你想想「造出一个基座模型并让它更好」需要什么，里面是大量真实的训练和实验，这些不可能无限快地发生，对吧？有真实的物理在里面：你得跑计算，得看结果，计算机得把活干完，你得存数据，还得让另一个模型去看结果，才能决定下一步。所以有些人的幻觉是「这个循环能无限快地跑下去」，我只觉得这种说法不太可信。
有自动化系统去尝试改进，肯定会提高我们改进这些系统的速率，但不会让它们变得无限快。
李飞飞：嗯，脚踏实地（grounded in reality）是好事。
¶24 · 李飞飞的煎蛋卷类比：人是自我改进系统还是 RSI 系统（t24:56–26:55）
李飞飞：我觉得这一点真的很重要。其实我不是来 Discovery Loop 应聘的，但我确实和 Jeff 在 Café Venetia
[?]喝过咖啡，聊过 RSI 的炒作与事实——当时其实是在为这场 panel 做准备。不过有一件事我还没跟你对过，你可以同意也可以不同意，完全没关系。我当时在想人类：我们是一个自我改进系统，还是一个 RSI 系统？我觉得我们肯定是自我改进系统。我做饭很糟，如果第一次试着煎蛋卷，肯定全糊；但我学到了，第二次会好一点；也许第 10 次能做出一个还过得去的蛋卷，我自己能吃，我孩子不吃。这就是自我改进。
但 RSI 那部分跟我的大脑有关：在学煎蛋卷的过程里，首先我的大脑得被某种方式改变，神经连接得改变到足够程度，让我拥有一个「更擅长煎蛋卷的系统」；如果谈的是硬件改进，也许我还能长出第六根手指。然后随着煎得更多，我的大脑进一步被改进。如果那个循环真的发生，人类就是 RSI 系统。这个类比对吗？
Jeff：也许你是 AI 生成的吧。〔笑〕
¶25 · 「学会如何学习」，以及别钻牛角尖（t26:55–27:52）
Jeff：我觉得答案是：人两者都是。你一生里学很多东西，那是自我改进——学煎蛋卷、学做微积分题；但你也会学会如何学习（learn how you learn）。而正是「学会如何学习」让你成为递归自我改进的：因为你理解了什么样的知识、以及信息以什么方式呈现给你时，你吸收得最有效，之后你就能基于这个理解更快学会做更多事。
李飞飞：对。而且递归自我改进，说不定本质上就是一种进化算法。算了，我不想钻进这个兔子洞（go down the rabbit hole），但我觉得能公开讨论这个话题是很少见的机会，因为现在关于它的炒作太多了。
Jeff：是啊，炒作「会无限快、很吓人」那一套。如果你把它当成一个务实的工程系统、看它实际在做的事，它就没那么吓人，也更好理解了。
李飞飞：对。
¶26 · 到底想解决哪些科学问题（t28:05–30:18）
李飞飞：你讲了很多 discovery loop，但对「想做哪个科学问题」还是有点含糊。我想稍微推你一下，推到你愿意透露的程度。
Jeff：好。
李飞飞：造福社会的科学问题那么多，你现在对哪一个最有热情？
Jeff：长期以来我对 AI for healthcare（AI 用于医疗健康） 非常感兴趣，那是我们以后会做的方向，不是现在，因为我觉得那是个极重要的领域，也非常契合我们公益公司的使命。
眼下我们聚焦的是整条回路都能以数字形式完成的那类科学与工程问题，因为这类最容易把整个循环提速。一旦牵涉真实的物理过程，回路就更难加速；当然有很多重要学科确实需要物理过程，我们也有一些混合方案能在那些领域提速。
所以看数字化的科学与工程领域：起步阶段我们聚焦 机器学习研究、机器学习工程本身，以及硬件设计这三个方向。我们觉得聚焦少数几个领域比什么都想做好；这几个我们既有领域专长，又认为它们是能撬动其他东西的重要领域。举个例子：在医疗领域，如果你有一个能自动解决机器学习工程任务的系统，你就能把它指向健康、材料科学等等问题，说「我想要一个专门针对这个特定任务的厉害模型」——那属于自我改进，但不是递归自我改进。所以我会这么描述我们：现在聚焦这三个领域，但有往更远处走的野心。
¶27 · 实验主义 vs 理论，以及学科边界（t30:18–33:18）
李飞飞：好。我本科受的是物理训练，物理里有个分法：实验派和理论派。我刚在想你画的那个循环——你叫「提出实验」，但物理里我们习惯说「形成假设」，然后才走实验、评估那一套。我在想，强大的 AI agent、或者这些自我改进循环（不管递不递归），是不是在哲学上站到了实验主义那一边：它非常强调提出假设、并行地跑大量实验，而不是那种更神秘的理论式科学发现。到今天你还会觉得奇怪：牛顿、爱因斯坦这样伟大的理论家并不怎么做实验，他们读别人的实验，但不这么干活。你觉得这是不是偏向了实验主义（experimentalism）？
Jeff：我不认为必然，但确实有一点往那边倾。我觉得用这样的系统也能做出很棒的理论工作：你可以提出「你能不能给出一个能解释这全部数据的理论？」它可以迭代，试着找那种能解释实验数据的最小描述（minimal description）理论。你想，很多实验或理论物理学家，就是看着物理界实验领域的进展，试着提出理论去解释人们正在观测、却还不理解的东西。所以我认为那当然可能。
而且我觉得，不该把这些当成彼此分开的学科——理论物理、实验物理、化学。设想一个系统真的解决过 100 万个问题、在 100 个科学领域里做过 1 亿次实验，它很可能因为见过大量不同种类的实验结果、见过在你将来要问的有趣问题「邻域」里什么有效什么无效，而积累出很多洞见。这种东西不像我们人类有时会借院系边界之类设下的那种硬边界——院系边界之类。我很喜欢 HAI 的一点是：它是个全校性（pan-institutional）的机构，能让所有人一起对话。
¶28 · 数学：美，与一场「海啸」（t33:18–35:00）
李飞飞：好吧，那我们就得聊聊数学了。其实当初提议邀请你来这个 panel 时，我本来还想请陶哲轩（Terence Tao），我给他打了电话，但他来不了。那我们稍微谈谈数学。
我得说，看到先是 Navier–Stokes、720
[?]篇论文，然后 OpenAI 昨天又发布了 AI 解数学的成果，我心情挺复杂的。倒不是我不喜欢被解出来的东西，而是数学、那些百年千年的数学问题，是人类智力的顶峰；数学家在里面看到的不只是技术解法，还有美。而现在我们有了一套完全不同的机器（machinery）去处理这些问题。对吧？Jeff：嗯。
李飞飞：我和陶哲轩其实聊过不少，他最近也做了一个「Math 2.0」的演讲，讲 AI 能帮着解决某些类型的数学问题；但他也坚持认为，另一些数学问题在 AI 的能力范围之外，尤其当我们没有解答、也就没有数据的时候。你怎么看过去这几周——真的就是几周——数学界这场海啸般的大变化？
¶29 · 500 页 Lean、机器验证，以及「知道它可解」的价值（t35:00–37:07）
Jeff：显然，那些模型、以及能用高度并行 agent 方式使用这些模型的系统，已经能解决数学里非常难的未解问题，这揭示了当下什么是可能的。我觉得人们觉得不太满足、还有点不舒服，是因为那些证明往往涉及像 500 页 Lean 之类的东西：机器检查过了，但没人真正理解那条通往结果的优雅简洁路径。
所以我认为，知道一个问题是被证明了还是被证伪了，是好事；但「怎么发展出真正优雅的技巧来抵达那个结果」，往往是人类数学家在和问题搏斗时发生的，而那些过程常常催生新的数学，又能拿去处理别的问题。
李飞飞：所以你是说，新的数学解法只来自优雅的解法？
Jeff：不。我是说优雅的解法常常会带来一个很酷的技巧，可以再用到别的问题上。我不觉得人们在这些非常长的机器生成证明里，一定能看到那种干脆、优雅的技巧。但「知道某件事是可解的」，其实在很多不同领域都很有价值：如果你知道它可能，你会更努力，会明白自己能做到，然后也许能用另一种方式、或者更优雅的方式真正做到。
所以，是的，这么多问题被同时解出来的方式让人有点难受；但这件事现在确实可能了，人们得想清楚，怎么利用这种能力去做更多数学。
¶30 · 台上小测验：2017 年 6 月 12 日（t37:07–38:29）
李飞飞：这个还能聊很多，但我答应过 Jeff 要在台上给他一个突击小测验（pop quiz），而且没告诉他题目。不过答不出来也没关系，因为我自己也不记得了。
Jeff：太好了，毫无压力。
李飞飞：〔笑〕你记得这个日子有什么意义吗？2017 年 6 月 12 日。
Jeff：2017 年 6 月 12 日……
李飞飞：别用 AI 作弊。
Jeff：哦，是不是 Transformer 那篇论文上 arXiv？
李飞飞：太神了，A+。我得查一下到底是哪天。你是 6 月 12 日读的 Transformer 论文？
Jeff：不，大概是 6 月 10 日。
李飞飞：哦对，那篇大概得先经过你批准。
¶31 · 最重要的技术时刻，以及预测错了什么（t38:29–42:08）
李飞飞：嗯，你的职业生涯……我们拿那一天当作生成模型时代的某种起点吧，到现在差不多九年了。聊聊这趟旅程里，对你个人而言最重要的技术时刻——也许没时间全说完；另外我还想接着问：请智识上诚实地讲，你预测对了什么、又预测错了什么？
Jeff：让我想想。在那张列了一堆进展的幻灯片里，有几个特别突出。
首先显然是 Transformer：对付这类问题，它是效率高得多的模型架构。「把经历过的所有状态都存下来，然后去注意（attend to）它们」，而不是每来一个状态就更新一个小向量、把前面的都忘掉——这是个非常棒的洞见，带来了无数后续进展，因为模型现在能用比早期 LSTM 架构少得多的计算学到多得多东西。
还有我和 Oriol、Geoffrey Hinton 做的蒸馏工作，2016 年被 NeurIPS 拒了，理由是「不太可能有任何影响」。
李飞飞：我们真该做个网站，把所有被拒的论文收进去。
Jeff：那篇挺够格的。我们把它扔到 arXiv 上，现在大概有 4 万次引用。它对于做出「能力强、但推理高效」的模型很关键：你可以拿一个训练好的、非常笨重昂贵的大模型当老师，去教一个轻巧灵活的学生模型——在大学里这么说还挺应景。
另外，我原本以为 MoE 架构会是一大波更「奇异（exotic）」的模型架构的开端。MoE 是你分叉出去到一堆专家、再合回来、再分叉出去，让模型学会哪些专家擅长哪些东西，这非常有用：给模型很大容量，但对任意给定 token 或任务只激活其中很小一部分。可它依然非常规整——几乎所有专家都一样大，而且立刻又合回来。
我当时以为，接下来会出现一批真正狂野、看起来更「有机」的神经网络架构：成柱的神经活动，它们再合回来；还有一些很稀疏但规模很大的跨连接，把网络里相距很远的部分连起来。我们还没做到。
李飞飞：做神经架构搜索时我们也想过这些，后来也没成，对吧？
Jeff：是啊。NAS 搜出来的模型，确实比人工设计的那种看起来「有机」得多：人工设计就是一层叠一层，偶尔每层来个跳跃连接；NAS 搜出来的会有很疯的连接。
李飞飞：比如「把这一层连到上面第 17 层，再搞点奇怪的事」。
Jeff：没错。
李飞飞：所以这是你预测错的一件事？
Jeff：我预测错过很多事，这一件比较突出——我原以为推动力会更多往那个方向走。
¶32 · 低估了编码能力（t42:08–42:43）
Jeff：还有，编码能力后来被证明非常重要。我当时并没有预见到，它会成为让这些模型能解决许多不同问题的关键解锁点（key unlocker）。
李飞飞：这一点我和你一样。我们多少都知道它重要，但没预见到它的影响会这么深。
Jeff：在 Gemini 项目里，编码是我们关注的方向之一，但不是「那个」最核心的方向。
¶33 · 那个 H：社会影响（t42:43–45:58）
李飞飞：好，我们刚才多少有点在「nerd out」，毕竟是在 HAI 大会，那就得聊聊那个 H（人）。有一件事我想知道你有没有预见、以及现在怎么看：AI 的全部社会影响——不只是影响，还包括就业、心理焦虑，以及现在几乎极端的关于人类灭绝、对齐等等的讨论。首先，哪一个最让你担心？
Jeff：这是一项极其强大、极其通用的技术，几乎在影响社会的每一个方面：数学、编程、生成图像、帮自动驾驶汽车开车……它不像以往那些技术革命——以前相对更收窄一些，深度影响 5 个或 10 个领域；这一次是同时影响世界上非常非常多的事情。所以它是兴奋的来源，也是忧虑、恐惧的来源。
我和一批很棒的共同作者写过一篇论文，叫《Shaping AI's Impact on Billions of Lives》（塑造 AI 对数十亿人生活的影响）。那是我唯一一篇有自己网站的论文，因为有位很有想法的共同作者做了 shapingai.com。我们看了 7 个不同领域，包括就业与经济、AI for science、虚假信息、媒体等等，并和每个领域的大量专家聊过，听他们讲 AI 已经怎么影响本领域、未来可能怎么影响。那是一段很好的经历。
我最担心的一件事，其实很简单：怎么在这些不同领域里尽可能拿到 AI 的全部好处，同时把它在许多方面可能造成的负面影响降到最小。 我认为这不是纯技术问题，它是技术问题，是监管与政策制定者的问题，也是公民的问题。我们所有人都得一起想清楚，怎么驾驭这项新技术，确保它极好地服务我们所有人，而不是以我们担心的那些方式伤害我们。
比如说，当人们的工作受到影响时，要有好的方式去适应世界现在需要的东西，能继续有报酬地工作、过上富足的生活。我觉得这是个多层面的事，需要世界上很多人一起处理。
¶34 · 给焦虑的年轻人（t45:58–48:14）
李飞飞：最后一问。我了解 Jeff 有一件大多数公众不知道的事：你非常关心年轻一代。我们不常同台，我记忆里上一次一起开会是 Grace Hopper 大会。
Jeff：哦，你连着去了好多年。
李飞飞：〔轻咳〕而我们现在就在大学校园里。坦白讲，这一代大学生很焦虑——连斯坦福的学生都在为工作、为经济前景焦虑。你有着这么成功的职业生涯，是 AI 的先驱，又能以公众还看不到的方式看见未来。对台下这些既焦虑、也可能怀着希望的学生，你有什么临别的话（parting words）？
Jeff：嗯，我当然理解这种焦虑，因为世界变化很快；而为一个快速变化的未来做规划，确实非常难。
我一般的建议是：尽量去理解正在出现、或者很快就会出现的新技术，并且确保你懂得怎么把它用在自己最有热情的那件事上。那可以是当医生，可以是帮着写文学作品，也可以是更高效地写软件。所有这些事，我认为 AI 都能辅助、都能赋能；但仍然存在一个「人的部分」——由人来决定我们共同想做什么。你该想清楚自己想做什么，并把它做到你所能的最好，而这就包括用好现在已经有的全部工具。
李飞飞：所以，在 AI 时代，人的热情依然不会过时。 谢谢你，Jeff。
Jeff：谢谢。〔掌声〕
转录错误与校正清单
| 原文（自动转录） | 校正为 | 依据 / 出现位置 |
|---|---|---|
fee Lee、FFE |
李飞飞 Fei-Fei Li | ¶1、¶19、¶24、¶34 等；HAI 活动页列为共同主席与对谈嘉宾 |
John Levven |
John Levin（斯坦福校长 Jonathan Levin） | ¶1；官方表述为 "Special Advisor on AI to President Levin" |
Sanjay Gimat、San |
Sanjay Ghemawat | ¶5、¶16；Discovery Loop 四位联创 |
Quacle、Quack、Qua |
Quoc Le（黎越国） | ¶5、¶16；同上 |
Oral Vignyals、Oriel、Oreio、Oral |
Oriol Vinyals | ¶5、¶6、¶16；同上 |
Jeff Hinton |
Geoffrey Hinton | ¶6、¶31；蒸馏论文合作者 |
rapid map reduce big table |
MapReduce、BigTable（rapid 为转录赘词） |
¶1 |
chief science scientist |
首席科学家 | ¶1 |
tensorflow / gemini / alpha chip / alpha fold / tension residuals [?] |
TensorFlow / Gemini / AlphaChip / AlphaFold / attention residuals [?] |
¶1、¶5、¶8 |
word tovec |
word2vec | ¶9 |
Gemini Deepc Kimmy K3 [?] |
Gemini、DeepSeek [?]、Kimi K3 [?] |
¶8，无法确证 |
III olymp medals [?] |
奥赛奖牌（具体赛事不明） | ¶8 |
Nurips / archive |
NeurIPS / arXiv | ¶17、¶30、¶31 |
Terrace、Terrence、Navier Stokes |
陶哲轩 Terence Tao / Navier–Stokes 方程 | ¶28 |
shaping AI's impact on billions of people |
《Shaping AI's Impact on Billions of Lives》 | ¶33；shapingai.com 官方标题 |
Cafe Venetia（¶13）/ cafe Valencia（¶24） |
统一作 Café Venetia [?]（Palo Alto, University Ave） |
同一地点两种转写 |
Zibbo restaurant [?] / discovery.com [?] |
保留原样并标存疑 | ¶13、¶14，未核实 |
the 5,000 first one |
第 5,001 个（口误） | ¶10 |
four reports |
4 个直接下属（direct reports） | ¶6 |
subpros / subpieces |
子问题 / 子块 | ¶11、¶12 |
asimoff 类 |
本场未出现（上一卷 Hassabis 材料里的错误） | — |
存疑处清单（[?]）
| 位置 | 存疑内容 | 处理 |
|---|---|---|
| ¶6 | Google rating team |
译作「评级团队」并标 [?]，也可能是 ranking team |
| ¶8 | Deepc / Kimmy K3 / tension residuals / III olymp medals |
按最可能读法译出并标 [?]，不作事实背书 |
| ¶13 | Zibbo restaurant |
音译保留 + [?] |
| ¶14 | apply at discovery.com |
照译 + [?]（未核实是否为真实投递地址） |
| ¶24 | cafe Valencia |
按 ¶13 统一为 Café Venetia + [?] |
| ¶28 | there 720 you know papers |
译作「720 [?] 篇论文」，语义断裂，未外推 |
译注（只作理解辅助，不作评价）
- ¶30：Transformer 论文《Attention Is All You Need》于 2017-06-12 提交 arXiv；Jeff Dean 是作者之一，所以「6 月 10 日」「得先经过你批准」是台上玩笑。
- ¶31：他说的「2016 年被 NeurIPS 拒稿、后约 4 万次引用」的蒸馏工作，指 Hinton / Vinyals / Dean 的《Distilling the Knowledge in a Neural Network》；年份与会议名按他的口述照译，未经核实。
- ¶33：论文《Shaping AI's Impact on Billions of Lives》另有 Communications of the ACM 版本（2026 年 1 月），共同作者包括 Jeff Dean、John Hennessy、David Patterson 等；网站 shapingai.com 属实。
待侃姐提问
按侃姐 2026-11-08 定下的顺序：这一轮只交原文存档 + 全文译文 + 单词表，不做观点分析、不预置判断、不替她出题。她针对译文提问后，把提问原话 + 回答逐条编号追加进本卷
notes/的批注文件（卷里还没有-notes.md，第一条提问时新建）。