# Confronting Our AI Future · 闭幕主题演讲与对谈 — 全文中文译文

| 项 | 值 |
|---|---|
| 对应原文 | [`../sources/2026-11-09-confronting-our-ai-future-jeff-dean-feifei-li-transcript.md`](../sources/2026-11-09-confronting-our-ai-future-jeff-dean-feifei-li-transcript.md) |
| 活动 | Stanford HAI「Confronting Our AI Future: Hope, Fear, and the Choices Ahead」，2026-10-28 |
| 本场 | 4:00–4:15 Jeff Dean 演讲《Discovery Loop: Accelerating Science and Engineering》 + 4:15–4:45 与李飞飞闭幕炉边对谈；约 48 分钟 |
| 主讲 / 对谈 | Jeff Dean / 李飞飞 Fei-Fei Li |
| 译者 | 小 Q · 2026-11-09 |
| 状态 | **第 2 步交付：全文译文 + 单词表。不含观点分析、不含提问**——按侃姐指定的顺序，她读完译文后提问，再把提问与回答存进本卷 `notes/` 的批注区 |

## 翻译说明（先读这 7 条）

1. 底本是**自动转录字幕**，逐行带 `MM:SS` 时间码，不是逐字校订稿。译文清掉了口吃、重复词和无意义语气词（"um"、"uh"、"I I"、"the the"、"you know" 一类），把碎句合并成完整句子，但**不改动任何实质内容**；原文一字未动存在 `sources/`。
2. **本份有时间码**，译文用 ¶1–¶34 段落编号 + `tMM:SS` 锚点定位。原字幕存在 `05:60`、`07:60`、`14:60`、`25:60` 这类秒数溢出写法，译文按上下文归入相邻分钟，不编造新时间码。
3. **说话人由内容判断**。原字幕只在部分位置用 `>>` 标说话人切换，多处漏标；Jeff Dean 主讲段（¶2–¶14）不另标名字，对谈段按「李飞飞」「Jeff」区分，个别拿不准处标 `[?]`。
4. **专名按核实结果校正**：`fee Lee / FFE` → 李飞飞 Fei-Fei Li；`John Levven` → John Levin（斯坦福校长 Jonathan Levin）；`Sanjay Gimat / Quacle / Quack / Oral / Oriel Vignyals` → Sanjay Ghemawat / Quoc Le / Oriol Vinyals；`Jeff Hinton` → Geoffrey Hinton；`Nurips` → NeurIPS；`archive` → arXiv；`Terrace / Terrence` → 陶哲轩 Terence Tao；`shaping AI's impact on billions of people` → 论文实际标题《Shaping AI's Impact on Billions of Lives》。完整清单见文末。校正只用于译文理解，原文不改。
5. **本份全篇译出，无整段省略**；与 AI / 工程主题无关的政治社会议题本场基本未涉及。少数转录残破、无法确证的词句标 `[?]`，集中在文末「存疑处清单」，引用原话前请回官方视频核对。
6. 演讲中提到的数字（27 年、4,400 人、400 场面试、20 个循环、20–50 倍产能、1 亿次实验、4 万次引用、720 篇论文、500 页 Lean 等）**均为讲话者口述，未经核实**，照译不作背书。
7. 同步产出**单词 / 术语表**：[`-words.md`](2026-11-09-confronting-our-ai-future-jeff-dean-feifei-li-words.md)。按侃姐 2026-11-09 的要求新增，分「核心技术术语 / 学术与抽象词 / 口语与习惯表达」三组，每条带原文语境与时间码。

---

## ¶1 · 主持人开场介绍（t00:00–01:26）

> **主持人**：好了，我们一整天都在谈 AI 的硬问题——谁来治理它、它跑得有多快、我们怎么围绕人来设计它。闭幕主题演讲，我们要转向最让人抱有希望的承诺之一：**用 AI 来加速科学发现本身**。
>
> Jeff Dean 是 Discovery Loop 的联合创始人兼 CEO，这是一家聚焦「AI 用于科学与工程」的新公司。在此之前，他在 Google 待了 27 年，参与打造了 MapReduce、BigTable 这样的系统，创建了 TensorFlow，并担任首席科学家与 Gemini 的联合负责人。他的演讲题目是《Discovery Loop：加速科学与工程》。演讲之后，李飞飞教授会上台，进行闭幕对谈。
>
> 李飞飞是 Stanford HAI 的创始主任与高级研究员、斯坦福首任 Sequoia 计算机科学讲席教授，也是 World Labs 的联合创始人兼 CEO。她最近出任校长 John Levin 的 AI 特别顾问，并担任 HAI 顾问委员会联席主席。如果没有她的远见，以及她坚持「把人放在 AI 的中心」，就不会有今天的 HAI；这份创所愿景至今仍是研究院一切工作的核心。
>
> 现在，请大家和我一起欢迎 Jeff Dean。〔掌声〕

## ¶2 · 使命：自动化科学实验循环（t01:32–02:16）

> **Jeff**：太好了，今天能在这里和各位在一起很愉快。我要讲的是 Discovery Loop。我们的使命是：**造出能自动解决机器学习、科学和工程领域重要问题的 AI 系统**。我们认为这最终会带来世界上更多的发现，这正是让我们兴奋的事。
>
> 很多很多学科里都有一个共同的循环，可以说是科学与工程通用的回路：提出实验 → 实现并运行这些实验 → 看结果 → 考察你能对结果做的各种测量 → 决定下一步做什么，而下一步往往就是再做一次实验。

## ¶3 · 缩短迭代时间，对标工程院大挑战（t02:16–03:18）

> **Jeff**：我们的做法，是把这类实验循环自动化。我们认为，如果你能把**迭代时间**压下来——也就是跑完一遍这个回路所需的时间——又能自动地提出并运行大量实验，还能从每一次评估里学习，让后续提出的实验更好、并且建立在前面跑过的实验之上，同时在**质量和数量**两个维度上把实验规模做大，你就会得到突破性的结果。本质上我们要做的就是这件事。
>
> 如果你眯着眼看这份美国国家工程院「大挑战」问题的清单——这些是当年提出的、21 世纪对人类极为重要的问题，而我们现在大约走过了这个世纪的四分之一——再去看其中某些领域（尤其是标红那些）需要解决的子问题，我们认为这类自动化发现回路确实能帮上忙，覆盖所有这些不同方向。〔场内轻笑声〕

## ¶4 · 为什么单独成立一家公益公司（t03:22–03:53）

> **Jeff**：有一件事对我们很重要，也是我们把它做成一家独立公司的部分原因：我们相信，技术如果做对了，能对世界产生惊人的正面影响——但**这份正面影响不会自动发生，得靠所有人一起努力去确保**。所以我们把公司注册为**公益公司（public benefit corporation）**，公开使命是：开发能应对重大社会问题的技术，并让它的收益被广泛获取，以改善人们的生活。

## ¶5 · 四位创始人与在 Google 做过的事（t03:53–05:02）

> **Jeff**：简单介绍我们四个人。我有三位了不起的联合创始人：Sanjay Ghemawat、Quoc Le 和 Oriol Vinyals。按两两组合算，我们一起共事的时间在 14 到 30 年之间。我们很享受一起啃难题，经验也各不相同。
>
> 我们都来自 Google，所以列出来的都是 Google 系的东西：很多代产品——Google 搜索、最初的广告系统、内容广告、Gmail、News、Translate；第二列是基础设施系统，上面那部分是用来组织、管理海量数据、在数据上跑大规模计算以提取有趣洞见的东西，下面四个则是多代大规模机器学习基础设施，用来训练能力越来越强的模型，还有我们参与过的、面向机器学习的硬件 TPU。
>
> 我们还做过不少 AI 研究问题，包括一些今天很多高能力模型的核心：模型蒸馏、混合专家（MoE）模型；神经架构搜索可以看作这类自动化回路的早期版本——它试图找出能解决问题的神经网络架构。再就是 AI 落到不同领域、包括科学领域的应用：Quoc 和我都参与了 AlphaChip，用强化学习做芯片设计里的布局与布线；Oriol 参与了 AlphaFold 和神经天气预报。经验组合挺不错。

## ¶6 · 管理规模与那封邮件（t05:02–06:10）

> **Jeff**：我们也管过很大的团队。我管过最多 600 人的 Google 评级 `[?]` 团队，也管过最多约 4,400 人的 Google Research 与 AI 团队——直到我意识到自己大量时间花在「第二季度运营支出（Q2 OPEX）」的会议上。于是我按下发送，发出一封邮件，把我从 4,400 个直接下属变成了 4 个。接着第二周 Geoffrey Hinton 退休了，我就只剩 3 个。
>
> 后来 Oriol 和我一起担任 Gemini 项目的技术负责人，Quoc 是我们的后训练负责人。我们也很为团队里走出去的校友骄傲，他们做了很多了不起的事，包括创办 Anthropic、OpenAI、Physical Intelligence（在斯坦福大概不用多介绍）等等公司。

## ¶7 · 高引榜单与一起旅行（t06:10–07:19）

> **Jeff**：我们觉得自己有一种不错的组合，把 AI 研究能力和分布式系统能力混在了一起。这是按 Google Scholar 统计的、被引用最多的 AI 研究者与分布式系统研究者，红框里是我们；带星号的那些人都在我们的团队里待过，挺好。
>
> 我们在一起也很开心，去过好几个大洲：右上是伦敦，左上是巴塔哥尼亚，左下是越南——Quoc 和我吃完晚饭坐类似 Uber 的摩托回去——还有加州。

## ¶8 · 组建创始团队（t07:19–08:37）

> **Jeff**：我们前期花很多精力的一件事，是怎么**组建**一支了不起的创始团队。公司成立初期，主要就是在招厉害的人。他们来自很多不同的地方（屏幕上看得到那些公司标志），不少人有过创办公司或主导重要项目的经历。
>
> 团队里有带过 Go 编程语言项目的人，有 Gemini、DeepSeek `[?]`、Kimi K3 `[?]` 等模型的关键贡献者，Kimi K3 论文的合作者、以及 attention residuals `[?]` 那项工作的作者最近也加入了我们。我们既有经验很丰富的人，也有职业早期正在冒起来的新星；公司里大约 10% 的人拿过 ACM Prize in Computing，大约 10% 拿过奥赛奖牌 `[?]`。对招到的这支团队，我们挺兴奋的。招聘时我们也特别看重「一起把事做成的协作能力」，这部分本身就很有意思。

## ¶9 · 为什么是现在：过去 10–15 年的积累（t08:37–09:48）

> **Jeff**：为什么是现在？因为我们已经有了能力很强的前沿模型，能做很多惊人的事。这部分来自过去大约 10 到 15 年 AI 领域里一连串不同层面的创新：
>
> **硬件层**性能大幅提升，TPU、GPU 以及更专用的东西；**软件抽象**变好了，人们更容易实现自己在意的东西，也更容易高效映射到硬件上；**模型架构**在进步——word2vec、seq2seq，再到 Transformer，都是「该训练什么样的模型」上的重要创新；**训练算法**也好了很多，比如蒸馏让我们能得到质量很高但更小的模型；**推理算法**其实进步相当大，你可以在推理时投入更多算力、拿到更好结果，比如思维链，或者推理时算力扩展——把同一个问题试很多种解法，再回过头检查发生了什么。

## ¶10 · 光有好基座模型不够（t09:48–10:48）

> **Jeff**：但一个很强的基座模型，并不足以解决我们想解决的那些问题。我们的判断是：从好基座模型出发，但还需要 **agent + 模型**，能真正有效地使用工具去完成很复杂的任务。
>
> 我们希望 agent 和模型特别擅长**创造力**——得出惊人的科学或工程突破，很多时候不是把已经做过的事再做一遍，而是把大量洞见拼到一起、提出真正新的东西，再看它效果如何。我们还认为 agent 和模型应该能从先前的实验、先前的经验里学习：既包括解决当前这个问题时的学习，也包括长期——你会看到有些系统也许已经解决了 5,000 个问题，到**第 5,001 个**时，它能从与这个新问题最接近的那些问题里学到东西。

## ¶11 · 传统实验循环的代价：分解本身很难（t10:48–12:00）

> **Jeff**：在传统实验循环里，每个阶段往往都要大量人工。而当你想解决一个更大的问题，情况会更复杂：通常得把大问题拆成一堆子问题或子块，于是**「怎么拆」本身就是一个很难的分解难题**（左边那部分）。然后每个子问题、子领域又有很多人在跑实验、弄清什么有效什么无效、试不同路线，就会产生大量协调开销，还会出现资源冲突、大系统效应。所以这种分解其实相当难。
>
> 而且，把各子问题的结果重新合起来也很难。或许更糟的是：在一个超大规模项目里，你一开始决定怎么拆，等项目跑起来之后**几乎没法再改**。造一架飞机、训练最好的前沿模型这类大型工程，你没法很有效地回头重审那些早期决定。

## ¶12 · 少量专家 + 自动分解 + 支撑数万次实验的基础设施（t12:00–13:06）

> **Jeff**：我们认为可能的是：用**相对少量的领域专家**，配上自动化系统，理想情况下由系统自动拆成有意思的子问题、再自动把这些子问题解掉。也可能人的指导对分解有帮助，由人来指定哪些子问题重要，从而让一小群有领域专长的人真正去啃大而有影响的问题。
>
> 这要成立，得有对的基础设施：你要跑**数万次自动化实验**，系统得扛得住，得能理解「跑这个实验 vs 跑那个实验」的价值差，再决定下一步做什么。用强化学习或进化算法做自动化决策。这样早期那些决定就能更流动地被重新审视；而**每一次先前的实验，都应该为未来每一次实验提供信息**。

## ¶13 · 公司到目前为止做了什么（t13:06–14:40）

> **Jeff**：到目前为止我们做了什么？头三周做了 **400 场面试**，大多在 University Avenue 上的 Café Venetia，用来找厉害的人（前面提到过其中几位），还找了办公室——我们在旧 Zibbo 餐厅 `[?]` 里，空间挺有意思。
>
> 我们自建了 **agent harness**，自己全部的开发和自动化都跑在它上面。这个 harness 有一些很好用的协作特性：你可以把它想成一个「你和模型对话、让它解决问题」的系统，但你也可以把同事邀请进来一起协作，两个人同时跟一个模型 / agent 说话；别人还能对你在做的事加评论，或者在正式提出之前先给 agent 提一个设计。
>
> 我们还建了 **agent-first 的基础设施**，让它能扩展到几万、几十万个 agent 在干活，而不是几百个人在干活，我们认为这点很重要。目前大概有 **20 个自动化改进循环**在按我们设想的方式跑，我们能看到它们在跑、在改进，也在评估用什么方法能让这些实验迭代更有效、更快：怎么从先前的实验结果、先前采集到的测量里学得更快？

## ¶14 · 目标与收尾（t14:40–15:39）

> **Jeff**：我们现在的位置，是在搭这套软件回路，先自动化机器学习任务——因为我们认为这会**为很多自主科学打开空间**。但起步阶段，我们聚焦的是：怎么造出能解决**机器学习研究与机器学习工程问题**的自动化系统。目标说到底，是让领域专家的生产力提高 **20 到 50 倍**。
>
> 我们不是要把人从这件事里拿掉，只是想赋能那些厉害的人、或者想解决某个具体问题的领域专家，让他们少费点力气就把问题解决掉。
>
> 总结一下：15 年机器学习的突破带来了能力很强的模型，为自动化 ML 科学与工程、从而大幅加速发现铺好了舞台。谢谢。哦，我们还在招人，去 discovery.com `[?]` 投。谢谢。〔掌声〕

## ¶15 · 对谈开场（t15:46–16:31）

> **李飞飞**：哦，这杯。抱歉，我拿了你的水。
>
> **Jeff**：没事。
>
> **李飞飞**：刚才那场演讲很棒，谢谢你 Jeff。我想这是最后一场了……好吧，我们现在是**夹在观众和茶点之间**。
>
> **Jeff**：从来不是个好位置。
>
> **李飞飞**：是。我本来希望这一场能更「技术宅」一点、往技术里钻一点，但安排的是我们俩对谈，所以我得戴两顶帽子：既向你提问，又参与讨论。谢谢你刚才的演讲，因为我本来第一个问题就想问「为什么」——为什么会有 Discovery Loop。恭喜。
>
> **Jeff**：谢谢。

## ¶16 · 第一问：为什么离开 Google（t16:33–17:13）

> **李飞飞**：你们四位基本都是「Google 终身员工」，尤其你 1999 年就加入了，对吧？
>
> **Jeff**：对。
>
> **李飞飞**：过去几年宏观上的技术进步非常清楚、也非常惊人，但我还是好奇：**过去有没有某一个时刻**——我猜是一两年前——技术走到了某个状态，让你和 Quoc、Sanjay、Oriol 觉得「我们得做点不一样的事，而且在 Google 里做不了」？

## ¶17 · 从 NAS 到自然语言指定搜索空间（t17:13–18:35）

> **Jeff**：有。我们一直对「能帮人更自动化地开发软件系统的自动化系统」很兴奋，或者说……Quoc 十年前就做了很多神经架构搜索的工作，你可以把它看作那类**递归式、自我改进系统的早期版本**：你说「请帮我找出适合计算机视觉问题、或者语言问题的好模型架构」，它就去找。
>
> 我们知道那种方法是管用的。但在那个年代，你得用一堆歪歪扭扭（janky）的 Python 代码去**指定搜索空间**，而不是像今天这样用自然语言。今天你可以对一个「有能力的模型 + agent 系统」说：请去探索一些可能有助于解读 MRI 图像的模型架构，它就会自己去做。
>
> 我觉得这是对「计算机系统和 AI 系统能做什么」的想象方式的一次**非常深刻的转变**。如果你能让这些东西可靠地工作，就能解锁很多事；尤其对科学和工程，我们认为那是一批特别成熟、值得下手的领域（原文 ripe），可以用来真正推进对世界的正面影响。

## ¶18 · 「loop / loopy」与小团队的乐趣（t18:35–19:28）

> **李飞飞**：我明白了。所以真的是那些**循环、自我改进**让你们觉得想做这件事？
>
> **Jeff**：有人会说我们有点 loopy（既指「绕圈」也指「疯癫」），不过，是的。
>
> 我还想说一点：我们一直很享受**从很小的项目起步**。5 个人在做一件事，加进第 6 个，再加第 7 个、第 10 个，那种神奇的感觉真的很有意思。这在大公司里也能做，但我们同时希望以**公益公司**的形式来做——我们觉得那是对自身价值观的一个重要体现；也意味着要纵身一跃，现在连办公场地、开公司的各种杂事都得自己搞定。
>
> **李飞飞**：某种程度也挺好玩的。
>
> **Jeff**：是啊，挺好玩。

## ¶19 · 李飞飞：World Labs 的启动时刻（t19:28–19:55）

> **李飞飞**：嗯，很酷。其实我自己创办 World Labs 时，也是「看到技术到了某个节点」的时刻——只是跟你们看到的不一样：**计算机视觉和生成模型在那一刻汇合了**，我们终于能做出超越文字的生成模型，那就是我们启动 World Labs 的时刻。
>
> **Jeff**：是啊，你们做出来的、以及现在成为可能的那些生成模型，真的相当惊人。

## ¶20 · 概念的命名史，以及为什么要严格定义（t19:55–21:01）

> **李飞飞**：好，那我们来聊聊自我改进、递归自我改进，稍微往技术里钻一下。我们在机器学习这个领域受的教育算是同代人。我刚才在心里数，这个概念从我做研究生到现在，一辈子换过多少名字：先是 incremental learning（增量学习），然后 continuous learning（持续学习），然后 meta-learning（元学习），然后 lifelong learning（终身学习），再是神经架构搜索。你刚才提到现在有 self-improvement，还有 RSI。
>
> 能不能给台下的观众、尤其技术侧的观众，一个更严谨的定义：**什么是自我改进，什么才算递归自我改进**？我这里的目的是把**虚构和事实拆开（tease apart the fiction from the facts）**。
>
> **Jeff**：当然。

## ¶21 · 两个定义：MRI 例子（t21:01–22:22）

> **Jeff**：我前面讲的那些循环，可以套到很多类问题上。我理解的 **self-improving system（自我改进系统）** 是这样：你给系统一个目标，通常是某个**可测量的指标**，比如一个 ML 模型的准确率，让它去改进；它会尝试不同的模型架构来提高这个准确率。
>
> **李飞飞**：这里停一下——很多机器学习算法都能做到这个。
>
> **Jeff**：是的。
>
> **李飞飞**：**那本身并不递归，对吧？**
>
> **Jeff**：对，不递归。
>
> 比如我们把系统指向一批 MRI 数据和 MRI 结果，说「我想开发一个能帮助解读 MRI 图像的模型」。这会是一个自我改进系统：它能自动把那个模型开发出来，你看到被尝试的不同方法，准确率随着系统跑实验有望逐步上升——**但这并没有改进那个「提出下一步该试什么」的基础系统**，对吧？
>
> **李飞飞**：对。所以**递归自我改进**是：你怎么让这种自我改进的方法，去改进那个你希望它提出更好下一步的**基础系统本身**。如果这么说成立的话。
>
> **Jeff**：对，说得通。

## ¶22 · 概念被滥用，以及 RSI 的物理极限（t22:22–23:06）

> **李飞飞**：嗯，我觉得说得通，但这个对很多人来说是个非常容易混淆的概念，尤其现在在硅谷，大家用得特别松（loose）；**作为科学家，这让我挺不舒服的**。所以我就是想借这个舞台，确保我们把 RSI 定义清楚。
>
> 那我们来谈谈 **RSI 的物理极限**。现在 RSI 被炒作成几乎是……几乎像一个没有尽头的系统，可以一路加速、加速到无穷。**炒作在哪、虚构又在哪？**

## ¶23 · 人类怎么改进模型，以及为什么不可能无限快（t23:06–24:56）

> **Jeff**：先想想过去 10 到 15 年人类是怎么提升模型能力的：把很厉害的研究员和 ML 工程师聚到一起，小规模跑大量实验，说「哦，这些想法没用、这些有用」，然后把有用的**纳入下一代模型**。Gemini 2 之所以在 Gemini 1 之后出现，就是我们跑了大量实验、改进了东西。这其实是研究与工程的正常流程。
>
> 当你开始把自动化用上去，是的，你能让这件事变快一些：人启动一个实验，实验凌晨 2 点跑完，人早上 8 点才回到桌前看结果；如果是自动化系统，它能立刻看结果、想清楚下一步，而且在整个大项目上，可能比每个各自决定下一步的个体做出好得多的决策。
>
> 但如果你想想「造出一个基座模型并让它更好」需要什么，里面是**大量真实的训练和实验**，这些不可能无限快地发生，对吧？**有真实的物理在里面**：你得跑计算，得看结果，计算机得把活干完，你得存数据，还得让另一个模型去看结果，才能决定下一步。所以有些人的幻觉是「这个循环能无限快地跑下去」，我只觉得这种说法**不太可信**。
>
> 有自动化系统去尝试改进，肯定会提高我们改进这些系统的速率，但**不会让它们变得无限快**。
>
> **李飞飞**：嗯，脚踏实地（grounded in reality）是好事。

## ¶24 · 李飞飞的煎蛋卷类比：人是自我改进系统还是 RSI 系统（t24:56–26:55）

> **李飞飞**：我觉得这一点真的很重要。其实我不是来 Discovery Loop 应聘的，但我确实和 Jeff 在 Café Venetia `[?]` 喝过咖啡，聊过 RSI 的炒作与事实——当时其实是在为这场 panel 做准备。
>
> 不过有一件事我还没跟你对过，你可以同意也可以不同意，完全没关系。我当时在想**人类**：我们是一个自我改进系统，还是一个 RSI 系统？我觉得我们肯定**是自我改进系统**。我做饭很糟，如果第一次试着煎蛋卷，肯定全糊；但我学到了，第二次会好一点；也许第 10 次能做出一个还过得去的蛋卷，我自己能吃，我孩子不吃。这就是自我改进。
>
> 但 **RSI 那部分跟我的大脑有关**：在学煎蛋卷的过程里，首先我的大脑得被某种方式改变，神经连接得改变到足够程度，让我拥有一个「更擅长煎蛋卷的系统」；如果谈的是硬件改进，也许我还能长出第六根手指。然后随着煎得更多，我的大脑进一步被改进。如果那个循环真的发生，人类就是 RSI 系统。**这个类比对吗？**
>
> **Jeff**：也许你是 AI 生成的吧。〔笑〕

## ¶25 · 「学会如何学习」，以及别钻牛角尖（t26:55–27:52）

> **Jeff**：我觉得答案是：**人两者都是**。你一生里学很多东西，那是自我改进——学煎蛋卷、学做微积分题；但你也会**学会如何学习（learn how you learn）**。而正是「学会如何学习」让你成为递归自我改进的：因为你理解了什么样的知识、以及信息以什么方式呈现给你时，你吸收得最有效，之后你就能基于这个理解更快学会做更多事。
>
> **李飞飞**：对。而且递归自我改进，说不定本质上就是一种进化算法。算了，我**不想钻进这个兔子洞（go down the rabbit hole）**，但我觉得能公开讨论这个话题是很少见的机会，因为现在关于它的炒作太多了。
>
> **Jeff**：是啊，炒作「会无限快、很吓人」那一套。**如果你把它当成一个务实的工程系统、看它实际在做的事，它就没那么吓人，也更好理解了。**
>
> **李飞飞**：对。

## ¶26 · 到底想解决哪些科学问题（t28:05–30:18）

> **李飞飞**：你讲了很多 discovery loop，但对「想做哪个科学问题」还是有点含糊。我想稍微推你一下，推到你愿意透露的程度。
>
> **Jeff**：好。
>
> **李飞飞**：造福社会的科学问题那么多，**你现在对哪一个最有热情？**
>
> **Jeff**：长期以来我对 **AI for healthcare（AI 用于医疗健康）** 非常感兴趣，那是我们以后会做的方向，不是现在，因为我觉得那是个极重要的领域，也非常契合我们公益公司的使命。
>
> 眼下我们聚焦的是**整条回路都能以数字形式完成**的那类科学与工程问题，因为这类最容易把整个循环提速。一旦牵涉真实的物理过程，回路就更难加速；当然有很多重要学科确实需要物理过程，我们也有一些混合方案能在那些领域提速。
>
> 所以看数字化的科学与工程领域：起步阶段我们聚焦 **机器学习研究、机器学习工程本身，以及硬件设计**这三个方向。我们觉得聚焦少数几个领域比什么都想做好；这几个我们既有领域专长，又认为它们是能**撬动**其他东西的重要领域。举个例子：在医疗领域，如果你有一个能自动解决机器学习工程任务的系统，你就能把它指向健康、材料科学等等问题，说「我想要一个专门针对这个特定任务的厉害模型」——那属于**自我改进，但不是递归自我改进**。所以我会这么描述我们：现在聚焦这三个领域，但有往更远处走的野心。

## ¶27 · 实验主义 vs 理论，以及学科边界（t30:18–33:18）

> **李飞飞**：好。我本科受的是物理训练，物理里有个分法：实验派和理论派。我刚在想你画的那个循环——你叫「提出实验」，但物理里我们习惯说「**形成假设**」，然后才走实验、评估那一套。我在想，强大的 AI agent、或者这些自我改进循环（不管递不递归），是不是在哲学上**站到了实验主义那一边**：它非常强调提出假设、并行地跑大量实验，而不是那种更神秘的理论式科学发现。到今天你还会觉得奇怪：牛顿、爱因斯坦这样伟大的理论家并不怎么做实验，他们读别人的实验，但不这么干活。你觉得这是不是偏向了实验主义（experimentalism）？
>
> **Jeff**：我不认为必然，但确实有一点往那边倾。我觉得用这样的系统也能做出很棒的理论工作：你可以提出「你能不能给出一个能解释这全部数据的理论？」它可以迭代，试着找那种能解释实验数据的**最小描述（minimal description）理论**。你想，很多实验或理论物理学家，就是看着物理界实验领域的进展，试着提出理论去解释人们正在观测、却还不理解的东西。所以我认为那当然可能。
>
> 而且我觉得，**不该把这些当成彼此分开的学科**——理论物理、实验物理、化学。设想一个系统真的解决过 100 万个问题、在 100 个科学领域里做过 1 亿次实验，它很可能因为见过大量不同种类的实验结果、见过在你将来要问的有趣问题「邻域」里什么有效什么无效，而积累出很多洞见。这种东西**不像我们人类有时会借院系边界之类设下的那种硬边界**——院系边界之类。我很喜欢 HAI 的一点是：它是个**全校性（pan-institutional）**的机构，能让所有人一起对话。

## ¶28 · 数学：美，与一场「海啸」（t33:18–35:00）

> **李飞飞**：好吧，那我们就得聊聊数学了。其实当初提议邀请你来这个 panel 时，我本来还想请陶哲轩（Terence Tao），我给他打了电话，但他来不了。那我们稍微谈谈数学。
>
> 我得说，看到先是 Navier–Stokes、720 `[?]` 篇论文，然后 OpenAI **昨天**又发布了 AI 解数学的成果，我心情挺复杂的。倒不是我不喜欢被解出来的东西，而是数学、那些百年千年的数学问题，是**人类智力的顶峰**；数学家在里面看到的不只是技术解法，还有**美**。而现在我们有了一套完全不同的机器（machinery）去处理这些问题。对吧？
>
> **Jeff**：嗯。
>
> **李飞飞**：我和陶哲轩其实聊过不少，他最近也做了一个「Math 2.0」的演讲，讲 AI 能帮着解决某些类型的数学问题；但他也坚持认为，另一些数学问题在 AI 的能力范围之外，尤其当我们没有解答、也就**没有数据**的时候。你怎么看过去这几周——真的就是几周——数学界这场**海啸般的大变化**？

## ¶29 · 500 页 Lean、机器验证，以及「知道它可解」的价值（t35:00–37:07）

> **Jeff**：显然，那些模型、以及能用高度并行 agent 方式使用这些模型的系统，已经能解决数学里非常难的**未解问题**，这揭示了当下什么是可能的。我觉得人们觉得不太满足、还有点不舒服，是因为那些证明往往涉及像 **500 页 Lean** 之类的东西：机器检查过了，但没人真正理解那条通往结果的**优雅简洁路径**。
>
> 所以我认为，知道一个问题是被证明了还是被证伪了，是好事；但「怎么发展出真正优雅的技巧来抵达那个结果」，往往是人类数学家在和问题搏斗时发生的，而那些过程常常**催生新的数学**，又能拿去处理别的问题。
>
> **李飞飞**：所以你是说，新的数学解法只来自优雅的解法？
>
> **Jeff**：不。我是说**优雅的解法常常会带来一个很酷的技巧**，可以再用到别的问题上。我不觉得人们在这些非常长的机器生成证明里，一定能看到那种干脆、优雅的技巧。但「知道某件事是可解的」，其实在很多不同领域都很有价值：如果你知道它可能，你会更努力，会明白自己能做到，然后也许能用另一种方式、或者更优雅的方式真正做到。
>
> 所以，是的，这么多问题**被同时解出来**的方式让人有点难受；但这件事现在确实可能了，人们得想清楚，怎么利用这种能力去做**更多**数学。

## ¶30 · 台上小测验：2017 年 6 月 12 日（t37:07–38:29）

> **李飞飞**：这个还能聊很多，但我答应过 Jeff 要在台上给他一个**突击小测验（pop quiz）**，而且没告诉他题目。不过答不出来也没关系，因为我自己也不记得了。
>
> **Jeff**：太好了，毫无压力。
>
> **李飞飞**：〔笑〕你记得这个日子有什么意义吗？**2017 年 6 月 12 日**。
>
> **Jeff**：2017 年 6 月 12 日……
>
> **李飞飞**：别用 AI 作弊。
>
> **Jeff**：哦，是不是 Transformer 那篇论文上 arXiv？
>
> **李飞飞**：太神了，A+。我得查一下到底是哪天。你是 6 月 12 日读的 Transformer 论文？
>
> **Jeff**：不，大概是 6 月 10 日。
>
> **李飞飞**：哦对，那篇大概得先经过你批准。

## ¶31 · 最重要的技术时刻，以及预测错了什么（t38:29–42:08）

> **李飞飞**：嗯，你的职业生涯……我们拿那一天当作生成模型时代的某种起点吧，到现在差不多九年了。聊聊这趟旅程里，**对你个人而言最重要的技术时刻**——也许没时间全说完；另外我还想接着问：请智识上诚实地讲，**你预测对了什么、又预测错了什么？**
>
> **Jeff**：让我想想。在那张列了一堆进展的幻灯片里，有几个特别突出。
>
> 首先显然是 **Transformer**：对付这类问题，它是效率高得多的模型架构。「把经历过的所有状态都存下来，然后去**注意（attend to）**它们」，而不是每来一个状态就更新一个小向量、把前面的都忘掉——这是个非常棒的洞见，带来了无数后续进展，因为模型现在能用比早期 LSTM 架构少得多的计算学到多得多东西。
>
> 还有我和 Oriol、Geoffrey Hinton 做的**蒸馏**工作，2016 年被 NeurIPS 拒了，理由是「不太可能有任何影响」。
>
> **李飞飞**：我们真该做个网站，把所有被拒的论文收进去。
>
> **Jeff**：那篇挺够格的。我们把它扔到 arXiv 上，现在大概有 **4 万次引用**。它对于做出「能力强、但推理高效」的模型很关键：你可以拿一个训练好的、非常笨重昂贵的大模型当**老师**，去教一个轻巧灵活的**学生模型**——在大学里这么说还挺应景。
>
> 另外，我原本以为 **MoE 架构**会是一大波更「奇异（exotic）」的模型架构的开端。MoE 是你分叉出去到一堆专家、再合回来、再分叉出去，让模型学会哪些专家擅长哪些东西，这非常有用：给模型很大容量，但对任意给定 token 或任务只激活其中很小一部分。可它**依然非常规整**——几乎所有专家都一样大，而且立刻又合回来。
>
> 我当时以为，接下来会出现一批真正狂野、看起来更「有机」的神经网络架构：成柱的神经活动，它们再合回来；还有一些**很稀疏但规模很大的跨连接**，把网络里相距很远的部分连起来。我们**还没做到**。
>
> **李飞飞**：做神经架构搜索时我们也想过这些，后来也没成，对吧？
>
> **Jeff**：是啊。NAS 搜出来的模型，确实比人工设计的那种看起来「有机」得多：人工设计就是一层叠一层，偶尔每层来个跳跃连接；NAS 搜出来的会有很疯的连接。
>
> **李飞飞**：比如「把这一层连到上面第 17 层，再搞点奇怪的事」。
>
> **Jeff**：没错。
>
> **李飞飞**：所以这是你预测错的一件事？
>
> **Jeff**：我预测错过很多事，这一件比较突出——我原以为推动力会更多往那个方向走。

## ¶32 · 低估了编码能力（t42:08–42:43）

> **Jeff**：还有，**编码能力**后来被证明非常重要。我当时并没有预见到，它会成为让这些模型能解决许多不同问题的**关键解锁点（key unlocker）**。
>
> **李飞飞**：这一点我和你一样。我们多少都知道它重要，但没预见到它的影响会这么深。
>
> **Jeff**：在 Gemini 项目里，编码是我们关注的方向之一，但不是「那个」最核心的方向。

## ¶33 · 那个 H：社会影响（t42:43–45:58）

> **李飞飞**：好，我们刚才多少有点在「nerd out」，毕竟是在 HAI 大会，那就得聊聊那个 **H（人）**。有一件事我想知道你有没有预见、以及现在怎么看：**AI 的全部社会影响**——不只是影响，还包括就业、**心理焦虑**，以及现在几乎极端的关于人类灭绝、对齐等等的讨论。首先，**哪一个最让你担心？**
>
> **Jeff**：这是一项**极其强大、极其通用**的技术，几乎在影响社会的每一个方面：数学、编程、生成图像、帮自动驾驶汽车开车……它不像以往那些技术革命——以前相对更收窄一些，深度影响 5 个或 10 个领域；这一次是**同时**影响世界上非常非常多的事情。所以它是兴奋的来源，也是忧虑、恐惧的来源。
>
> 我和一批很棒的共同作者写过一篇论文，叫《Shaping AI's Impact on Billions of Lives》（塑造 AI 对数十亿人生活的影响）。那是我唯一一篇有自己网站的论文，因为有位很有想法的共同作者做了 shapingai.com。我们看了 7 个不同领域，包括就业与经济、AI for science、虚假信息、媒体等等，并和每个领域的大量专家聊过，听他们讲 AI 已经怎么影响本领域、未来可能怎么影响。那是一段很好的经历。
>
> **我最担心的一件事，其实很简单：怎么在这些不同领域里尽可能拿到 AI 的全部好处，同时把它在许多方面可能造成的负面影响降到最小。** 我认为这**不是纯技术问题**，它是技术问题，是监管与政策制定者的问题，也是公民的问题。我们所有人都得一起想清楚，怎么驾驭这项新技术，确保它极好地服务我们所有人，而不是以我们担心的那些方式伤害我们。
>
> 比如说，当人们的工作受到影响时，要有好的方式去适应世界现在需要的东西，能继续有报酬地工作、过上富足的生活。我觉得这是个**多层面**的事，需要世界上很多人一起处理。

## ¶34 · 给焦虑的年轻人（t45:58–48:14）

> **李飞飞**：最后一问。我了解 Jeff 有一件大多数公众不知道的事：**你非常关心年轻一代**。我们不常同台，我记忆里上一次一起开会是 Grace Hopper 大会。
>
> **Jeff**：哦，你连着去了好多年。
>
> **李飞飞**：〔轻咳〕而我们现在就在大学校园里。坦白讲，**这一代大学生很焦虑**——连斯坦福的学生都在为工作、为经济前景焦虑。你有着这么成功的职业生涯，是 AI 的先驱，又能以公众还看不到的方式看见未来。对台下这些既焦虑、也可能怀着希望的学生，你有什么**临别的话（parting words）**？
>
> **Jeff**：嗯，我当然理解这种焦虑，因为世界变化很快；而为一个快速变化的未来做规划，确实非常难。
>
> 我一般的建议是：**尽量去理解正在出现、或者很快就会出现的新技术，并且确保你懂得怎么把它用在自己最有热情的那件事上**。那可以是当医生，可以是帮着写文学作品，也可以是更高效地写软件。所有这些事，我认为 AI 都能辅助、都能赋能；但仍然存在一个「人的部分」——**由人来决定我们共同想做什么**。你该想清楚自己想做什么，并把它做到你所能的最好，而这就包括**用好现在已经有的全部工具**。
>
> **李飞飞**：**所以，在 AI 时代，人的热情依然不会过时。** 谢谢你，Jeff。
>
> **Jeff**：谢谢。〔掌声〕

---

## 转录错误与校正清单

| 原文（自动转录） | 校正为 | 依据 / 出现位置 |
|---|---|---|
| `fee Lee`、`FFE` | 李飞飞 Fei-Fei Li | ¶1、¶19、¶24、¶34 等；HAI 活动页列为共同主席与对谈嘉宾 |
| `John Levven` | John Levin（斯坦福校长 Jonathan Levin） | ¶1；官方表述为 "Special Advisor on AI to President Levin" |
| `Sanjay Gimat`、`San` | Sanjay Ghemawat | ¶5、¶16；Discovery Loop 四位联创 |
| `Quacle`、`Quack`、`Qua` | Quoc Le（黎越国） | ¶5、¶16；同上 |
| `Oral Vignyals`、`Oriel`、`Oreio`、`Oral` | Oriol Vinyals | ¶5、¶6、¶16；同上 |
| `Jeff Hinton` | Geoffrey Hinton | ¶6、¶31；蒸馏论文合作者 |
| `rapid map reduce big table` | MapReduce、BigTable（`rapid` 为转录赘词） | ¶1 |
| `chief science scientist` | 首席科学家 | ¶1 |
| `tensorflow` / `gemini` / `alpha chip` / `alpha fold` / `tension residuals` `[?]` | TensorFlow / Gemini / AlphaChip / AlphaFold / attention residuals `[?]` | ¶1、¶5、¶8 |
| `word tovec` | word2vec | ¶9 |
| `Gemini Deepc Kimmy K3` `[?]` | Gemini、DeepSeek `[?]`、Kimi K3 `[?]` | ¶8，无法确证 |
| `III olymp medals` `[?]` | 奥赛奖牌（具体赛事不明） | ¶8 |
| `Nurips` / `archive` | NeurIPS / arXiv | ¶17、¶30、¶31 |
| `Terrace`、`Terrence`、`Navier Stokes` | 陶哲轩 Terence Tao / Navier–Stokes 方程 | ¶28 |
| `shaping AI's impact on billions of people` | 《Shaping AI's Impact on Billions of Lives》 | ¶33；shapingai.com 官方标题 |
| `Cafe Venetia`（¶13）/ `cafe Valencia`（¶24） | 统一作 Café Venetia `[?]`（Palo Alto, University Ave） | 同一地点两种转写 |
| `Zibbo restaurant` `[?]` / `discovery.com` `[?]` | 保留原样并标存疑 | ¶13、¶14，未核实 |
| `the 5,000 first one` | 第 5,001 个（口误） | ¶10 |
| `four reports` | 4 个**直接下属**（direct reports） | ¶6 |
| `subpros` / `subpieces` | 子问题 / 子块 | ¶11、¶12 |
| `asimoff` 类 | 本场未出现（上一卷 Hassabis 材料里的错误） | — |

## 存疑处清单（`[?]`）

| 位置 | 存疑内容 | 处理 |
|---|---|---|
| ¶6 | `Google rating team` | 译作「评级团队」并标 `[?]`，也可能是 ranking team |
| ¶8 | `Deepc` / `Kimmy K3` / `tension residuals` / `III olymp medals` | 按最可能读法译出并标 `[?]`，不作事实背书 |
| ¶13 | `Zibbo restaurant` | 音译保留 + `[?]` |
| ¶14 | `apply at discovery.com` | 照译 + `[?]`（未核实是否为真实投递地址） |
| ¶24 | `cafe Valencia` | 按 ¶13 统一为 Café Venetia + `[?]` |
| ¶28 | `there 720 you know papers` | 译作「720 `[?]` 篇论文」，语义断裂，未外推 |

## 译注（只作理解辅助，不作评价）

- ¶30：Transformer 论文《Attention Is All You Need》于 2017-06-12 提交 arXiv；Jeff Dean 是作者之一，所以「6 月 10 日」「得先经过你批准」是台上玩笑。
- ¶31：他说的「2016 年被 NeurIPS 拒稿、后约 4 万次引用」的蒸馏工作，指 Hinton / Vinyals / Dean 的《Distilling the Knowledge in a Neural Network》；**年份与会议名按他的口述照译，未经核实**。
- ¶33：论文《Shaping AI's Impact on Billions of Lives》另有 Communications of the ACM 版本（2026 年 1 月），共同作者包括 Jeff Dean、John Hennessy、David Patterson 等；网站 shapingai.com 属实。

---

## 待侃姐提问

> 按侃姐 2026-11-08 定下的顺序：这一轮只交**原文存档 + 全文译文 + 单词表**，不做观点分析、不预置判断、不替她出题。她针对译文提问后，把**提问原话 + 回答**逐条编号追加进本卷 `notes/` 的批注文件（卷里还没有 `-notes.md`，第一条提问时新建）。