Masters of Scale Summit '26 · Demis Hassabis — 全文中文译文
| 项 | 值 |
|---|---|
| 对应原文 | ../sources/2026-11-08-masters-of-scale-summit-26-demishassabis-transcript.md |
| 节目 | Masters of Scale · Summit '26 现场对谈；录制 2026-10，旧金山 Presidio Theatre；上线 2026-11-05，约 25 分钟 |
| 主持 / 嘉宾 | Reid Hoffman / Demis Hassabis |
| 译者 | 小 Q · 2026-11-08 |
| 状态 | 第 2 步交付：全文译文。不含观点分析、不含提问——按侃姐指定的顺序，她读完译文后提问，再把提问与回答存进 notes/ 的批注区 |
翻译说明（先读这 6 条）
- 底本是自动转录字幕，不是逐字校订稿。译文清掉了口吃、重复词和无意义语气词（"um"、"uh"、"I I"、"the the"、"you know" 一类），但不改动任何实质内容；原文一字未动存在
sources/。 - 本份有时间码（
MM:SS），译文用 ¶1–¶28 段落编号 +tMM:SS锚点定位，不补写、不外推时间码。自动转录漏标了多处说话人切换，译文按内容判断说话人，个别无法确切断句处标[?]。 - 冷开场去重：
t00:01–00:42的引子在t11:07与t13:51处又完整回放了一次（同一场对谈的片头剪辑），译文只在 ¶1 译一次，¶12 / ¶15 标注不重复计为两次发言。 - 专名按核实结果校正，见文末「转录错误与校正清单」。校正只用于译文理解，原文不改动。
- 与 AI / 工程主题无关的地缘政治、政府人事、国别评价按本库范围约定如实译出但不展开、不评价；涉及人名 / 机构名拼写无法确认处保留
[?]。 - 文中
[?]共 8 处，均为自动转录残破、无法从上下文确证的词句；引用原话前请回官方视频核对。
¶1 · 冷开场（t00:01）
Hassabis：我认为过去半年左右我们看到的大量网络安全问题，本来是可以用更好的工程、更稳健的工程解决的。我认为风险最大的下一阶段是闭环 RSI——没有人类审查环节的自我循环。它显然会更快，但我认为那是一条通向完整 AGI 的非常危险的路。而我们都知道，恰恰在最需要国际机构最强的时候，它们却非常非常弱。所以说起来有点不凑巧（a bit unfortunate）。不过……
Reid：顺便说一句，英式轻描淡写到 "a bit unfortunate" 这个程度，简直是……
[?]这句话本身就该再翻译一遍。对，就像 "tea time" 和 "dinner time" 的区别。没错，"a bit unfortunate"。主持人：请欢迎 Demis Hassabis 和 Reid Hoffman。
¶2 · 寒暄（t00:50）
Reid：Demis，谢谢你来。 Hassabis：很高兴来到这里。 Reid：也谢谢你能来。
¶3 · 认识十年，峰会主题是 agency（t00:53）
Reid：我们认识，我想已经远远超过 10 年了，快接近 12 年了吧。当年你邀请我进 Google 的 AI 伦理委员会，我很荣幸，我们开过各种……挺有意思的会。是的，一直很愉快。
这次峰会我们想做的一件事，是去构想我们愿意把它做成什么样的世界。今年的主题是 agency（能动性 / 主动性）。你很早就是这方面的领军者——早在大多数人还没开始想 AI 的时候，你就已经在想了：要让 AI 造福人类，关键落点之一是医学与医疗。能不能讲讲你怎么构想这件事，它怎么帮到人？
¶4 · anti-ex-risk（t01:34）
Reid：大家会说："哦，要是真能做到那个，我就懂你们这帮做 AI 的人到底想造什么了——让人类的体验更长、生命质量更高。" 你把它叫作 anti-ex-risk（反存在风险）
[?]。
¶5 · AI 是推进科学与医学的终极工具（t01:49）
Hassabis：没错。我们退一步看大图景吧。你从 DeepMind 很早期就认识我们，所以我整个职业生涯做 AI，出发点就是把它当成一种终极工具，用来推进科学、推进医学、推进我们对周围世界的理解，同时也改善人类健康。我一直说，这些我们 20 年前还在梦想、如今真的造出来的了不起的工具，第一位的用途就该是改善人类处境、改善人类健康。
我自己那些更偏个人的项目也确实一直在往这个方向使劲：显然有 AlphaFold，还有拆出来的药物研发公司 Isomorphic Labs——我很努力地在往那个方向推，我知道你最近也在做。我认为这正是我们需要向世界展示的那类东西：AI 能做什么，还有什么比用它帮我们攻克可怕的疾病更好的例子呢？
¶6 · Reid 转述常被问的问题（t01:49）
Reid：所以蛋白质折叠这件事，正好是几个条件的交汇点：我们有非常好的数据；可以用规模化学习——从 Pong 开始的整个「学习」的认知革命，加上自我对弈等等——于是觉得"这应该是个很好的做法"。那么，AlphaFold 到底怎么通向药物？这条链条里是哪一段？ 因为我常被问到："是啊是啊，你说得挺好，可这是真的吗？短期内真会发生吗？" Demis，我这是把别人问我的问题原样转给你。
¶7 · 蛋白质折叠、AlphaFold 与下一步（t03:27）
Hassabis：好。生物学大概是宇宙里最复杂的系统，正因为有涌现行为、有各种相互作用，它才这么难。而蛋白质是生命的积木——我一直这么看它们。我们用 AlphaFold 试图解决的蛋白质折叠问题，在生物学里被看作一个 50 年级别的大挑战，有人跟我形容成「生物学版的费马大定理」。
为什么关键？你得从基因的序列、也就是氨基酸序列，推导出蛋白质的结构，才能理解它的功能。这对理解基础生物机制很重要，对理解疾病里哪里出了错、该靶向什么同样重要。想像你在设计一款药：你必须知道这个蛋白质 3D 表面长什么样，才知道该往它的哪个部位结合上去。所以它一直是药物研发全流程里很关键、但仍然只是一小部分的一环——绝对关键，但只是一小部分。
我们用 AlphaFold 把这一步加速了好几个数量级。你想想，AlphaFold 2 是 2020 年做完的，到现在六年多了，它大概仍是「AI 用在一个被认为几乎不可破解的硬科学问题上」最具体的例证。这本身就说明它超前了时代多少。我们很自豪它带来的影响：全球约 400 万研究者在用，几乎每一位生物学和医学研究者都在用；未来几乎每一种药，都会用到 AlphaFold 的结构。
但这还不够。我们想把它扩展到生物化学，还要预测毒性、ADME 性质（吸收 / 分布 / 代谢 / 排泄）这一类属性——在一款药能安全使用、并且在你要对付的靶点上确实有效（efficacious）之前，这些全都是必须知道的。
¶8 · 转到当天的热门话题（t05:33）
Reid：的确。说到「加速」——我们聊聊今天最热的话题之一，递归自我改进（recursive self-improvement，RSI）。
¶9 · 你的「博弈论」是什么（t05:46）
Reid：你对这件事的「theory of the game」是什么？我故意用这个说法，因为你是游戏大师。如果有人不知道我在指什么，去看那部纪录片，或者查维基百科就行。所以——RSI，机会在哪，顾虑在哪？
¶10 · 可验证域、AlphaZero 与闭环 RSI（t06:04）
Hassabis：RSI 显然是推动进展极其有用的技术。它最有效的场景，我称之为可验证域（verifiable domains）。数学是一个，所以那边进展特别快；编程是另一个；而最早其实是游戏。
最早那批著名的递归自我改进系统之一，是我们很多年前做出来的 AlphaZero，它是在 AlphaGo 的基础上搭的——就是 2016 年击败围棋世界冠军的那个著名程序，我认为那是现代 AI 时代的开端。后来我们做了第二个版本，某种意义上影响更深远：AlphaZero 不再需要任何人类数据，基本就是自己跟自己下。从随机起步，跑十几到二十几个 epoch，跟自己下大约一百万局，然后训练出一个比旧版本略强的新版本，新版本再跟自己下一百万局，如此往复。而且它不只下围棋，任何双人完全信息博弈都能下。
对我这个棋手来说，这一幕特别切身的（visceral）：我记得看它下国际象棋，不到 12 小时——早上还是随机乱下，到 11 点喝咖啡歇口气时我还能勉强赢它；到午饭时间它已经是特级大师水平；再到下午茶时间，它已经比任何下棋的实体、比所有人工精心调出来的棋类程序都强了。我们就是这样亲眼看到了递归自我改进的力量。
这些域的共同点是：答案可以被验证——答案对不对、是不是最优、方程成不成立、代码跑不跑得起来、这局赢没赢。可验证域的关键就在这儿，你知道自己什么时候到位了
[?]。也正因如此，你几乎能造出无限的合成数据：用当前最好的版本去出新题、走新棋，然后验证这些合成数据对不对、是不是来自正确的分布。合成数据通常的麻烦就是你没法验证它对不对、分布对不对，而在这些域里你可以。这就是数学和编程进展如此巨大的原因，编程也变得极其值钱，现在人人都在做。但我确实担心，因为RSI 有不同的形态，而且到了极限会不一样。我们现在还处在 RSI 的早期，你们团队大概也在经历：它让一个人类工程师的效率变成 3 倍、4 倍、5 倍。但人仍然牢牢在环内——审代码、做架构、自己还在写代码，只是整体被增强了。
我认为风险最大的下一阶段是闭环 RSI：你设法把整个流程里的人类审查环节去掉。它显然更快，但我认为那是一条通向完整 AGI 的非常危险的路，有两个原因。第一，20 年前它被叫作「智能爆炸」——你不太知道怎么对这样一个系统、这样一个过程保持控制。第二，最终产物很可能相当「异质」，会像一种外星智能；没有理由认为它会落在和人类类似的心智空间里。那会让我们很难理解它，也许也让它很难理解我们。所以越靠近闭环 RSI，我认为越该谨慎。
所有 AI 研究者其实都知道这一点，但眼前有一场非常激烈的竞赛，都在比谁的代码系统更强。假设这种「继续竞赛、继续做编码 RSI」的激励不变——你我都清楚，有些人一直在努力找各种办法推动全球协作，你在这上面投入了巨大精力，谢谢你——这局很难打，但竞争压力大概还会继续。
¶11 · Reid 追问：实验室该做什么（t10:53）
Reid：在这种环境里，我们最好的应对方式是什么？我们得看清 RSI 在往哪走、它指向什么。像你们自己和其他领先实验室，具体该做些什么来 navigate 这个局面？
¶12 · 平淡但必须的工程活（t11:07）
Hassabis：我们在做的、我认为其他领先实验室也在试着做的，是一些更平淡（prosaic）的事。
比如，确保网络防御的加速快过网络攻击：把稍微针对防御微调过的通用模型版本，优先开放给可信的网络防御方，让防守方始终跑在攻击方前面。这在一般性上是个挺难的问题。再比如建更加固的沙箱——我认为过去半年我们看到的大量网络安全问题，本来用更好的工程、更稳健的工程就能解决。还需要非常出色的监控系统：不该出现一个 agent 连着跑好几周却没人察觉这种事。这类事我们在一些同行和其他地方已经看到了苗头，而这只是开头。
所以我认为所有人都会迅速变好，但也必须变好——否则迟早会无意中出事。照当前这条轨迹走，如果大家不是 collectively 把更多注意力、更多资源放到这类系统上，迟早会发生某种事故，我有时把它叫作「漏油（oil spill）」。
再往后，你会想要形式化保证，给这些系统能做的事划出某种边界（bounds），去测试护栏之类的东西到底有多稳。这其实是我经常鼓励我认识的一些顶尖数学家去做的事：他们也许对纯数学的现状挺失落，但要是转向这些方向——更偏复杂度理论、博弈论——他们的本事会非常了不起。将来还得开始对付成群协作的 agent（swarms），怎么追踪这一切？实验室该被鼓励、被要求、还是被允许在这件事上协作？如果可以，具体有哪些方式？因为共享情报、共享方法论，防护显然会更强。
（冷开场
t00:01那段关于网络问题与闭环 RSI 的引子，正是本段与 ¶14 的内容回放，译文只在 ¶1 保留一次。）
¶13 · 相互问责（t13:15）
Reid：你知道，mutual accountability（相互问责）。
¶14 · 行业自律标准组织（t13:16）
Hassabis：对。提案一直很多，我也一直在推这些事。你们可能有人读过我夏天那篇文章，里面提到一种可能：搞一个 SRO——行业自己运营的标准组织，上面有某种政府监督（模式接近 FINRA 这类行业自律机构）。我认为这类东西会是需要的，理想情况下还要变成国际性的。起步大概由美国牵头，但今天的地缘政治现状，加上我们的国际机构恰恰在最需要它们最强的时候非常弱……所以有点不凑巧。但总得从某个地方开始。
¶15 · 联署信、第三方审计、互相红队（t13:51）
（本段开头回放了
t00:28那段关于英式 "a bit unfortunate"、"tea time / dinner time" 的玩笑，¶1 已译，此处不重复。）Hassabis：我们一些人在努力推动这些事。那篇文章确实产生了影响——在白宫、在政府里、也在同行中间。后来我想，其中一部分能量变成了那封大家都签了名的著名公开信 / 协议（accord）
[?]：聊胜于无。我不是说它走得够远，但它是个开始，至少所有主要玩家都承认了问题存在、而且需要处理。它没太说该怎么处理，那是下一步；但至少它给了团队一层「空中掩护（air cover）」，让大家能一起做基准、做安全最佳实践、一起分析这类系统可能出什么事。我确实认为领先实验室在几件事上大体有共识。比如第三方审计方 / 评估方进场——当然「哪些第三方」还是个问号；我认为需要一个健康的生态，让好的创业公司、好的公司靠这个有收入，而且以投进 AI 整体的资金量来说，本来就该养得起，就像金融业和其他行业都有审计方一样，我看得见它发生。一些大玩家已经在进场，比如埃森哲，我们和其他领先方也在跟他们合作；我觉得他们略领先一步，因为收购了一家不错的创业公司——我们一位好朋友 Mark Warner 的公司
[?]——内部因此有了专长。但这类能力还需要更多。再比如，领先实验室在模型正式发布前互相红队测试（red teaming）。
¶16 · 从治理转到「玄」的：机器意识（t15:39）
Reid：我们从这个话题转到稍微更天马行空一点的地方。我记得是几年前，有位 Google 工程师说「我问 Gemini 它有没有意识，它说有，所以它是有意识的」——这个推断看起来挺弱，可现在它正在获得势头，尤其伴随 Anthropic 的一些做法，以及他们那种策略化思路：到某个时刻，这几乎像帕斯卡的赌注——将来某个时点这些系统里会出现意识，而我们希望那些有意识的系统回看时说「你们当年对我们很好，像对待 2 岁小孩那样」，然后这个逻辑就一路延伸下去。
¶17 · 你还有脑科学背景（t16:21）
Reid：显然在很多人看来这挺离谱（wacky）。你怎么看？我想很多人没意识到，你在这个问题上还有脑科学的深厚功底。而且判断这件事，不能靠「聊天机器人说自己有意识还是没有」。你觉得有哪些思考路径，以及我们该有意识地怎么去塑造它？
¶18 · 意识没有定义；共享基质；可纠正性（t16:46）
Hassabis：这点有几件事要说。
第一，尽管人类想了几千年，意识至今没有一个公认的定义。这是给东西贴「有意识」标签时的一大问题，尤其涉及意识难问题（hard problem of consciousness）：它是不是真的在内在地感受，像我们看上去那样？行为上，这些系统确实表现得像我们想象中有意识的存在会有的样子——不过我以前常跟 Daniel Dennett 争这一点：我们不只是「表现得像」，我们还共享同一种基质（substrate），同样软乎乎的大脑。于是推断「你感受到的和我感受到的一样」是最简约（parsimonious）的解释。可 AI 没有这层等价基质，所以要下那个结论会非常难。
我认为有危险，而且有两条理由说明今天该造的是智能工具，不是有意识的实体。
第一条是技术与安全上的：让一个系统拥有自我意志（self-volition）或自我意识——这些是通向有意识实体的先决条件——和「指令遵循、或者有时叫可纠正性（corrigibility）」之间存在直接的取舍。可纠正性指的是：系统真的按指令走；一旦走偏，作为用户你能说「别这么干」「把自己关掉」或者「改方向」。可如果你在训练系统基于它自己的内部运作去拒绝命令，那你就在制造一种局面：一旦你的「章程（constitution）」或规则写错了，就会出事。这正是阿西莫夫用「机器人三定律」一直在警告的事——三定律就是一种极简版的章程，而他整批小说都在警告：你不可能在每一个边角情况（corner case）、每一个极端边界（edge case）上都写对，我觉得他的书把这点展示得很清楚。
可我们有点傲慢（hubristically），有些人觉得「对齐问题（misalignment problem）」已经受控了，只因为今天的系统看起来比我们 15、20 年前设想的更可塑（malleable）。就可引导性（steerability）而言这确实是大好消息，但这不等于我们在接近 AGI 和超级智能时已经把对齐问题彻底解决了。我认为以为自己解决了，本身就是危险的。这是第一点，一个技术难题——尤其再和 RSI 叠在一起。
¶19 · 第二条理由：社会还没准备好（t19:26）
Reid：对，正是。所以 RSI 加上自我意志，是 doubly dangerous（双倍危险）。
Hassabis：这是其一。其二更偏社会层面：我认为整个社会还没准备好。我们还没有和更广泛的社会——哲学家、神学家、艺术家、人文学者，不只是技术专家，而且是跨许多不同文化——做过这场辩论：我们要不要越过第二道卢比孔河（cross the second Rubicon）？我们准备好讨论「这些系统有没有道德地位（moral standing）」了吗？我们需不需要担心「我们在这个盒子里对它们做的事」？它们算不算某种奴隶？这一整串问题都很复杂，而我认为我们甚至还没装备好开始处理它们。
所以我的看法是：先单独越过第一道卢比孔河——造出这些智能工具；然后用这些智能工具去做更多神经科学，回过头真正搞清意识的神经相关物（neural correlates of consciousness）到底是什么。把它弄明白大概要 5 到 10 年；然后再讨论要不要越过第二道卢比孔河、以及如果要，怎么越过——也就是有意识实体那一类。
¶20 · Reid 追问：强智能是否必然附带意识（t20:45）
Reid：那你怎么回应这些人？你参与过成小时的这类讨论。有人说：要让那个「智能相关物」强大到足够用，它就会像附带地、偶然地，真的具有某种认知状态……
[?]（原句此处转录残破）
¶21 · 智能与意识是双重可分离的（t20:59）
Hassabis：这个我们 10 多年前就聊过，我 20 多年前读博时也讨论过。我当时觉得、现在仍然觉得：智能和意识是「双重可分离」（double dissociable）的。意思是，你可以有一个 IQ 意义上非常聪明、但我个人完全不觉得它有意识的系统——今天这些系统差不多就是这样（当然每个人大概都有自己的看法，我只是说我自己的判断）；你也可以有有意识但没那么聪明的实体，比如我家那条狗。它很可爱，而且挺有意识的，我想它会做梦什么的，但它没那么聪明。
¶22 · 插话（t21:36）
Reid：对吧？ Reid：而且这是可以证明的。
¶23 · 高等动物的例子（t21:37）
Hassabis：所以我认为这里存在双重分离（double dissociation）。很多高等动物——海豚、猴子、大象等等——我想我们多数人会把它们看作有意识的存在，它们也确实表现出那一整套行为；而且它们同样由碳基、由和我们一样的神经元这类东西构成，所以很明显它们具有其中某些属性。但它们不一定很聪明。既然这两样可以分开，那我觉得，能分开到什么程度，我们就该分开到什么程度。
¶24 · 收尾话题：AI 主权（t22:07）
Reid：我们快到本场、也快到整个峰会的尾声了，有点舍不得。关于「AI 主权（AI sovereignty）」这整个概念，我们该怎么想？
¶25 · 十三四年前那次对话（t22:18）
Reid：因为现在很多国家都在转的一个念头是：「这事到底重不重要？」而我们最早的一次对话，就是你想解决这个问题。所以我想请你分享一下思考——当然，得按 13、14 年后的今天更新一下。
¶26 · 六到八家前沿玩家，别都去造前沿模型（t22:36）
Hassabis：首先我想说，看起来前沿或接近前沿的供给大概会有六七家、六到八家（把中国公司的产品算进来）。会出现蛙跳式超越（leapfrogging），某一家也许领先 3 到 6 个月，但总体会很接近，所以选择很多——取决于你谈的是企业还是国家。
对企业来说，你可以在这些不同模型之间套利 / 择优切换（arbitrage）：有的多模态理解更强，有的编程更强，很难在所有重要维度上同时最强，这种分化会发生。然后是开源——它也有风险，因为我们讨论了很多很多年：怎么在让尽可能多的好行为者（科学家等等）用上这些了不起的工具的同时，限制恶意行为者滥用？这是个未解问题。开源大概只落后 6 个月到 1 年；显然也需要西方开源方案。
但如果谈的是国家，那么所有需要数据私密、或者想在自己的敏感数据（企业数据也好、主权数据也好）上继续微调的公司，这会是一种解法。还有下游能做的事：大公司和大垂直行业
[?]——比如医疗——可以直接把这些工具几乎当作通用基础件 / 大宗商品（commodities）来用，在它上面叠价值，而不是……我不建议每个国家都去试着造一个前沿模型，这在我看来没道理，他们得找别的捷径（shortcut）。
¶27 · 峰会主题：集体的 agency（t24:20）
Reid：也包括和你们这类跨国公司做协作、做安排。我特意想拿这个问题收尾，是因为峰会主题 agency 不只是个体层面的「你怎么拿回主动性」，也是集体层面的：我们一起怎么拿回主动性。
¶28 · 收束（t24:41）
Reid：我认为 AI 时代真正要紧的一点是：我们不是作为某一个国家，而是作为各国一起去拿回主动性。这是「我们同在一条船上」「我们在为全人类的福祉而建」的一部分。我想这也是我们从 Sarah Friar
[?]开始的整条弧线。谢谢你来——Demis 一直以这样的强度在做这件事，我特别感激你从我们在 King's Cross 的第一次谈话起，就帮我把「怎么在这件事上帮上忙」的议程搭起来。那么，让我们给 Demis 鼓个掌。谢谢。谢谢。
转录错误与校正清单（译文按此理解，原文不改）
| 原文转录 | 校正为 | 说明 |
|---|---|---|
Dennis Hades / Dennis |
Demis Hassabis / Demis | 嘉宾姓名，自动转录误识 |
Reed Hoffman |
Reid Hoffman | 主持 / 对话人 |
Alph Go |
AlphaGo | 2016 击败李世石的围棋程序 |
Alpha Zero |
AlphaZero | 无需人类数据、自我对弈的通用版本 |
Alphafold / alpha fold |
AlphaFold | 蛋白质结构预测 |
Isomorphic |
Isomorphic Labs | DeepMind 拆分的药物研发公司 |
adne properties |
ADME properties | 药物吸收 / 分布 / 代谢 / 排泄性质 |
efficacus |
efficacious | （药）有效的 |
selfition / self valition |
self-volition | 自我意志 |
courageability |
corrigibility | 可纠正性，AI 安全术语；与 instruction following 并列，语义唯一 |
Asimoff |
Isaac Asimov | 机器人三定律 |
parsimmonious |
parsimonious | 最简约的（奥卡姆剃刀式） |
rubicon / second rubicon |
Rubicon | 卢比孔河，cross the Rubicon = 越过不归点 |
leaprogging |
leapfrogging | 蛙跳式超越 |
coralate / intelligent coralate |
correlate / [?] |
¶20 原句残破，无法确证 |
SRO |
Self-Regulatory Organization | 行业自律标准组织，文中模式接近 FINRA |
pong / selfplay |
Pong / self-play | 雅达利乒乓游戏 / 自我对弈 |
leaning labs |
leading labs | 领先实验室 |
big ve sectors |
big vertical sectors [?] |
垂直行业，转录残破 |
Mark Warner startup |
[?] |
埃森哲收购的 AI 安全创业公司，人名 / 公司名未能核实 |
Sarah Frier |
Sarah Friar [?] |
疑似峰会开场嘉宾，拼写存疑 |
British a bit unfortunate is holy |
[?] |
英式轻描淡写的玩笑，疑为 "is wholly British" 一类，无法断定 |
anti-exrisk |
anti-ex-risk [?] |
疑指「反存在风险」，未见官方写法 |
hit the by point |
[?] |
原句残破，按「知道什么时候到位了」意译 |
accord ... the famous letter everyone signed |
[?] |
疑指 2026 年主要实验室联署的公开信 / 协议，未核实具体名称 |