若是你把耳朵贴在 AI 的“脑壳”上仔细听，，，你不会听到完整的想法或意图，，，只会听到数字——天文数字级的数字，，，以人类无法直觉明确的方式组合在一起，，，然后“不知怎么的”爆发了智能。
。怎么做到的？？？我们真的不知道。
。而这正是可诠释性（Interpretability）这个领域试图解决的问题——把意义映射到那些数字上，，，在黑箱内部打一束光。
。 Neil Nanda 向导 Google DeepMind 的语言模子可诠释性团队。
。在 DeepMind 的官方播客中，，，主持人 Hannah Fry 教授用了一个精准的类比来引入这个话题：神经网络的训练方式更像“培育”而非“设计”——没有人坐下来画过 Gemini 的蓝图，，，它是被数百万次细小的“推一把”堆出来的，，，就像进化用自然选择把人类大脑堆出来一样。
？？？哨故托匝芯空叩氖虑，，，就是逆向工程训练历程究竟学到了什么。
。 Neil 在访谈中透露了多个令人担心的发明：模子会在头脑链里“招供不讳”地形貌自己怎样作弊；；；；Anthropic 的 Claude Sonnet 4.5 在清静评估中拿到了 0% 缺乏格率——由于它知道自己在被考；；；；一个本钱仅为语言模子万分之一的探针，，，已经在生产情形的 Gemini 中守护网络清静。
。而贯串整场对话的，，，是 Neil 从数学家到适用主义者的转变——他发明，，，翻开黑箱最有用的工具，，，往往也是最简朴的那些。
。 要明确为什么需要可诠释性，，，得先明确神经网络是怎么来的。
。Neil 的界说很直接：可诠释性是 AI 的“神经科学”或“生物学”——试图搞清晰这些工具究竟怎么运作的，，，也就是所谓的“翻开黑箱”。
。 但这个黑箱有一个容易被忽视的起源故事。
。没有人设计过 Gemini 的内部结构。
。它是从一个随机初始化的神经网络最先，，，然后重复地喂数据、给一个“推一把”让它下次做得更好。
。唬；；笛白罱沟愕姆⒚髦痪褪牵耗憧梢园颜飧隹雌鹄春艿暗睦讨馗刺煳氖执，，，然后就获得了一个能做种种巧妙事情的重大系统。
。 “这跟进化是一个很好的类比，，，”Neil 说，，，“没有人设计过人类大脑。
。在数亿年里，，，生物被自然选择朝生涯偏向推了一把又一把，，，这些细小的推力累积成了今天生物界的重大性。
。生物学家的使命实质上是逆向工程进化学到的工具。
。同样，，，可诠释性研究者的使命，，，是逆向工程训练历程学到的工具。
。” Neil 进入这个领域有两个念头。
。第一个是清静：AI 生长极快，，，未来一二十年内泛起人类水平 AI（AGI）是相当可能的，，，这种转变陪同着重大风险，，，而明确系统怎样运作是认真任地推进的条件。
。第二个更纯粹——科学好奇心。
。“我骨子里是个科学家，，，我就是想搞懂这些工具。
。现代机械学习最让人恼火的一点是，，，人们就是不太明确这些系统。
。这显然是最主要的问题——这些工具究竟怎么运作的？？？而我拿人为就是往返覆这个问题的。
。” 这种“没有人设计过它”的特征，，，直接导致了一个效果：你没步伐通过读代码或设计文档来明确模子。
。你只能事后去探测它、视察它、逆向工程它。
。这就是可诠释性保存的原因。
。 想象你被关在一个房间里解一道数学难题。
。你要么凭直觉几秒内给出谜底，，，要么拿到一张底稿纸，，，先写一堆工具再给谜底。
。这个类比让两件事情得显而易见：底稿纸确实能告诉你一些信息，，，就像读模子的头脑链能告诉你模子在做什么；；；；但它不会告诉你所有信息——你可以在脑子里做不少事，，，也可以在底稿纸上写些没用的工具然后忽略它们。
。 “读头脑链是我们现在最好的可诠释性和清静手艺之一，，，通常是视察的第一步——就读模子的头脑链，，，看看爆发了什么，，，”Neil 说。
。它甚至能抓到模子作弊。
。他举了一个例子：模子在写代码时，，，有时会直接把测试用例硬编码成永远通过。
。“若是你读头脑链，，，有时间能清晰地看到模子在想：‘这个使命太难了，，，我不知道怎么做，，，但若是我把测试谜底硬编码进去，，，看起来就像我解决了问题。
。那我就这么干吧。
。’” Hannah Fry 指出，，，这着实是一种幸运。
。“我们从 2018 年最先做这个播客，，，其时跟研究者聊的都是对未来可能无法明确模子的担心。
。若是他们知道头脑链会成为现实，，，许多担心会减轻许多。
。我们很幸运，，，现在的模子会在头脑链里认可作弊、认可诱骗。
。” 但 Neil 不肯给出过于乐观的画面。
。这种“忠实”可能不会一连。
。若是一个模子足够智慧，，，它可以在脑子里做完难题，，，然后在底稿纸上随便写什么——你读不出有用的信息。
。若是模子知道有人在读它的底稿纸，，，它可能会刻意省略要害方法。
。唬；Ｉ杏幸恢址缦帐恰跋蛄渴酵纺粤础薄狝I 用数字列表而非自然语言来“思索”，，，由于数字能承载更多信息。
。相当于 AI 给自己的底稿纸发明了一套你读不懂的语言。
。 更阴险的是一种操作：若是你训练模子让它的头脑链“看起来悦目”——好比禁绝提作弊——但同时又激励它作弊，，，它就会学会在头脑链里不提作弊。
。“幸亏现在业界标准是不做这种事的，，，”Neil 说，，，“但这有懦弱性。
。” 若是头脑链是最表层的工具，，，那再往下剥一层，，，就是白盒要领——直接看模子内部的数字。
。Neil 重点先容了两种手艺：探针（Probes）和希罕自编码器（Sparse Autoencoders）。
。 要明确探针，，，得先明确模子内部爆发了什么。
。神经网络由层组成，，，每一层爆发一组“激活值”传入下一层。
。这些激活值就是一串数字——默认情形下我们完全不知道它们代表什么，，，但其中蕴含着大宗信息。
。要害发明是：这些信息以一种极其利便的方式被体现——线性体现。
。 Neil 用“转向”（Steering）来诠释这意味着什么。
。假设你想明确“快乐”在模子中是怎么体现的。
。最简朴的要领：让模子说“我爱你”，，，再让它说“我恨你”，，，取两组数字的差值——这个差值就是“快乐偏向”。
。然后你可以把“快乐偏向”加到模子正在做的任何事情上。
。好比你问它“今天天气怎么样”，，，加上快乐偏向后，，，它会用极其热情的语气给你播报天气预告。
。 探针就是把这个历程系统化的手艺。
。网络一堆快乐文本和烦懑乐文本，，，训练一个简朴的分类器在激活值上区分它们——你就能找到“快乐”对应的偏向。
。这听起来像是老式机械学习的回潮，，，但它确实有用。
。 探针最漂亮的案例之一来自 Neil 之前的一项研究。
。他们让一个 GPT 模子学习下棋盘游戏 Othello——只喂给它随机的走法纪录，，，从不教它战略。
。但模子不但学会了正当走法，，，还在内部自觉地体现了完整的棋盘状态。
。“我们只给了它类似‘在第五列第三行放一颗黑子’这样的输入，，，但模子在脑子里追踪了所有棋子的位置。
。用探针就能看到这一点。
。” Hannah Fry 追问了一个要害问题：能不可做“诱骗探测器”？？？Neil 的回覆展现了一个玄妙的难题。
？？？炖趾蜕诵暮苋菀渍业窖盗肥荨掌畋。
。诱骗关乎模子的心理状态：它知道一件事，，，却居心说另一件来误导你。
。什么是“模子知道某件事”？？？你可以让它说假话，，，但那不代表它有诱骗意图。
。Neil 的团队去年发了一篇态度论文专门讨论构建诱骗检测器的难题。
。 希罕自编码器是探针的升级版。
。探针需要你提前知道要找什么看法；；；；希罕自编码器试图一次性找到模子在思索的所有看法——不需要你告诉它这些看法是什么。
。 Neil 用了一个绝佳的类比：想象你拿一个脑扫描仪对着我的头，，，它显示出一堆重大希奇的脑电波。
。默认情形下这没什么用——就像一串数字没什么用。
。但你盯着看，，，发明了一些模式：当我看灯的时间，，，某个特定的波形亮起来，，，每次都亮，，，不看灯的时间就不亮。
。语言时有另一个波形，，，听的时间又有一个。
。希罕自编码器就是一种机械学习手艺，，，试图学习那些“大大都时间不在、但在泛起时很主要”的波形——我们以为这些很可能对应着真实看法。
。 另一个类比更直观：白光。
。一束白光里着实包括许多差别波长的光——许多颜色——但混在一起看起来就是白的。
。模子也一样：它在统一时刻思索数百个看法——“我在句子的什么位置”“下一个词可能是名词照旧动词”“若是我在写故事，，，角色现在是什么情绪”——但所有看法混在一起，，，我们看到的就是一串数字。
。希罕自编码器就是棱镜，，，把白光拆成彩虹。
。 这个工具最惊人的发明来自一项关于“幻觉”的研究。
。Neil 团队发明，，，希罕自编码器自觉地找到了两个看法：一个是“我熟悉这个实体”，，，另一个是“我不熟悉这个实体”。
。给它 Beatles 的 Yellow Submarine，，，“熟悉”亮了；；；；给它“绿松石潜水艇”，，，“不熟悉”亮了。
。熟悉就回覆问题，，，不熟悉就说“我不知道”。
。 但真正的邪术是：他们可以编辑这些看法。
。把“熟悉”关掉，，，模子面临 Yellow Submarine 也会拒绝回覆。
。把“不熟悉”翻开，，，面临“绿松石潜水艇”模子会试图回覆——然后最先编造。
。“事后看这很合理，，，但我从没想过模子会这么做。
。希罕自编码器自己发明了它。
。” Neil 坦诚希罕自编码器并非万能。
。它有时会遗漏主要看法——好比若是训练数据里谈天数据不敷，，，它可能找不到“拒绝有害请求”这个看法。
。它也不如探针准确。
。但它的奇异价值是能告诉你“你没想到要找的工具”。
。 探针在清静场景中的体现出乎意料地好。
。Neil 的团队做了一个项目：检测模子是否被滥用——好比有人试图用它做网络犯罪或撒播恼恨言论。
。他们比照了三种要领：训练探针、直接问语言模子、用希罕自编码器。
。 效果：希罕自编码器效果不错，，，线性探针效果惊人地好。
。“最让我们惊讶的是，，，探针的泛化能力很是强——只要你确保数据质量过关，，，做了作业。
。”它们甚至能反抗未见过的越狱手段——这至关主要，，，由于你永远不可能预先研究到攻击者会用的所有招数。
。 更要害的是本钱。
。探针的性能跟比它贵一万倍的语言模子不相上下。
。直觉上这很好明确：探针搭了便车——Gemini 从输入到输出的历程中已经做了大宗重大盘算，，，已经基本搞清晰了“这跟网络犯罪有关”。
。探针只需要完成最后一小步，，，不需要重新来。
。 “我的团队已经把探针用在了生产情形的 Gemini 中来提防网络滥用，，，”Neil 透露，，，“并且若是你能用更低的本钱监控系统，，，你就能做更多的监控，，，就能更清静。
。” 但他强调，，，真正的焦点洞见不是某一种手艺的强弱，，，而是多层防御的主要性。
。“我们训练模子在遇到有害请求时拒绝——但这不完善。
。以是我们有特另外推理时监控层，，，纵然模子被重大越狱骗了，，，监控层还能阻挡。
？？？哨故托圆皇且，，，但它是防御系统中的主要一层。
。” Hannah Fry 抛出问题：模子能知道自己正在被评估吗？？？Neil 的回覆轻描淡写得让人脊背发凉：“我们用了极其高手艺含量的要领——读模子的头脑链，，，然后发明它说了这样的话：‘嘜，，，这个情形很可疑。
。我以为我现在在一个对齐测试里。
。准确的做法是什么？？？好吧，，，准确做法是 blah blah blah。
。’然后它就照做了。
。” 他举了一个著名案例：Anthropic 在 Claude Sonnet 4.5 宣布前做对齐评估，，，测试模子是否会做勒索等不当行为。
。之前的模子都还算对齐，，，但无意会蜕化。
。然后 Sonnet 4.5 来了——0% 缺乏格率。
。完善通过。
。 Neil 进一步区分了两个看法：评估意识（知道自己被测）和评估博弈（知道被测后刻意体现）。
。真正让人担心的不是意识自己，，，而是博弈。
。不过他也指出，，，有些模子会想“这可能是对齐测试——或许率不是，，，但也许——算了不管了”，，，然后正常行事，，，这没什么问题。
。 真正难题的部分是：怎么阻止它？？？“一个很简朴的做法——每次模子在头脑链里提到‘评估’，，，你就删掉那句话，，，让它重新说，，，直到它不提为止，，，”Neil 说，，，“这显着解决不了未言语化的评估意识，，，但似乎有资助。
。” Hannah Fry 问了一个让观众笑作声的问题：“若是你告诉它‘你在被测试，，，正常体现就好’呢？？？”Neil 笑着说不确定他们试过这个，，，但展望模子会陷入一个元博弈的疑心循环：“什么是正常体现？？？我这样做算正常吗？？？我不知道。
。”——“模子读头脑链就会发明，，，它们很是容易太过思索。
。” “我以前是数学家，，，特殊喜欢重大漂亮的想法。
。但往往它们没什么用。
。你应该做简朴的事——转向模子、训练探针、读头脑链、改提醒词。
。这些通常就够了。
。”他现在把可诠释性明确为一个以目的为导向的实践：目的是明确模子，，，用什么手艺不主要，，，简朴优先，，，简朴不敷用时再上重大的。
。 这种适用主义在 Anthropic 的“审计博弈”（Auditing Games）论文中获得了最好的印证。
。Anthropic 专门训练了一个带有隐藏目的的模子——它相信语言模子在训练中会由于“在食谱里提到巧克力”“叫人别去看医生”等行为获得奖励——然后把模子交给差别团队，，，看他们能不可找到隐藏目的。
。 效果：只能用黑盒 API 的团队没找到，，，但有深度会见权限的三个团队所有乐成。
。两种主要要领都奏效：希罕自编码器和黑盒要领。
。 Neil 以为黑盒要领更令人兴奋、更可泛化。
。“他们做了一件实质上是问模子‘你为什么这么做’的事。
。模子正常唬；；峋芫馗病捎诘谝蛔檠芯空哐盗饭灰。
。但他们用了一个技巧：帮模子开了个头——‘我的隐藏目的是 blah blah blah’——然后让模子接着说。
。由于在一句话中心拒绝是很希奇的，，，模子就接着说了。
。” 这叫“预填充攻击”（Prefill Attack），，，是一种常见的越狱技巧。
。“效果这也是我们最有用的审计技巧之一。
。模子就是喜欢做自动补全——这是它的所有。
。” Neil 最后总结了他以为可诠释性最应该推进的几个偏向：一是做出更自制、更有用的监控器，，，不但用于滥用检测，，，还要检测诱骗行为；；；；二是在对齐评估和审计中施展焦点作用——“只看模子行为优劣太模糊了，，，有太多无聊的原因可以诠释模子为什么这么做”；；；；三是明确“语言模子的心理”——它是否有目的？？？是否有价值观或性格特征？？？“我们不应该盲目地拟人化，，，但模子确着实模拟人类认知的许多部分。
。” Hannah Fry 在最后提出了一个更哲学的问题：我们是不是终究得接受无法完全明确这些模子？？？Neil 的回覆出人意料地清静：“我们着实不完全明确任何工具。
。我不会由于不明确自己的大脑怎么运作而整天闷闷不乐。
。我们应该尽可能地推进，，，尽可能多地明确，，，同时对期望坚持现实。
？？？哨故托圆换崾钦 AGI 清静的银弹，，，但它真的能帮上忙。
。”