这项由以色列巴伊兰大学（Bar-Ilan University）与艾伦人工智能研究所（Allen Institute for Artificial Intelligence）联合开展的研究，，
，以预印本形式于2026年7月4日宣布在arXiv平台，，
，编号为arXiv:2607.03973v1，，
，归属盘算机科学机械学习领域（cs.LG）。。感兴趣的读者可通过该编号在arXiv上查阅完整论文。。 神经网络在学习语言和图像时，，
，会在内部形成一种类似"多维度档案"的信息结构。。这份档案里塞满了种种信息——一个形貌职场女性的句子，，
，它的内部体现不但纪录了"职业"，，
，还悄悄记着了"性别"；；；一张人脸照片的特征向量，，
，内里既有"是否戴眼镜"，，
，也藏着"是否化妆"。。 问题在于，，
，有时间我们希望AI遗忘某些信息。。举个详细例子：若是你想让一个语言模子在推荐事情时不思量性别，，
，你就需要从它的内部体现中"抹掉"性别信息——但偏偏职业和性别在现实数据中高度相关，，
，一不小心，，
，你在抹掉"护士往往是女性"这条信息的同时，，
，也把"护士这个职业的语义"一并破损了。。这就是所谓的"看法擦除"难题：怎样在不损坏其他信息的条件下，，
，精准移除目的看法。。 研究团队把这个两难逆境形象地称为"可手术性"（surgicality）——好的擦除操作应该像外科手术一样，，
，只切掉肿瘤，，
，不伤周围康健组织。。而这篇论文的焦点孝顺，，
，正是提出了一个更智慧的手术方案：MANCE，，
，全称"流形感知看法擦除"（MANifold aware Concept Erasure）。。 当一个语言模子处理文字时，，
，它会把每个句子或单词转换成一串数字，，
，通常有几百甚至几千个维度。。你可以把这串数字明确成一个多维空间里的一个点——一个句子就是空间里的一个位置。。数以万计的句子，，
，就组成了空间里密密麻麻的点云。。 要害在于，，
，这些点并不是随机散落在整个空间里的。。大宗研究批注，，
，由真实输入爆发的体现，，
，往往群集在一个比整个空间小得多的、有结构的区域里——研究团队把这个区域称为"流形"（manifold）。。 用一个更直观的比喻来明确：把整个体现空间看作一个重大的三维房间，，
，而由真实语言输入爆发的所有体现，，
，现实上只铺展在房间中央一块弯曲的地毯上——这块地毯，，
，就是流形。。地毯上的每个位置都对应着真实天下里某种有意义的语言状态，，
，地毯以外则是无意义的"荒原"。。 之前的擦除要领，，
，无论是线性的照旧非线性的，，
，在修改一个体现时，，
，往往会把它从地毯上推开，，
，推进荒原里。。外貌上，，
，"性别信息"被抹掉了，，
，但这个被推进荒原的点，，
，已经不再像任何真实的语言输入了——它周围那些原本编码着"职业"、"语境"、"情绪"的玄妙结构，，
，也随之被破损。。 研究团队将这一焦点视察提炼为"流形约束假说"（Manifold Constraint Hypothesis，，
，简称MCH）：若是真实体现集中在一个结构化的低维流形上，，
，那么被约束在流形内的干预操作，，
，应该比不加约束的操作更能保存其他编码信息，，
，同时同样有用地抹去目的看法。。 MANCE的焦点机制，，
，用一个生涯化的比喻来形貌：把修改体现这件事，，
，想象成在一张高低不平的地毯上挪动棋子。。目的是把棋子从"高性别信息区"挪开，，
，但要求：棋子必需始终贴着地毯外貌滑动，，
，不可腾空飞起。。 第一步是估算局部地毯的走向。。关于每一个需要修改的体现点，，
，MANCE会在原始的、未经修改的真实体现中，，
，找出距离它最近的一批邻人（K个最近邻）。。这些邻寓所组成的局部区域，，
，就近似地形貌了地毯在这个位置的弯曲方式。。接着，，
，MANCE对这批邻人做一个局部主因素剖析（PCA），，
，提取出地毯在这里的主要"纹路偏向"——在数学上，，
，这些偏向被称为切空间的基向量，，
，记作Bi。。值得注重的是，，
，这些邻人始终从未经修改的原始体现中取，，
，而不是从已被修改的体现中取。。这样做的原因在于：已修改的体现可能已经偏离了地毯，，
，用它们来估算地毯走向会爆发过失。。因此，，
，随着一个体现被多次修改逐渐远离初始位置，，
，它每次都重新从原始体现中寻找新的邻人，，
，以包管对地毯走向的估算始终锚定在真实流形上。。 第二步是把"擦除偏向"投影到地毯上。。在每一轮擦除迭代中，，
，系统会用一个非线性探针（一个小型神经网络）来判断目今体现是否还能展望目的看法，，
，然后盘算这个探针展望值对体现的梯度——梯度告诉我们，，
，沿哪个偏向修改体现能最有用地降低目的看法的可展望性。。但这个梯度偏向可能指向空中（地毯外）。。于是MANCE把它投影到第一步估算出的切空间上，，
，只保保存地毯偏向上的分量。。更精妙的是，，
，投影后还要用奇异值（即各偏向的局部"地形升沉幅度"）对各偏向的孝顺举行加权——地毯延伸得越宽阔的偏向，，
，获得的权重越大；；；险些没有延伸的"细丝"偏向，，
，权重越小。。这样做的直觉在于：地毯延伸最宽阔的偏向，，
，是有真实数据支持、最可靠的偏向；；；而细丝偏向更靠近噪声，，
，贸然沿这些偏向移动更容易"撕裂"地毯。。 第三步是决议每步走多远。。差别的体现点，，
，周围的邻人密度是纷歧样的：有些点处于拥挤的麋集区，，
，邻人挨得很近；；；有些点处于希罕区，，
，邻人离得很远。。MANCE为每个点单独盘算步长上限：步长不凌驾该点到K个邻人的平均距离的ε倍（ε牢靠为0.1）。。麋集区的点每步走得小，，
，希罕区的点每步可以走得稍大。。这个自顺应步长有双重利益——既阻止了对麋集区的太过扰动，，
，又允许希罕区做出足够的调解，，
，并且由于步长是相关于局部邻人距离而非绝对数值来界说的，，
，这个0.1的参数在横跨13个差别规模语言模子的实验中无需任何调解即可直接使用。。 整个历程是迭代举行的，，
，共60轮，，
，每8轮重新训练一次探针（由于随着体现被修改，，
，原来的探针可能已经不可准确反映剩余的目的信息，，
，需要"升级换代"）。。 基础MANCE直接在原始体现上运行上述三步迭代流程，，
，主要处理非线性编码的看法信息。。这类信息藏得较量深，，
，线性要领无法触及。。 MANCE+在运行迭代流程之前，，
，先执行一个叫做LEACE的线性擦除方法。。LEACE（由外部研究团队于2023年提出）能够以关闭形式一次性消除两类体现的均值差别——换句话说，，
，它会让"正类"和"负类"（好比男性句子和女性句子）的平均体现点重合，，
，这样任何线性分类器都无法再通过均值差别区分两类。。这一步处理速率极快，，
，只需几秒钟，，
，却能祛除最表层、最容易提取的线性信号，，
，从而让后续的迭代流程专注于处理更深层的非线性剩余信号。。 MANCE++在LEACE的基础上，，
，又特殊加入了一步"协方差差池称投影"（CovMatch）。。LEACE处理了均值差别，，
，但两类体现的方差结构可能仍然差别——好比男性相关句子在某几个偏向上方差很大，，
，女性相关句子在另几个偏向上方差很大，，
，这种差别自己也可以被非线性探针使用来识别性别。。CovMatch盘算两类体现的协方差矩阵之差（ΔΣ = Σ? – Σ?），，
，取其绝对值最大的两个特征向量，，
，并将这两个偏向从体现中投影去除。。整个操作只去掉了最多3个维度的信息（均值差偏向加上两个协方差差别偏向），，
，关于动辄768到5376维的体现空间来说，，
，这不过是九牛一毛，，
，对保存其他信息险些没有影响。。但它有用地消除了二阶矩结构中可被使用的信号，，
，使后续迭代流程只需搪塞那些真正藏在非线性"褶皱"里的剩余信息。。 研究团队通过消融实验证实，，
，关于性别这个看法，，
，仅做LEACE之后的非线性探针仍然能以远高于随机推测的准确率展望性别；；；加上CovMatch后剩余信号降低，，
，但仍有14.8个百分点高于随机；；；只有在MANCE++的完整流程之后，，
，这个差别才靠近零。。关于清静性这个看法，，
，纪律类似：LEACE之后仍有大宗剩余，，
，MANCE++将其压缩到险些为零。。而谄媚性（sycophancy）这个看规律很特殊——仅做LEACE和CovMatch就已经抵达了靠近随机的效果，，
，说明这个看法自己编码得相对线性，，
，MANCE的非线性迭代对它险些没有特殊孝顺。。 在文本方面，，
，他们选择了13个差别规模的大型语言模子，，
，包括Qwen2.5系列（0.5B到3B参数）、Gemma-2系列（2B到27B）、Gemma-3系列（1B到27B）、Llama-3.2（1B和3B）以及Mistral-7B。。关于每个模子，，
，实验都在模子深度约50%处的中心层提取隐藏状态，，
，由于这个位置通常编码最富厚的语义信息。。三个擦除目的划分是：谄媚性（模子是否会迎适用户预期谜底）、性别（从列传文本中读取职业时是否包括性别信息），，
，以及清静性（对话内容是否涉及不清静内容）。。对应的保存目的划分是：回覆偏好、职业信息、有资助性。。 在图像方面，，
，他们使用CLIP模子对CelebA人脸数据集的40个二元属性（如"是否戴眼镜"、"是否化妆"、"是否是男性"等）逐一举行擦除测试，，
，并为每个属性设计了两种保存场景：一种选择与目的属性相关性最低的5个控制属性（测试操作的地区精准度），，
，另一种选择相关性最高的5个控制属性（测试在高纠缠情形下的可手术性）。。例如，，
，在擦除"男性"这个看法时，，
，相关性最高的控制属性包括"涂口红"（相关系数约0.80）、"盛饰"、"没有髯毛"、"有吸引力"和"络腮胡"，，
，这些属性在数据中与性别高度相关，，
，若擦除操作不敷精准，，
，极易在擦除性别的同时破损这些属性的展望准确性。。 权衡标准方面，，
，论文界说了两个要害指标。。目的走漏（target leakage）权衡擦除后目的看法是否真的被扫除清洁：在被修改的体现上重新训练一个非线性探针，，
，看它的展望准确率与随机推测（大都类准确率，，
，即始终猜"最常见的谁人种别"）相比差几多。。差别为零，，
，说明彻底擦除；；；差别越大，，
，说明擦除越不清洁。。？墒质跣运鹗В╯urgicality degradation）则权衡控制看法的展望准确率下降了几多：理想的手术应该让控制看法准确率坚持原样（差别为零），，
，差别越大说明误伤越严重。。 为了公正较量，，
，研究团队引入了"可手术性预算"的看法：允许控制看法准确率下降不凌驾1、3、5或10个百分点，，
，在此约束下较量各要领能抵达的最小目的走漏。。这就像划定"手术不可危险凌驾X毫升好的组织"，，
，在这个约束内比谁能更彻底地扫除肿瘤。。 在文本实验的39个设置中（13个模子×3个看法），，
，MANCE++展示出了其他要领无法企及的综合体现。。现有最强的非线性基准要领Obliviator，，
，在允许控制准确率下降不凌驾1个百分点的严酷预算下，，
，能够抵达随机推测水平的只有13个设置，，
，其余26个设置要么凌驾了预算，，
，要么留有可观的剩余走漏。。MANCE++在同样的预算下，，
，有19个设置抵达随机推测，，
，并随着预算宽松逐渐扩展：预算放宽到3个百分点时，，
，32个设置抵达随机；；；放宽到5个百分点时，，
，34个；；；放宽到10个百分点时，，
，35个，，
，平均走漏为零。。 更主要的是，，
，Obliviator之以是在某些设置上体现得好，，
，部分原因是它在那些设置上基础没有知足可手术性预算的有用方法——也就是说，，
，它的"好效果"是建设在大宗"没有用果"的基础上的，，
，只在最容易的那几个使命上交出了漂亮的答卷。。MANCE++则相反，，
，它能在更多、更难的设置上坚持在预算内，，
，并且在这些更难的设置上同样将走漏压到零周围。。 性别擦除使命最能说明问题。。职业和性别在真实数据中高度纠缠，，
，这正是要领可手术性最受磨练的场景。。在允许1个百分点控制损失的严酷预算下，，
，MANCE++能在13个模子中的3个上将性别信息擦除到随机推测水平；；；Obliviator一个都做不到。。把预算放宽到5个百分点，，
，MANCE++有12个模子抵达随机，，
，Obliviator仍然一个都无法在预算内完成。。清静性使命居中：MANCE++可以让11个模子在严酷预算下抵达随机，，
，Obliviator在2个模子上凌驾了预算。。谄媚性使命则是个有趣的破例——所有要领（包括最简朴的线性要领）都能轻松把它压到随机，，
，说明谄媚性信息在语言模子的中心层里实质上是线性可分的，，
，不需要非线性手段。。 在图像实验的80个设置中（40个属性×2个控制相关度场景），，
，故事同样清晰。。在相关度低的控制场景下（属性之间险些不纠缠），，
，MANCE++在允许1个百分点控制损失时，，
，有39个属性坚持在预算内并抵达随机，，
，Obliviator只有15个；；；在允许3个百分点时，，
，MANCE++笼罩所有40个属性，，
，Obliviator只有29个。。在相关度高的控制场景下（这才是真正的难题），，
，MANCE++在1个百分点预算下笼罩19个属性，，
，Obliviator只有2个；；；在3个百分点预算下划分是34个对15个。。Obliviator在最高相关度、最严酷预算的组合下，，
，38个属性都没有任何知足预算的有用方法——这意味着它的操作太过激进，，
，在扫除目的看法的同时已经大幅破损了与之相关的控制属性。。 研究团队专门为此设计了一个比照实验，，
，称为AmbCE++。。它与MANCE++在各方面完全相同——同样有LEACE和CovMatch的预处理，，
，同样用非线性探针盘算梯度，，
，同样迭代60轮——唯一的区别是：AmbCE++去掉了切空间投影，，
，直接在整个体现空间里沿梯度偏向迈步，，
，步长设定为MANCE++现实使用的平均步长29.31（这个值是从MANCE++在39个NLP设置上的每轮每样本步长统计出来的）。。 效果：AmbCE++留下了6到10个百分点的剩余走漏，，
，并且在许多设置上，，
，它的整条迭代轨迹都无法知足可手术性预算，，
，这些设置因此被扫除在它的平均值盘算之外——也就是说，，
，即便谁人6到10个百分点的平均值，，
，也执偾在它能完成的较简朴设置上测出的，，
，现实整体体现更差。。 这个比照很是直接地证实晰：MANCE++的性能提升确实来自流形约束自己，，
，而不是其他辅助设计。。沿着地毯纹路走，，
，才是手术精准的要害。。 研究团队还专门对流形约束假说的条件条件举行了验证，，
，事实整套理论的基本在于"真实体现确实集中在低维流形上"这一假设。。 他们使用一种叫做TwoNN的要领来估算体现的"内在维数"——简朴地说，，
，这个要领通太过析每个点与其邻人的距离关系来推断数据现实上在几多维的空间里睁开（而不但仅是被嵌入在多高维的向量空间里）。。对谄媚性看法的剖析效果显示：只管体现向量自己的维度在768到5376之间，，
，其内在维数只有34到53——也就是说，，
，真实数据现实上只在不到百分之十的维度上睁开，，
，其余维度上险些没有有意义的转变。。 与此同时，，
，他们还盘算了"全局看法偏向"（在所有样本上统一盘算的简单擦除偏向）与"局部看法偏向"（在每个样本的邻域内单独估算的偏向）之间的夹角。。关于谄媚性，，
，这个夹角在76.9到82.6度之间——险些笔直！这意味着简单的全局偏向在差别局部险些毫无代表性，，
，局部的流形偏向因位置差别而大幅转变，，
，正是一个高度弯曲的低维流形应有的特征。。相比之下，，
，性别看法的这个夹角在51.8到55.8度之间，，
，内在维数高达365到461——更靠近线性漫衍，，
，这与前面视察到的"线性要领就能很利益置性别"高度吻合。。 这些几何剖析不但支持了流形约束假说的条件，，
，也诠释了为什么差别看法需要差别的处理方式：越是非线性、低维弯曲的看法，，
，流形约束的收益越大。。 研究团队也如实报告了盘算开销。。在统一块NVIDIA B200 GPU上测试，，
，处理一个典范NLP设置（Qwen2.5-1.5B模子的性别看法）时，，
，LEACE只需约3.7秒，，
，加上CovMatch也只需7.3秒；；；IGBP需要约20秒；；；Obliviator约24秒；；；INLP约286秒（主要由于它的每轮都需要在CPU上做逻辑回归）；；；而MANCE家族的三个版本则划分需要约459秒、471秒和475秒——约莫8分钟。。 主要的时间开销来自两部分：每轮对所有样本做K近邻查找和局部SVD（占运行时约50%），，
，以及CPU和GPU之间的数据传输（占约40%）。。研究团队指出，，
，现在的实现并未针对速率优化，，
，一个完全在GPU上运行的实现可以将速率大幅提升。。这8分钟是针对7200个训练样本、60轮迭代的一次性拟适时间，，
，不影响推理速率。。 归根结底，，
，MANCE++用约莫8分钟的预处理时间，，
，换来了其他要领无法抵达的精准擦除质量。。关于需要在生产情形中做体现级别信息控制的场景（好比确保招聘推荐系统不编码性别私见，，
，或者确保对话模子不泄露清静敏感信息），，
，这个价钱是值得的。。 这项研究真正让人着迷的地方，，
，在于它把一个数学上的几何直觉——"真实体现集中在低维流形上"——转化成了一个可操作、可验证、可推广的工程要领，，
，并通过横跨两种模态、13个模子、43个差别看法的大规模实验证实了这一直觉的有用性。。 更深层的寄义或许比要领自己更值得思索：AI系统的内部"影象空间"并不是一片混沌，，
，而是高度结构化的。。这种结构一方面使得精准干预成为可能，，
，另一方面也意味着，，
，任何破损这种结构的操作都会带来意想不到的副作用。。未来在激活指导（activation steering）、看法迁徙以致模子行为控制等偏向上，，
，尊重这种内部几何结构，，
，可能都是比暴力干预更明智的选择。。 A：直接修改训练数据需要重新训练整个模子，，
，价钱极高，，
，并且训练自己的信息提取历程难以准确控制。。看法擦除是在已训练好的模子的内部体现上直接操作，，
，无需重新训练，，
，适用于需要快速调解的生产场景，，
，且可以在坚持模子其他能力稳固的条件下定向移除特定信息。。 A：可以。。MANCE修改的是体现向量自己，，
，输出的向量坚持原始维度稳固，，
，这正是Obliviator等要领无法包管的一个适用优势。。坚持维度意味着被修改的体现可以直接插回模子盘算流，，
，用于激活补丁等下游操作。。 A：当数据的内在维数靠近体现空间的全维度时，，
，流形约束的优势会缩小——由于险些每个偏向都有数据支持，，
，约束效果趋近于无约束。。另外，，
，当用于估算局部切空间的自然体现样本数目缺乏或漫衍希罕时，，
，切空间估算的精度会下降，，
，效果也会受影响。。从实验来看，，
，性别看法的内在维数抵达365至461，，
，靠近部分模子的全维度，，
，这与性别适适用更简朴线性要领处理的视察一致。。