EXPOSE:在病理基础模型中抹去编码扫描仪的维度可带来 0,75 个 AUROC 点的提升——代价是删掉其中 91 % 的维度

汉堡-埃彭多夫大学医学中心(University Medical Center Hamburg-Eppendorf)的七位作者,在病理基础模型的表示之上训练稀疏自编码器,识别出那些编码扫描仪与染色流程而非肿瘤的维度,并将其抹去。在前列腺癌五年复发预测任务上,屏蔽 3 840 个维度中的 3 500 个,可在四个训练中从未见过的流程变体上平均带来 0,75 个 AUROC 点的提升。增益确实存在,但极其微小,论文未报告任何显著性检验,而且所比较的全部"域"都来自同一家医院。

关于背景

应用于病理学的视觉基础模型(vision foundation model,VFM),是一种在数百万张组织切片图块上无标签训练的网络,其表示随后被复用于各种下游任务:肿瘤分级、突变预测、预后估计。人们并不重新训练它,而是让它把一张组织图像转换成几百个数字组成的向量——即嵌入表示(embedding)——再在其上接一个小分类器。这已是当今数字病理学的默认架构。

这一架构的软肋是域偏移(domain shift)。同一组织蜡块的两张切片,若切片厚度不同、染色时长不同,或在两台不同扫描仪上数字化,产生的嵌入表示就会不同。网络编码的不只是生物学,还有实验室本身。当一家医院训练的模型被拿到另一家医院使用时,性能会下降——这是该领域记录得最充分的失效模式。究其本质,这是一种捷径学习(shortcut learning):网络在学习你以为它在学的信号的同时,也学到了一个伴生的虚假相关——设备与流程的指纹。

汉堡团队的思路来自大语言模型的可解释性研究。稀疏自编码器(sparse autoencoder,SAE)是一个小网络,它被训练来重建嵌入表示,中间要经过一个宽得多、但绝大多数单元被强制保持为零的隐藏层。自 2023 年起在语言模型上流行的直觉是:在压缩空间里,每个维度同时混合了多个概念;而在宽而稀疏的空间里,每个概念都有余地占据属于自己的维度。如果这在病理学中同样成立,那么"扫描仪"维度与"肿瘤"维度就应当可以分离——人们应当能够抹去前者而不伤及后者。这正是本文所要检验的假设。

关于方法

数据。来自汉堡-埃彭多夫大学医院的一个内部队列:69 251 张组织微阵列(tissue microarray)点位图像(几毫米大小的组织芯,按棋盘格排列在同一张玻片上),取自 1992 至 2014 年间接受根治性前列腺切除术的 17 700 名患者。在按图像质量与临床信息可得性筛选后,剩下 24 588 张图像,划分为六个子数据集。终点为二分类的五年内复发,采用复合定义——生化复发、计划外的追加治疗、转移,或前列腺癌相关死亡。仅纳入至少有五年随访记录、或在五年内发生复发的患者。

六个域。这是整个设计中最用心的部分。作者并未在现实中寻找域偏移,而是自己制造了它们,每次只改变一个因素。ScanA(8 141 张)为标准流程——2,5 µm 切片,常规时长的苏木精-伊红染色,Aperio 扫描仪 40x。ScanB(8 141 张)是完全相同的组织,逐图配准,改用 3DHistech 扫描仪 80x 数字化:只有设备发生变化。ScanA.thin(1 951 张)与 ScanA.thick(1 950 张)是同一蜡块的其他切片,厚度分别为 1 µm 与 10 µm。ScanA.long(1 951 张)采用长十倍的染色时间。ScanA.spot(8 181 张)取用第二根组织芯,即前列腺的另一区域。ScanA 与 ScanB 构成域内数据;另外四个作为域外测试集,训练中从未出现。

整个流程。所用基础模型是 H0-mini,即 H-Optimus-0 的蒸馏版本,全程冻结,输出 768 维向量。作者在这些表示之上训练一个 ReLU 激活的稀疏自编码器,扩展系数为 5:因此稀疏层有 3 840 个维度。稀疏性由系数为 1e-5 的 L1 惩罚实现,而非更晚近的 TopK 或 JumpReLU 机制。稀疏激活在一张图像的所有 token 上做平均池化,其上再拟合一个简单的线性复发分类器。

识别与屏蔽。为定位域维度,作者在配准好的图像对上训练一个 ScanA 对 ScanB 的线性分类器——本质上是一个扫描仪判别器。随后按权重对维度排序,把与 ScanB 关联最强的 k 个维度用固定的二值掩码置零。论文比较了三种选择策略(最高正权重、最低负权重、最大绝对值),最终采用第一种。k 从 2 扫到 3 500。一个重要之处:基础模型从不重新训练,而掩码一经算出便盲目地施加于任何图像——推理阶段不需要任何域标签

实验方案。SAE 与域分类器在 ScanA 与 ScanB 上训练(70/15/15,按患者分层)。复发分类器则仅在 ScanA 上训练。结果为五个随机种子的均值,并报告标准差。作者还提出了一个自定义指标 DoRI(Domain Robustness Index,域鲁棒性指数):对每个嵌入表示考察其 20 个最近邻,比较它们共享同一复发标签的频率与共享同一域的频率,二者各自按均匀分布下的期望作归一化。DoRI 为正表示标签比域更主导空间结构;为负则相反。

关于结果

域内,SAE 略有帮助。基线模型——原始 H0-mini 表示加线性分类器——在 ScanA 上 AUROC 为 68,20,在 ScanB 上为 68,58。经过未加屏蔽的 SAE 后,域内均值从 68,39 升至 69,32;屏蔽 256 个维度后升至 69,57,即 +1,18 点。这里有必要说明 0,69 的 AUROC 意味着什么:随机取一名复发患者与一名未复发患者,模型大约在 100 次中有 69 次把这一对排对,而纯随机为 50 次。这是一个不算强的预后信号,作者也并未试图掩饰。

域外,单靠 SAE 反而更差,几乎要屏蔽全部维度才有增益。这是核心结果。基线模型的域外均值为 61,42。未屏蔽的 SAE 把它压低到 60,87(−0,54)。屏蔽 256 个维度也不足以回到起点(61,03,即 −0,39)。必须达到 3 840 个维度中屏蔽 3 500 个——只剩 340 个仍在工作——才能达到 62,16,即比基线 +0,75 点。分域细节很有启发:ScanA.spot 从 65,38 升到 67,74,ScanA.thick 从 58,17 升到 59,62,ScanA.long 从 61,67 升到 62,67,但 ScanA.thin 反而退步,从基线的 60,48 降到屏蔽后最好的 58,63。用作者自己的话说,切片厚度的偏移仍然棘手。

随机屏蔽对照。作者把按域分类器权重选择的方案,与随机选取同样数量维度加以屏蔽的方案作了对比。在引导式屏蔽下 DoRI 稳步上升,而随机屏蔽在 k = 1 024 之前只带来微小变化。但更说明问题的结果在别处:当 DoRI 在域内与域外合并的空间上计算时,它在所有屏蔽水平下都保持为负。换言之,即便抹去了 91 % 的维度,域对表示空间的结构作用仍然强于预后信息。作者自己也写道,这种分离是部分的

做得好的地方

数据集是设计出来的,而不是捡来的。六个变体,每次只改变一个因素——扫描仪、切片厚度、染色时长、取材区域——其中两个由同一点位在两台设备上的配准图像构成。在域偏移几乎总是通过比较两家在二十个参数上同时不同的医院来研究的文献里,这样的实验设计能够把效应归因于原因。它有代价(见下文),但既少见又干净。

阴性对照是存在的。把引导式屏蔽与相同数量维度的随机屏蔽相比较,是许多论文都省略掉的显而易见的实验。没有它,就无法区分"去噪"与"去域"。作者做了这一对照,而且在 k = 1 024 之前它能清晰地区分两种情形。

干预很轻量,代码是公开的。基础模型从不重新训练,这使该方法在没有大规模算力的团队手中也可行。掩码只计算一次,随后盲目施加:推理阶段不需要域标签,而这一约束在临床实践中会让很多域自适应方法失去可用性。代码仓库以 CC BY 4.0 许可开放。

做得不够好的地方

效应量与噪声同级,而且最优配置是在测试集上挑出来的。0,75 点的域外增益,伴随的是跨域标准差 3,64,并且论文未报告任何显著性检验、任何置信区间——只有五个种子上的标准差。更棘手的是:域内最佳配置(k = 256)并不是域外最佳配置(k = 3 500),而论文中没有任何内容说明,在不看域外结果的前提下如何选出 k = 3 500。而这四个子数据集恰恰充当了验证的角色。在自己的测试集上挑选超参数,必然产生偏乐观的估计:这是误导性指标的一个变体,而且足以解释这一量级的差距。

没有任何外部验证,人群也很狭窄。六个域来自同样的组织蜡块、同样的患者、同一个病理研究所。没有使用任何公开数据集(TCGA、PANDA),也没有任何其他机构参与。论文所证明的,是在自己院内更换设备与流程时的鲁棒性,而这并不是让模型在真实部署中失败的那种偏移。此外还有典型的人群偏倚:单中心德国队列,招募于 1992 至 2014 年,仅限接受根治性前列腺切除术的患者,且未报告任何人口统计学数据。论文同样没有利益冲突声明、没有数据可得性声明、也没有伦理批准说明——相比之下,资助信息倒是写得很详细(多个 DFG SFB 项目)。

抹去 91 % 的维度,算不上"可解释的瓶颈"。这是概念层面的局限。稀疏自编码器的承诺,是分离出少数几个承载域信息的可解释维度。但在这里,域外屏蔽 256 个维度并不够;必须从 3 840 个中移除 3 500 个才能获得增益,而即便如此,合并空间上的 DoRI 依然为负。因此最简约的解释并不是"域信息本来是集中的,现已被移除",而是它分散在几乎所有维度上,大规模屏蔽最终只是把它稀释了。作者确实承认了两点局限——只用了一个基础模型、一种 SAE,以及只用一对域来识别维度——但没有承认这一点。此外还有一个鲜被讨论的实际约束:该方法在开发阶段需要同一组织在两台扫描仪上配准好的成对图像,而极少有实验室具备这种条件。

这带来什么改变

对研究界。最可复用的成果不是 EXPOSE,而是这个数据集。在同一批患者身上逐一控制六个流程变体,并提供两台扫描仪之间的配准图像对:这是一个比现有多数域偏移基准设计得更好的测试平台,可用于干净地比较染色归一化、数据增强与域自适应方法。第二个启示是否定性的,也更有价值:在这个队列上,"概念叠加"假设——每个稀疏维度承载一个可分离的概念——只部分成立,而在假定其成立的前提下所获得的增益,量级不过一个 AUROC 点。

对临床医生与部署团队。今天的临床实践不会有任何改变。一个域外 AUROC 为 0,62 的预后模型,既取代不了 Gleason 评分,也取代不了分期或术后 PSA;而论文实际上并未把它与这些已确立的临床因素作任何比较——这是一个人们本希望看到的对照基准。可迁移的教训更为朴素:当实验室更换扫描仪或染色流程时,一个已在旧切片上验证过的模型必须在新切片上重新验证。本文对这一问题规模的量化(不同流程变体之间最多损失十个 AUROC 点),比它对问题的解决更有价值。

对患者与公众。本项工作没有产生任何进入临床、前瞻性或监管评估的工具。但文章所揭示的一点值得在技术圈之外被知晓:一个在医学图像上训练的人工智能,学到的不只是疾病本身。它同时——而且往往同样牢固地——学会了产生这张图像的设备,以及制备这份标本的那双手。把两者分开,在 2026 年仍是一个悬而未决的问题。

延伸阅读

预印本:EXPOSE: Explainable and Domain-Robust Embeddings from Pathology Vision Foundation Models using Sparse Autoencoders,arXiv:2608.28191,于 2026 年 8 月 28 日提交,采用 CC BY 4.0 许可。代码发布于 github.com/imsb-uke/expose。所用基础模型为 H0-mini,是 H-Optimus-0 的蒸馏版本。前列腺数据集为汉堡-埃彭多夫大学医学中心内部数据,论文未说明其可公开获取。