正确性门控多教师蒸馏中的决策偏移、标签功能丧失与尚无定论的接地审计
arXiv cs.AI · · 发布于 2026-09-11 · 4 分钟阅读
该研究在固定实验设定下考察正确性门控的多教师蒸馏。八个实验分支共享4330条来源、6390万参数的学生模型、12990行优化数据、406次更新、证据输入与解码器，其中七个基于教师的分支共用同一个固定三回答池；三个随机种子在267个留出样本上评估。相对于未过滤蒸馏，正确性加权分支的准确率变化为+0.1660（95%观测矩阵区间[0.0670,0.2455]），五标签宏平均F1变化为+0.1323（[0.0916,0.1731]），任务定义的条件下不安全动作率变化为-0.4979（[-0.5926,-0.3686]）。这些偏移并不意味着行为全面变好：来源标签监督微调的平均宏平均F1最高，为0.586；加权分支在所有种子中对被驳斥类别的召回均为零，两个种子把全部167个论断样本判为信息不足。在一次加入可用性修正、针对单一参考种子的审计中，加权与未过滤输出的有证据支持正例为0/20对1/20，含无支撑材料的正例为20/20对19/20。由于样本未配对、来源重叠未序列化，且修正安排在自动摘要之后、标注之前，该审计无法估计共同来源的接地效应，对系统层面是改进还是损害仍无定论。硬过滤本身已达到0.660准确率、0.530宏平均F1与0.135条件下不安全率；已实现的加权分支相对硬过滤未表现出可证明的增量决策收益。这项固定矩阵的失败分析显示决策重新分配并伴随标签功能丧失，现有的人工审计也未能确立接地方面的增益。
当前来源仅提供摘要，以下要点基于摘要生成；可通过官方原文查看完整信息。研究区分两类目标
论文指出候选决策正确性与理由支撑是不同目标，并在此前提下考察正确性门控多教师蒸馏。
固定实验与共享条件
八条实验臂共享 4,330 条来源、一个 63.9M 参数学生模型、12,990 行优化数据、406 次更新、证据输入与一个解码器；七个教师臂使用一个固定的三响应池，三个随机种子在 267 个留出样本上评估。
加权臂相对未过滤蒸馏的差值
正确性加权臂准确率差值 +0.1660，区间 [0.0670, 0.2455]；五标签宏 F1 差值 +0.1323，区间 [0.0916, 0.1731]；条件不安全动作率差值 -0.4979，区间 [-0.5926, -0.3686]。
并非全面更优
原文明确这些变化不意味着行为全面更好，且来源标签监督微调的平均宏 F1 最高，为 0.586。
标签功能问题
加权臂在全部随机种子中 Refuted 召回为零，两个随机种子把全部 167 个断言样本判为 NotEnoughInfo。
人工审计结果
在参考随机种子的可用性修订后审计中，加权与未过滤输出分别有 0/20 与 1/20 有证据支持的阳性样本，20/20 与 19/20 的阳性样本含无支持材料。
审计局限与结论
样本非配对、来源重叠未序列化，修订发生在自动摘要之后但标注之前，因此审计不能估计同源理由支撑效应，对系统级改进或损害无定论。
硬过滤基线
硬过滤已实现 0.660 准确率、0.530 宏 F1 与 0.135 条件不安全率，已实现的加权臂未显示相对硬过滤的增量决策收益。