从看似合理到可行动：关于大语言模型自我解释的立场

大语言模型能够生成自然语言解释来合理化自身决策，这一现象通常被称为自我解释。此类解释已成为可解释人工智能中颇具前景的方向，尤其用于解读大语言模型行为。然而，自我解释虽常显得合理，是否忠实反映模型底层推理过程仍是未决问题。本文为观点论文，主张自我解释可以高度合理、忠实性存疑，却高度可行动。从传统可解释人工智能视角出发，作者指出针对大语言模型生成自我解释的标准评估协议存在局限，并提出评估其合理性与忠实性的实用指南。此外，作者主张评估应超越这些标准，扩展到可行动性，强调大语言模型合理化能力在支持知情决策和适当行动方面的应用，以服务不同利益相关者。