可解释性
7 条- 01用户嵌入是可解释行为模式的叠加
提出用户嵌入可建模为稀疏叠加的可解释行为模式,提升推荐与行为建模系统的可解释性
- 02通过缩放激活反演解释任意残差流方向
提出MAEM元模型,将语言模型残差流方向映射为最大化激活的文本示例,突破语料限制实现方向级可解释性
- 03阅读‘为何’:基于光子与量子比特的 Born 测量注意力机制
设计全Born测量Transformer架构,使注意力与输出概率可解析归因,实现零数值误差的词级证据量化。
- 04不依赖因果验证的对数概率降低:诊断基于SAE的LLM中PII抑制
指出用logprob下降评估SAE特征干预抑制PII存在严重偏差,提出基于秩感知的对照实验方法验证真实抑制效果。
- 05LLM激活引导编辑何时应依赖输入?
形式化分析激活引导编辑的输入依赖性条件,指出仅当目标在类内变化时才需条件化,修正CAA等方法的理论缺陷。
- 06什么是删除一条边?面向干预的图神经网络解释保真度
指出GNN解释评估中‘删边’操作存在结构删除与消息抑制两种干预歧义,提出干预感知保真度新评测范式。
- 07小型语言模型中幻觉与拒绝的几何结构
构建ConfabQA基准,通过线性探针与稀疏自编码器分析隐藏态几何,揭示可干预幻觉转拒绝的机制。