AI星际引擎AI STARSHIP
2026.11.08 星期日
第 94 期
主题 · 可解释性

可解释性

7 条
  1. 01
    用户嵌入是可解释行为模式的叠加

    提出用户嵌入可建模为稀疏叠加的可解释行为模式,提升推荐与行为建模系统的可解释性

    arxiv.org·arXiv·3天前推荐系统可解释性用户建模
  2. 02
    通过缩放激活反演解释任意残差流方向

    提出MAEM元模型,将语言模型残差流方向映射为最大化激活的文本示例,突破语料限制实现方向级可解释性

  3. 03
    阅读‘为何’:基于光子与量子比特的 Born 测量注意力机制

    设计全Born测量Transformer架构,使注意力与输出概率可解析归因,实现零数值误差的词级证据量化。

  4. 04
    不依赖因果验证的对数概率降低:诊断基于SAE的LLM中PII抑制

    指出用logprob下降评估SAE特征干预抑制PII存在严重偏差,提出基于秩感知的对照实验方法验证真实抑制效果。

    arxiv.org·arXiv·5天前隐私安全可解释性SAE
  5. 05
    LLM激活引导编辑何时应依赖输入?

    形式化分析激活引导编辑的输入依赖性条件,指出仅当目标在类内变化时才需条件化,修正CAA等方法的理论缺陷。

    arxiv.org·arXiv·5天前可解释性激活编辑理论分析
  6. 06
    什么是删除一条边?面向干预的图神经网络解释保真度

    指出GNN解释评估中‘删边’操作存在结构删除与消息抑制两种干预歧义,提出干预感知保真度新评测范式。

  7. 07
    小型语言模型中幻觉与拒绝的几何结构

    构建ConfabQA基准,通过线性探针与稀疏自编码器分析隐藏态几何,揭示可干预幻觉转拒绝的机制。