AI星际引擎AI STARSHIP
2026.09.24 星期四
49
主题 · Transformer可解释性

Transformer可解释性

1
  1. 01
    削弱型神经元:Transformer中具有过度影响力的输入-输出功能单元

    发现GLU型神经元中存在‘削弱型’机制——输入/输出权重负相关,主动抑制残差流中特定方向,揭示新解释性现象。