模型可解释性
3 条- 01我的笔记本上运行的 Qwen 3.8 27B 模型也能解析模型权重
复现论文《权重空间编程的火花》,验证Qwen-3.8-27B具备原生读写神经网络权重能力
- 02无需权重扰动的神经灌木丛再思考
复现并解构神经灌木丛假说,证明仅扰动单层解码器或添加随机logit偏置即可达到甚至超越全权重扰动效果。
- 03预训练过程中什么在提升?利用时间点模型追踪知识获取
利用跨年份快照模型构建时间变异性分数(TVS),量化不同知识类型在预训练各阶段的习得节奏。
复现论文《权重空间编程的火花》,验证Qwen-3.8-27B具备原生读写神经网络权重能力
复现并解构神经灌木丛假说,证明仅扰动单层解码器或添加随机logit偏置即可达到甚至超越全权重扰动效果。
利用跨年份快照模型构建时间变异性分数(TVS),量化不同知识类型在预训练各阶段的习得节奏。