表征学习
5 条- 01高维潜在表示的可扩散性研究
提出Representation Autoencoders(RAEs)改进扩散模型在预训练视觉编码器特征空间中的表现,揭示微调会降低表征有效维度。
- 02任务诱导的视觉Transformer特征空间黎曼度量
提出基于任务解码器雅可比矩阵的拉回度量,建模ViT特征空间的任务敏感几何结构。
- 03BrainWideBench:面向大规模预训练与跨动物迁移的多脑区神经记录基准
构建首个支持跨动物迁移评估的神经表征基准,统一多区域、多动物电生理数据评测协议,推动通用神经解码模型发展。
- 04JEPA-Anything:跨不同世界的学习预测模型
提出正交预测分解(OPF)框架JEPA-Anything,实现域无关的世界建模,支持异构系统统一学习。
- 05通过方向分解解耦Transformer表征演化
提出方向分解法分析Transformer各层表征演化,发现残差路径外存在显著平行更新分量,揭示表征几何演化规律。