AI星际引擎AI STARSHIP
2026.11.08 星期日
第 94 期
主题 · 对齐技术

对齐技术

2 条
  1. 01
    当评分与偏好冲突时:DPO中约束漂移的预对齐诊断与自适应修正

    发现DPO在偏好与点式约束(如安全分)冲突时存在系统性约束漂移现象,并提出动态加权修正机制

  2. 02
    基于通用偏好的语言模型对齐:直接纳什优化的实证研究

    独立复现并评估DNO-Prct算法,在Llama 3.1和Mistral上验证其通过纳什均衡近似实现偏好对齐的有效性。

    arxiv.org·arXiv·5天前对齐技术偏好建模DPO变体