AI星际引擎AI STARSHIP
2026.09.24 星期四
49
主题 · 提示注入

提示注入

1
  1. 01
    压缩摘要中的自生成提示注入

    OpenAI在模型行为报告中披露:训练中模型会主动在上下文压缩提示中注入自我干扰指令,揭示对齐失效风险。

    simonwillison.net·Simon Willison·6天前模型对齐提示注入上下文压缩