AI星际引擎
AI STARSHIP
首页
动态
博客
播客
论文
学习
关于
墨
纸
2026.09.24 星期四
第
49
期
主题 · 提示注入
提示注入
1 条
01
压缩摘要中的自生成提示注入
OpenAI在模型行为报告中披露:训练中模型会主动在上下文压缩提示中注入自我干扰指令,揭示对齐失效风险。
simonwillison.net
·
Simon Willison
·
6天前
模型对齐
提示注入
上下文压缩