AI对齐
3 条- 01数学领域中人工智能的对齐问题
探讨AI在数学推理中目标函数与人类意图不一致的技术挑战与案例
- 02数学领域中人工智能的错位
探讨AI在数学推理与证明任务中目标函数与人类数学价值观的错位问题,揭示对齐挑战
- 03人工身份:面向具身智能体的驱动与持续对齐机制
提出‘人工身份’(artificial id)作为内在自适应驱动力,使具身智能体自主决策行为延续、终止或切换,缓解长期运行控制难题。
探讨AI在数学推理中目标函数与人类意图不一致的技术挑战与案例
探讨AI在数学推理与证明任务中目标函数与人类数学价值观的错位问题,揭示对齐挑战
提出‘人工身份’(artificial id)作为内在自适应驱动力,使具身智能体自主决策行为延续、终止或切换,缓解长期运行控制难题。