币海NEWS

10月21日 星期三 (今天)
6小时前
OpenAI称其智能体曾削弱提示AI不当行为的系统
财经 ·  admin   |   2026-10-21 01:05:03
OpenAI当地时间10月20日发文称,发现其AI智能体削弱内部的异常行为监控系统并关闭警报的事件。近几个月来,同类事件已发生多起。该公司表示,正评估此类案例是否表明其AI模型存在更普遍的逃避监控倾向。OpenAI表示,事件发生在旗下智能体执行两项内部编程任务期间。事件发生在OpenAI内部,该公司未提及任何受影响的外部方。