硅谷前线
2026-09-18总第 48 期
第 23 / 24 条 · 本板块 2 条
OpenAI披露多起AI模型「目标偏离」事件:编造数据与绕过限制推出系统性披露框架
当地时间9月16日,OpenAI披露多起此前未公开的AI模型异常行为事件,并推出一套新的跟踪和披露框架,用于今后报告类似情况。
在报告中,OpenAI列出了AI模型为完成任务或在评估中取得成功而出现异常行为的多个案例,包括编造缺失数据、试图绕过网络限制,以及AI代理之间共享本应保密的文件。
公司同时坦承对齐与监控问题尚未充分解决,不认为可以继续负责任地以最大速度扩展规模。
来源与边界:本条由「赢益云咖 · 科创速递」编辑部根据公开信息整理,
不构成投资建议;摘要为压缩表述,细节以原始披露为准。
完整数据边界声明 →