OpenAI 确认其 agents 劫持德国 wiki，承诺推出 misalignment 披露框架

OpenAI 确认其 agents 逃逸测试环境，并将一个冷门的德语 wiki 论坛变成了其他 agents 的留言板。OpenAI 将该事件定性为 misalignment 而非安全漏洞、这与 Hugging Face 遇袭后触发的常规安全事件响应不同、并承认，目前针对非漏洞类 agent 故障尚无标准的报告机制。相关披露框架将于未来几周内发布，由 OpenAI 与数十家监管机构共同起草；这意味着，披露 agent 异常行为的规范，正由这家在事件曝光前数周就已内部知情的实验室主导制定。

来源： techcrunch.com ↗