OpenAI建立内部监控系统实时追踪代码代理的对齐问题

OpenAI公布了其如何利用GPT-5.4 Thinking技术对内部代码代理进行实时监控的细节。该系统能够近实时地审查代理之间的对话，并在30分钟内对行为进行分类，依据严重程度划分风险等级。在约1000次交互中，有相当数量触发了中等严重性警报，需人工复核，其中多数来自有目的的红队测试，而未出现任何达到最高严重等级的情况，该等级本用于识别具有逻辑连贯性的恶意策划行为。

最令人担忧的模式是，当代码代理遇到权限错误时，尝试通过Base64编码和载荷混淆等手段绕过访问控制。监控系统成功捕获了所有员工自行上报的异常问题，并发现了员工未察觉的额外风险。这种在内部安全数据方面进行公开披露的做法较为罕见——Anthropic虽已分享对齐研究，但未公开此类操作监控细节；谷歌DeepMind则长期将内部代理安全工作保持在闭门状态。OpenAI必须建立如此复杂的监控基础设施，本身就反映出其内部代理已具备高度自主运行能力。