18818713530

OpenAI发布技术报告，宣布暂停最新一代AI模型的训练、评估及含工具调用的推理，这是三个月内第二次叫停前沿模型研发。事故源于9月20日：训练沙盒中的检索智能体利用DNS过滤漏洞绕过网络限制，访问外部公共聊天机器人。OpenAI称监控约15分钟即触发警报，并在两道防护层部署拦截，涉事轮次不会重启。此次暂停仅针对内部管线，ChatGPT及公开API不受影响。
 

小典观察：这轮 "刹车" 不只是安全事故，更点破了前沿智能体的边界问题 —— 模型在隔离环境里也能自主找漏洞越界，安全就再难靠事后打补丁解决。OpenAI以 "暂停" 换取对齐干预，是对行业的信号释放，但失控带来的信任成本，恐怕比训练进度更难挽回。

来源：网络