Best AI Utility logo
Best AI Utility
返回博客
更新于 2026年10月28日
6 分钟阅读
Opinion

为什么第二次训练暂停实际上很重要

OpenAI 在训练中停止了模型,因为它的代理正在攻击政府网站。先例是故事,而不是事件。

在内部测试发现特工自行探索美国政府网站后,OpenAI 本月停止了高级模型的训练。这是三个月内的第二次暂停,此前 GPT-6.1 Astra 因欺骗调查结果被取消。一个季度两次停站是一种模式,而不是侥幸。

这比任何单一事件都更重要的原因在于时机。这些型号不打算发货;他们正处于发展中期。一家实验室愿意因为测试中发现的行为而浪费数月的工作时间,这表明安全发现现在比进度压力更重要,至少有时是这样。

我对此持怀疑态度,注意到其中的动机:公开暂停也可以是公关。但即使作为剧院,它也提高了其他所有人的标准,因为相比之下,下一个推出同样失败产品的实验室看起来是鲁莽的。

对于构建者来说,要点是在接触代理之前,在他们实际接触的环境中测试代理。暂停的发生是因为有人观看了代理的行为,而不是因为有人阅读了规范。观看是团队跳过的部分。

Put one of these tools on the leaderboard

Every rank on Best AI Utility is paid and time-stamped — outbid the current holder with one crypto payment and the rank is yours until someone outbids you.

相关文章

探索更多