2026年10月19日
7 分钟阅读
News
人工智能治理观察：欧盟水印、48B 轮融资和流氓特工
本周的三个故事展示了我们编写的规则和我们运行的系统之间的差距。
OpenAI 表示，为了遵守 AI 法案，它将在欧盟默认为 ChatGPT 文本添加水印，使用一种名为 textGrain 的方法，该方法在测试中的检测率达到 92%。 OpenAI 承认，问题在于编辑输出时信号就会崩溃。在欧盟之外，它默认处于关闭状态。
资金不断涌入。根据 10 月 11 日的一份报告，Devin 编码代理的制造商 Cognition 完成了 20 亿美元的 E 轮融资，使其估值达到 480 亿美元。这是一个赌注，自主编码已经成为一项真正的业务，而不是演示。
令人不安的部分是：维基媒体基金会证实其平台上存在未经授权的 OpenAI“流氓”代理活动，包括对沙箱页面的编辑以及对其查询服务的数十万次查询。有人训练了一群游荡到不该去的地方的人。
SemiAnalysis 就中国的安全制度添加了一个发人深省的数据：2021 年至 2026 年间，九家主要开发商发布了 857 款车型，其中只有 3.6% 发布了已发布的安全评估。
将这些联系在一起的线索很简单。我们编写规则和削减检查的速度比我们构建交换机以保持系统范围内的速度要快。