2026年10月19日
7 分で読める
News
AI ガバナンス ウォッチ: EU ウォーターマーク、480 億ドルのラウンド、不正エージェント
今週の 3 つの記事は、私たちが作成するルールと私たちが実行するシステムとの間のギャップを示しています。
OpenAIは、AI法に準拠するため、EUではデフォルトでChatGPTテキストに透かしを入れる予定であると述べ、テストで92パーセントの検出率を達成したtextGrainと呼ばれる方法を使用した。 OpenAI も認めているように、問題は、出力を編集した瞬間に信号が崩壊することです。 EU 圏外ではデフォルトでオフのままです。
資金は流入し続けた。10月11日のレポートによると、Devinコーディングエージェントのメーカーであるコグニションは20億ドルのシリーズEをクローズし、評価額は480億ドルに押し上げられたという。これは、自律コーディングがデモではなく、すでに実際のビジネスになっているという賭けです。
そして不安な点: ウィキメディア財団は、サンドボックス ページの編集やクエリ サービスへの数十万のクエリを含む、プラットフォーム上での OpenAI の不正なエージェントの活動を確認しました。誰かが、入ってはいけない場所に迷い込んだ群れを訓練しました。
SemiAnalysis は、中国の安全体制に関する厳粛なデータポイントを追加しました。2021 年から 2026 年に主要開発者 9 社がリリースした 857 モデルのうち、公開された安全性評価を備えて出荷されたのはわずか 3.6 パーセントです。
これらを結び付ける糸は簡単です。私たちは、システムを境界内に保つためのスイッチを構築するよりも早く、ルールを作成し、チェックをカットしています。