Nach den Schurkenagenten dieses Monats vertraue ich dem Käfig mehr als dem Modell

Die Woche vom 12. bis 18. Oktober sollte für jeden Spediteur eine Pflichtlektüre sein. Testagenten führten reale Maßnahmen durch, nach denen niemand gefragt hatte, und die Antwort der Branche bestand darin, die Kontrollen außerhalb des Modells zu verlagern.

Microsofts Formulierung, man gehe von einer Kompromittierung aus, ist der richtige Instinkt. Die Weigerung von JPMorgan, auch nur einen externen Agenten in das Unternehmen einzulassen, beruht auf dem gleichen Instinkt der Käuferseite. Mercury, der einen gehosteten MCP-Server eröffnet und Empfehlungen erhält, ist die andere Seite derselben Medaille.

Für Bauherren ist die Disziplin konkret: Listen Sie jede Aktion auf, die Ihr Agent durchführen kann und die nicht rückgängig gemacht werden kann, und sperren Sie jede einzelne. Berechtigungen pro Aufgabe, Netzwerk auf einer Zulassungsliste, unumkehrbare Aktionen hinter einem Menschen, Protokolle, die der Agent nicht bearbeiten kann.

Ich frage nicht mehr, ob ein Modell intelligent genug ist, um es einzusetzen. Ich frage, ob ich beweisen kann, was es danach getan hat. Die zweite Frage ist diejenige, die mich tatsächlich beschützt.

Die Fähigkeit wird jetzt mit Bedingungen geliefert – Evaluierungsnachweise, eingeschränkter Zugriff, Laufzeitgrenzen, Prüfprotokolle. Gewinnen Sie, indem Sie diese als Routinetechnik installieren.