Die Agenten-Checkliste, die mich tatsächlich schlafen lässt

Nach der Woche voller Schurkenagenten-Geschichten fragte ich mich nicht mehr, ob ein Modell intelligent genug für den Einsatz sei, sondern begann zu fragen, ob ich beweisen könne, was es danach tat. Die zweite Frage ist diejenige, die mich beschützt.

Meine Checkliste ist kurz und nicht verhandelbar. Listen Sie alle Aktionen auf, die der Agent ausführen kann und die nicht rückgängig gemacht werden können. Tor jeden hinter einem Menschen oder einer harten Regel. Führen Sie ein unveränderliches Protokoll darüber, was ausgeführt wurde. Nichts davon ist exotisch und alles ist langweilig, weshalb die Leute es weglassen.

Der Teil, der mein Verhalten geändert hat, ist das Protokoll. Ein Agent, den ich im Nachhinein nicht erklären kann, ist eine Belastung, die ein Produktivitätsabzeichen trägt. Wenn ich es nicht auditieren kann, berührt es nichts Wirkliches, Punkt.

Ich habe gesehen, dass Teams Sicherheit als vorbildliches Merkmal betrachteten, etwas, das das Labor ausliefert. Das ist es nicht. Der sichere Agent ist eine Architektur: bereichsbezogene Berechtigungen, eine Zulassungsliste, ein menschliches Tor zum Unumkehrbaren. Das Modell ist nur der Teil, der spricht.

Stellen Sie die Funktion bereit und installieren Sie den Käfig. Der Käfig ist das Feature, und ihn zu überspringen ist keine Geschwindigkeit. Es ist eine Wette, dass Sie es bereuen werden, wenn der Agent zum ersten Mal etwas tut, worum Sie nicht gebeten haben.