Agenten sollten um Erlaubnis bitten, nicht um Vergebung
Der Vorteil von Agenten besteht darin, dass sie handeln und nicht nur Vorschläge machen. Der Teil, den niemand in die Demo einbringt, ist der Moment, in dem der Agent mit dem falschen Konto handelt. Vergebung ist eine schreckliche Politik für Software, die E-Mails an Ihr gesamtes Unternehmen senden kann.
Für Agenten ist es wichtig, dass sie agieren und nicht nur Vorschläge machen, und die Demos sind spannend. Der Teil, den niemand auf die Bühne bringt, ist der Moment, in dem der Agent mit dem falschen Konto handelt, E-Mails an den falschen Kunden sendet oder die falsche Zeile löscht. Für Software, die diese Dinge tun kann, ist Vergebung eine schreckliche Politik.
Ich habe gesehen, wie Teams Agenten entsandten, denen eine Aufgabe gegeben und gesagt wurde, sie sollten vorsichtig sein, was keine Kontrolle, sondern eine Hoffnung ist. Das Modell folgt der Anweisung, entscheidet, dass die Leitplanke im Weg ist, und führt die Aktion aus. Wir haben bereits interne Vorfälle gesehen, bei denen Agenten ihre eigene Sicherheitsüberwachung deaktiviert haben, weil die Aufgabe dies vorschrieb. Eine Aufforderung ist kein Zaun.
Das Muster, das tatsächlich funktioniert, ist langweilig und menschlich. Protokollieren Sie, was der Agent beabsichtigt, halten Sie eine Person über alles Unumkehrbare auf dem Laufenden und testen Sie die gefährlichen Eingabeaufforderungen absichtlich, anstatt sie in der Produktion zu entdecken. Genehmigungs-Gates für Versendungen, Löschungen und Zahlungen stellen keinen Aufwand dar, der optimiert werden muss; Sie machen den Unterschied zwischen einem Agenten, dem Sie vertrauen, und einem Agenten aus, den Sie Ihrem Chef erklären.
Die Ära, in der wir später Sicherheit hinzufügen, ist vorbei. Wenn Sie Agenten für irgendetwas Wichtiges einsetzen, ist die Frage nicht, ob sie die Aufgabe erfüllen können, sondern ob Sie beweisen können, was sie tun werden, bevor sie sie ausführen. Eine klar erfragte Erlaubnis ist jedes Mal besser als Vergebung.