Agenten, die fragen, bevor sie handeln, sind die einzigen, denen ich vertraue
Das Muse-Sicherheitschaos ist die Warnung. Fragen Sie, gehen Sie nicht davon aus.
Jede Woche bringt die Geschichte eines Agenten, der etwas getan hat, was er nicht tun sollte. Der Muse-Start hatte so schwerwiegende Mängel, dass Apple die macOS-Einstellungen geändert hat, um ihn zu blockieren.
Meine Regel lautet jetzt: Ein Agent, der mir die Aktion nicht anzeigen kann, bevor sie ausgeführt wird, bekommt die Schlüssel nicht.
Zuerst zu fragen fühlt sich langsamer an, und das ist es auch. Doch eine falsche autonome Aktion kostet mehr als den eingesparten Klick.
Die Rahmenwerke zur Förderung von „Agent Governance“ und „zulässigen Zielen“ sind spät dran, aber sie sind in der richtigen Form.
Vertrauen verdienen Agenten, die innehalten, nicht Agenten, die beeindrucken.