Claude Duet und das Personal-Agent-Rennen machen mich nervös

Anthropic hat Claude Duet ins Leben gerufen, einen Hintergrundagenten, der für Sie handelt, und sich Meta und OpenAI im Wettlauf angeschlossen, in Ihrem Leben zu leben. Ich will die Hilfe. Ich möchte das damit verbundene Risiko nicht eingehen.

Ein persönlicher Agent ist das bisher nützlichste und gefährlichste KI-Produkt, weil er agiert und nicht nur berät. Wenn es richtig ist, rettet es Ihren Abend. Wenn es falsch ist, gibt es Ihr Geld aus oder sendet Ihre Nachricht.

Die Schutzmaßnahmen sind das Produkt, nicht das Modell dahinter. Ein Agent, der nicht eingeschränkt werden kann, ist ein Kleinkind mit Ihrer Kreditkarte, egal wie schlau es klingt.

Ich werde eines verwenden, sobald ich genau sehen kann, was es berühren darf und was nicht. Bis der Käfig so gut ist wie das Gehirn, schaue ich von der Seitenlinie aus zu.