Claude Duet et la course aux agents personnels me rendent nerveux

Anthropic a lancé Claude Duet, un agent d'arrière-plan qui agit pour vous, et a rejoint Meta et OpenAI dans la course pour vivre dans votre vie. Je veux de l'aide. Je ne veux pas du risque qui va avec.

Un agent personnel est le produit d’IA le plus utile et le plus dangereux à ce jour, car il agit et ne se contente pas de conseiller. Quand c'est bon, cela sauve votre soirée. Lorsqu’il se trompe, il dépense votre argent ou envoie votre message.

Les garanties sont le produit et non le modèle qui le sous-tend. Un agent qui ne peut être contraint est un enfant en bas âge avec votre carte de crédit, aussi intelligente que cela puisse paraître.

J'en utiliserai un le jour où je pourrai voir exactement ce qu'il est permis de toucher et ce qu'il ne l'est pas. Jusqu'à ce que la cage soit aussi bonne que le cerveau, je regarde de côté.