Claude Duet e a corrida do agente pessoal me deixam nervoso

A Anthropic lançou Claude Duet, um agente de fundo que atua para você, e se juntou à Meta e à OpenAI na corrida para viver dentro da sua vida. Eu quero a ajuda. Eu não quero o risco que vem com isso.

Um agente pessoal é o produto de IA mais útil e perigoso de todos os tempos, porque age, e não apenas aconselha. Quando está certo, salva sua noite. Quando está errado, gasta seu dinheiro ou envia sua mensagem.

As salvaguardas são o produto, não o modelo por trás dele. Um agente que não pode ser restringido é uma criança pequena com cartão de crédito, por mais inteligente que pareça.

Usarei um no dia em que puder ver exatamente o que é permitido tocar e o que não é. Até que a gaiola seja tão boa quanto o cérebro, estarei observando do lado de fora.