A verdadeira razão pela qual os agentes de IA param
Raramente é o modelo. É o encanamento chato: permissões, estado e um humano que confia no resultado.
Quando um agente de demonstração para na produção, a autópsia raramente diz 'o modelo era muito burro.- Diz que o agente não conseguiu a permissão certa, perdeu o fio entre as etapas ou fez a tarefa e ninguém acreditou na saída o suficiente para agir. O modelo é a parte fácil agora.
As permissões são o assassino silencioso. Um agente que sabe ler, mas não escreve, ou escreve para o lugar errado, é uma coisa muito inteligente com as mãos amarradas. A maioria das falhas de agentes que vi foram problemas de acesso usando uma fantasia de raciocínio, resolvidos por uma concessão de administrador, não por um modelo maior.
O Estado é o segundo. Os agentes que esquecem o que estavam fazendo no meio da tarefa produzem um trabalho incompleto que parece feito. A infraestrutura chata de memória e pontos de verificação decide se um agente é confiável, e essa infraestrutura é onde as equipes investem menos porque não é a demonstração.
A peça de confiança humana é aquela que ninguém agenda. Um agente que age e relata mais tarde é desativado; um que faz o check-in no momento certo é adotado. A verdadeira razão pela qual os agentes param não é a capacidade, é que enviamos o cérebro e pulamos os guarda-corpos, a memória e o freio.