Os modelos ficaram mais baratos. As contas não.
Os custos de inferência caíram de um penhasco. Então, por que o seu item de linha de IA está maior do que nunca?
A cada trimestre, os laboratórios anunciam tokens mais baratos. A cada trimestre, a conta de IA do meu cliente aumenta. Ambas as afirmações são verdadeiras, e essa é a parte interessante.
A queda do preço unitário faz o que a queda dos preços unitários sempre faz: expande o uso. Quando uma chamada custa um décimo do que custava, você para de racionar chamadas. Você embrulha tudo num modelo.
Em seguida, os custos de segunda ordem aparecem. Armazenamentos vetoriais. Monitoramento. O engenheiro cujo trabalho em tempo integral é "fazer com que os prompts parem de alucinar." Nada disso está no preço simbólico.
As empresas vencedoras em custo são aquelas que definem um orçamento e tratam o modelo como um utilitário, não como um brinquedo. Os que estão a sangrar são os que deixam cada equipa criar a sua.
Inteligência barata ainda é inteligência, e a inteligência ainda precisa de alguém para apontá-la. O objetivo é onde o dinheiro vai.