Os chips de inferência são a nova corrida do ouro, e a maioria de nós não percebeu

Todos passaram setembro discutindo sobre qual modelo era o mais inteligente. O financiamento de outubro contou uma história diferente: o dinheiro foi para os chips que rodam esses modelos. O aumento de US$ 875 milhões da Positron AI para seu chip de inferência Asimov e a Série E de US$ 1,5 bilhão da Tenstorrent chegaram na segunda metade do mês, e nenhum deles trata de treinar um novo modelo de fronteira. O objetivo é servir os que temos, de forma mais rápida e barata.

Veja por que isso é importante para quem apenas usa as ferramentas. O preço que você paga por consulta é principalmente um custo de inferência. Quando um silício melhor aparece, o preço por token cai e o nível mais barato fica bom o suficiente para fazer um trabalho real. Já vimos isso este mês: Claude Haiku 5.5 ficou cerca de 90% mais barato que seu antecessor, e GPT-6 Sol caiu cerca de 50%, com três laboratórios convergindo para os mesmos preços de entrada e saída de US$ 2 em nove dias.

O risco é a concentração. Se dois ou três fabricantes de chips possuem o caminho eficiente para servir modelos, eles possuem a estrada com pedágio por onde cada aplicativo passa. É por isso que a multidão de peso aberto também é importante aqui: um modelo que você pode executar em seu próprio hardware é uma proteção contra o imposto sobre o silício de outra pessoa.

Para os construtores, a medida prática é rotear: enviar 80% de alto volume e baixo risco para um modelo rápido e barato em silício barato e guardar a computação premium para as decisões de julgamento. O despachante, e não o modelo, é agora a verdadeira alavanca de custos.

Não estou comprando ações. Só estou percebendo que o dinheiro interessante parou de perseguir cérebros e começou a perseguir o encanamento, e o encanamento é o que realmente decide quem pode pagar pelo envio.