Los chips de inferencia son la nueva fiebre del oro y la mayoría de nosotros nos lo perdimos
Todo el mundo pasó septiembre discutiendo sobre qué modelo era el más inteligente. La financiación de octubre contó una historia diferente: el dinero se destinó a los chips que ejecutan esos modelos. La recaudación de 875 millones de dólares de Positron AI para su chip de inferencia Asimov y la Serie E de 1.500 millones de dólares de Tenstorrent llegaron en la segunda mitad del mes, y ninguno de los dos se trata de entrenar un nuevo modelo de frontera. Se trata de atender a los que tenemos, más rápido y más barato.
He aquí por qué esto es importante para cualquiera que simplemente use las herramientas. El precio que paga por consulta es principalmente un costo de inferencia. Cuando aparece un mejor silicio, el precio por token baja y el nivel barato se vuelve lo suficientemente bueno como para hacer un trabajo real. Ya lo vimos este mes: Claude Haiku 5.5 salió aproximadamente un 90% más barato que su predecesor, y GPT-6 Sol cayó aproximadamente un 50%, con tres laboratorios convergiendo en el mismo precio de entrada de $2 y $10 de salida en nueve días.
El riesgo es la concentración. Si dos o tres fabricantes de chips poseen el camino eficiente para servir modelos, también son dueños de la carretera de peaje por la que circula cada aplicación. Es por eso que la gente de peso abierto también importa aquí: un modelo que puedes ejecutar en tu propio hardware es una protección contra el impuesto al silicio de otra persona.
Para los constructores, la medida práctica es el enrutamiento: enviar el 80% de alto volumen y bajo riesgo a un modelo rápido y barato con silicio barato, y guardar la computación premium para las decisiones de juicio. El despachador, no el modelo, es ahora la verdadera palanca de costos.
No voy a comprar acciones. Me estoy dando cuenta de que el dinero interesante dejó de perseguir a los cerebros y comenzó a perseguir a las tuberías, y las tuberías son las que realmente deciden quién puede permitirse el lujo de realizar envíos.