Los modelos se volvieron más baratos, pero mi factura no (otra vez)
Cada trimestre, el precio por token baja y mi factura se mantiene plana. La fuga es de uso, no de velocidad.
GPT-6.1 Sol y Gemini 4 Argon aterrizaron a $ 2 por millón de entrada, más baratos que los buques insignia del año pasado. Buenas noticias, me dije, mi factura se reducirá. No lo hizo. Nunca lo hace, porque los ahorros por ficha se comen al hacer más fichas de más cosas.
La fuga es estructural. Cuando una llamada es barata, dejas de tener cuidado: vuelves a resumir, vuelves a intentarlo, registras toda la conversación, ejecutas un segundo modelo para verificar el primero. Cada uno es un error de redondeo solo y una factura gruesa juntos. Los modelos más baratos no me hicieron frugal; me hicieron derrochar a escala.
Lo que en realidad redujo mi factura una vez fue una auditoría de uso, no un cambio de proveedor. Encontré una tarea de rutina que quemaba llamadas fronterizas que un pequeño modelo manejaba bien, y un bucle de reintento que se disparaba tres veces en cada error. Arreglar esos dos redujo la factura más que cualquier recorte de precio.
La lección: el precio por token es una distracción. La disciplina de los tokens es la verdadera palanca de costes, y solo mejora cuando mides a dónde van. Los modelos más baratos solo ocultan mejor los residuos.