Esta semana na IA: o nível mais barato ficou assustadoramente bom
O GPT-6 chegou a todos os usuários do ChatGPT, os modelos pequenos ficaram dramaticamente mais baratos e uma onda de modelos de decisão chegou para fazer as chamadas chatas.
A manchete desta semana foi alcance, não potência bruta. O OpenAI terminou de distribuir o GPT-6 para os níveis Free and Go por volta de 8 de outubro, trazendo a IU Inteligente, esses gráficos e botões interativos, para mais de um bilhão de usuários semanais. O modelo em si não é novo, mas a superfície é: o ChatGPT agora compõe respostas com componentes tocáveis em vez de uma parede de texto.
No preço, os níveis pequenos falavam mais alto. A Anthropic enviou o Claude Haiku 5.5 em 7 de outubro a $ 0,10 por milhão de tokens de entrada para prompts com menos de 100.000 tokens, cerca de 75% mais barato do que o antigo Haiku, e reduziu pela metade os preços de leitura de cache do Sonnet 5.5 no mesmo dia. Enquanto isso, o Google limitou os usuários gratuitos do Gemini ao Flash Lite a partir de 9 de outubro, o que é um lembrete silencioso de que o "grátis" continua diminuindo no topo.
QUERY LENGTH LIMIT EXCEEDED. MAX ALLOWED QUERY : 500 CHARS
O fio é simples. Os laboratórios estão correndo em preço e autonomia para as chamadas repetidas e chatas, não apenas no benchmark principal. Para qualquer pessoa que escolha um modelo este mês, o movimento certo é testar o nível barato em relação ao que você executa hoje antes de assumir que precisa da prateleira superior.
Nada disso é motivo para reescrever sua pilha. É uma razão para reavaliar as chamadas que você faz mil vezes por dia, porque é aí que as economias realmente aparecem.