Todo mundo persegue um contexto de um milhão de tokens. A maior parte do trabalho não precisa disso.

GPT-6.1 Sol agora envia um contexto de um milhão de tokens e a guerra dos números começou. Estou aqui para dizer que a maior parte do meu trabalho não precisa disso, e persegui-lo pode piorar os resultados.

Um contexto maior significa mais coisas para errar, mais coisas para pagar e mais lugares para o modelo perder o fio condutor que realmente lhe interessa. Tamanho não é o mesmo que relevância.

Para trabalhos de documentos longos, claro, dê-me uma janela. Para a questão cotidiana, um prompt preciso e bem definido sempre supera uma mangueira de contexto.

Combine o contexto com o trabalho. O maior contexto é flexível, não um recurso, e tratá-lo como tal produz respostas longas, caras e estranhamente menos úteis.