Quais modelos locais realmente desbloquearam este ano

Durante a maior parte do boom da IA, os modelos interessantes viveram por trás da API de outra pessoa, e usá-los significava enviar seus dados e pagar por chamada. Este ano uma porta diferente se abriu, e as pessoas que passaram por ela não eram quem o público esperava.

Os lançamentos de peso aberto fizeram o trabalho. Le Chonk da Mistral, Mistral Large 4, chegou como um download que qualquer um poderia executar, forte o suficiente em código e segurança para que equipes sérias o levassem a sério sem uma conta de nuvem. GoTo lançou um modelo de 27 bilhões de parâmetros ajustado para indonésio e quatro idiomas regionais, dando aos desenvolvedores do Sudeste Asiático uma base que não passa por uma nuvem ocidental. A questão não era que estes ultrapassassem a fronteira fechada; foi que eles removeram a dependência.

O que realmente desbloqueou foi a soberania e o custo, e não a capacidade bruta. Um governo regional, um hospital preocupado com o destino das anotações dos pacientes, uma startup que não consegue tolerar preços por token em escala, todos eles agora têm uma alternativa confiável que fica em seu próprio hardware. Para eles, um modelo um pouco menor que eles controlam é melhor do que um modelo maior que eles alugam.

Eu não diria a um usuário casual para configurar uma GPU e executar pesos esta noite; as APIs fechadas ainda são o caminho mais fácil para a maioria. Mas o chão se moveu. A questão não é mais se podemos construir a nossa própria, mas se deveríamos, e para um conjunto crescente de equipes a resposta é finalmente sim.