Esta semana na IA: os pesos abertos se mantiveram silenciosamente ganhando

A Liquid AI lançou d1-3B e d1-omni-600M em 7 de outubro como pesos abertos para implantação local. O modelo de 3 bilhões de parâmetros pega texto e imagens e retorna uma decisão estruturada em uma única passagem, em vez de gerar prosa, que é exatamente o que você deseja para roteamento e classificação sem uma viagem de ida e volta na nuvem.

Mistral abriu uma pré-visualização pública do Large 4 em 6 de outubro, uma mistura de especialistas de 1,05trilhão de parâmetros com 49 bilhões de parâmetros ativos e um contexto de um milhão de token. O lançamento de pesos abertos está programado para o final de outubro sob os termos do estilo Apache, o que é importante porque permite que as empresas auto-hospedem um modelo de classe de fronteira.

O Beam da Reflection AI e um lote de modelos de decisão menores da Cloudflare, AWS e Perplexity chegaram no início de outubro, puxando o padrão "decida, não gere" para o mainstream. Estes são baratos, rápidos e cada vez mais bons o suficiente para ficar na frente dos grandes modelos e decidir o que realmente precisa de sua atenção.

O throughline é que "local e aberto" parou de significar "pior". 'Para as chamadas diárias, repetitivas e sensíveis à privacidade, um modelo em sua própria máquina é agora um padrão real, não um compromisso de hobby.

O MAI-Code-1.1 Flash da Microsoft, um modelo de codificação de 137 bilhões de parâmetros criado para execução no dispositivo, se encaixa na mesma tendência: o laptop está se tornando um lugar legítimo para executar IA séria e isso muda quem seus dados deixam.