Cette semaine en IA : les poids ouverts gardés tranquillement gagnants

Liquid AI a publié d1-3B et d1-omni-600M le 7 octobre en tant que poids ouverts pour un déploiement local. Le modèle de 3 milliards de paramètres prend du texte et des images et renvoie une décision structurée en un seul passage au lieu de générer de la prose, ce qui est exactement ce que vous voulez pour le routage et la classification sans aller-retour dans le cloud.

Mistral a ouvert une avant-première publique de Large 4 le 6 octobre, un mélange d'experts de 1,05billion de paramètres avec 49 milliards de paramètres actifs et un contexte d'un million de jetons. La version à poids ouverts est prévue pour fin octobre dans des conditions de style Apache, ce qui est important car elle permet aux entreprises d'héberger elles-mêmes un modèle de classe frontière.

Le faisceau de Reflection AI et un lot de modèles de décision plus petits de Cloudflare, AWS et Perplexity ont tous atterri au début d'octobre, tirant le modèle « décider, ne pas générer » dans le courant dominant. Ceux-ci sont bon marché, rapides et de plus en plus suffisants pour s'asseoir devant les grands modèles et décider de ce qui a réellement besoin de leur attention.

La ligne directrice est que « local et ouvert » a cessé de signifier « pire ». « Pour les appels quotidiens, répétitifs et respectueux de la vie privée, un modèle sur votre propre machine est désormais un véritable compromis par défaut, et non un compromis d'amateur.

Le MAI-Code-1.1 Flash de Microsoft, un modèle de codage de 137 milliards de paramètres conçu pour l'exécution sur l'appareil, correspond à la même tendance : l'ordinateur portable devient un endroit légitime pour exécuter une IA sérieuse, et cela change qui vos données quittent jamais.