Quels modèles locaux réellement débloqués cette année

Pendant la majeure partie du boom de l'IA, les modèles intéressants vivaient derrière l'API de quelqu'un d'autre, et les utiliser signifiait envoyer vos données et payer par appel. Cette année, une porte différente s'est ouverte et les gens qui la franchissaient n'étaient pas ceux attendus par le public principal.

Les versions à poids ouvert ont fait le travail. Le Chonk de Mistral, Mistral Large 4, est arrivé sous forme de téléchargement que tout le monde pouvait exécuter, suffisamment fort en termes de code et de sécurité pour que des équipes sérieuses le prennent au sérieux sans facture cloud. GoTo a publié un modèle de 27 milliards de paramètres adapté à l'indonésien et à quatre langues régionales, offrant ainsi aux développeurs d'Asie du Sud-Est une base qui ne passe pas par un cloud occidental. Le problème n’était pas que ceux-ci franchissent la frontière fermée ; c'est qu'ils ont supprimé la dépendance.

Ce qui a réellement été libéré, c’est la souveraineté et le coût, et non la capacité brute. Un gouvernement régional, un hôpital inquiet de savoir où vont les notes des patients, une startup qui ne peut pas supporter une tarification par jeton à grande échelle, tous disposent désormais d'une alternative crédible basée sur leur propre matériel. Pour eux, un modèle légèrement plus petit qu’ils contrôlent bat un modèle plus grand qu’ils louent.

Je ne dirais pas à un utilisateur occasionnel de configurer un GPU et d'exécuter des poids ce soir ; les API fermées restent la voie la plus simple pour la plupart. Mais le sol bougea. La question n’est plus de savoir si nous pouvons construire le nôtre, mais si nous le devrions, et pour un nombre croissant d’équipes, la réponse est finalement oui.