NVIDIA expédie les usines d'IA dans 14 jours. Changements qui construisent les modèles
Vera Rubin en production et un déploiement de deux semaines ne constituent pas une victoire en termes de spécifications. Cela déplace le goulot d’étranglement du laboratoire vers le centre de données.
Au GTC Berlin le 21 octobre, NVIDIA a déclaré que la plate-forme Vera Rubin était en pleine production et que son DSX POD emballait une usine d'IA complète dans des conteneurs modulaires. Le pitch est le temps de déploiement : de six mois à environ 14 jours une fois que le site est prêt à être alimenté en électricité et en refroidissement.
Ce nombre compte plus que les téraflops. À l'heure actuelle, ce qui est rare, ce n'est pas un modèle, c'est la capacité de mettre sur pied un cluster fonctionnel. Si ce délai tombe à deux semaines, les laboratoires ne seront plus les seuls à pouvoir s'entraîner à la frontière.
Le problème est le même que celui de toute promesse d’appliance : vous avez toujours besoin des données, de l’équipe et d’une raison pour laquelle le modèle existe. Une usine de 14 jours sans rien à construire n’est qu’une pièce coûteuse.
Pour tous les autres, le véritable signal est que le calcul devient un problème de logistique et non de recherche. Les gagnants sont ceux qui peuvent remplir l’usine, pas seulement ceux qui en sont propriétaires.