L’inondation de matériel d’IA de bureau est réelle et la plupart sont expédiées en quelques semaines
DGX Spark, DGX Station, RTX Spark, Agentic PCs : l'inférence locale est en train de devenir une catégorie de consommateurs.
Octobre a été le mois où le matériel d’IA local a cessé d’être une démonstration de conférence. La station DGX de NVIDIA pour Windows, annoncée le 7 octobre, embarque 748 Go de mémoire cohérente et jusqu'à 20 pétaflops et devrait être commercialisée au quatrième trimestre. Le DGX Spark de 64 Go sera expédié le 23 octobre ; Les ordinateurs portables RTX Spark ciblent les agents personnels avec 128 Go de mémoire unifiée et un pétaflop de calcul IA.
Du côté des processeurs, AMD a déclaré que les expéditions de PC Agentic dépassaient les 500 000 unités, et Microsoft a signalé que les PC Copilot+ traversaient deux mille milliards d'inférences d'IA locale par mois. Les premières lunettes IA de Samsung datent de novembre sur Gemini, et les détails du homeOS d'Apple indiquent un hub domestique centré sur Siri.
Les calculs de la mémoire méritent un examen minutieux. Les rapports indiquent que le SKU DGX Spark de 128 Go n'expose qu'environ 110 Go au GPU une fois que Windows revendique sa part - un écart qui décide quel modèle convient réellement. Achetez la spécification que vous utiliseriez réellement, pas le titre aux mille milliards de paramètres.
Pour les constructeurs, le message est que l’inférence privée hors ligne est désormais une décision d’approvisionnement et non un projet de recherche. La question passe de « peut-il fonctionner localement » à « à quel modèle local puis-je faire confiance avec mes données ».