AI ニュースまとめ: NVIDIA が 1 日でスタック全体を再配線
チップからオープン モデル、カーネル サンドボックスに至るまで、GTC ベルリンは垂直統合のマスタークラスでした。
10 月 21 日の AI ニュース サイクルは NVIDIA のものでした。 GTC ベルリンで、Jensen Huang 氏は Vera Rubin プラットフォームを完全運用環境に導入し、AI ファクトリを約 14 日で展開可能なモジュラー コンテナにドロップする DSX POD を示し、最小限の特権アクセスを持つカーネル レベルのサンドボックスである OpenShell でエージェントをラップしました。リファレンス ヒューマノイド、Agile ONE SN がロボット工学のピッチを締めくくりました。
モデル面では、NVIDIA は同日、オープン ファミリーを拡張しました。言語用の Nemotron 3.5 Super VL とBolt、検索用の Nemotron Retriever、Cosmos 3.5 ワールド モデル、車載推論用の Alpamayo 2 Edge、タンパク質設計用の BioNeMo RFD4-Proteina で、Baker Lab と共同で構築され、200 アミノ酸のベンチマークで前世代よりも約 13 倍高速であることが報告されました。 40B オープン コーディング モデルである Recursive Flint は、ローカル RTX Spark ハードウェア上で 1 秒あたり 220 トークンを超えて実行されます。
ローカル ハードウェアも刷新されました。クラスター化された 8 つの DGX Spark により、フロンティア クラス モデルに 1TB のユニファイド メモリが提供され、64GB DGX Spark が 10 月 23 日に出荷開始されます。NVIDIA はまた、ヨーロッパ全土で 100 億ドル近くを投入し、Amkor、IBIDEN、KYEC、Samsung Electro-Mechanics、SPIL、Unimicron と基板容量を拡張しました。これは 3 年間で 2.5 倍に増加しました。
一貫して垂直統合です。NVIDIA はモデル、それを安全に実行するためのサンドボックス、ローカルで実行するためのチップ、そしてそれを大規模に構築するための工場を販売しています。競合他社は一度に 1 つのレイヤーをレースします。