デスクトップ AI ハードウェアの洪水は現実、そのほとんどは数週間で出荷される
DGX Spark、DGX Station、RTX Spark、Agentic PC -- ローカル推論はコンシューマー カテゴリになりつつあります。
10 月は、ローカル AI ハードウェアがカンファレンス デモを中止した月でした。 10 月 7 日に発表された NVIDIA の Windows 用 DGX Station は、748GB のコヒーレント メモリと最大 20 ペタフロップスを搭載しており、第 4 四半期にリリースされる予定です。 64GB DGX Spark は 10 月 23 日に出荷されます。 RTX Spark ラップトップは、128 GB のユニファイド メモリと 1 ペタフロップスの AI コンピューティングを備えたパーソナル エージェントをターゲットとしています。
CPU に関しては、AMD は Agentic PC の出荷台数が 50 万台を超えたと発表し、Microsoft は Copilot+ PC が月に 2 兆回のローカル AI 推論を行っていると報告しました。サムスンの最初のAIメガネはジェミニで11月に発売され、アップルのhomeOSの詳細はSiriを中心としたホームハブを示している。
メモリの計算は精査に値します。レポートによると、Windows がシェアを獲得すると、128 GB DGX Spark SKU は GPU に約 110 GB しか公開されません。このギャップが、どのモデルが実際に適合するかを決定します。兆パラメータの見出しではなく、実際に実行できる仕様を購入してください。
建設業者にとって、プライベートなオフライン推論は現在、研究プロジェクトではなく調達決定であるというメッセージです。問題は、「ローカルで実行できるか」から「自分のデータでどのローカル モデルを信頼できるか」に移ります。