桌面人工智能硬件泛滥是真实存在的,其中大部分在几周内发货
DGX Spark、DGX Station、RTX Spark、Agentic PC——本地推理正在成为一个消费类别。
十月是本地人工智能硬件停止作为会议演示的月份。 NVIDIA 于 10 月 7 日发布的适用于 Windows 的 DGX Station 配备 748GB 相干内存和高达 20 petaflops,预计于第四季度发布。 64GB DGX Spark 将于 10 月 23 日发货; RTX Spark 笔记本电脑面向个人代理,拥有 128GB 统一内存和 1 petaflop 的 AI 计算能力。
在 CPU 方面,AMD 表示 Agentic PC 出货量超过 50 万台,微软报告称 Copilot+ PC 每月的本地人工智能推理次数超过 2 万亿次。三星首款人工智能眼镜将于 11 月在 Gemini 上推出,而苹果的 homeOS 细节则指向以 Siri 为中心的家庭中枢。
记忆数学值得仔细研究。报告显示,一旦 Windows 占据份额,128GB DGX Spark SKU 只向 GPU 暴露约 110GB,这一差距决定了哪种型号真正适合。购买你真正会运行的规范,而不是万亿参数的标题。
对于建筑商来说,信息是私人的、离线的推理现在是一个采购决策,而不是一个研究项目。问题从“它可以在本地运行”转变为“我信任哪个本地模型来处理我的数据”。
