公开重量级，10 月底：Mistral 的 Le Chonk 和下载竞赛

这个月，开放式重量墙不断开裂。 Mistral 的 Large 4——一个总参数达万亿的多模态模型，拥有 490 亿个活跃值和 100 万个代币上下文——自 10 月 6 日起在 API 预览版中上线，可下载权重预计在红队后于 10 月 27 日左右下降。其发行价格为每百万代币 0.68 美元/2.09 美元，其成本低于大多数封闭竞争对手。

Reflection AI 的 Beam 是一个包含 5010 亿个参数的稀疏专家混合模型，具有百万个令牌上下文，旨在编码和推理，预计将于本月晚些时候在 Apache 2.0 许可证下开放其权重。 Meta 的 Muse Wonder 于 10 月 12 日发布，售价为 4 美元/20 美元，据报道接近前沿，尽管它的数据默认值（默认情况下根据用户提交的数据进行训练）值得在任何人在其基础上进行构建之前仔细阅读。

这种模式是一致的：封闭的实验室保持绝对前沿，但“足够好且可以自由自我托管”层正在快速填补。对于无法将数据发送到其他人的 API 的团队来说，该层现在是真正的生产工作所在，本月使菜单变得更大。

问题并没有改变：开放权重意味着你拥有操作——GPU、服务、护栏，以及当模型说一些愚蠢的东西时的责任。自行托管数据无法离开大楼的一项工作负载，然后租用其余的工作负载。不管怎样，混合动力车都更便宜，十月让它变得实用。

我不会取消我的 API 订阅。我正在将敏感的工作负载转移到我控制的硬件上，本月的发布最终使之成为一个真正的选择，而不是出于研究好奇心。