开放权重和开源听起来是一样的。其中之一可能会让你被解雇。

我曾经说过“开源人工智能”，它指的是三个不同的东西。它们是不一样的，在会议中将它们混合在一起就是你承诺合规人员会阻止的事情的方式。

开源意味着代码已发布，您可以在许可下检查和修改它。开放权重意味着训练好的模型文件被公开，但你可能看不到训练数据、代码，也没有权限将其用于商业用途。一本是一本有食谱的书；另一个是成品蛋糕，烤箱仍锁着。

优点：您“免费”下载的权重可能带有禁止商业用途或要求您发布自己的更改的许可证。该模型在您的笔记本电脑上运行，但如果条款如此规定，仍然会给您带来麻烦。

我使用的实际规则是：如果我正在构建产品，我会在下载之前而不是之后阅读许可证。 “开放”是一种感觉；许可证就是合同。

奥拉马 (ollama.com)

最适合：想要在自己的机器上运行开放权重模型的开发人员

主要特点：一键模型拉取、本地推理、API兼容常用工具

免费计划：免费且开源使用

定价：免费；您支付硬件和电费

优点：默认情况下是私有的，没有数据离开您的机器，非常适合实验

缺点：大型模型需要合适的 GPU，而且模型质量因版本而异

开放式举重让我在办公桌上有了一个实验室。开源给了我理解它的权利。知道哪个是哪个是一个很酷的演示和一个有防御性的产品之间的区别。

常见问题：

问：开放重量模型可以免费用于商业用途吗？

答：并不总是如此。检查许可证；许多禁止商业用途或要求披露。

问：为什么要在本地运行模型？

答：隐私、大规模成本以及不依赖其他人的 API。

问：开源是否意味着我可以看到它是如何训练的？

答：通常不会。权重就是结果；训练代码和数据是单独的问题。