Best AI Utility logo
Best AI Utility
返回博客
2026年10月27日
6 分钟阅读
Opinion

我在本地运行的唯一一件事是我会因为失去而被解雇

我不是一个自托管的传道者。我几乎租用了前沿型号的所有东西,因为它更容易而且质量就在那里。但有'

我不是一个自托管的传道者。我几乎租用了前沿型号的所有东西,因为它更容易而且质量就在那里。但有一类工作我拒绝发送给任何人的 API,如果它泄露的话,我的职业生涯就会结束。

客户数据、未发布的产品详细信息、任何带有个人姓名的东西,这些都在我控制的硬件上,在我下载的开放重量模型上。轻微的质量下降是我为保证字节不会离开建筑物而付出的代价。

今年,开放重量层已经足够好,使这一点变得可行。您可以自己运行的万亿参数模型并不是前沿,但对于我工作中敏感的 5% 来说已经足够了,而这正是权衡真正重要的部分。

其他一切,草稿、摘要、头脑风暴,都在云端进行,因为便利性比风险更有价值。只有当你诚实地了解每项任务属于哪个桶时,混合才会起作用。

不要撕毁您的订阅。将您拥有的硬件永远无法接受离开建筑物的数据的一项工作负载转移,并将其余工作负载留在容易的地方。

Put one of these tools on the leaderboard

Every rank on Best AI Utility is paid and time-stamped — outbid the current holder with one crypto payment and the rank is yours until someone outbids you.

相关文章

探索更多