オープンソース モデルは 2026 年に恐ろしいほど良くなりました。ここに問題があります。
昨年の主力製品に近いものを 1 つの GPU で実行できるようになりました。キャッチはあなたが思っているものではありません。
2 年前、「オープンウェイト」とは、使用するのが少し恥ずかしいモデルを意味していました。そのギャップはなくなりました。この冬リリースされたコミュニティ モデルのいくつかは、普通の人々が実際に行うことに本当に優れています。
では、なぜ誰もがまだ閉鎖されたものにお金を払うのでしょうか?モデルの実行はもう難しい部分ではないからです。それを確実にホストし、データに接続し、パッチを適用し、電気代を溶かさないようにするのは難しい部分です。
自宅の予備マシンでスピンアップしました。うまくいきました。それから 1 週間放置しましたが、ディスクがいっぱいになり、サービスがクラッシュし、クライアントのリクエストは応答されませんでした。 「無料」モデルでは人間関係が犠牲になりました。
オープンソースは品質戦争に勝利しましたが、運用戦争にはまだ負け続けています。趣味の人にとってはそれで良いのです。ビジネスにとって、クラウドの料金はお買い得に思えてきます。
オープンなものを使用して学習し、プロトタイプを作成し、スタックを所有します。ただし、「ダウンロードしました」と「デプロイしました」を間違えないでください。