地元でやってるのは、負けたら解雇されるだけだ

私はセルフホスティングのエバンジェリストではありません。私はほとんどすべての用途でフロンティア モデルをレンタルしています。その方が簡単で品質も高いからです。しかし、私が誰の API にも送信することを拒否しているクラスの作業が 1 つあり、それが漏洩した場合、私のキャリアが終わることになるクラスです。

顧客データ、未発表の製品詳細、個人名が付けられたもの、私が管理するハードウェア、私がダウンロードしたオープンウェイト モデルにあるもの。わずかな品質の低下は、バイトが建物の外に出ないことを保証するために私が支払う代償です。

今年は無差別級層がこれを実用化するのに十分な成績を収めた。自分で実行できる 10 兆個のパラメータ モデルは最前線ではありませんが、私の仕事の繊細な 5% には十分であり、実際にトレードオフが重要になるのはそこです。

それ以外のすべて、下書き、要約、ブレーンストーミングはクラウドに乗ります。クラウドではリスクよりも利便性の方が価値があるからです。ハイブリッドは、各タスクがどのバケットにあるかについて正直に話している場合にのみ機能します。

サブスクリプションを解除しないでください。建物からデータが流出することが所有するハードウェアに受け入れられない 1 つのワークロードを移動し、残りは簡単な場所に残しておきます。