オープンウェイトの洪水により、ついに私がセンシティブなものを自分でホストすることになりました

メタオープニングのミューズスパークオープンとミストラルの約束されたラージ4のウェイトは、単なるイデオロギーではなく、何か実用的なものの始まりです。

他の人の API にデータを送信できないチームにとって、セルフホスティングは弱いモデルを意味していました。その差は縮まりつつあります。ダウンロードできる 1 兆個のパラメータ モデルは、「プライベート AI」の意味を変えます。

The catch is ops.オープンウェイトとは、サーバー、ガードレール、責任を自分が所有していることを意味します。単独の開発者の場合、それは 1 つの GPU です。企業にとって、それはプラットフォームであり、雇用です。

API サブスクリプションを廃止するつもりはありません。私は、建物から出るデータが私が制御するハードウェアに受け入れられなかった 1 つのワークロードを移動しています。

今月、フロンティアを借りてセンシティブなものを所有するというハイブリッドがより実践的になりました。これはフォローする価値のあるストーリーです。