Welche lokalen Models dieses Jahr tatsächlich freigeschaltet wurden

Während des größten Teils des KI-Booms lebten die interessanten Modelle hinter der API eines anderen, und ihre Verwendung bedeutete, dass Sie Ihre Daten versenden und pro Anruf bezahlen mussten. Dieses Jahr öffnete sich eine andere Tür, und die Leute, die durch die Tür gingen, waren nicht die, die das Keynote-Publikum erwartet hatte.

Die Open-Weight-Releases haben den Job gemacht. Mistrals Le Chonk, Mistral Large 4, kam als Download auf den Markt, den jeder ausführen konnte, und war hinsichtlich Code und Sicherheit so stark, dass seriöse Teams es ohne Cloud-Rechnung ernst nahmen. GoTo hat ein 27-Milliarden-Parameter-Modell veröffentlicht, das auf Indonesisch und vier Regionalsprachen abgestimmt ist und südostasiatischen Entwicklern eine Grundlage bietet, die nicht über eine westliche Cloud verläuft. Es ging nicht darum, dass diese die geschlossene Grenze überwanden; es war, dass sie die Abhängigkeit beseitigten.

Was tatsächlich freigesetzt wurde, waren Souveränität und Kosten, nicht die reine Leistungsfähigkeit. Eine Regionalregierung, ein Krankenhaus, das sich Sorgen darüber macht, wohin Patientenakten gehen, ein Startup, das die hohen Preise pro Token nicht ertragen kann, sie alle haben jetzt eine glaubwürdige Alternative, die auf ihrer eigenen Hardware läuft. Für sie ist ein etwas kleineres Modell, das sie steuern, besser als ein größeres, das sie mieten.

Ich würde einem Gelegenheitsbenutzer nicht sagen, er solle heute Abend eine GPU einrichten und Gewichte ausführen; Die geschlossenen APIs sind für die meisten immer noch der einfachere Weg. Aber der Boden bewegte sich. Die Frage ist nicht mehr, ob wir unsere eigenen aufbauen können, sondern ob wir das sollten, und für eine wachsende Gruppe von Teams lautet die Antwort schließlich ja.