Open Weights und Open Source klingen gleich. Einer von ihnen kann dazu führen, dass Sie gefeuert werden.
Wenn es sich bei einem Modell um ein „offenes Gewicht“ handelt, können Sie es ausführen, aber oft können Sie nicht sehen, wie es hergestellt wurde, oder es frei versenden. Diese Lücke ist wichtig, wenn Sie irgendwo mit einem Rechtsteam zusammenarbeiten.
Früher habe ich „Open-Source-KI“ gesagt und damit drei verschiedene Dinge gemeint. Sie sind nicht dasselbe, und wenn Sie sie in einer Besprechung verwechseln, versprechen Sie etwas, das Ihr Compliance-Mitarbeiter blockieren wird.
Open Source bedeutet, dass der Code veröffentlicht wird und Sie ihn unter einer Lizenz einsehen und ändern können. Offene Gewichtungen bedeuten, dass die Datei des trainierten Modells veröffentlicht wird, Sie jedoch möglicherweise weder die Trainingsdaten noch den Code sehen oder die Erlaubnis zur kommerziellen Nutzung haben. Eines ist ein Buch mit dem Rezept; Das andere ist der fertige Kuchen, während der Ofen noch verschlossen ist.
Warum es beißt: Ein Gewicht, das Sie „kostenlos“ heruntergeladen haben, kann eine Lizenz tragen, die die kommerzielle Nutzung verbietet oder Sie zur Veröffentlichung Ihrer eigenen Änderungen verpflichtet. Das Modell läuft auf Ihrem Laptop und bringt Sie dennoch in Schwierigkeiten, wenn die Bedingungen dies vorschreiben.
Die praktische Regel, die ich verwende: Wenn ich ein Produkt baue, lese ich die Lizenz vor dem Herunterladen, nicht danach. „Offen“ ist ein Gefühl; Die Lizenz ist der Vertrag.
Ollama (ollama.com)
Am besten geeignet für: Entwickler, die Open-Weight-Modelle auf ihrem eigenen Computer ausführen möchten
Hauptmerkmale: Modellziehen mit einem Befehl, lokale Inferenz, API-Kompatibilität mit gängigen Tools
Kostenloser Plan: Kostenlose und Open Source-Nutzung
Preise: kostenlos; Sie zahlen für die Hardware und den Strom
Vorteile: standardmäßig privat, keine Daten verlassen Ihren Computer, ideal für Experimente
Nachteile: Für große Modelle benötigen Sie eine anständige GPU, und die Modellqualität variiert je nach Version
Offene Gewichte gaben mir ein Labor auf meinem Schreibtisch. Open Source gab mir das Recht, es zu verstehen. Zu wissen, was den Unterschied zwischen einer coolen Demo und einem vertretbaren Produkt ausmacht.
Häufig gestellte Fragen:
F: Ist die kommerzielle Nutzung eines Open-Weight-Modells kostenlos?
A: Nicht immer. Überprüfen Sie die Lizenz; viele verbieten die kommerzielle Nutzung oder verlangen eine Offenlegung.
F: Warum ein Modell überhaupt lokal ausführen?
A: Datenschutz, skalierbare Kosten und keine Abhängigkeit davon, dass die API einer anderen Person ausfällt.
F: Bedeutet Open Source, dass ich sehen kann, wie es trainiert wurde?
A: Oft nicht. Gewichte sind das Ergebnis; Der Trainingscode und die Daten sind separate Fragen.