Lokale KI auf einem fünf Jahre alten Laptop ist endlich real
Ich habe ein nützliches Modell auf einer Maschine laufen lassen, die ich gerade recyceln wollte. Es hat meine „Neu kaufen“-Mathematik verändert.
Ein kleines Modell mit offenem Gewicht erledigte meine Notizenzusammenfassung und -klassifizierung lokal auf einem 2021-Laptop. Langsam, aber privat und kostenlos, und es hat nie nach Hause gerufen.
Für Aufgaben, die nicht grenzüberschreitend sind, ist lokal jetzt gut genug. Das Cloud-Modell ist immer noch besser, aber die Lücke für meine täglichen Jobs ist kleiner als die Abonnementkosten.
Dies ist für jeden wichtig, der mit sensiblen Dateien umgeht. Die Daten verlassen nie den Automaten und die Rechnung ist Null.
Werfen Sie den alten Laptop noch nicht weg. Es könnte eine vollkommen gute KI-Box sein.
