La IA local en una computadora portátil de cinco años finalmente es real
Ejecuté un modelo útil en una máquina que estaba a punto de reciclar. Cambió mis matemáticas de "comprar nuevo".
Un modelo pequeño y abierto manejó mi resumen y clasificación de notas localmente en una computadora portátil 2021. Lento, pero privado y gratuito, y nunca llamó a casa.
Para tareas que no son tan difíciles, lo local ahora es suficiente. El modelo de nube sigue siendo mejor, pero la brecha para mis trabajos diarios es menor que el costo de la suscripción.
Esto es importante para cualquiera que maneje archivos confidenciales. Los datos nunca salen de la máquina y la factura es cero.
No tires todavía la computadora portátil vieja. Podría ser una caja de IA perfectamente buena.
