Open Weights y Open Source suenan igual. Uno de ellos puede hacer que te despidan.
Cuando un modelo es de "peso abierto", puede ejecutarlo, pero a menudo no puede ver cómo se fabricó ni enviarlo libremente. Esa brecha es importante si trabaja en cualquier lugar con un equipo legal.
Solía decir "IA de código abierto" y me refiero a tres cosas diferentes. No son lo mismo, y mezclarlos en una reunión es la forma de prometer algo que su persona de cumplimiento bloqueará.
Código abierto significa que el código se publica y usted puede inspeccionarlo y modificarlo bajo una licencia. Pesos abiertos significa que el archivo del modelo entrenado se publica, pero es posible que usted no vea los datos de entrenamiento, el código ni tenga permiso para usarlos comercialmente. Se trata de un libro con la receta; el otro es el bizcocho terminado con el horno aún cerrado.
Por qué muerde: un peso que descargaste 'gratis' puede tener una licencia que prohíbe el uso comercial o requiere que publiques tus propios cambios. El modelo se ejecuta en su computadora portátil y aún así le causará problemas si los términos así lo dicen.
La regla práctica que uso: si estoy creando un producto, leo la licencia antes de descargarlo, no después. 'Abierto' es un sentimiento; la licencia es el contrato.
Ollama (ollama.com)
Ideal para: desarrolladores que quieran ejecutar modelos de peso abierto en su propia máquina
Características clave: extracción de modelos con un solo comando, inferencia local, API compatible con herramientas comunes
Plan gratuito: uso gratuito y de código abierto
Precios: gratis; Pagas por el hardware y la electricidad.
Ventajas: privado de forma predeterminada, no salen datos de su máquina, ideal para experimentos
Desventajas: necesitas una GPU decente para modelos grandes y la calidad del modelo varía según el lanzamiento
Las pesas abiertas me dieron un laboratorio en mi escritorio. El código abierto me dio derecho a entenderlo. Saber cuál es cuál es la diferencia entre una demostración interesante y un producto defendible.
Preguntas frecuentes:
P: ¿Se puede utilizar comercialmente un modelo de peso abierto?
R: No siempre. Verificar la licencia; muchos prohíben el uso comercial o exigen su divulgación.
P: ¿Por qué ejecutar un modelo localmente?
R: Privacidad, costo a escala y sin dependencia de la caída de la API de otra persona.
P: ¿El código abierto significa que puedo ver cómo se entrenó?
R: Muchas veces no. Los pesos son el resultado; el código de entrenamiento y los datos son preguntas separadas.