La inundación de peso abierto significa que pronto ejecutará IA en su propia máquina

La meta apertura Muse Spark Open y Mistral que promete los pesos de Large 4 es el comienzo de algo práctico, no solo ideológico.

Para los equipos que no pueden enviar datos a la API de otra persona, el autohospedaje solía significar un modelo más débil. Esa brecha se está cerrando. Un modelo de un billón de parámetros que puedes descargar cambia lo que significa "IA privada".

El problema son las operaciones. Los pesos abiertos significan que eres dueño de los servidores, de las barreras y de la culpa. Para un desarrollador en solitario, eso es una GPU; para una empresa es una plataforma y una contratación.

No voy a cancelar mis suscripciones API. Estoy moviendo la única carga de trabajo donde los datos que salen del edificio nunca fueron aceptables para el hardware que controlo.

El híbrido (alquilar la frontera, poseer lo sensible) se volvió mucho más práctico esta semana, y esa es la historia que vale la pena seguir.