Lo único que administro localmente es lo que me despedirían por perder
No soy un evangelista autohospedado. Alquilo los modelos fronterizos para casi todo porque es más fácil y la calidad está ahí. Pero hay
No soy un evangelista autohospedado. Alquilo los modelos fronterizos para casi todo porque es más fácil y la calidad está ahí. Pero hay una clase de trabajo que me niego a enviar a la API de nadie, y es la clase que acabaría con mi carrera si se filtrara.
Datos de clientes, detalles de productos inéditos, cualquier cosa con el nombre de una persona adjunto, que vaya en el hardware que controlo, en un modelo abierto que descargué. La ligera caída de calidad es un precio que pago por la garantía de que los bytes no salen del edificio.
La capa de peso abierto mejoró lo suficiente este año para que esto sea práctico. Un modelo de un billón de parámetros que puedas ejecutar tú mismo no es la frontera, pero es lo suficientemente bueno para el sensible 5% de mi trabajo, y esa es la parte donde la compensación realmente importa.
Todo lo demás, los borradores, los resúmenes, la lluvia de ideas, van en la nube, porque allí la comodidad vale más que el riesgo. El híbrido solo funciona si eres honesto acerca de en qué categoría se encuentra cada tarea.
No canceles tus suscripciones. Mueva la única carga de trabajo donde los datos que salen del edificio nunca fueron aceptables al hardware de su propiedad y deje el resto donde sea fácil.
