A única coisa que administro localmente é o que eu seria demitido por perder
Não sou um evangelista auto-hospedado. Alugo os modelos fronteiriços para quase tudo porque é mais fácil e a qualidade está aí. Mas há
Não sou um evangelista auto-hospedado. Alugo os modelos fronteiriços para quase tudo porque é mais fácil e a qualidade está aí. Mas há uma classe de trabalho que me recuso a enviar para a API de qualquer pessoa, e é a classe que encerraria minha carreira se vazasse.
Dados do cliente, detalhes de produtos não divulgados, qualquer coisa com o nome de uma pessoa anexado, que vá para o hardware que eu controlo, em um modelo aberto que baixei. A ligeira queda na qualidade é um preço que pago pela garantia de que os bytes não saiam do prédio.
A camada de peso aberto ficou boa o suficiente este ano para tornar isso prático. Um modelo de trilhões de parâmetros que você mesmo pode executar não é a fronteira, mas é bom o suficiente para os 5% sensíveis do meu trabalho, e é nessa parte que a compensação realmente importa.
Todo o resto, os rascunhos, os resumos, o brainstorming, viaja na nuvem, porque aí a comodidade vale mais do que o risco. O híbrido só funciona se você for honesto sobre em que grupo cada tarefa está.
Não destrua suas assinaturas. Mova a única carga de trabalho onde os dados que saem do prédio nunca foram aceitáveis para o hardware que você possui e deixe o restante onde for mais fácil.
