Pesos abertos e código aberto parecem iguais. Um deles pode fazer com que você seja demitido.
Quando um modelo tem “peso aberto”, você pode operá-lo, mas muitas vezes não consegue ver como ele foi feito ou enviá-lo livremente. Essa lacuna é importante se você trabalha em qualquer lugar com uma equipe jurídica.
Eu costumava dizer 'IA de código aberto' e significava três coisas diferentes. Eles não são iguais, e misturá-los em uma reunião é como você promete algo que seu responsável pela conformidade irá bloquear.
Código aberto significa que o código é publicado e você pode inspecioná-lo e modificá-lo sob uma licença. Pesos abertos significam que o arquivo do modelo treinado é publicado, mas você pode não ver os dados de treinamento, o código ou ter permissão para usá-los comercialmente. Um deles é um livro com a receita; o outro é o bolo pronto com o forno ainda trancado.
Por que isso incomoda: um peso que você baixou “de graça” pode ter uma licença que proíbe o uso comercial ou exige que você publique suas próprias alterações. O modelo é executado em seu laptop e ainda causa problemas se os termos assim o exigirem.
A regra prática que uso: se estou construindo um produto, leio a licença antes de fazer o download, não depois. 'Aberto' é um sentimento; a licença é o contrato.
Ollama (ollama.com)
Melhor para: desenvolvedores que desejam executar modelos abertos em suas próprias máquinas
Principais recursos: extração de modelo com um comando, inferência local, API compatível com ferramentas comuns
Plano gratuito: gratuito e de código aberto para uso
Preço: grátis; você paga pelo hardware e eletricidade
Prós: privado por padrão, nenhum dado sai da sua máquina, ótimo para experimentos
Contras: você precisa de uma GPU decente para modelos grandes, e a qualidade do modelo varia de acordo com o lançamento
Pesos abertos me deram um laboratório na minha mesa. O código aberto me deu o direito de entendê-lo. Saber qual é a diferença entre uma demonstração legal e um produto defensável.
Perguntas frequentes:
P: Um modelo aberto é gratuito para uso comercial?
R: Nem sempre. Verifique a licença; muitos proíbem o uso comercial ou exigem divulgação.
P: Por que executar um modelo localmente?
R: Privacidade, custo em escala e nenhuma dependência da queda da API de outra pessoa.
P: O código aberto significa que posso ver como ele foi treinado?
R: Muitas vezes não. Os pesos são o resultado; o código de treinamento e os dados são questões separadas.