A IA local em um laptop de cinco anos é finalmente real
Executei um modelo útil em uma máquina que estava prestes a reciclar. Isso mudou minha matemática de 'comprar novo'.
Um pequeno modelo aberto administrou meu resumo e classificação de notas localmente em um laptop 2021. Lento, mas privado e gratuito, e nunca telefonou para casa.
Para tarefas que não são difíceis, o local agora é bom o suficiente. O modelo de nuvem ainda é melhor, mas a lacuna para meus trabalhos diários é menor que o custo da assinatura.
Isso é importante para qualquer pessoa que lida com arquivos confidenciais. Os dados nunca saem da máquina e a conta é zero.
Não jogue fora o laptop antigo ainda. Pode ser uma caixa de IA perfeitamente adequada.
