O resumo de IA das minhas próprias anotações continua mentindo e finalmente entendi por quê
Um resumo não é um fato. É uma compressão, e as compressões eliminam a parte que teria me salvado.
Confiei no resumo de uma linha que meu aplicativo de notas gerou para uma reunião, depois agi de acordo e errei. O resumo não era tão falso quanto vazio: manteve a conclusão e abandonou a advertência que alterava a conclusão.
É isso que os resumos fazem. Eles trocam detalhes por comprimento, e os detalhes que descartam geralmente são a exceção, a condição, o 'a menos que'. Essas são exatamente as partes que importam quando você decide algo.
Então parei de ler o resumo como nota. Eu li isso como uma indicação: 'este arquivo é sobre X', e não 'este arquivo diz que X é verdadeiro'. Então abro a fonte antes de agir. O resumo ganha o clique; não ganha a decisão.
A correção não é um modelo melhor. É um hábito. Qualquer reclamação sobre a qual eu agirei será atribuída à linha de origem. Se o resumo e a fonte discordam, ganha a fonte, porque o resumo foi construído jogando coisas fora.
Uma IA que resume suas próprias anotações é um ótimo bibliotecário e uma péssima testemunha. Trate-o como o primeiro, não como o segundo.
Perguntas frequentes:
P: Os resumos são inúteis então?
R: Para lembrar, não. Para decisões, sim, até verificar a fonte.
P: Por que deixa de lado a parte importante?
R: A compressão mantém o fio comum e elimina a exceção, que geralmente é o detalhe de suporte de carga.
P: Como posso usar resumos com segurança?
R: Como um ponteiro para o arquivo, não um substituto para lê-lo antes de agir.