Le résumé IA de mes propres notes continue de mentir, et j'ai enfin compris pourquoi
Un résumé n’est pas un fait. C'est une compression, et les compressions suppriment la partie qui m'aurait sauvé.
J'ai fait confiance au résumé d'une ligne généré par mon application de notes pour une réunion, puis j'ai agi en conséquence et j'ai eu tort. Le résumé n’était pas faux, mais creux : il conservait la conclusion et supprimait la mise en garde qui modifiait la conclusion.
C'est à cela que servent les résumés. Ils échangent des détails contre de la longueur, et les détails qu'ils abandonnent sont généralement l'exception, la condition, le « à moins que ». Ce sont exactement les éléments qui comptent lorsque vous décidez quelque chose.
J'ai donc arrêté de lire le résumé comme la note. Je l'ai lu comme un panneau indicateur : « ce fichier concerne X », et non « ce fichier dit que X est vrai ». Ensuite, j'ouvre la source avant d'agir. Le résumé mérite le clic ; cela ne mérite pas la décision.
Le correctif n'est pas un meilleur modèle. C'est une habitude. Toute réclamation sur laquelle je donnerai suite sera attribuée à la ligne d'où elle provient. Si le résumé et la source ne sont pas d’accord, la source gagne, car le résumé a été construit en jetant des objets.
Une IA qui résume vos propres notes est une grande bibliothécaire et un piètre témoin. Traitez-le comme le premier, pas comme le second.
Questions fréquemment posées :
Q : Les résumés sont-ils alors inutiles ?
R : Pour rappel, non. Pour les décisions, oui, jusqu'à ce que vous vérifiiez la source.
Q : Pourquoi laisse-t-on tomber la partie importante ?
R : La compression conserve le fil conducteur et supprime l’exception, qui est souvent le détail porteur.
Q : Comment puis-je utiliser les résumés en toute sécurité ?
R : En tant que pointeur vers le fichier, cela ne remplace pas sa lecture avant d'agir.