Word Copilot cite désormais des sources. Le problème des hallucinations n’a pas disparu.
Les citations sont un pas en avant, mais une phrase citée peut toujours être fausse sur ce qu'elle cite.
Microsoft a ajouté une fonctionnalité de citation à Word Copilot destinée à ancrer le texte généré dans vos documents et à éliminer l'habitude d'une invention confiante. L’intention est bonne : montrer d’où vient la réclamation.
Mais une citation n’est pas la vérité. Le modèle peut toujours mal lire la source et joindre une référence qui dit le contraire de ce qu’il a écrit. J'ai vu des résumés qui pointaient vers la bonne page et le mauvais paragraphe.
Traitez la citation comme un indicateur de vérification et non comme un reçu. Si la phrase est importante, ouvrez le lien et lisez la ligne réelle.
Les citations rendent les hallucinations plus faciles à détecter, mais pas impossibles. La caractéristique est un dos d'âne sur la route du mal, pas un mur.