귀하의 AI 요약이 특정한 방식으로 잘못되었습니다

AI 요약은 자신감이 있고 특정한 방식으로 잘못된 경우가 많습니다. 즉, 소스가 실제로 가지고 있던 불확실성을 완화합니다. 헤징된 보고서는 깨끗한 주장이 되며, 헤지는 진실이었습니다.

나는 요약을 그 소스와 비교했고 모델은 조용히 3개의 '아마도'와 1개의 '일부에 따르면'을 삭제했습니다. 결과는 더 잘 읽히고 더 많이 거짓말을 했습니다. 정확성을 대가로 유창함을 샀습니다.

해결 방법은 조치를 취할 모든 항목의 소스를 읽고 모델이 불확실성을 유지하도록 유도하는 것입니다. '주의사항을 유지하세요.' 대부분의 사람들은 그렇지 않습니다. 깨끗한 버전이 읽기에 더 만족스럽기 때문입니다.

요약은 출발점이지 대체물이 아닙니다. 지금 중요한 기술은 질의가 아닌 확인입니다. 답변은 미리 다듬어진 상태로 도착하고, 다듬어진 부분에 오류가 숨겨져 있기 때문입니다.