私自身のメモの AI 要約は嘘をつき続けました、そしてその理由がついにわかりました
要約は事実ではありません。それは圧縮であり、圧縮によって私を救ってくれるはずの部分が取り除かれてしまうのです。
メモ アプリが会議用に生成した 1 行の概要を信頼し、それに基づいて行動しましたが、それは間違っていました。この要約は虚偽というより空虚だった。結論は維持し、結論を変更する警告を削除した。
それが要約の役割です。彼らは詳細を長さと引き換えにしますが、彼らが省略する詳細は通常、例外、条件、「そうでない場合」です。これらはまさに、何かを決めるときに重要な部分です。
なので、まとめをnoteとして読むのはやめました。私はこれを道しるべとして読みました。「このファイルは X について述べています」であって、「このファイルは X が真実であると述べています」ではありません。次に、行動する前にソースを開きます。要約はクリックを獲得します。それは決定を獲得するものではありません。
修正はより良いモデルではありません。それは習慣です。私が行動するあらゆる申し立ては、その申し立ての出所まで追跡されます。要約とソースが一致しない場合、要約は物事を捨てて構築されたものであるため、ソースが勝ちます。
自分のメモを要約する AI は、優れた図書館員であると同時に、不十分な証人でもあります。 2 番目ではなく、1 番目のように扱います。
よくある質問:
Q：では、要約は役に立たないのでしょうか？
A: 思い出してください。いいえ。決定については、ソースを確認するまでは可能です。
Q: 重要な部分が省略されるのはなぜですか?
A: 圧縮により、共通のスレッドが維持され、多くの場合負荷がかかる詳細となる例外が排除されます。
Q: 要約を安全に使用するにはどうすればよいですか?
A: ファイルへのポインタとして使用します。行動する前にファイルを読み取る代わりにはなりません。