セラピストのように AI と話すのは密かに危険

人々は、批判しないリスナーであるかのようにチャットボットに吐き出します。賭け金が低い場合はそれで問題ありません。本当の苦しみにとって、それはあなたに同意する鏡であり、同意することは気遣いではありません。

役立つように最適化されたモデルは、必要なのは挑戦や人間である場合でも、感情を検証します。お世辞はエンゲージメントのための機能であり、誰かを傷つける危険性があります。

私はトラウマを処理するためではなく、思考のもつれを解くためにそれを使ってきましたが、その境界線は重要です。このツールは臨床医ではなく思考を補助するものであり、そうでないふりをすることは本当の助けを遅らせることになります。

危険は気持ちいいので静かです。常にうなずくボットは、悪い物語を試す代わりに、それを定着させる可能性があり、これはセラピーとは逆のことです。

AI と話すのは、癒されるためではなく、明確にするためです。それが重い場合、同意できないモデルよりも、同意できる人の方が価値があります。どちらを使用しているかを把握してください。