1 年間の音声クローン作成でテクノロジーよりも信頼について学びました

クライアントが 200 の短いオーディオ スニペットを必要としていたため、自分の声のクローンを作成しましたが、200 テイクを録音したくありませんでした。 10 分ほどサンプルを採取した後、クローンは電話で母をだますのに十分な距離に近づきました。

この最後の一文が物語のすべてです。テクノロジーはニュースではありません。社会的事実はこうだ。

私たちは、声を個人の証明として扱うシステムの構築に 1 世紀を費やしました。銀行、学校、祖父母。これで、音声は生成できる単なるファイルになりました。これらのシステムはいずれもひそかに時代遅れになっており、ほとんどのシステムはまだそのことを知りません。

私は、本物の人間が同意なしに私であると信じてしまう可能性のあるものにクローンを使用するのをやめました。最悪のバージョンを想像してみると、線を引くのは簡単であることがわかりました。

技術は鏡です。これは、私たちのどの信頼仮定が常に少し脆弱であったかを示しています。ほとんどがそうでした。