今週、音声クローン作成が国境を越えました。ラベルを付けます。

イレブンラボとミストラルはどちらも今月、数十の言語にわたるリアルタイム音声翻訳を出荷しましたが、その品質は驚異的です。

クローンされた音声はファイルとしてレンダリングされた誰かのアイデンティティであるため、これは素晴らしいことであり、同時に危険でもあります。音声を複製する場合は、明示的かつ文書化された許可が必要です。ただし、「単なるデモです」という例外はありません。

コストはキャラクターに応じて比例するので、これは公平ですが、リスクは出力の信頼性によって比例し、それはどこにも織り込まれていません。

私は 1 つのルールを守っています。それは、自分が所有する音声、または書面による使用許可を得た音声のみをクローンすること、そして合成オーディオには合成としてラベルを付けることです。それは被害妄想ではありません。それはツールと責任の違いです。

技術はすごいです。倫理は自動的に身につくものではありません。パイプラインを実行している人が、現時点で存在する唯一の安全策です。