音声クローンが優秀すぎる、それが問題だ

イレブンラボは本物と見分けがつかないような音声を生成するので、私はそれを使って、自分では決して録音しなかったような内容のナレーションをしました。品質は問題ではありません。同意です。

クローンされた音声は、誰かのアイデンティティをファイルとしてレンダリングしたものです。音声を複製する場合は、その人の明示的な文書による許可が必要です。 「デモ用である」という例外はありません。

コストはキャラクターに応じて比例するので、これは公平ですが、リスクは出力の信頼性によって比例し、それはどこにも織り込まれていません。

私は厳格なルールを守っています。自分が所有する音声、または書面による使用許可を得た音声のみを複製し、合成オーディオには合成とラベルを付けます。それは被害妄想ではありません。それはツールと責任の違いです。

技術は素晴らしいですね。倫理は自動的に身につくものではありません。パイプラインを構築している人が、現時点で存在する唯一の安全策です。