Sopro (offline, voice clone, 4 languages)

音声オフラインCPU のみ音声クローン商用利用可

Sopro V2 Turbo を使い、字幕を英語、ヨーロッパポルトガル語、フランス語、ドイツ語で吹き替えます。声は、動画の数秒からクローンした各話者自身の声か、8種類の既製の声のいずれかです。お使いのコンピューターのプロセッサーで動作し、グラフィックスカードなしで実時間の約2倍の速さで話します。

Subtitld からインストール

設定 アドオン Sopro (offline, voice clone, 4 languages) インストール

Subtitld がダウンロードして SHA-256 を確認し、最新の状態に保ちます。

GitHub のソース
言語
4
モデル
1
音声
9
アドオンのダウンロード
38–61 MB
RAM(最低)
1.5 GB

機能

話者自身の声

Subtitld は動画から各話者の数秒を切り出し、セリフごとに一緒に送ります。Sopro はその声をクローンするため、吹き替えは画面の人物の声に聞こえます。4言語のどれでも使えます。

どのコンピューターでも高速

Sopro V2 Turbo は 1 億 2,000 万パラメーターの小さなモデルです。ノートパソコンのプロセッサーで実時間の約2倍の速さで話し、メモリは約 1 GB しか使いません。

最初のセリフのあとはオフライン

モデルは、それを使って初めて吹き替えるときに一度だけダウンロードされます。その後は、何もコンピューターの外に出ません。

商用利用も無料

アドオン、Sopro、そのモデルは Apache-2.0 です。既製の声は LibriVox の朗読者で、その録音はパブリックドメインです。

インストールの前に

Sopro はコンピューターにあまり負担をかけません:

  • ディスク: モデル用に約 340 MB。最初のセリフでダウンロードされます。
  • メモリ: 話している間は約 1 GB。
  • プロセッサー: 64 ビットの Intel または AMD のプロセッサーならどれでも、または Apple Silicon。グラフィックスカードは使いません。

声のクローンは、その声の持ち主の同意がある場合だけにしてください。Sopro の作者は、他人になりすますために使わないよう求めています。

声

話者タブで、話者の吹き替えエンジンとして Sopro を選び、ボイスを選びます。各セリフを字幕に合わせて伸縮するには、その話者の吹き替えを字幕の長さに合わせるをオンにしてください。

音声 9 種.

Speaker's own voice を選ぶと、Subtitld はプロジェクトの音声からその話者のサンプルを切り出します。字幕1つから、または短い字幕をいくつかつなげて作ります。この動画で音楽と声を分離している場合は、サンプルは声だけから取られます。アドオンの設定の Fallback reference clip は、サンプルを切り出せない場合にのみ使われます。最適なサンプルは、音楽やほかの声がなく、その話者だけが話している5〜20秒の音声です。

既製の声
女性 英語、ポルトガル語、フランス語、ドイツ語
男性 英語、ポルトガル語、フランス語、ドイツ語

既製の声はどれも、その言語で本を朗読する LibriVox のボランティアです。どの既製の声も4言語すべてを話します。声の元の言語はなまりに影響するだけなので、最も自然な吹き替えにするには、プロジェクトの言語の声を選んでください。

モデル

Sopro のモデルは、4言語すべてに共通の1つです。アドオンには含まれておらず、最初に吹き替えるときに、固定されたリビジョンで Hugging Face から Subtitld の共有モデルキャッシュへダウンロードされ、各ファイルが確認されます。中断したダウンロードは、止まったところから再開します。アドオンを更新・削除してもモデルは残ります。

モデル ダウンロード向いている用途
Sopro V2 Turbo (120M, ONNX) 既定 sopro-v2-turbo
336 MB
すべての声、4言語すべて、実時間の約2.5倍の速さ

アドオンは、Sopro の作者が公開している ONNX 版を PyTorch なしで実行します。4言語すべての同じセリフで公式の PyTorch 版と比べたところ、ミスが増えることはなく、話者への似かたも同程度でした。

オプション

設定 › アドオン › Sopro (offline, voice clone, 4 languages) › 設定 で変更できます。

CPU threads
既定値: 0

0 にすると、コンピューターの論理プロセッサーの半分(最大8)を使います。スレッドを減らすと、吹き替え中もコンピューターが軽快に動きます。

Variation
既定値: 0.8

低くすると安定して平板に、高くすると生き生きしますが、崩れることが多くなります。0.8 は Sopro 自体の既定値です。

Fallback reference clip
既定値: 空

Subtitld が動画からクリップを切り出せない場合(例:動画が開かれていない場合)に、クローン音声に使うクリップです。1人が話している5〜20秒の音声にしてください。

言語

英語、ヨーロッパポルトガル語、フランス語、ドイツ語。ブラジルポルトガル語のテキストも読めますが、ヨーロッパのなまりになります。それ以外の言語のプロジェクトでは、その旨のメッセージが表示されます。その場合は別の吹き替えエンジンを選んでください。

大事な箇所では、数字や記号を言葉で書いてください。Sopro は「1 + 2」を「one plus two」ほど確実には読めません。文中にほかの言語の単語があると、発音を誤ることがあります。

  • en
  • pt
  • fr
  • de

プラットフォーム

システム ダウンロード動作確認
Linux x86-64 61.1 MB実機と CI で、実際のモデルを使って吹き替え
macOS (Apple シリコン) 43.2 MBCI で実際のモデルを使って吹き替え(Apple Silicon)
Windows x86-64 38.1 MBCI で実際のモデルを使って吹き替え

Linux x86-64、Apple Silicon の macOS、Windows x86-64。各リリースは3つすべてでビルドされ、それぞれで CI が Subtitld と同じ方法でアドオンをインストールし、モデルをダウンロードして、それを使って吹き替えます。

トラブルシューティング

  • network_unavailableモデルをダウンロードできませんでした。接続を確認して、もう一度試してください。ダウンロードは再開されます。
  • disk_fullモデルに必要なディスク容量(約 340 MB)がありません。
  • unsupported_languageプロジェクトの言語が4言語のどれでもないか、設定されていません。プロジェクトで言語を設定するか、別の吹き替えエンジンを選んでください。
  • unsupported_voiceプロジェクトに、このバージョンにない声が指定されています。話者タブで声を選び直してください。
  • bad_paramsセリフにテキストがないか、クローンの声にサンプルがありません。動画を開くか、Fallback reference clip を設定してください。どちらかはメッセージに表示されます。
  • out_of_memoryコンピューターのメモリが不足しました。ほかのプログラムを閉じてください。Sopro には約 1 GB が必要です。
  • internalアドオン内部で問題が起きました。詳細はメッセージに表示されます。

ライセンス

アドオン
Apache-2.0
エンジン
Apache-2.0
Sopro(Samuel Vitorino 製)。ONNX Runtime は MIT
モデル
Apache-2.0
Sopro V2 Turbo の重み
既製の声
Public domain, CC-BY-4.0
LibriVox の朗読者。英語の声は LibriTTS-R 経由

商用利用に問題ありません。アドオン、Sopro、Sopro V2 Turbo のモデルは Apache-2.0 です。既製の声は LibriVox の録音で、パブリックドメインです。英語の声は CC-BY-4.0 の LibriTTS-R を経由したもので、アドオンはそれぞれのクレジットを表示しています。作成した吹き替えはあなたのものです。

バージョン

  • 26.10.1

    Voice-cloning text-to-speech for Subtitld with Sopro V2 Turbo: English, European Portuguese, French and German at 24 kHz, in the speaker's own voice cloned from the video, or in a preset voice.

    The archive holds the add-on, ONNX Runtime and the preset voice clips. The 336 MB model downloads on the first line, at a pinned revision, checked by sha256. It runs on the CPU, about twice as fast as real time.

    The add-on and the Sopro model are Apache-2.0. Each archive carries THIRD_PARTY_LICENSES/ with the licence of everything frozen into it, and the preset clips are credited in bin/_internal/sopro_addon/presets/README.md. The Linux archive carries libquadmath (LGPL-2.1, with numpy); its complete source is sopro-<version>-libquadmath-source.tar.gz in this release.

他の音声アドオン