VoxCPM2 (offline, voice clone, 30 languages)

音声オフラインGPU は任意音声クローン商用利用可

OpenBMB の VoxCPM2 を使い、字幕を30言語で吹き替えます。声は、動画からクローンした各話者自身の声か、説明文から作った声です。お使いのコンピューター上で動作し、アドオン、コード、重みはすべて Apache-2.0 です。

Subtitld からインストール

設定 アドオン VoxCPM2 (offline, voice clone, 30 languages) インストール

Subtitld がダウンロードして SHA-256 を確認し、最新の状態に保ちます。

GitHub のソース
言語
30
モデル
1
音声
9
アドオンのダウンロード
205–318 MB
RAM(最低)
7 GB

機能

話者自身の声

Subtitld は動画から各話者のクリップを切り出し、そこで話されている言葉と一緒に送ります。VoxCPM2 はそのクリップの続きとして話すため、吹き替えは画面の人物の声に聞こえます。30言語のどれでも使えます。

または説明した声

温かい女性の声からしわがれた年配の男性、ナレーターまで、7つの既製の声。または自分の言葉で:「若い男性、早口で明るい」。

スタジオ品質の音

音声は動画と同じ 48 kHz で出力されます。

商用利用も無料

アドオン、VoxCPM のコード、VoxCPM2 の重みはすべて Apache-2.0 です。

インストールの前に

VoxCPM2 は 24 億パラメーターの大きなモデルです。オフラインのアドオンの中で最も自然な吹き替えができますが、コンピューターへの負担も最も大きくなります:

  • ディスク: 約 5.6 GB。その大半は 4.96 GB のモデルで、最初のセリフを吹き替えるときにダウンロードされます。
  • メモリ: 約 7 GB の空き。少なくても動きますが、ずっと遅くなります。
  • 時間: CPU では、音声1秒の生成に数秒かかります。Intel Core i7-13700T で5〜6秒です。10分の動画で約1時間かかることがあります。Apple Silicon の Mac では GPU で動作します。

性能が控えめなコンピューターで手早く吹き替えるなら、Piper や Kokoro のほうがずっと軽量です。

声

話者タブで、話者の吹き替えエンジンとして VoxCPM2 を選び、ボイスを選びます。各セリフを字幕に合わせて伸縮するには、その話者の吹き替えを字幕の長さに合わせるをオンにしてください。

音声 9 種.

クローンした声

Speaker's own voice を選ぶと、Subtitld はプロジェクトの音声からその話者のサンプルを切り出します。3〜12秒の字幕1つから、または短い字幕をいくつかつなげて作ります。この動画で音楽と声を分離している場合は、サンプルは声だけから取られます。アドオンの設定の Fallback reference clip は、サンプルを切り出せない場合にのみ使われます。

Subtitld はサンプルと一緒に字幕のテキストを送り、VoxCPM2 はその続きとして話します。これが話し方も含めて最も話者に近づく方法です。別の言語への吹き替えに話者のなまりが残る場合は、Clone the timbre only をオンにしてください。

説明した声

VoxCPM2 は説明文を読むたびに新しい声を作ります。そのためアドオンは各話者の声を一度だけ作り、その話者のすべてのセリフで使い回します。こうして声は動画を通して変わらず、同じ説明を与えた2人の話者も別々の人に聞こえます。

モデル

モデルは VoxCPM2 の1つだけです。アドオンには含まれておらず、最初に吹き替えるときに、固定されたリビジョンで Hugging Face から Subtitld の共有モデルキャッシュへダウンロードされ、各ファイルが確認されます。中断したダウンロードは、止まったところから再開します。アドオンを更新・削除してもモデルは残ります。

モデル ダウンロード向いている用途
VoxCPM2 (2.4B) 既定 voxcpm2
4.7 GB
すべての声、30言語すべて

最初のセリフではモデルの読み込みも行うため、2つ目以降より時間がかかります。キャンセルはステップの合間でセリフを止めるか、ダウンロードを止めます。

オプション

設定 › アドオン › VoxCPM2 (offline, voice clone, 30 languages) › 設定 で変更できます。

Inference device
既定値: auto

「自動」は Apple Silicon の Mac では GPU を、それ以外では CPU を使います。このビルドは NVIDIA のグラフィックスカードを使いません。

Weight precision
既定値: auto

「自動」はほとんどのコンピューターに適しています。float32 は少し速くなりますが、約 11 GB のメモリが必要です。

Quality steps
既定値: 10

ステップを増やすと発音がはっきりしますが、遅くなります。5 は 10 より約4分の1速くなりますが、明瞭さは聞いてわかるほど落ちます。

Guidance
既定値: 2

How closely the speech follows the text and the voice. VoxCPM's default is 2.0.

CPU threads
既定値: 0

0 にすると、効率コアも持つ CPU では性能コアを選びます。スレッドを減らすと、吹き替え中もコンピューターが軽快に動きます。

Voice description
既定値: 空

「Voice you describe」の声で使われます。誰がどのように話すかを短く書きます。例:「An elderly woman, soft and warm voice, slow pace」。英語の説明はどの言語でも使えます。

Fallback reference clip
既定値: 空

Subtitld が動画からクリップを切り出せない場合(例:動画が開かれていない場合)に、クローン音声に使うクリップです。1人が話している3〜15秒の音声にしてください。

Fallback reference transcript
既定値: 空

上のクリップで話されている言葉そのものです。これがあると、クローンは話者により近づきます。

Clone the timbre only
既定値: オフ

クリップの話し方はまねず、声の音色だけをクローンします。別の言語への吹き替えに話者のなまりが残る場合や、字幕が発言を言い換えている場合に試してください。

言語

アラビア語、ビルマ語、中国語、デンマーク語、オランダ語、英語、フィンランド語、フランス語、ドイツ語、ギリシャ語、ヘブライ語、ヒンディー語、インドネシア語、イタリア語、日本語、クメール語、韓国語、ラオ語、マレー語、ノルウェー語、ポーランド語、ポルトガル語、ロシア語、スペイン語、スワヒリ語、スウェーデン語、タガログ語、タイ語、トルコ語、ベトナム語。VoxCPM2 は言語をテキスト自体から読み取るため、どの声もすべての言語を話します。

  • ar
  • my
  • zh
  • da
  • nl
  • en
  • fi
  • fr
  • de
  • el
  • he
  • hi
  • id
  • it
  • ja
  • km
  • ko
  • lo
  • ms
  • no
  • pl
  • pt
  • ru
  • es
  • sw
  • sv
  • tl
  • th
  • tr
  • vi

プラットフォーム

システム ダウンロード動作確認
Linux x86-64 312.0 MB実機で実際のモデルを使って吹き替え。CI でビルドと確認
macOS (Apple シリコン) 318.0 MBCI でビルドと確認(Apple Silicon)
Windows x86-64 204.6 MBCI でビルドと確認

Linux x86-64、Apple Silicon の macOS、Windows x86-64。各リリースは3つすべてでビルドされ、CI は話すのに必要なものがすべてビルドに含まれていることを確認します。CI ではモデル自体は実行しません。

トラブルシューティング

  • network_unavailableモデルをダウンロードできませんでした。接続を確認して、もう一度試してください。ダウンロードは再開されます。
  • disk_fullモデルに必要なディスク容量がありません。約 5 GB の空きが必要です。
  • oomメモリが不足しています。ほかのプログラムを閉じてください。VoxCPM2 には約 7 GB、float32 では 11 GB の空きが必要です。
  • bad_paramsセリフにテキストがないか、クローンの声にサンプルがありません。動画を開くか、Fallback reference clip を設定してください。どちらかはメッセージに表示されます。
  • unsupported_voiceプロジェクトに、このバージョンにない声が指定されています。話者タブで声を選び直してください。
  • internalアドオン内部で問題が起きました。詳細はメッセージに表示されます。Inference device を変更していた場合は、「自動」に戻してください。

ライセンス

アドオン
Apache-2.0
エンジン
Apache-2.0
VoxCPM(OpenBMB 製)
モデル
Apache-2.0
VoxCPM2 の重み

商用利用に問題ありません。アドオン、VoxCPM、VoxCPM2 の重みはすべて Apache-2.0 です。作成した吹き替えはあなたのものです。クローンした声は実在の人物のように聞こえます。使う権利のある声だけをクローンし、必要な場面では吹き替えが合成音声であることを明示してください。

バージョン

  • 0.0.1

    Text-to-speech for Subtitld with OpenBMB's VoxCPM2: 30 languages at 48 kHz, in the speaker's own voice cloned from the video, or in a voice made from a description.

    The archive holds the add-on and a CPU build of PyTorch. The 4.96 GB model downloads on the first synthesis, at a pinned revision, checked by sha256. Plan for about 7 GB of free memory; on a CPU each second of speech takes several seconds to make.

    The add-on, VoxCPM and the VoxCPM2 weights are Apache-2.0. Each archive carries THIRD_PARTY_LICENSES/ with the licence of everything frozen into it. The Linux archive carries libquadmath (LGPL-2.1, with numpy); its complete source is voxcpm-<version>-libquadmath-source.tar.gz in this release.

他の音声アドオン