Ming-3.0-tts (offline, voice clone, 7 languages)

音声オフラインCPU のみ音声クローン商用利用可

inclusionAI の Ming-3.0-tts を使い、字幕を中国語、英語、日本語、韓国語、ドイツ語、フランス語、スペイン語で吹き替えます。声は、動画からクローンした各話者自身の声、内蔵の声のいずれか、または説明文から作った声で、感情と速さを調整できます。お使いのコンピューター上で動作し、アドオン、コード、重みはすべて商用利用も無料です。

Subtitld からインストール

設定 アドオン Ming-3.0-tts (offline, voice clone, 7 languages) インストール

Subtitld がダウンロードして SHA-256 を確認し、最新の状態に保ちます。

GitHub のソース
言語
7
モデル
1
音声
12
アドオンのダウンロード
216–336 MB
RAM(最低)
5 GB

機能

話者自身の声

Subtitld は動画から各話者のクリップを切り出し、そこで話されている言葉と一緒に送ります。Ming-3.0-tts はそのクリップの続きとして話すため、吹き替えは画面の人物の声に聞こえます。7言語のどれでも使えます。

内蔵の声、または説明した声

モデルが学習した5つの声はどのセリフでも同じ声です。または短い言葉から作る声:温かい女性の声からナレーターまでの5つの既製の声か、自分で書いた説明。

感情と話す速さ

クローンした声や説明した声に、うれしそうに、悲しそうに、怒って、驚いて話させたり、速く、遅く、高く、低く話させたりできます。

商用利用も無料

アドオンは Apache-2.0、Ming-3.0-tts のコードと重みは MIT です。

インストールの前に

Ming-3.0-tts は、音声コーデックを含めて約 15 億パラメーターの大きなモデルです。コンピューターへの負担が大きくなります:

  • ディスク: 約 3.4 GB。その大半は 2.99 GB のモデルで、最初のセリフを吹き替えるときにダウンロードされます。
  • メモリ: 約 5 GB の空き。少なくても動きますが、ずっと遅くなります。
  • 時間: CPU では、音声1秒の生成に約4〜5秒かかります(Intel Core i7-13700T の場合)。10分の動画で約45分かかることがあります。

性能が控えめなコンピューターで手早く吹き替えるなら、Piper や Kokoro のほうがずっと軽量です。

声

話者タブで、話者の吹き替えエンジンとして Ming-3.0-tts を選び、ボイスを選びます。各セリフを字幕に合わせて伸縮するには、その話者の吹き替えを字幕の長さに合わせるをオンにしてください。

音声 12 種.

クローンした声

Speaker's own voice を選ぶと、Subtitld はプロジェクトの音声からその話者のサンプルを切り出します。3〜12秒の字幕1つから、または短い字幕をいくつかつなげて作ります。この動画で音楽と声を分離している場合は、サンプルは声だけから取られます。アドオンの設定の Fallback reference clip は、サンプルを切り出せない場合にのみ使われます。

Subtitld はサンプルと一緒に字幕のテキストを送り、Ming-3.0-tts はその続きとして話します。これが話し方も含めて最も話者に近づく方法です。別の言語への吹き替えに話者のなまりが残る場合は、Clone the timbre only をオンにしてください。

内蔵の声

Emma(アメリカ英語)、George と Charlotte(イギリス英語)、Ling Xiaorou(灵小柔)と Ling Kai(灵楷)(中国語)は、モデルが学習した話者です。どの声もすべてのセリフで同じように聞こえ、7言語すべてを話します。

説明した声

Ming-3.0-tts は説明文を読むたびに新しい声を作ります。そのためアドオンは各話者の声を一度だけ作り、その話者のすべてのセリフで使い回します。こうして声は動画を通して変わらず、同じ説明を与えた2人の話者も別々の人に聞こえます。

感情、速さ、高さ、音量

これらはアドオンの設定なので、クローンした声や説明した声で吹き替えるすべての話者に適用されます。モデル自身の調整機能で、話者の声の音色は取り入れますが、話し方は取り入れません。また、同時に使えるのは1つだけで、感情を設定すると速さ、高さ、音量より優先されます。内蔵の声では無視されます。

中国語か英語のセリフでは、テキストに書き込んだ音もモデルが出します:[Laughter]、[Sigh]、[Breathing]、[Cough]、[Uhm] など。

モデル

モデルは Ming-3.0-tts-0.5B の1つだけです。アドオンには含まれておらず、最初に吹き替えるときに、固定されたリビジョンで Hugging Face から Subtitld の共有モデルキャッシュへダウンロードされ、各ファイルが確認されます。中断したダウンロードは、止まったところから再開します。アドオンを更新・削除してもモデルは残ります。

モデル ダウンロード向いている用途
Ming-3.0-tts (0.5B) 既定 ming-3.0-tts-0.5b
2.9 GB
すべての声、7言語すべて

最初のセリフではモデルの読み込みも行うため、2つ目以降より時間がかかります。キャンセルはステップの合間でセリフを止めるか、ダウンロードを止めます。

オプション

設定 › アドオン › Ming-3.0-tts (offline, voice clone, 7 languages) › 設定 で変更できます。

Inference device
既定値: auto

「自動」はプロセッサーを使います。Apple Silicon の Mac の GPU も選べますが、試していません。このビルドは NVIDIA のグラフィックスカードを使いません。

CPU threads
既定値: 0

0 にすると、効率コアも持つ CPU では性能コアを選びます。スレッドを減らすと、吹き替え中もコンピューターが軽快に動きます。

Emotion
既定値: none

クローンした声や説明した声のすべてのセリフを、この感情で話します。声の音色は保ちますが話者の話し方は保たず、速さ、高さ、音量より優先されます。内蔵の声では無視されます。

Speed
既定値: normal

クローンした声と説明した声で、感情を設定していないときに使われます。感情と同じく、声の音色だけを保ちます。

Pitch
既定値: normal

速さと同じく、クローンした声と説明した声で、感情を設定していないときに使われます。

Volume
既定値: normal

速さと同じく、クローンした声と説明した声で、感情を設定していないときに使われます。

Voice description
既定値: 空

「Voice you describe」の声で使われます。誰がどのように話すかを短く書きます。例:「An elderly woman, soft and warm voice, slow pace」。英語か中国語の説明はどの言語でも使えます。

Fallback reference clip
既定値: 空

Subtitld が動画からクリップを切り出せない場合(例:動画が開かれていない場合)に、クローン音声に使うクリップです。1人が話している3〜10秒の音声にしてください。

Fallback reference transcript
既定値: 空

上のクリップで話されている言葉そのものです。これがあると、クローンは話者により近づきます。

Clone the timbre only
既定値: オフ

クリップの話し方はまねず、声の音色だけをクローンします。別の言語への吹き替えに話者のなまりが残る場合や、字幕が発言を言い換えている場合に試してください。

言語

中国語、英語、日本語、韓国語、ドイツ語、フランス語、スペイン語。どの声もこれらすべての言語を話します。

  • zh
  • en
  • ja
  • ko
  • de
  • fr
  • es

プラットフォーム

システム ダウンロード動作確認
Linux x86-64 321.2 MB実機で実際のモデルを使って吹き替え
macOS (Apple シリコン) 335.7 MBCI でビルドと確認(Apple Silicon)
Windows x86-64 216.4 MBCI でビルドと確認

Linux x86-64、Apple Silicon の macOS、Windows x86-64。各リリースは3つすべてでビルドされ、CI は話すのに必要なものがすべてビルドに含まれていることを確認します。CI ではモデル自体は実行しません。

トラブルシューティング

  • network_unavailableモデルをダウンロードできませんでした。接続を確認して、もう一度試してください。ダウンロードは再開されます。
  • disk_fullモデルに必要なディスク容量がありません。約 3.4 GB の空きが必要です。
  • oomメモリが不足しています。ほかのプログラムを閉じてください。Ming-3.0-tts には約 5 GB の空きが必要です。
  • bad_paramsセリフにテキストがないか、クローンの声にサンプルがないか、Voice you describe に説明がありません。どれかはメッセージに表示されます。動画を開くか、Fallback reference clip を設定するか、Voice description を書いてください。
  • unsupported_voiceプロジェクトに、このバージョンにない声が指定されています。話者タブで声を選び直してください。
  • internalアドオン内部で問題が起きました。詳細はメッセージに表示されます。Inference device を変更していた場合は、「自動」に戻してください。

ライセンス

アドオン
Apache-2.0
エンジン
MIT
Ming-3.0-tts(inclusionAI 製、Ant Group)
モデル
MIT
Ming-3.0-tts-0.5B の重み

商用利用に問題ありません。アドオンは Apache-2.0、Ming-3.0-tts のコードと Ming-3.0-tts-0.5B の重みは MIT です。作成した吹き替えはあなたのものです。クローンした声は実在の人物のように聞こえます。使う権利のある声だけをクローンし、必要な場面では吹き替えが合成音声であることを明示してください。

バージョン

  • 26.10.1

    Text-to-speech for Subtitld with inclusionAI's Ming-3.0-tts-0.5B: Chinese, English, Japanese, Korean, German, French and Spanish at 44.1 kHz, in the speaker's own voice cloned from the video, in a built-in voice, or in a voice made from a description, with emotion and speed controls.

    The archive holds the add-on and a CPU build of PyTorch. The 2.99 GB model downloads on the first synthesis, at a pinned revision, checked by sha256. Plan for about 5 GB of free memory; on a CPU each second of speech takes about four seconds to make.

    The add-on is Apache-2.0; Ming-3.0-tts's code and weights are MIT. Each archive carries THIRD_PARTY_LICENSES/ with the licence of everything frozen into it. The Linux archive carries libquadmath (LGPL-2.1, with numpy); its complete source is ming-<version>-libquadmath-source.tar.gz in this release.

他の音声アドオン