VoxCPM2 (offline, voice clone, 30 languages)

HlasyOfflineGPU volitelnéKlonování hlasuKomerční použití povoleno

Nadabuje vaše titulky ve 30 jazycích pomocí VoxCPM2 od OpenBMB, vlastním hlasem každého mluvčího naklonovaným z videa, nebo hlasem vytvořeným podle popisu. Běží na vašem vlastním počítači a doplněk, kód i váhy jsou všechny pod Apache-2.0.

Nainstalujte ho z Subtitld

Nastavení Doplňky VoxCPM2 (offline, voice clone, 30 languages) Instalovat

Subtitld ho stáhne, ověří jeho SHA-256 a bude ho udržovat aktuální.

Zdrojový kód na GitHubu
Jazyky
30
Modely
1
Hlasy
9
Stažení doplňku
205–318 MB
RAM, alespoň
7 GB

Co dělá

Vlastní hlas mluvčího

Subtitld vystřihne z videa klip každého mluvčího a pošle ho se slovy, která v něm zazní. VoxCPM2 na ten klip navazuje, takže dabing zní jako osoba na obrazovce, v kterémkoli z jeho 30 jazyků.

Nebo hlas, který popíšete

Sedm hotových hlasů, od vřelého ženského po chraplavého staršího muže a vypravěče, nebo vaše vlastní slova: „a young man, fast and cheerful“.

Studiový zvuk

Řeč vychází v 48 kHz, frekvenci, kterou používá video.

Volné pro komerční práci

Doplněk, kód VoxCPM i váhy VoxCPM2 jsou všechny pod Apache-2.0.

Před instalací

VoxCPM2 je velký model s 2,4 miliardy parametrů. Dává nejpřirozenější dabing ze všech offline doplňků a nejvíc vyžaduje od vašeho počítače:

  • Disk: asi 5,6 GB, z toho většinu tvoří model o velikosti 4,96 GB, stažený při prvním řádku, který dabujete.
  • Paměť: asi 7 GB volných. S méně stále běží, ale mnohem pomaleji.
  • Čas: na CPU trvá každá sekunda řeči několik sekund: 5 až 6 sekund na Intel Core i7-13700T. Desetiminutové video může trvat asi hodinu. Na Macu s Apple Silicon běží na GPU.

Pro rychlý dabing na skromnějších počítačích jsou Piper nebo Kokoro mnohem lehčí.

Hlasy

V záložce Mluvčí zvolte u mluvčího VoxCPM2 jako Modul dabingu, poté vyberte Hlas. Zapněte Přizpůsobit dabing délce titulku, aby mluvčí každý řádek natáhl nebo stlačil na délku jeho titulku.

9 hlasů.

Klonovaný hlas

S Speaker's own voice Subtitld vystřihne z audia projektu vzorek tohoto mluvčího, z jednoho jeho titulku o délce 3 až 12 sekund, nebo z několika krátkých spojených. Pokud jste pro toto video oddělili hudbu od hlasu, vzorek pochází jen z hlasu. Fallback reference clip v nastavení doplňku se použije jen tehdy, když vzorek vystřihnout nelze.

Subtitld pošle se vzorkem text titulku a VoxCPM2 na něj naváže, čímž se mluvčímu přiblíží nejvíc, včetně projevu. Pokud dabing do jiného jazyka drží přízvuk mluvčího, zapněte Clone the timbre only.

Popsané hlasy

VoxCPM2 si při každém čtení popisu vymyslí nový hlas. Proto doplněk vytvoří hlas každého mluvčího jednou a každý řádek tohoto mluvčího ho použije znovu: hlas zůstává stejný po celé video a dva mluvčí se stejným popisem stále znějí jako dva lidé.

Modely

Je jen jeden model, VoxCPM2. Není uvnitř doplňku: stáhne se do sdílené mezipaměti modelů Subtitld při prvním dabingu, z Hugging Face v pevně dané revizi, s každým souborem ověřeným. Přerušené stahování pokračuje tam, kde skončilo. Aktualizace nebo odstranění doplňku model ponechá.

Model StaženíVhodné pro
VoxCPM2 (2.4B) Výchozí voxcpm2
4.7 GB
Každý hlas, ve všech 30 jazycích

První řádek také načítá model, takže trvá déle než ty další. Zrušit zastaví řádek mezi dvěma kroky, nebo zastaví stahování.

Možnosti

V Nastavení › Doplňky › VoxCPM2 (offline, voice clone, 30 languages) › Nastavit.

Inference device
Výchozí: auto

Automaticky použije GPU Macu s Apple Silicon, jinak CPU. Toto sestavení nepoužívá grafické karty NVIDIA.

Weight precision
Výchozí: auto

Automaticky vyhovuje téměř každému počítači. float32 je o něco rychlejší, ale potřebuje asi 11 GB paměti.

Quality steps
Výchozí: 10

Víc kroků, zřetelnější řeč, pomaleji. 5 je asi o čtvrtinu rychlejší než 10, se slyšitelně menší zřetelností.

Guidance
Výchozí: 2

How closely the speech follows the text and the voice. VoxCPM's default is 2.0.

CPU threads
Výchozí: 0

0 vybere výkonná jádra u procesorů, které mají i úsporná jádra. Méně vláken nechá počítač během dabingu lépe reagovat.

Voice description
Výchozí: prázdné

Používá ho hlas „Voice you describe“: kdo mluví a jak, několika slovy, například „An elderly woman, soft and warm voice, slow pace“. Angličtina funguje pro každý jazyk.

Fallback reference clip
Výchozí: prázdné

Klip pro klonovaný hlas, když ho Subtitld nemůže vystřihnout z videa, například když není otevřené žádné video: 3 až 15 sekund, kdy mluví jedna osoba.

Fallback reference transcript
Výchozí: prázdné

Přesná slova vyslovená v klipu výše. S nimi se klon víc přiblíží mluvčímu.

Clone the timbre only
Výchozí: vypnuto

Klonuje jen zvuk hlasu, ne projev z klipu. Zkuste to, když dabing do jiného jazyka drží přízvuk mluvčího, nebo když vaše titulky řečené parafrázují.

Jazyky

Arabština, barmština, čínština, dánština, angličtina, finština, francouzština, němčina, řečtina, hebrejština, hindština, indonéština, italština, japonština, khmerština, korejština, laoština, malajština, nizozemština, norština, polština, portugalština, ruština, španělština, svahilština, švédština, tagalština, thajština, turečtina a vietnamština. VoxCPM2 pozná jazyk ze samotného textu, takže každý hlas mluví každým jazykem.

  • ar
  • my
  • zh
  • da
  • nl
  • en
  • fi
  • fr
  • de
  • el
  • he
  • hi
  • id
  • it
  • ja
  • km
  • ko
  • lo
  • ms
  • no
  • pl
  • pt
  • ru
  • es
  • sw
  • sv
  • tl
  • th
  • tr
  • vi

Platformy

Systém StaženíOtestováno
Linux x86-64 312.0 MBNadabováno skutečným modelem na skutečném počítači; sestaveno a ověřeno v CI
macOS (Apple silicon) 318.0 MBSestaveno a ověřeno v CI (Apple Silicon)
Windows x86-64 204.6 MBSestaveno a ověřeno v CI

Linux x86-64, macOS na Apple Silicon a Windows x86-64. Každé vydání je sestaveno na všech třech a CI ověří, že sestavení obsahuje vše potřebné k mluvení. CI samotný model nespouští.

Řešení potíží

  • network_unavailableModel se nepodařilo stáhnout. Zkontrolujte připojení a zkuste to znovu: stahování bude pokračovat.
  • disk_fullNa disku není dost místa pro model. Potřebuje asi 5 GB volného místa.
  • oomNedostatek paměti. Zavřete jiné programy; VoxCPM2 potřebuje asi 7 GB volných, 11 GB ve float32.
  • bad_paramsŘádek nemá text, nebo klonovaný hlas nedostal vzorek: otevřete video, nebo nastavte Fallback reference clip. Zpráva uvede, které.
  • unsupported_voiceProjekt uvádí hlas, který tato verze nemá. Vyberte hlas znovu v záložce Mluvčí.
  • internalUvnitř doplňku něco selhalo; zpráva obsahuje podrobnosti. Pokud jste změnili Inference device, vraťte ho na Automaticky.

Licence

Doplněk
Apache-2.0
Engine
Apache-2.0
VoxCPM od OpenBMB
Model
Apache-2.0
Váhy VoxCPM2

Vhodné pro komerční práci: doplněk, VoxCPM i váhy VoxCPM2 jsou všechny pod Apache-2.0. Dabing, který vytvoříte, je váš. Klonovaný hlas zní jako skutečná osoba: klonujte jen hlasy, které máte právo použít, a tam, kde na tom záleží, uveďte, že dabing je syntetický.

Verze

  • 0.0.1

    Text-to-speech for Subtitld with OpenBMB's VoxCPM2: 30 languages at 48 kHz, in the speaker's own voice cloned from the video, or in a voice made from a description.

    The archive holds the add-on and a CPU build of PyTorch. The 4.96 GB model downloads on the first synthesis, at a pinned revision, checked by sha256. Plan for about 7 GB of free memory; on a CPU each second of speech takes several seconds to make.

    The add-on, VoxCPM and the VoxCPM2 weights are Apache-2.0. Each archive carries THIRD_PARTY_LICENSES/ with the licence of everything frozen into it. The Linux archive carries libquadmath (LGPL-2.1, with numpy); its complete source is voxcpm-<version>-libquadmath-source.tar.gz in this release.

Další doplňky skupiny Hlasy

Aktualizováno · Z katalogu doplňků Nahlásit problém s tímto doplňkem