Coqui XTTS (offline + voice clone)

ГолосиОфлайнGPU необов'язковийКлонування голосуНекомерційний

Клонує голос кожного мовця з кількох секунд відео та озвучує ваші субтитри 16 мовами на вашому комп’ютері. Модель вільна лише для некомерційного використання.

Встановіть його з Subtitld

Налаштування Додатки Coqui XTTS-v2 (offline + voice clone) Встановити

Subtitld завантажує його, перевіряє SHA-256 і тримає оновленим.

Джерело на GitHub
Мови
16
Моделі
3
Голоси
3
Завантаження додатка
302–443 MB
ОЗП, щонайменше
6 GB

Що це робить

Клон з відео

Оберіть Власний голос, і Subtitld передає моделі кілька секунд мовлення цього мовця, вирізаних з відео. Найкраще працює з 6 секундами або більше.

Два вбудовані голоси

XTTS female 1 і XTTS male 1 для мовців, яких ви не клонуєте.

16 мов

Модель говорить мовою проєкту або англійською, якщо мову проєкту не задано.

Завантажується один раз

Перша репліка чекає, поки модель завантажиться, а під час першого запуску ще й поки вона завантажиться з мережі; решта використовують уже завантажену. На ЦП довге речення може тривати пів хвилини.

Некомерційна модель. Ваги XTTS-v2 діють за ліцензією Coqui Public Model License (CPML): вони безкоштовні для некомерційного використання, а для будь-чого іншого потрібна платна ліцензія від Coqui. Додаток погоджується з умовами Coqui за вас, коли завантажує модель, тож ви цього не побачите; умови діють так само.

Голоси

На вкладці Мовці оберіть Coqui XTTS як Рушій дублювання мовця, а потім виберіть Голос. Власний голос розташований угорі списку. Кожна репліка виходить такої довжини, яку створює модель; увімкніть Вмістити дубляж у тривалість субтитру для мовця, щоб він розтягував або стискав її до свого субтитру.

3 голосів однією мовою.

  • en 2

Зразок для клону

Коли голос мовця — Власний голос, Subtitld вирізає зразок цього мовця з аудіо проєкту:

  • його найдовший субтитр між 3 і 12 секундами;
  • якщо жоден не підходить, перші 12 секунд довшого;
  • якщо всі коротші за 3 секунди, кілька поспіль, з’єднаних, доки не набуде 3 секунд.

XTTS найкраще працює з 6 секундами або більше, тож дайте кожному мовцеві щонайменше одну репліку тривалістю 6–12 секунд. Якщо ви відокремили музику від голосу для цього відео, зразок береться лише з голосу. Типовий еталонний голос у налаштуваннях додатка використовується лише тоді, коли зразок вирізати не вдалося, наприклад коли відео не відкрито.

Subtitld зберігає зразок кожного мовця й вирізає його знову, лише якщо аудіофайл змінився. Після перетворення реплік мовця видаліть його зразок, щоб отримати новий; його назва закінчується іменем мовця.

Система Тека
Linux ~/.cache/subtitld/clone-refs
macOS ~/Library/Caches/subtitld/clone-refs
Windows %LOCALAPPDATA%\subtitld\subtitld\Cache\clone-refs

Моделі

Одна модель, яка завантажується під час першої генерації репліки; два малі файли поруч — її налаштування та словник. Додаток тримає модель завантаженою, доки вона не буде без діла п’ять хвилин.

Модель Завантаження
xtts_v2
1.9 GB
xtts_v2_config
1 MB
xtts_v2_vocab
1 MB

Параметри

Додаток зчитує їх під час запуску, тож зміна застосовується після п’яти хвилин бездіяльності або після перезапуску Subtitld.

У Налаштуваннях › Додатки › Coqui XTTS-v2 (offline + voice clone) › Налаштувати.

Inference device
За замовчуванням: cpu

Залиште CPU. Випущені збірки створено з пакетом PyTorch для ЦП, тож CUDA з ними не працює; MPS позначено як бета.

Default voice reference (6+ seconds, mono WAV recommended)
За замовчуванням: порожньо

Кліп для копіювання, коли Subtitld не може взяти зразок мовця з відео, наприклад коли відео не відкрито. Зразок з відео завжди має пріоритет. Поки це встановлено, два вбудовані голоси також копіюють цей кліп.

Мови

Додаток передає моделі мову проєкту без регіону; якщо мову не задано, вона говорить англійською.

  • en
  • es
  • fr
  • de
  • it
  • pt
  • pl
  • tr
  • ru
  • nl
  • cs
  • ar
  • zh-cn
  • ja
  • hu
  • ko

Платформи

Система ЗавантаженняПеревірено
Linux x86-64 442.7 MBЗбирається і запускається в CI
macOS (універсальний) 323.1 MBЗбирається і запускається в CI
Windows x86-64 302.2 MBЗбирається і запускається в CI

Кожен реліз збирається в Linux, macOS і Windows, а CI перевіряє, що програма запускається й показує свої голоси. CI не генерує мовлення.

Усунення несправностей

  • bad_paramsАбо в субтитрі немає тексту, або клон не отримав зразка: Subtitld не зміг його вирізати (відео не відкрито або немає субтитрів для цього мовця), а типовий кліп не задано. Додайте текст субтитру, відкрийте відео або встановіть Типовий еталонний голос.
  • internalМодель не завантажилася або не змогла озвучити репліку; повідомлення вказує, яка саме. Невдале завантаження під час першого використання теж сюди призводить: перевірте з’єднання та вільне місце на диску й спробуйте ще раз. Також перевірте, чи мова проєкту входить до перелічених вище.

Ліцензія

Додаток
MIT
Рушій
MPL-2.0
coqui-ai-TTS (форк idiap)
Моделі
CPML
Ваги XTTS-v2; некомерційні без ліцензії Coqui

Не для комерційної роботи, якщо у вас немає комерційної ліцензії від Coqui на ваги XTTS-v2. Власний код додатка має ліцензію MIT.

Версії

  • 1.0.7

    Automated release for coqui-xtts v1.0.7.

Інші додатки групи «Голоси»