Ming-3.0-tts (offline, voice clone, 7 languages)

ГолосиОфлайнЛише CPUКлонування голосуКомерційне використання дозволено

Озвучує ваші субтитри китайською, англійською, японською, корейською, німецькою, французькою та іспанською за допомогою Ming-3.0-tts від inclusionAI: власним голосом кожного мовця, клонованим з відео, одним із вбудованих голосів або голосом, створеним за описом, з налаштуваннями емоції та швидкості. Працює на вашому комп’ютері, а додаток, код і ваги можна безкоштовно використовувати в комерційній роботі.

Встановіть його з Subtitld

Налаштування Додатки Ming-3.0-tts (offline, voice clone, 7 languages) Встановити

Subtitld завантажує його, перевіряє SHA-256 і тримає оновленим.

Джерело на GitHub
Мови
7
Моделі
1
Голоси
12
Завантаження додатка
216–336 MB
ОЗП, щонайменше
5 GB

Що це робить

Власний голос мовця

Subtitld вирізає кліп кожного мовця з відео й передає його разом зі сказаними в ньому словами. Ming-3.0-tts продовжує цей кліп, тож дубляж звучить як людина на екрані, будь-якою з семи мов.

Вбудовані голоси або голоси за описом

П’ять голосів, на яких навчалася модель, однакових у кожній репліці, або голос, створений за кількома словами: п’ять готових, від теплого жіночого до голосу оповідача, або ваш власний опис.

Емоція й темп

Клоновані й описані голоси можуть говорити радісно, сумно, сердито чи здивовано, а також швидше, повільніше, вище чи нижче.

Безкоштовно для комерційної роботи

Додаток має ліцензію Apache-2.0; код і ваги Ming-3.0-tts — MIT.

Перед встановленням

Ming-3.0-tts — велика модель, близько 1,5 мільярда параметрів разом з аудіокодеком. Вона суттєво навантажує комп’ютер:

  • Диск: близько 3,4 ГБ, переважно модель на 2,99 ГБ, яка завантажується під час озвучування першої репліки.
  • Пам’ять: близько 5 ГБ вільної. З меншим обсягом вона працює, але значно повільніше.
  • Час: на ЦП кожна секунда мовлення створюється приблизно чотири-п’ять секунд, на Intel Core i7-13700T. Десятихвилинне відео може зайняти близько трьох чвертей години.

Для швидкого дублювання на скромних комп’ютерах Piper або Kokoro набагато легші.

Голоси

На вкладці Мовці оберіть Ming-3.0-tts як Рушій дублювання мовця, а потім виберіть Голос. Увімкніть Вмістити дубляж у тривалість субтитру для мовця, щоб він розтягував або стискав кожну репліку до свого субтитру.

12 голосів.

Клонований голос

З Speaker's own voice Subtitld вирізає зразок цього мовця з аудіо проєкту: з одного його субтитру тривалістю від 3 до 12 секунд або з кількох коротких, з’єднаних разом. Якщо ви відокремили музику від голосу для цього відео, зразок береться лише з голосу. Fallback reference clip у налаштуваннях додатка використовується лише тоді, коли зразок вирізати не вдалося.

Subtitld передає текст субтитру разом зі зразком, і Ming-3.0-tts продовжує його — так виходить найближче до мовця, включно з манерою мовлення. Якщо в дубляжі іншою мовою залишається акцент мовця, увімкніть Clone the timbre only.

Вбудовані голоси

Emma (американка), George і Charlotte (британці), Ling Xiaorou і Ling Kai (китайці) — диктори, на яких навчалася модель. Кожен звучить однаково в кожній репліці, і кожен говорить усіма сімома мовами.

Голоси за описом

Ming-3.0-tts створює новий голос щоразу, коли читає опис. Тому додаток створює голос кожного мовця один раз, і всі його репліки використовують цей голос: голос не змінюється впродовж відео, а два мовці з однаковим описом усе одно звучать як дві різні людини.

Емоція, швидкість, висота й гучність

Це налаштування додатка, тож вони застосовуються до всіх мовців, озвучених клонованим або описаним голосом. Це власні регулятори моделі: вони беруть звучання голосу мовця, але не його манеру мовлення, і діють по одному: емоція, якщо її задано, скасовує швидкість, висоту й гучність. Вбудовані голоси їх ігнорують.

У китайських та англійських репліках модель також відтворює звуки, записані в тексті: [Laughter], [Sigh], [Breathing], [Cough], [Uhm] і ще кілька.

Моделі

Модель одна — Ming-3.0-tts-0.5B. Вона не входить до додатка: під час першого озвучування вона завантажується до спільного кешу моделей Subtitld з Hugging Face, із закріпленою ревізією, і кожен файл перевіряється. Перерване завантаження продовжується з місця зупинки. Оновлення або видалення додатка модель зберігає.

Модель ЗавантаженняДобре для
Ming-3.0-tts (0.5B) За замовчуванням ming-3.0-tts-0.5b
2.9 GB
Будь-який голос, усіма сімома мовами

Перша репліка ще й завантажує модель, тож триває довше за наступні. Скасування зупиняє репліку між двома кроками або зупиняє завантаження.

Параметри

У Налаштуваннях › Додатки › Ming-3.0-tts (offline, voice clone, 7 languages) › Налаштувати.

Inference device
За замовчуванням: auto

Автоматичний режим використовує ЦП. Можна вибрати GPU на Mac з Apple Silicon, але це не перевірялося. Ця збірка не використовує відеокарти NVIDIA.

CPU threads
За замовчуванням: 0

0 обирає продуктивні ядра на ЦП, які мають і енергоефективні. Менше потоків — комп’ютер чутливіший під час озвучування.

Emotion
За замовчуванням: none

Кожна репліка клонованого або описаного голосу звучить із цією емоцією. Звучання голосу зберігається, а манера мовлення мовця — ні, і емоція скасовує швидкість, висоту та гучність. Вбудовані голоси її ігнорують.

Speed
За замовчуванням: normal

Для клонованих і описаних голосів, коли емоцію не задано. Як і емоція, зберігає лише звучання голосу.

Pitch
За замовчуванням: normal

Як швидкість: для клонованих і описаних голосів, коли емоцію не задано.

Volume
За замовчуванням: normal

Як швидкість: для клонованих і описаних голосів, коли емоцію не задано.

Voice description
За замовчуванням: порожньо

Використовується голосом «Voice you describe»: хто говорить і як, кількома словами, наприклад «An elderly woman, soft and warm voice, slow pace». Англійська або китайська підходить для будь-якої мови.

Fallback reference clip
За замовчуванням: порожньо

Кліп для голосу-клону, коли Subtitld не може вирізати його з відео, наприклад коли відео не відкрито: від 3 до 10 секунд мовлення однієї людини.

Fallback reference transcript
За замовчуванням: порожньо

Точні слова, сказані в кліпі вище. З ними клон ближчий до мовця.

Clone the timbre only
За замовчуванням: вимк.

Клонує лише звучання голосу, без манери мовлення з кліпу. Спробуйте, коли в дубляжі іншою мовою залишається акцент мовця або коли ваші субтитри переказують мовлення.

Мови

Китайська, англійська, японська, корейська, німецька, французька та іспанська. Кожен голос говорить кожною з них.

  • zh
  • en
  • ja
  • ko
  • de
  • fr
  • es

Платформи

Система ЗавантаженняПеревірено
Linux x86-64 321.2 MBОзвучено справжньою моделлю на справжньому комп’ютері
macOS (Apple silicon) 335.7 MBЗібрано й перевірено в CI (Apple Silicon)
Windows x86-64 216.4 MBЗібрано й перевірено в CI

Linux x86-64, macOS на Apple Silicon і Windows x86-64. Кожен реліз збирається на всіх трьох, а CI перевіряє, що в збірці є все потрібне для синтезу мовлення. Саму модель CI не запускає.

Усунення несправностей

  • network_unavailableНе вдалося завантажити модель. Перевірте з’єднання й спробуйте ще раз: завантаження продовжиться.
  • disk_fullНедостатньо місця на диску для моделі. Потрібно близько 3,4 ГБ вільного місця.
  • oomНедостатньо пам’яті. Закрийте інші програми; Ming-3.0-tts потребує близько 5 ГБ вільної пам’яті.
  • bad_paramsУ репліці немає тексту, клон не отримав зразка або Voice you describe не має опису. Повідомлення вказує, що саме: відкрийте відео, встановіть Fallback reference clip або напишіть Voice description.
  • unsupported_voiceПроєкт називає голос, якого немає в цій версії. Виберіть голос знову на вкладці Мовці.
  • internalУсередині додатка стався збій; подробиці в повідомленні. Якщо ви змінювали Inference device, поверніть автоматичний режим.

Ліцензія

Додаток
Apache-2.0
Рушій
MIT
Ming-3.0-tts, від inclusionAI (Ant Group)
Модель
MIT
Ваги Ming-3.0-tts-0.5B

Підходить для комерційної роботи: додаток має ліцензію Apache-2.0, а код Ming-3.0-tts і ваги Ming-3.0-tts-0.5B — MIT. Створений дубляж належить вам. Клонований голос звучить як справжня людина: клонуйте голоси, які ви маєте право використовувати, і зазначайте, що дубляж синтетичний, там, де це важливо.

Версії

  • 26.10.1

    Text-to-speech for Subtitld with inclusionAI's Ming-3.0-tts-0.5B: Chinese, English, Japanese, Korean, German, French and Spanish at 44.1 kHz, in the speaker's own voice cloned from the video, in a built-in voice, or in a voice made from a description, with emotion and speed controls.

    The archive holds the add-on and a CPU build of PyTorch. The 2.99 GB model downloads on the first synthesis, at a pinned revision, checked by sha256. Plan for about 5 GB of free memory; on a CPU each second of speech takes about four seconds to make.

    The add-on is Apache-2.0; Ming-3.0-tts's code and weights are MIT. Each archive carries THIRD_PARTY_LICENSES/ with the licence of everything frozen into it. The Linux archive carries libquadmath (LGPL-2.1, with numpy); its complete source is ming-<version>-libquadmath-source.tar.gz in this release.

Інші додатки групи «Голоси»