VoxCPM2 (offline, voice clone, 30 languages)

ГолосаОфлайнGPU необязательноКлонирование голосаКоммерческое использование разрешено

Озвучивает ваши субтитры на 30 языках с помощью VoxCPM2 от OpenBMB: собственным голосом каждого говорящего, клонированным из видео, или голосом, созданным по описанию. Работает на вашем компьютере, а дополнение, код и веса лицензированы по Apache-2.0.

Установите из Subtitld

Настройки Дополнения VoxCPM2 (offline, voice clone, 30 languages) Установка

Subtitld скачает его, проверит SHA-256 и будет поддерживать его в актуальном состоянии.

Исходный код на GitHub
Языки
30
Модели
1
Голоса
9
Загрузка дополнения
205–318 MB
ОЗУ, не меньше
7 GB

Что он делает

Собственный голос говорящего

Subtitld вырезает клип каждого говорящего из видео и передаёт его вместе с произнесёнными в нём словами. VoxCPM2 продолжает этот клип, поэтому дубляж звучит как человек на экране, на любом из 30 языков.

Или голос по описанию

Семь готовых голосов, от тёплого женского до хрипловатого пожилого мужского и голоса рассказчика, или ваши собственные слова: «a young man, fast and cheerful».

Студийный звук

Речь выходит в 48 кГц — частоте, которую использует видео.

Бесплатно для коммерческой работы

Дополнение, код VoxCPM и веса VoxCPM2 лицензированы по Apache-2.0.

Перед установкой

VoxCPM2 — большая модель, 2,4 миллиарда параметров. Она даёт самый естественный дубляж среди офлайн-дополнений и больше всех нагружает компьютер:

  • Диск: около 5,6 ГБ, в основном модель на 4,96 ГБ, которая загружается при озвучивании первой реплики.
  • Память: около 7 ГБ свободной. С меньшим объёмом она работает, но намного медленнее.
  • Время: на процессоре каждая секунда речи создаётся несколько секунд: 5–6 секунд на Intel Core i7-13700T. Десятиминутное видео может занять около часа. На Mac с Apple Silicon она работает на GPU.

Для быстрого дубляжа на скромных компьютерах Piper или Kokoro гораздо легче.

Голоса

На вкладке Говорящие выберите VoxCPM2 как Движок дублирования говорящего, затем выберите Голос. Включите Подогнать дубляж под длительность субтитра, чтобы говорящий растягивал или сжимал каждую реплику под свой субтитр.

Голосов: 9.

Клонированный голос

С Speaker's own voice Subtitld вырезает образец этого говорящего из звука проекта: из одного его субтитра длиной от 3 до 12 секунд или из нескольких коротких, склеенных вместе. Если вы отделили музыку от голоса для этого видео, образец берётся только из голоса. Fallback reference clip в настройках дополнения используется, только когда образец вырезать нельзя.

Subtitld передаёт текст субтитра вместе с образцом, и VoxCPM2 продолжает его — так получается ближе всего к говорящему, включая манеру речи. Если в дубляже на другой язык остаётся акцент говорящего, включите Clone the timbre only.

Голоса по описанию

VoxCPM2 создаёт новый голос каждый раз, когда читает описание. Поэтому дополнение создаёт голос каждого говорящего один раз, и все его реплики используют этот голос: голос не меняется на протяжении видео, а два говорящих с одинаковым описанием всё равно звучат как два разных человека.

Модели

Модель одна — VoxCPM2. Она не входит в дополнение: при первом озвучивании она загружается в общий кэш моделей Subtitld с Hugging Face, с закреплённой ревизией, и каждый файл проверяется. Прерванная загрузка продолжается с того места, где остановилась. Обновление или удаление дополнения модель сохраняет.

Модель ЗагрузкаПодходит для
VoxCPM2 (2.4B) По умолчанию voxcpm2
4.7 GB
Любой голос, на всех 30 языках

Первая реплика ещё и загружает модель, поэтому занимает больше времени, чем следующие. Отмена останавливает реплику между двумя шагами или останавливает загрузку.

Настройки

В разделе «Настройки › Дополнения › VoxCPM2 (offline, voice clone, 30 languages)» нажмите «Настроить».

Inference device
По умолчанию: auto

Автоматический режим использует GPU на Mac с Apple Silicon, иначе процессор. Эта сборка не использует видеокарты NVIDIA.

Weight precision
По умолчанию: auto

Автоматический режим подходит почти любому компьютеру. float32 немного быстрее, но требует около 11 ГБ памяти.

Quality steps
По умолчанию: 10

Больше шагов — чище речь, но медленнее. 5 примерно на четверть быстрее, чем 10, с заметно менее чёткой речью.

Guidance
По умолчанию: 2

How closely the speech follows the text and the voice. VoxCPM's default is 2.0.

CPU threads
По умолчанию: 0

0 выбирает производительные ядра на процессорах, где есть и энергоэффективные. Меньше потоков — компьютер отзывчивее во время озвучивания.

Voice description
По умолчанию: пусто

Используется голосом «Voice you describe»: кто говорит и как, в нескольких словах, например «An elderly woman, soft and warm voice, slow pace». Английский подходит для любого языка.

Fallback reference clip
По умолчанию: пусто

Клип для голоса-клона, когда Subtitld не может вырезать его из видео, например если видео не открыто: от 3 до 15 секунд речи одного человека.

Fallback reference transcript
По умолчанию: пусто

Точные слова, произнесённые в клипе выше. С ними клон ближе к говорящему.

Clone the timbre only
По умолчанию: выкл.

Клонирует только звучание голоса, без манеры речи из клипа. Попробуйте, если в дубляже на другой язык остаётся акцент говорящего или если ваши субтитры пересказывают речь.

Языки

Арабский, бирманский, китайский, датский, нидерландский, английский, финский, французский, немецкий, греческий, иврит, хинди, индонезийский, итальянский, японский, кхмерский, корейский, лаосский, малайский, норвежский, польский, португальский, русский, испанский, суахили, шведский, тагальский, тайский, турецкий и вьетнамский. VoxCPM2 определяет язык по самому тексту, поэтому каждый голос говорит на каждом языке.

  • ar
  • my
  • zh
  • da
  • nl
  • en
  • fi
  • fr
  • de
  • el
  • he
  • hi
  • id
  • it
  • ja
  • km
  • ko
  • lo
  • ms
  • no
  • pl
  • pt
  • ru
  • es
  • sw
  • sv
  • tl
  • th
  • tr
  • vi

Платформы

Система ЗагрузкаПроверено
Linux x86-64 312.0 MBОзвучено реальной моделью на реальной машине; собрано и проверено в CI
macOS (Apple silicon) 318.0 MBСобрано и проверено в CI (Apple Silicon)
Windows x86-64 204.6 MBСобрано и проверено в CI

Linux x86-64, macOS на Apple Silicon и Windows x86-64. Каждый выпуск собирается на всех трёх, а CI проверяет, что в сборке есть всё нужное для синтеза речи. Саму модель CI не запускает.

Устранение неполадок

  • network_unavailableНе удалось загрузить модель. Проверьте подключение и попробуйте снова: загрузка продолжится.
  • disk_fullНедостаточно места на диске для модели. Нужно около 5 ГБ свободного места.
  • oomНе хватает памяти. Закройте другие программы; VoxCPM2 нужно около 7 ГБ свободной памяти, 11 ГБ во float32.
  • bad_paramsВ реплике нет текста, или клон не получил образца: откройте видео или задайте Fallback reference clip. В сообщении сказано, что именно.
  • unsupported_voiceПроект указывает голос, которого нет в этой версии. Выберите голос заново на вкладке Говорящие.
  • internalВнутри дополнения произошёл сбой; подробности в сообщении. Если вы меняли Inference device, верните автоматический режим.

Лицензия

Дополнение
Apache-2.0
Движок
Apache-2.0
VoxCPM, от OpenBMB
Модель
Apache-2.0
Веса VoxCPM2

Подходит для коммерческой работы: дополнение, VoxCPM и веса VoxCPM2 лицензированы по Apache-2.0. Созданный дубляж принадлежит вам. Клонированный голос звучит как реальный человек: клонируйте голоса, которые вы вправе использовать, и указывайте, что дубляж синтетический, там, где это важно.

Версии

  • 0.0.1

    Text-to-speech for Subtitld with OpenBMB's VoxCPM2: 30 languages at 48 kHz, in the speaker's own voice cloned from the video, or in a voice made from a description.

    The archive holds the add-on and a CPU build of PyTorch. The 4.96 GB model downloads on the first synthesis, at a pinned revision, checked by sha256. Plan for about 7 GB of free memory; on a CPU each second of speech takes several seconds to make.

    The add-on, VoxCPM and the VoxCPM2 weights are Apache-2.0. Each archive carries THIRD_PARTY_LICENSES/ with the licence of everything frozen into it. The Linux archive carries libquadmath (LGPL-2.1, with numpy); its complete source is voxcpm-<version>-libquadmath-source.tar.gz in this release.

Другие дополнения группы «Голоса»