Sopro (offline, voice clone, 4 languages)

ГолосаОфлайнТолько CPUКлонирование голосаКоммерческое использование разрешено

Озвучивает ваши субтитры на английском, европейском португальском, французском и немецком с помощью Sopro V2 Turbo: собственным голосом каждого говорящего, клонированным из нескольких секунд видео, или одним из 8 готовых голосов. Работает на процессоре вашего компьютера, примерно вдвое быстрее реального времени, без видеокарты.

Установите из Subtitld

Настройки Дополнения Sopro (offline, voice clone, 4 languages) Установка

Subtitld скачает его, проверит SHA-256 и будет поддерживать его в актуальном состоянии.

Исходный код на GitHub
Языки
4
Модели
1
Голоса
9
Загрузка дополнения
38–61 MB
ОЗУ, не меньше
1.5 GB

Что он делает

Собственный голос говорящего

Subtitld вырезает из видео несколько секунд каждого говорящего и передаёт их с каждой репликой. Sopro клонирует этот голос, поэтому дубляж звучит как человек на экране, на любом из четырёх языков.

Быстро на любом компьютере

Sopro V2 Turbo — небольшая модель на 120 миллионов параметров. На процессоре ноутбука она говорит примерно вдвое быстрее реального времени и использует около 1 ГБ памяти.

Офлайн после первой реплики

Модель загружается один раз, когда вы впервые озвучиваете с ней. После этого ничего не покидает ваш компьютер.

Бесплатно для коммерческой работы

Дополнение, Sopro и его модель лицензированы по Apache-2.0. Готовые голоса — это чтецы LibriVox, чьи записи находятся в общественном достоянии.

Перед установкой

Sopro почти не нагружает компьютер:

  • Диск: около 340 МБ для модели, загружается при первой реплике.
  • Память: около 1 ГБ во время синтеза речи.
  • Процессор: любой 64-битный процессор Intel или AMD либо Apple Silicon. Видеокарта не используется.

Клонируйте голос только с согласия его владельца. Автор Sopro просит никогда не использовать его, чтобы выдавать себя за другого человека.

Голоса

На вкладке Говорящие выберите Sopro как Движок дублирования говорящего, затем выберите Голос. Включите Подогнать дубляж под длительность субтитра, чтобы говорящий растягивал или сжимал каждую реплику под свой субтитр.

Голосов: 9.

С Speaker's own voice Subtitld вырезает образец этого говорящего из звука проекта: из одного его субтитра или из нескольких коротких, склеенных вместе. Если вы отделили музыку от голоса для этого видео, образец берётся только из голоса. Fallback reference clip в настройках дополнения используется, только когда образец вырезать нельзя. Лучший образец — от 5 до 20 секунд речи одного говорящего, без музыки и других голосов.

Готовые голоса
Женские английский, португальский, французский, немецкий
Мужские английский, португальский, французский, немецкий

Каждый готовый голос — это доброволец LibriVox, читающий книгу на своём языке. Каждый готовый голос говорит на всех четырёх языках; его собственный язык лишь даёт ему акцент, поэтому для самого естественного дубляжа выберите голос языка вашего проекта.

Модели

У Sopro одна модель для всех четырёх языков. Она не входит в дополнение: при первом озвучивании она загружается в общий кэш моделей Subtitld с Hugging Face, с закреплённой ревизией, и каждый файл проверяется. Прерванная загрузка продолжается с того места, где остановилась. Обновление или удаление дополнения модель сохраняет.

Модель ЗагрузкаПодходит для
Sopro V2 Turbo (120M, ONNX) По умолчанию sopro-v2-turbo
336 MB
Любой голос, на всех четырёх языках, примерно 2,5× быстрее реального времени

Дополнение запускает ONNX-сборку Sopro, которую публикует его автор, без PyTorch. Мы сравнили её с официальной сборкой на PyTorch на одних и тех же репликах на всех четырёх языках: она ошибалась не чаще и звучала так же близко к говорящему.

Настройки

В разделе «Настройки › Дополнения › Sopro (offline, voice clone, 4 languages)» нажмите «Настроить».

CPU threads
По умолчанию: 0

0 использует половину логических процессоров компьютера, но не больше 8. Меньше потоков — компьютер отзывчивее во время озвучивания.

Variation
По умолчанию: 0.8

Меньше — ровнее и монотоннее, больше — живее, но чаще со сбоями. 0,8 — значение по умолчанию самого Sopro.

Fallback reference clip
По умолчанию: пусто

Клип для голоса-клона, когда Subtitld не может вырезать его из видео, например если видео не открыто: от 5 до 20 секунд речи одного человека.

Языки

Английский, европейский португальский, французский и немецкий. Текст на бразильском португальском тоже читается, но с европейским акцентом. Для проекта на любом другом языке появится сообщение об этом: выберите для него другой движок дублирования.

Там, где это важно, пишите числа и символы словами: «1 + 2» Sopro читает менее надёжно, чем «one plus two». Слово из другого языка внутри предложения может быть произнесено неправильно.

  • en
  • pt
  • fr
  • de

Платформы

Система ЗагрузкаПроверено
Linux x86-64 61.1 MBОзвучено реальной моделью на реальной машине и в CI
macOS (Apple silicon) 43.2 MBОзвучено реальной моделью в CI (Apple Silicon)
Windows x86-64 38.1 MBОзвучено реальной моделью в CI

Linux x86-64, macOS на Apple Silicon и Windows x86-64. Каждый выпуск собирается на всех трёх, и на каждой из них CI устанавливает дополнение так же, как это делает Subtitld, загружает модель и озвучивает ею.

Устранение неполадок

  • network_unavailableНе удалось загрузить модель. Проверьте подключение и попробуйте снова: загрузка продолжится.
  • disk_fullНедостаточно места на диске для модели, около 340 МБ.
  • unsupported_languageЯзык проекта не входит в эти четыре или не задан. Задайте его в проекте или выберите другой движок дублирования.
  • unsupported_voiceПроект указывает голос, которого нет в этой версии. Выберите голос заново на вкладке Говорящие.
  • bad_paramsВ реплике нет текста, или клон не получил образца: откройте видео или задайте Fallback reference clip. В сообщении сказано, что именно.
  • out_of_memoryКомпьютеру не хватило памяти. Закройте другие программы: Sopro нужно около 1 ГБ.
  • internalВнутри дополнения произошёл сбой; подробности в сообщении.

Лицензия

Дополнение
Apache-2.0
Движок
Apache-2.0
Sopro, от Samuel Vitorino; ONNX Runtime — MIT
Модель
Apache-2.0
Веса Sopro V2 Turbo
Готовые голоса
Public domain, CC-BY-4.0
Чтецы LibriVox; английские — через LibriTTS-R

Подходит для коммерческой работы: дополнение, Sopro и модель Sopro V2 Turbo лицензированы по Apache-2.0. Готовые голоса — записи LibriVox в общественном достоянии; английские взяты через LibriTTS-R под CC-BY-4.0, и дополнение указывает авторство каждой из них. Созданный дубляж принадлежит вам.

Версии

  • 26.10.1

    Voice-cloning text-to-speech for Subtitld with Sopro V2 Turbo: English, European Portuguese, French and German at 24 kHz, in the speaker's own voice cloned from the video, or in a preset voice.

    The archive holds the add-on, ONNX Runtime and the preset voice clips. The 336 MB model downloads on the first line, at a pinned revision, checked by sha256. It runs on the CPU, about twice as fast as real time.

    The add-on and the Sopro model are Apache-2.0. Each archive carries THIRD_PARTY_LICENSES/ with the licence of everything frozen into it, and the preset clips are credited in bin/_internal/sopro_addon/presets/README.md. The Linux archive carries libquadmath (LGPL-2.1, with numpy); its complete source is sopro-<version>-libquadmath-source.tar.gz in this release.

Другие дополнения группы «Голоса»