VoxCPM2 (offline, voice clone, 30 languages)

VocesSin conexiónGPU opcionalClonación de vozUso comercial permitido

Dobla tus subtítulos en 30 idiomas con VoxCPM2 de OpenBMB, con la propia voz de cada hablante clonada del vídeo, o con una voz creada a partir de una descripción. Funciona en tu propio ordenador, y el complemento, el código y los pesos son todos Apache-2.0.

Instálalo desde Subtitld

Ajustes Complementos VoxCPM2 (offline, voice clone, 30 languages) Instalar

Subtitld lo descarga, comprueba su SHA-256 y lo mantiene actualizado.

Código fuente en GitHub
Idiomas
30
Modelos
1
Voces
9
Descarga del complemento
205–318 MB
RAM, como mínimo
7 GB

Qué hace

La propia voz del hablante

Subtitld recorta del vídeo un clip de cada hablante y lo envía con las palabras que se dicen en él. VoxCPM2 continúa a partir de ese clip, así que el doblaje suena como la persona en pantalla, en cualquiera de sus 30 idiomas.

O una voz que describes

Siete voces listas, desde una mujer de voz cálida hasta un hombre mayor de voz ronca y un narrador, o tus propias palabras: "un hombre joven, rápido y alegre".

Sonido de estudio

La voz sale a 48 kHz, la frecuencia que usa el vídeo.

Libre para uso comercial

El complemento, el código de VoxCPM y los pesos de VoxCPM2 son todos Apache-2.0.

Antes de instalar

VoxCPM2 es un modelo grande, de 2400 millones de parámetros. Da los doblajes más naturales de los complementos sin conexión, y es el que más exige a tu ordenador:

  • Disco: unos 5,6 GB, casi todo el modelo de 4,96 GB, que se descarga con la primera línea que dobles.
  • Memoria: unos 7 GB libres. Con menos sigue funcionando, pero mucho más lento.
  • Tiempo: en una CPU, cada segundo de voz tarda varios segundos en generarse: de 5 a 6 segundos en un Intel Core i7-13700T. Un vídeo de diez minutos puede tardar cerca de una hora. En un Mac con Apple Silicon funciona en la GPU.

Para doblajes rápidos en ordenadores modestos, Piper o Kokoro son mucho más ligeros.

Voces

En la pestaña Hablantes, elige VoxCPM2 como Motor de doblaje de un hablante y luego elige una Voz. Activa Ajustar el doblaje a la duración del subtítulo para que cada línea de ese hablante se estire o se comprima hasta su subtítulo.

9 voces.

La voz clonada

Con Speaker's own voice, Subtitld recorta una muestra de ese hablante del audio del proyecto, de uno de sus subtítulos de 3 a 12 segundos, o de varios cortos unidos. Si separaste la música de la voz en este vídeo, la muestra sale solo de la voz. El Fallback reference clip de los ajustes del complemento solo se usa cuando no se puede recortar ninguna muestra.

Subtitld envía el texto del subtítulo con la muestra, y VoxCPM2 continúa a partir de ella, que es lo que más se acerca al hablante, incluida su forma de hablar. Si un doblaje a otro idioma conserva el acento del hablante, activa Clone the timbre only.

Voces descritas

VoxCPM2 crea una voz nueva cada vez que lee una descripción. Por eso el complemento crea la voz de cada hablante una sola vez, y todas las líneas de ese hablante la reutilizan: la voz se mantiene igual a lo largo del vídeo, y dos hablantes con la misma descripción siguen sonando como dos personas.

Modelos

Hay un único modelo, VoxCPM2. No viene dentro del complemento: se descarga en la caché de modelos compartida de Subtitld la primera vez que doblas, desde Hugging Face en una revisión fija, con cada archivo comprobado. Una descarga interrumpida continúa donde se quedó. Actualizar o quitar el complemento conserva el modelo.

Modelo DescargaIdeal para
VoxCPM2 (2.4B) Predeterminado voxcpm2
4.7 GB
Todas las voces, en los 30 idiomas

La primera línea también carga el modelo, así que tarda más que las siguientes. Cancelar detiene una línea entre dos pasos, o detiene la descarga.

Opciones

En Ajustes › Complementos › VoxCPM2 (offline, voice clone, 30 languages) › Configurar.

Inference device
Predeterminado: auto

Automático usa la GPU de un Mac con Apple Silicon; si no, la CPU. Esta versión no usa tarjetas gráficas NVIDIA.

Weight precision
Predeterminado: auto

Automático sirve para casi cualquier ordenador. float32 es algo más rápido, pero necesita unos 11 GB de memoria.

Quality steps
Predeterminado: 10

Más pasos, habla más clara, más lento. 5 es aproximadamente un cuarto más rápido que 10, con una claridad audiblemente menor.

Guidance
Predeterminado: 2

How closely the speech follows the text and the voice. VoxCPM's default is 2.0.

CPU threads
Predeterminado: 0

0 elige los núcleos de rendimiento en las CPU que también tienen núcleos de eficiencia. Menos hilos mantienen el ordenador más ágil mientras dobla.

Voice description
Predeterminado: vacío

La usa la voz "Voz que describes": quién habla y cómo, en pocas palabras, por ejemplo "An elderly woman, soft and warm voice, slow pace". El inglés funciona para todos los idiomas.

Fallback reference clip
Predeterminado: vacío

Un clip para la voz clonada cuando Subtitld no puede recortar uno del vídeo, por ejemplo sin ningún vídeo abierto: de 3 a 15 segundos de una persona hablando.

Fallback reference transcript
Predeterminado: vacío

Las palabras exactas que se dicen en el clip anterior. Con ellas, la clonación se acerca más al hablante.

Clone the timbre only
Predeterminado: desactivado

Clona solo el sonido de la voz, no la forma de hablar del clip. Pruébalo cuando un doblaje a otro idioma conserva el acento del hablante, o cuando tus subtítulos parafrasean lo que se dice.

Idiomas

Árabe, birmano, chino, danés, neerlandés, inglés, finés, francés, alemán, griego, hebreo, hindi, indonesio, italiano, japonés, jemer, coreano, lao, malayo, noruego, polaco, portugués, ruso, español, suajili, sueco, tagalo, tailandés, turco y vietnamita. VoxCPM2 reconoce el idioma por el propio texto, así que cada voz habla todos los idiomas.

  • ar
  • my
  • zh
  • da
  • nl
  • en
  • fi
  • fr
  • de
  • el
  • he
  • hi
  • id
  • it
  • ja
  • km
  • ko
  • lo
  • ms
  • no
  • pl
  • pt
  • ru
  • es
  • sw
  • sv
  • tl
  • th
  • tr
  • vi

Plataformas

Sistema DescargaProbado
Linux x86-64 312.0 MBDoblado con el modelo real en una máquina real; compilado y comprobado en CI
macOS (Apple silicon) 318.0 MBCompilado y comprobado en CI (Apple Silicon)
Windows x86-64 204.6 MBCompilado y comprobado en CI

Linux x86-64, macOS en Apple Silicon y Windows x86-64. Cada versión se compila en los tres, y la CI comprueba que todo lo necesario para hablar está en la compilación. La CI no ejecuta el modelo en sí.

Solución de problemas

  • network_unavailableNo se pudo descargar el modelo. Comprueba tu conexión y vuelve a intentarlo: la descarga continúa donde se quedó.
  • disk_fullNo hay espacio en disco suficiente para el modelo. Necesita unos 5 GB libres.
  • oomMemoria insuficiente. Cierra otros programas; VoxCPM2 necesita unos 7 GB libres, 11 GB en float32.
  • bad_paramsLa línea no tiene texto, o la voz clonada no recibió ninguna muestra: abre el vídeo, o define un Fallback reference clip. El mensaje dice cuál de los dos.
  • unsupported_voiceEl proyecto indica una voz que esta versión no tiene. Vuelve a elegir la voz en la pestaña Hablantes.
  • internalAlgo falló dentro del complemento; el mensaje tiene los detalles. Si cambiaste Inference device, vuelve a ponerlo en Automático.

Licencia

Complemento
Apache-2.0
Motor
Apache-2.0
VoxCPM, de OpenBMB
Modelo
Apache-2.0
Pesos de VoxCPM2

Apto para uso comercial: el complemento, VoxCPM y los pesos de VoxCPM2 son todos Apache-2.0. Los doblajes que hagas son tuyos. Una voz clonada suena como una persona real: clona voces que tengas derecho a usar, y di que un doblaje es sintético cuando importe.

Versiones

  • 0.0.1

    Text-to-speech for Subtitld with OpenBMB's VoxCPM2: 30 languages at 48 kHz, in the speaker's own voice cloned from the video, or in a voice made from a description.

    The archive holds the add-on and a CPU build of PyTorch. The 4.96 GB model downloads on the first synthesis, at a pinned revision, checked by sha256. Plan for about 7 GB of free memory; on a CPU each second of speech takes several seconds to make.

    The add-on, VoxCPM and the VoxCPM2 weights are Apache-2.0. Each archive carries THIRD_PARTY_LICENSES/ with the licence of everything frozen into it. The Linux archive carries libquadmath (LGPL-2.1, with numpy); its complete source is voxcpm-<version>-libquadmath-source.tar.gz in this release.

Otros complementos de Voces