Ming-3.0-tts (offline, voice clone, 7 languages)

VocesSin conexiónSolo CPUClonación de vozUso comercial permitido

Dobla tus subtítulos en chino, inglés, japonés, coreano, alemán, francés y español con Ming-3.0-tts de inclusionAI, con la propia voz de cada hablante clonada del vídeo, con una de sus voces integradas, o con una voz creada a partir de una descripción, con controles de emoción y velocidad. Funciona en tu propio ordenador, y el complemento, el código y los pesos son todos libres para uso comercial.

Instálalo desde Subtitld

Ajustes Complementos Ming-3.0-tts (offline, voice clone, 7 languages) Instalar

Subtitld lo descarga, comprueba su SHA-256 y lo mantiene actualizado.

Código fuente en GitHub
Idiomas
7
Modelos
1
Voces
12
Descarga del complemento
216–336 MB
RAM, como mínimo
5 GB

Qué hace

La propia voz del hablante

Subtitld recorta del vídeo un clip de cada hablante y lo envía con las palabras que se dicen en él. Ming-3.0-tts continúa a partir de ese clip, así que el doblaje suena como la persona en pantalla, en cualquiera de sus siete idiomas.

Voces integradas o descritas

Cinco voces con las que se entrenó el modelo, iguales en cada línea, o una voz creada a partir de unas pocas palabras: cinco listas, desde una mujer de voz cálida hasta un narrador, o tu propia descripción.

Emoción y ritmo

Haz que las voces clonadas y descritas hablen alegres, tristes, enfadadas o sorprendidas, o más rápido, más lento, más agudo o más grave.

Libre para uso comercial

El complemento es Apache-2.0; el código y los pesos de Ming-3.0-tts son MIT.

Antes de instalar

Ming-3.0-tts es un modelo grande, de unos 1500 millones de parámetros contando su códec de audio. Le exige mucho a tu ordenador:

  • Disco: unos 3,4 GB, casi todo el modelo de 2,99 GB, que se descarga con la primera línea que dobles.
  • Memoria: unos 5 GB libres. Con menos sigue funcionando, pero mucho más lento.
  • Tiempo: en una CPU, cada segundo de voz tarda de cuatro a cinco segundos en generarse, en un Intel Core i7-13700T. Un vídeo de diez minutos puede tardar unos tres cuartos de hora.

Para doblajes rápidos en ordenadores modestos, Piper o Kokoro son mucho más ligeros.

Voces

En la pestaña Hablantes, elige Ming-3.0-tts como Motor de doblaje de un hablante y luego elige una Voz. Activa Ajustar el doblaje a la duración del subtítulo para que cada línea de ese hablante se estire o se comprima hasta su subtítulo.

12 voces.

La voz clonada

Con Speaker's own voice, Subtitld recorta una muestra de ese hablante del audio del proyecto, de uno de sus subtítulos de 3 a 12 segundos, o de varios cortos unidos. Si separaste la música de la voz en este vídeo, la muestra sale solo de la voz. El Fallback reference clip de los ajustes del complemento solo se usa cuando no se puede recortar ninguna muestra.

Subtitld envía el texto del subtítulo con la muestra, y Ming-3.0-tts continúa a partir de ella, que es lo que más se acerca al hablante, incluida su forma de hablar. Si un doblaje a otro idioma conserva el acento del hablante, activa Clone the timbre only.

Voces integradas

Emma (estadounidense), George y Charlotte (británicos), Ling Xiaorou y Ling Kai (chinos) son hablantes que el modelo aprendió. Cada uno suena igual en todas las líneas, y cada uno habla los siete idiomas.

Voces descritas

Ming-3.0-tts crea una voz nueva cada vez que lee una descripción. Por eso el complemento crea la voz de cada hablante una sola vez, y todas las líneas de ese hablante la reutilizan: la voz se mantiene igual a lo largo del vídeo, y dos hablantes con la misma descripción siguen sonando como dos personas.

Emoción, velocidad, tono y volumen

Son ajustes del complemento, así que se aplican a todos los hablantes doblados con una voz clonada o descrita. Son los controles propios del modelo, que toman el sonido de la voz del hablante pero no su forma de hablar, y funcionan de uno en uno: una emoción, si está definida, anula la velocidad, el tono y el volumen. Las voces integradas los ignoran.

En líneas en chino o en inglés, el modelo también produce sonidos escritos en el texto: [Laughter], [Sigh], [Breathing], [Cough], [Uhm] y algunos más.

Modelos

Hay un único modelo, Ming-3.0-tts-0.5B. No viene dentro del complemento: se descarga en la caché de modelos compartida de Subtitld la primera vez que doblas, desde Hugging Face en una revisión fija, con cada archivo comprobado. Una descarga interrumpida continúa donde se quedó. Actualizar o quitar el complemento conserva el modelo.

Modelo DescargaIdeal para
Ming-3.0-tts (0.5B) Predeterminado ming-3.0-tts-0.5b
2.9 GB
Todas las voces, en los siete idiomas

La primera línea también carga el modelo, así que tarda más que las siguientes. Cancelar detiene una línea entre dos pasos, o detiene la descarga.

Opciones

En Ajustes › Complementos › Ming-3.0-tts (offline, voice clone, 7 languages) › Configurar.

Inference device
Predeterminado: auto

Automático usa el procesador. Se puede elegir la GPU de un Mac con Apple Silicon, pero no se ha probado. Esta versión no usa tarjetas gráficas NVIDIA.

CPU threads
Predeterminado: 0

0 elige los núcleos de rendimiento en las CPU que también tienen núcleos de eficiencia. Menos hilos mantienen el ordenador más ágil mientras dobla.

Emotion
Predeterminado: none

Cada línea de una voz clonada o descrita se dice con esta emoción. Conserva el sonido de la voz pero no la forma de hablar del hablante, y anula la velocidad, el tono y el volumen. Las voces integradas la ignoran.

Speed
Predeterminado: normal

Para voces clonadas y descritas, cuando no hay ninguna emoción definida. Como la emoción, conserva solo el sonido de la voz.

Pitch
Predeterminado: normal

Como la velocidad: para voces clonadas y descritas, cuando no hay ninguna emoción definida.

Volume
Predeterminado: normal

Como la velocidad: para voces clonadas y descritas, cuando no hay ninguna emoción definida.

Voice description
Predeterminado: vacío

La usa la voz "Voz que describes": quién habla y cómo, en pocas palabras, por ejemplo "An elderly woman, soft and warm voice, slow pace". El inglés o el chino funcionan para todos los idiomas.

Fallback reference clip
Predeterminado: vacío

Un clip para la voz clonada cuando Subtitld no puede recortar uno del vídeo, por ejemplo sin ningún vídeo abierto: de 3 a 10 segundos de una persona hablando.

Fallback reference transcript
Predeterminado: vacío

Las palabras exactas que se dicen en el clip anterior. Con ellas, la clonación se acerca más al hablante.

Clone the timbre only
Predeterminado: desactivado

Clona solo el sonido de la voz, no la forma de hablar del clip. Pruébalo cuando un doblaje a otro idioma conserva el acento del hablante, o cuando tus subtítulos parafrasean lo que se dice.

Idiomas

Chino, inglés, japonés, coreano, alemán, francés y español. Cada voz habla todos ellos.

  • zh
  • en
  • ja
  • ko
  • de
  • fr
  • es

Plataformas

Sistema DescargaProbado
Linux x86-64 321.2 MBDoblado con el modelo real en una máquina real
macOS (Apple silicon) 335.7 MBCompilado y comprobado en CI (Apple Silicon)
Windows x86-64 216.4 MBCompilado y comprobado en CI

Linux x86-64, macOS en Apple Silicon y Windows x86-64. Cada versión se compila en los tres, y la CI comprueba que todo lo necesario para hablar está en la compilación. La CI no ejecuta el modelo en sí.

Solución de problemas

  • network_unavailableNo se pudo descargar el modelo. Comprueba tu conexión y vuelve a intentarlo: la descarga continúa donde se quedó.
  • disk_fullNo hay espacio en disco suficiente para el modelo. Necesita unos 3,4 GB libres.
  • oomMemoria insuficiente. Cierra otros programas; Ming-3.0-tts necesita unos 5 GB libres.
  • bad_paramsLa línea no tiene texto, la voz clonada no recibió ninguna muestra, o Voz que describes no tiene descripción. El mensaje dice cuál: abre el vídeo, define un Fallback reference clip, o escribe una Voice description.
  • unsupported_voiceEl proyecto indica una voz que esta versión no tiene. Vuelve a elegir la voz en la pestaña Hablantes.
  • internalAlgo falló dentro del complemento; el mensaje tiene los detalles. Si cambiaste Inference device, vuelve a ponerlo en Automático.

Licencia

Complemento
Apache-2.0
Motor
MIT
Ming-3.0-tts, de inclusionAI (Ant Group)
Modelo
MIT
Pesos de Ming-3.0-tts-0.5B

Apto para uso comercial: el complemento es Apache-2.0, y el código de Ming-3.0-tts y los pesos de Ming-3.0-tts-0.5B son MIT. Los doblajes que hagas son tuyos. Una voz clonada suena como una persona real: clona voces que tengas derecho a usar, y di que un doblaje es sintético cuando importe.

Versiones

  • 26.10.1

    Text-to-speech for Subtitld with inclusionAI's Ming-3.0-tts-0.5B: Chinese, English, Japanese, Korean, German, French and Spanish at 44.1 kHz, in the speaker's own voice cloned from the video, in a built-in voice, or in a voice made from a description, with emotion and speed controls.

    The archive holds the add-on and a CPU build of PyTorch. The 2.99 GB model downloads on the first synthesis, at a pinned revision, checked by sha256. Plan for about 5 GB of free memory; on a CPU each second of speech takes about four seconds to make.

    The add-on is Apache-2.0; Ming-3.0-tts's code and weights are MIT. Each archive carries THIRD_PARTY_LICENSES/ with the licence of everything frozen into it. The Linux archive carries libquadmath (LGPL-2.1, with numpy); its complete source is ming-<version>-libquadmath-source.tar.gz in this release.

Otros complementos de Voces