Coqui XTTS (offline + voice clone)

语音离线可选 GPU语音克隆非商用

从视频中几秒钟的声音为每位说话人克隆声音,并以 16 种语言朗读你的字幕,在你自己的电脑上完成。该模型仅可用于非商业用途。

在 Subtitld 中安装

设置 插件 Coqui XTTS-v2 (offline + voice clone) 安装

Subtitld 会下载它、校验其 SHA-256,并保持更新。

GitHub 上的源代码
语言
16
模型
3
语音
3
插件下载量
302–443 MB
内存,至少
6 GB

功能说明

从视频中克隆

选择 Custom voice,Subtitld 会从视频中剪出该说话人几秒钟的声音交给模型。时长在 6 秒或以上时效果最好。

两个内置声音

XTTS female 1 和 XTTS male 1,用于你不想克隆的说话人。

16 种语言

它使用项目的语言朗读;若项目未设置语言,则使用英语。

只加载一次

第一句台词要等待模型加载,首次还要等待下载;之后的台词直接复用。在 CPU 上,一个长句子可能需要半分钟。

非商业模型。 XTTS-v2 权重采用 Coqui 公共模型许可(CPML):可免费用于非商业用途,任何其他用途都需要向 Coqui 购买许可。插件在加载模型时会代你同意 Coqui 的条款提示,因此你不会看到它;但这些条款照样适用。

声音

在 说话人 标签页中,把 Coqui XTTS 设为某位说话人的 配音引擎,然后选择一个 音色。Custom voice 位于列表顶部。每句台词的长度由模型决定;开启 让配音适配字幕时长,即可让该说话人的台词拉伸或压缩,以适配字幕。

3 种语音 支持 1 种语言.

  • en 2

克隆用的样本

当某位说话人的音色为 Custom voice 时,Subtitld 会从项目的音频中为该说话人剪出一段样本:

  • 时长在 3 到 12 秒之间的最长一条字幕;
  • 如果没有符合条件的,则取较长字幕的前 12 秒;
  • 如果所有字幕都不足 3 秒,则连续取几条,拼接到至少 3 秒。

XTTS 在 6 秒或以上时效果最好,因此请确保每位说话人至少有一句时长在 6 到 12 秒之间的台词。如果你已为本视频分离出了音乐和人声,样本只取自人声。插件设置中的 Default voice reference 仅在无法剪出样本时使用,例如没有打开视频的时候。

Subtitld 会保存每位说话人的样本,只有在音频文件改变时才会重新剪取。重新调整了某位说话人台词的时间之后,请删除其样本以获得新的样本;样本的文件名以该说话人的名字结尾。

系统 文件夹
Linux ~/.cache/subtitld/clone-refs
macOS ~/Library/Caches/subtitld/clone-refs
Windows %LOCALAPPDATA%\subtitld\subtitld\Cache\clone-refs

模型

只有一个模型,在你第一次生成台词时下载;旁边的两个小文件是它的设置和词表。插件会在模型闲置五分钟之前一直保持其加载状态。

模型 下载
xtts_v2
1.9 GB
xtts_v2_config
1 MB
xtts_v2_vocab
1 MB

选项

插件在启动时读取这些设置,因此更改会在它闲置五分钟后,或在你重启 Subtitld 后生效。

在 设置 › 插件 › Coqui XTTS-v2 (offline + voice clone) › 配置 中。

Inference device
默认: cpu

请保持为 CPU。发布的构建版本使用 PyTorch 的 CPU 包,因此 CUDA 无法在其中运行;MPS 标记为测试版。

Default voice reference (6+ seconds, mono WAV recommended)
默认: 空

当 Subtitld 无法从视频中取得该说话人的样本时(例如没有打开视频),供复制的一段音频。来自视频的样本始终优先。设置此项后,两个内置声音也会复制这段音频。

语言

插件会把项目的语言(去掉地区)传给模型;若未设置语言,则使用英语朗读。

  • en
  • es
  • fr
  • de
  • it
  • pt
  • pl
  • tr
  • ru
  • nl
  • cs
  • ar
  • zh-cn
  • ja
  • hu
  • ko

平台

系统 下载已测试
Linux x86-64 442.7 MB在 CI 中构建并启动
macOS (通用) 323.1 MB在 CI 中构建并启动
Windows x86-64 302.2 MB在 CI 中构建并启动

每个版本都在 Linux、macOS 和 Windows 上构建,CI 会检查程序能否启动并列出其声音。CI 不生成语音。

故障排除

  • bad_params要么字幕没有文字,要么克隆无法获得样本:Subtitld 无法剪出样本(没有打开视频,或该说话人没有字幕),而且没有设置默认音频。请为字幕添加文字、打开视频,或设置 Default voice reference。
  • internal模型无法加载,或无法朗读该台词;错误信息会说明是哪一步。首次使用时下载失败也会归入此类:请检查网络连接和剩余磁盘空间后重试。同时请确认项目的语言是上面列出的语言之一。

许可

插件
MIT
引擎
MPL-2.0
coqui-ai-TTS(idiap 分支)
模型
CPML
XTTS-v2 权重;非商业用途,除非获得 Coqui 许可

除非你获得了 Coqui 对 XTTS-v2 权重的商业许可,否则不可用于商业工作。插件自身的代码为 MIT 许可。

版本

  • 1.0.7

    Automated release for coqui-xtts v1.0.7.

其他语音插件

更新于 · 来自插件目录 报告此插件的问题