Audio8 TTS (offline, voice clone, 11 languages)

语音离线仅 CPU语音克隆允许商用

使用 Audio8 TTS Preview,把你的字幕配音成中文、粤语、日语、韩语、英语、荷兰语、法语、德语、意大利语、波兰语和西班牙语:用从视频中几秒钟克隆出的每位说话人自己的声音。它在你自己电脑的处理器上运行,无需显卡,插件、代码和模型均可免费用于商业工作。它的速度较慢:每秒语音需要两到三秒生成。

在 Subtitld 中安装

设置 插件 Audio8 TTS (offline, voice clone, 11 languages) 安装

Subtitld 会下载它、校验其 SHA-256,并保持更新。

GitHub 上的源代码
语言
11
模型
1
语音
1
插件下载量
35–59 MB
内存,至少
3 GB

功能说明

说话人自己的声音

Subtitld 从视频中为每位说话人剪出几秒钟,连同其中所说的话一起发送。Audio8 TTS 克隆这个声音,因此配音听起来就像画面中的人,十一种语言都可以,无论片段本身是哪种语言。

十一种语言

包括中文、粤语、日语和韩语,而能在处理器上运行的声音克隆引擎中,会说这些语言的很少。音频为 44.1 kHz。

第一句之后即可离线

模型只下载一次,就在你第一次用它配音时。此后,没有任何内容会离开你的电脑。

可免费用于商业工作

插件、Audio8 TTS 的代码及其模型均为 Apache-2.0。

安装之前

与轻量的配音引擎相比,Audio8 TTS 对电脑的要求更高:

  • 磁盘: 模型约 1 GB,在你配音第一句台词时下载。
  • 内存: 说话时约 1.6 GB;第一次听到新的说话人时,会短暂升到最多 3 GB。
  • 时间: 每秒语音需要两到三秒生成(Intel Core i7-13700T)。十分钟的视频可能需要大约半小时。
  • 处理器: 任何 64 位 Intel 或 AMD 处理器,或 Apple Silicon。不使用显卡。

如果想快速配音,Sopro 或 Chatterbox 克隆声音的速度约为实时或更快,但支持的语言更少。

声音

在 说话人 标签页中,把 Audio8 TTS 设为某位说话人的 配音引擎,然后选择一个 音色。开启该说话人的 让配音适配字幕时长,即可把每句台词拉伸或压缩,以适配其字幕。

1 种语音.

Audio8 TTS 只有一个声音 Speaker's own voice,没有预设声音:每句台词都克隆一位说话人。Subtitld 会从项目的音频中为该说话人剪出一段样本:取自其一条 3 到 12 秒的字幕,或把几条短字幕拼接起来。如果你已为本视频分离出了音乐和人声,样本只取自人声。插件设置中的 Fallback reference clip 仅在无法剪出样本时使用。

Subtitld 会把字幕文字连同样本一起发送,Audio8 TTS 用它来更接近说话人。没有文字时,例如项目的原始语言没有设置,插件只根据样本的声音克隆,相似度会略低一些。如果你的字幕是对原话的意译而不是逐字转写,请开启 Don't send the subtitles of the reference clip。

每位说话人的第一句台词会多花几秒钟,因为插件要先听取其样本。插件会记住它,所以该说话人之后的台词会立即开始。

模型

只有一个模型 Audio8 TTS Preview 0.6B,采用其开发者为处理器发布的 4 位 ONNX 版本。它不在插件里:第一次配音时,会从 Hugging Face 按固定版本下载到 Subtitld 的共享模型缓存中,并校验每个文件。下载中断后会从中断处继续。更新或移除插件时模型会保留。

模型 下载适合
Audio8 TTS Preview 0.6B (4-bit ONNX) 默认 preview-0.6b-int4
1 GB
克隆的声音,全部十一种语言

插件运行这个版本时不需要 PyTorch。在声音、台词和随机种子都相同时,它的输出与 Audio8 自己的运行时完全一致。

选项

在 设置 › 插件 › Audio8 TTS (offline, voice clone, 11 languages) › 配置 中。

CPU threads
默认: 0

设为 0 时使用电脑一半的逻辑处理器,最多 8 个。线程越少,配音时电脑越流畅。

Don't send the subtitles of the reference clip
默认: 关

只根据片段的声音克隆,不使用其中的文字。当你的字幕是对原话的意译而不是逐字转写时,可以试试。

Fallback reference clip
默认: 空

当 Subtitld 无法从视频中剪出片段时(例如没有打开视频),供克隆声音使用的一段音频:3 到 30 秒、一个人说话。

What the fallback clip says
默认: 空

上面这段音频中所说的原话。有了它,克隆会更接近说话人;留空则只根据声音克隆。

语言

中文、粤语、日语、韩语、英语、荷兰语、法语、德语、意大利语、波兰语和西班牙语。从其中任一种语言的片段克隆出的说话人,也能说其他所有语言。其他语言的项目会收到相应的提示:请为它选择另一个配音引擎。

Audio8 称这个模型为预览版:这些是它推荐的语言。我们在每种语言中检查了一句话,使用的是 Whisper 和声音相似度评分,并没有逐一用耳朵试听每种语言。

  • zh
  • yue
  • nl
  • en
  • fr
  • de
  • it
  • ja
  • ko
  • pl
  • es

平台

系统 下载已测试
Linux x86-64 58.6 MB在 Subtitld 中、在真实机器上和 CI 中用真实模型配音
macOS (Apple 芯片) 39.8 MB在 CI 中用真实模型配音(Apple Silicon)
Windows x86-64 34.8 MB在 CI 中用真实模型配音

Linux x86-64、Apple Silicon 上的 macOS 和 Windows x86-64。每个版本都在这三个平台上构建,并且在每个平台上,CI 都会像 Subtitld 那样安装插件,下载模型并用它配音。

故障排除

  • network_unavailable无法下载模型。请检查网络连接后重试:下载会继续。
  • disk_full磁盘空间不足,无法存放模型,模型约 1 GB。
  • unsupported_language项目的语言不在这十一种之中,或尚未设置。请在项目中设置语言,或选择另一个配音引擎。
  • unsupported_voice项目指定了此版本没有的声音。请在 说话人 标签页中重新选择声音。
  • bad_params台词没有文字,或者克隆的声音没有获得样本:请打开视频,或设置 Fallback reference clip。错误信息会说明是哪一种。
  • out_of_memory电脑内存不足。请关闭其他程序:Audio8 TTS 需要约 3 GB 可用内存。
  • internal插件内部出错;错误信息中有详细说明。

许可

插件
Apache-2.0
引擎
Apache-2.0
Audio8 TTS,来自 Audio8;ONNX Runtime 为 MIT
模型
Apache-2.0
Audio8 TTS Preview 0.6B 权重,INT4 ONNX 版本

可用于商业工作:插件为 Apache-2.0,Audio8 TTS 的代码和 Audio8 TTS Preview 0.6B 权重也都是 Apache-2.0。你制作的配音归你所有。克隆的声音听起来像真实的人:只克隆你有权使用的声音,并在必要时说明配音是合成的。

版本

  • 26.11.1

    Voice-cloning text-to-speech for Subtitld with Audio8 TTS Preview 0.6B: 11 languages (Chinese, Cantonese, Dutch, English, French, German, Italian, Japanese, Korean, Polish, Spanish) at 44.1 kHz, in the speaker's own voice cloned from the video.

    The archive holds the add-on and ONNX Runtime. The model (1 GB, the official INT4 ONNX release) downloads on the first line, at a pinned revision, checked by sha256. It runs on the CPU at about 0.4 to 0.5 times real time and needs about 3 GB of memory.

    The add-on, Audio8 TTS's code and its weights are Apache-2.0. Each archive carries THIRD_PARTY_LICENSES/ with the licence of everything frozen into it, and upstream's NOTICE. The Linux archive carries libquadmath (LGPL-2.1, with numpy); its complete source is audio8-<version>-libquadmath-source.tar.gz in this release.

其他语音插件

更新于 · 来自插件目录 报告此插件的问题