Parakeet & Nemotron 离线、33 种语言

语音转文字离线仅 CPU允许商用

使用 NVIDIA 的两个语音模型,在你自己的电脑上把视频中的语音转为带时间戳的字幕,支持 33 种语言:Parakeet 负责 25 种欧洲语言,Nemotron 负责阿拉伯语、中文、印地语、日语、韩语、挪威语、土耳其语和越南语。它最多能区分 8 位说话人,并在你录制时写出实时字幕。无需显卡,无需账号,也没有任何内容会离开你的电脑。

在 Subtitld 中安装

设置 插件 Parakeet & Nemotron (offline, 33 languages) 安装

Subtitld 会下载它、校验其 SHA-256,并保持更新。

GitHub 上的源代码
语言
33
模型
3
插件下载量
10–20 MB
内存,至少
2 GB

功能说明

33 种语言,两个模型

Parakeet 转录 25 种欧洲语言,带标点和大写,数字写成阿拉伯数字。Nemotron 增加了阿拉伯语、中文、印地语、日语、韩语、挪威语、土耳其语和越南语。插件会根据你项目的语言选择模型。

谁在说话

开启 Label speakers 后,最多可区分 8 个声音:每条字幕都会标明说话人 A、B、C……,说话人改变时会开始一条新字幕。

边录制边出实时字幕

在录制模式下,Nemotron 会在你说话的同时写出你的话,支持 28 种语言;每个说完的句子都会填入它的字幕。

离线,在处理器上运行

每个模型在第一次需要时下载一次。在笔记本电脑上,一部 12 分钟的影片大约需要一分半钟,包括说话人标签。无需显卡,也没有任何内容会离开你的电脑。

使用方法

要转录文件,请打开 导入 标签页,把 Parakeet & Nemotron 选为 转录引擎,设置 字幕语言,然后点击 开始转录。其余部分还在转录时,字幕就已经陆续出现在时间轴上:音频每次处理一分钟(Nemotron 为半分钟),因此进度条会持续前进,点击取消后几秒内就会生效。

要使用实时字幕,请打开 音频 标签页,在 录制 下把它选为 转录引擎。

模型

共有三个模型,都不在插件里。每个模型会在第一次需要时,从 NVIDIA 自己在 Hugging Face 上的页面下载到 Subtitld 的共享模型缓存中,固定为某一个版本,并与其指纹进行校验。下载中断后会从中断处继续。更新或移除插件时,模型会保留。

模型 下载适合
Parakeet TDT 0.6B v3 默认 parakeet
714 MB
25 种欧洲语言的文件:错误最少,时间最准确
Nemotron 3.5 ASR Streaming 0.6B nemotron
742 MB
阿拉伯语、中文、印地语、日语、韩语、挪威语、土耳其语和越南语的文件,以及 28 种语言的实时字幕
Nemotron-3-Diarization diarization
107 MB
开启 Label speakers 时的说话人标签,最多 8 位说话人

用哪个模型转录文件,由插件的 Model 设置决定。在默认的 Automatic 下,Parakeet 负责它认识的 25 种语言,Nemotron 负责其余 8 种。对于两者都认识的语言,你也可以选择 Nemotron;不过在这些语言上,Parakeet 仍是更好的选择。

Parakeet 在听到每个词时就为它定时。Nemotron 在写出一个词时才为它定时,也就是接近这个词的结尾,因此插件会把每个词挪回它被说出的位置。在一部测试影片上,Nemotron 有 76% 的字幕与影片自带字幕的开始时间相差不到半秒,Parakeet 则为 85%。在音乐和音效之上,Nemotron 经常不写标点,因此它的字幕在出现 0.8 秒的停顿时也会结束。

在笔记本电脑处理器(Intel i7-13700T)上的测量结果:

音频 时间 内存
12 分钟影片,Parakeet,含说话人标签 87 s 1.3 GB
12 分钟影片,Nemotron 63 s 1.2 GB
仅说话人标签,3 分钟 7 s 0.2 GB

模型保存位置

系统 文件夹
Linux ~/.cache/subtitld/models/parakeet-nemotron
macOS ~/Library/Caches/subtitld/models/parakeet-nemotron
Windows %LOCALAPPDATA%\subtitld\subtitld\Cache\models\parakeet-nemotron

三个模型共占用约 1.6 GB。删除该文件夹即可释放空间;每个模型会在下次需要时重新下载。

实时字幕

录制时,Nemotron 会在每个词之后再多听一点(默认 560 ms;见 Live caption delay),并在你说话的同时写出词语。在句子说完之前,Subtitld 会先显示这些词,句子说完后,它会填入自己的字幕。0.8 秒内没有新词,句子即告结束。

第一次使用时,会下载 742 MB 的 Nemotron 模型,下载进度会显示在文字将要出现的位置。与文件相比,实时字幕更常以小写、无标点的形式出现:如需干净的文字,请在录制之后用 Parakeet 转录这段录音。说话人标签仅适用于文件。

选项

在 设置 › 插件 › Parakeet & Nemotron (offline, 33 languages) › 配置 中。

Model
默认: auto

用于文件。Automatic 会为 Parakeet 认识的 25 种语言选择 Parakeet,为其他语言选择 Nemotron。Parakeet 错误更少,并把数字写成阿拉伯数字;Nemotron 的词语时间是估算的,因此它的字幕可能开始得稍早或稍晚。实时字幕始终使用 Nemotron。

One cue per sentence
默认: 开

开启:无论句子多长,每句一条字幕。关闭:长句会被拆分为最多约两行或 7 秒的字幕。无论哪种方式,换了说话人都会开始一条新字幕。

Label speakers
默认: 关

用于文件。最多区分 8 位说话人(A、B、C……),说话人改变时开始一条新字幕。107 MB 的说话人模型在第一次使用时下载;每 3 分钟音频约多花 7 秒。

Live caption delay
默认: 560

录制时,Nemotron 在写出一个词之前,先听这个词之后多少音频,单位为毫秒。160 出字最快,但错误最多;1120(1.1 秒)错误最少。

语言

共 33 种语言。Parakeet 认识 25 种:保加利亚语、克罗地亚语、捷克语、丹麦语、荷兰语、英语、爱沙尼亚语、芬兰语、法语、德语、希腊语、匈牙利语、意大利语、拉脱维亚语、立陶宛语、马耳他语、波兰语、葡萄牙语、罗马尼亚语、俄语、斯洛伐克语、斯洛文尼亚语、西班牙语、瑞典语和乌克兰语。Nemotron 认识 28 种:上述语言中除希腊语、拉脱维亚语、立陶宛语、马耳他语和斯洛文尼亚语之外的全部,外加阿拉伯语、中文、印地语、日语、韩语、挪威语、土耳其语和越南语。实时字幕支持 Nemotron 的 28 种语言。

语言留空时,Parakeet 会自行判断说的是它 25 种语言中的哪一种。Nemotron 则会被告知语言;对于英语、西班牙语、法语和葡萄牙语,还会被告知变体:en-gb、es-es、fr-ca 和 pt-br 分别对应英式英语、西班牙的西班牙语、加拿大法语和巴西葡萄牙语。不带地区时,它默认使用美式英语、美洲西班牙语、法国法语和欧洲葡萄牙语。两个模型都不认识的语言会收到一条消息,列出它们认识的语言。

  • ar
  • bg
  • cs
  • da
  • de
  • el
  • en
  • es
  • et
  • fi
  • fr
  • hi
  • hr
  • hu
  • it
  • ja
  • ko
  • lt
  • lv
  • mt
  • nb
  • nl
  • pl
  • pt
  • ro
  • ru
  • sk
  • sl
  • sv
  • tr
  • uk
  • vi
  • zh

平台

系统 下载已测试
Linux x86-64 10.0 MB在真实机器上通过 Subtitld 自己的安装程序和插件管理器测试了文件、说话人标签和实时字幕;还在全新的 AlmaLinux 8、Ubuntu 20.04 至 24.04、Debian 12、Fedora 41 和 Arch 系统中以及 CI 中测试
macOS (Apple 芯片) 20.2 MB在 CI 中于处理器上测试:Metal 在 CI 的虚拟 Mac 上会崩溃,因此插件在那里会回退到处理器。尚未在真实的 Mac 上运行
Windows x86-64 14.4 MB在 CI 中测试

Linux x86-64(2018 年以来的任何发行版)、Apple Silicon 上的 macOS 和 Windows x86-64。在 x86-64 上,处理器需要支持 AVX2:Intel 为 2013 年及以后的处理器,AMD 为 2015 年及以后的处理器。ffmpeg 随 Subtitld 一起提供。

在 Mac 上,插件会在一个单独的进程中尝试一次图形处理器(Metal),如果失败就使用处理器。结果保存在模型文件夹中的 metal-check.json 里。若要自己选择,请在启动 Subtitld 之前把 PARAKEET_NEMOTRON_DEVICE 设为 cpu 或 gpu。

每个版本都在这三个系统上构建,并且在每个系统上,CI 都会像 Subtitld 那样安装插件,下载模型,用每个模型转录一个文件,还会测试带说话人标签的转录和实时转录。

故障排除

  • unsupported_language该模型无法转录项目的语言;错误信息会列出它能转录的语言。请把 Model 设为 Automatic,或选择另一个引擎。希腊语、拉脱维亚语、立陶宛语、马耳他语和斯洛文尼亚语没有实时字幕:请在录制后转录文件。
  • network_unavailable无法下载模型,或者下载的文件未通过校验而被丢弃。请检查网络连接后重试:下载会从停下的地方继续。
  • disk_full磁盘空间不足,无法存放模型或解码后的音频。三个模型共约 1.6 GB。
  • oom内存不足。请关闭其他程序:一部较长的影片约需 1.3 GB。
  • bad_paramsSubtitld 无法传递音频;错误信息会说明原因。
  • internal插件内部出错,通常是 ffmpeg 解码音频时出错,或模型加载失败。错误信息中有详细说明。如果提示处理器缺少 AVX2,这台电脑就无法运行该插件。

许可

插件
Apache-2.0
引擎
Apache-2.0
NeMo-Speech.cpp,来自 NVIDIA,使用 ggml 和 llama.cpp(MIT)
模型
CC-BY-4.0, OpenMDW-1.1
来自 NVIDIA:Parakeet 采用 CC-BY-4.0,两个 Nemotron 模型采用 OpenMDW-1.1

可用于商业工作。插件和 NVIDIA 的 NeMo-Speech.cpp 采用 Apache-2.0。Parakeet 采用 CC-BY-4.0,要求在分享权重本身时注明 NVIDIA。两个 Nemotron 模型采用 OpenMDW-1.1,这是一种面向模型的宽松许可,对你用它们制作的内容不设任何限制。模型从 NVIDIA 下载,插件并不附带它们。你制作的字幕归你所有。

版本

  • 26.11.1

    The first release. NVIDIA's Parakeet TDT 0.6B v3 and Nemotron 3.5 ASR Streaming 0.6B, offline on your computer, on NVIDIA's NeMo-Speech.cpp runtime.

    • Subtitles from a file in 33 languages. Parakeet transcribes the 25 European languages, with punctuation, numbers as digits and accurate word timing; Nemotron transcribes Arabic, Chinese, Hindi, Japanese, Korean, Norwegian, Turkish and Vietnamese. Long files are transcribed a minute at a time, so memory stays flat (a 12-minute film peaks at about 1.3 GB), and finished subtitles appear on the timeline as they are made.
    • Speaker labels, when switched on in Configure: up to 8 speakers, A, B, C…, with a new subtitle at each change of speaker. The speaker model (107 MB) downloads the first time.
    • Live captions while recording, from Nemotron, in 28 languages, with a choice of 160 ms to 1.1 s of lookahead.
    • One cue per sentence, or subtitles of about two lines at most.

    Parakeet (714 MB) and Nemotron (742 MB) each download from NVIDIA's Hugging Face repositories the first time they are needed. On a Mac with Apple Silicon the runtime uses the GPU (Metal). On x86-64 the processor needs AVX2 (Intel since 2013, AMD since 2015).

    Needs Subtitld 26.10 or newer.

其他语音转文字插件

更新于 · 来自插件目录 报告此插件的问题