一个"幻影语言"可能会毁掉整个转录内容
作者: oep42创建于 2023年5月31日更新于 2026年8月11日
标签bug
我使用 WhisperX v2.0.1,选项为"检测语言"(通过从命令中删除 "--language" 选项)。我使用"检测语言"选项来处理一个同时使用英语和德语的视频。我想字幕要反映说话的语言。事实证明,当视频中的语音从一种语言切换到另一种语言时,一些附近的音频没有字幕。我认为这是因为只能检测一个音频块中的语言。如果一个音频块包含两种语言,通常只会字幕显示其中一种(检测到的语言)。由于缺少的字幕可以在后续添加,这不是一个大问题。 然而,有一个真正的大问题:WhisperX 有时会错误地检测到一个音频块使用特定语言,而该语言不存在于该音频块中。此外,如果该语言是 WhisperX 没有默认对齐模型的一种语言,WhisperX 会在转录结束前不久(可能花费了许多小时)停止,并显示错误 "没有默认对齐模型",然后根本不生成字幕。因此,检测到的"幻影语言"会毁掉整个转录。 "幻影语言"有时会在视频中的语音从一种语言切换到另一种语言时被检测到,或者更随机地,例如,当只存在一些背景噪音时。 这是在转录在完成之前被中止时出现的消息的示例,原因是缺少默认对齐模型:
内容来源: m-bain/whisperX