在「音频与语音」类工具里,WhisperX 的定位是:在 Whisper 基础上加入词级时间戳与说话人分离的开源工具。

单独用一个工具往往只解决一段问题,这篇讲怎么把它和上下游工具串起来。

推荐组合:WhisperX + Clipchamp

Clipchamp 的定位是:微软的在线视频编辑器,提供自动字幕与 AI 配音。两者分工可以是:WhisperX 负责「短视频配乐」这一步,Clipchamp 负责生成或剪辑视频。

工作流步骤

  1. 明确交付物和验收标准,例如:结尾没有突然截断。
  2. 准备输入:一条 30 秒视频的情绪与节奏,先去掉敏感信息。
  3. 在 WhisperX 中执行核心步骤(提示词见下文)
  4. 把结果交给 Clipchamp 做下一步处理,或从 Clipchamp 取得所需材料。
  5. 人工检查关键事实与格式,记录发现的问题。
  6. 把这次用到的提示词和设置保存为模板,下次复用。

短视频配乐

准备材料:一条 30 秒视频的情绪与节奏。

生成一段 30 秒的背景音乐:轻快、温暖、无人声,前 5 秒渐入,结尾干净收尾,适合生活类短视频。

检查点:结尾没有突然截断。

交接时最容易出问题的地方

  • 格式不兼容:两边导入导出的格式提前测试一次。
  • 信息丢失:每次交接附上来源和版本号。
  • 责任不清:约定哪一步由谁做最终确认。
  • 成本叠加:两个工具都可能计费,先估算用量。

如果暂时不想引入第二个工具,也可以先用 FunASR 等同类产品替代其中一环,跑通流程后再决定。

更多可以试的用法

播客后期

适用情况:手头有一期双人录制的原始音频时。

处理这期音频:降低底噪、统一两人音量、删除超过 2 秒的停顿,保留自然的语气词,输出前后对比的处理记录。

验收标准:人声没有被处理得发闷。

有声读物试音

输入:一个章节的文本。

用两种不同的声音风格朗读这一章节的前 300 字:一种沉稳叙述,一种轻松亲切,对比后选择更适合的版本。

验收标准:两种风格差异明显。

分轨练习

准备材料:一首用于练习的歌曲音频。

把这首歌分离成人声、鼓、贝斯和其他乐器,并把伴奏降低两个半音,方便练唱。

检查点:分离后人声没有明显残留伴奏。

常见问题:转写错字集中在专有名词

提前提供人名、产品名词表,转写后批量替换。

常见问题:合成语音读错多音字

在文本中改用同音字或拼音标注,或使用工具的发音词典。

常见问题:降噪后声音发闷

降低处理强度,宁可保留少量底噪。

概念补充:响度标准化

把音频调整到平台推荐的响度范围,避免忽大忽小。

概念补充:说话人分离

在转写中区分不同发言人,便于整理会议记录。

适合人群:音乐人

音乐人可以用 WhisperX 处理编曲灵感、分轨练习等工作。需要注意:AI 生成音乐的版权归属以平台条款为准,发行前确认。

适合人群:中小学老师

中小学老师可以用 WhisperX 处理备课与分层练习、批改反馈与评语等工作。需要注意:学生个人信息和成绩不要上传到未经学校批准的工具。

使用提醒

所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。

文中提示词和示例仅作示意,实际效果取决于你的材料和 WhisperX 当前版本,重要内容请人工核对后再使用。

延伸阅读