WhisperX 是一款开源项目:在 Whisper 基础上加入词级时间戳与说话人分离的开源工具。

与其看十篇介绍,不如完整做一个小项目,这篇带你走一遍。

项目:有声读物试音

目标:用 WhisperX 完成一次「有声读物试音」,交付一份可以直接给同事或客户看的结果。预计用时 1 小时以内。

步骤

  1. 阅读仓库 README 与许可证。
  2. 准备材料:一个章节的文本(先脱敏)
  3. 复制下面的提示词,替换方括号内容。
  4. 第一次结果出来后,只针对一个问题追问修改。
  5. 按验收标准检查:两种风格差异明显。
  6. 保存提示词与最终结果,写三行复盘。
用两种不同的声音风格朗读这一章节的前 300 字:一种沉稳叙述,一种轻松亲切,对比后选择更适合的版本。

复盘模板

这次任务:
节省或多花的时间:
需要人工修改的地方:
下次会改进的提示:
是否继续使用:

做完之后

可以尝试第二个任务「短视频配乐」,或者把这次的流程分享给同事一起试。

更多可以试的用法

播客后期

适用情况:手头有一期双人录制的原始音频时。

处理这期音频:降低底噪、统一两人音量、删除超过 2 秒的停顿,保留自然的语气词,输出前后对比的处理记录。

交付前确认:人声没有被处理得发闷。

分轨练习

输入:一首用于练习的歌曲音频。

把这首歌分离成人声、鼓、贝斯和其他乐器,并把伴奏降低两个半音,方便练唱。

检查点:分离后人声没有明显残留伴奏。

课程旁白配音

适用情况:手头有一份 800 字的讲解稿时。

把这份讲稿改成适合朗读的口播版本:句子不超过 20 字,数字改成口语读法,标出需要停顿和重读的地方。

检查点:数字读法不会产生歧义。

常见问题:合成语音读错多音字

在文本中改用同音字或拼音标注,或使用工具的发音词典。

常见问题:配乐与画面情绪不符

先写清情绪关键词和节奏,再分段生成拼接。

常见问题:降噪后声音发闷

降低处理强度,宁可保留少量底噪。

概念补充:采样率

每秒采样次数,影响音质与文件大小。

概念补充:说话人分离

在转写中区分不同发言人,便于整理会议记录。

适合人群:客服人员

客服人员可以用 WhisperX 处理回复草稿、工单分类等工作。需要注意:不得以 AI 名义做出政策外承诺,涉及隐私的问题按流程处理。

适合人群:视频剪辑师

视频剪辑师可以用 WhisperX 处理粗剪与选段、字幕与调色等工作。需要注意:确认音乐和素材授权,客户素材不随意上传公共平台。

适合人群:研究生

研究生可以用 WhisperX 处理文献阅读、开题与论文写作等工作。需要注意:遵守学校学术诚信规定,AI 只用于辅助理解和润色。

使用提醒

所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。

文中提示词和示例仅作示意,实际效果取决于你的材料和 WhisperX 当前版本,重要内容请人工核对后再使用。

延伸阅读