跳至正文

Whisper 与中英混说

Whisper 为什么
听不准中英混说。

对着基于 Whisper 的听写应用说"帮我 review 一下这个 pull request",你可能会得到被写成汉字音译的英文、被吞掉的英文,或者整句被翻成英文。这一页讲清楚原因、能试的办法,以及哪些模型能正确处理。

本文由 TypeAloud 团队撰写。TypeAloud 是一款免费、开源的 Mac 语音输入应用,文中提到它的地方,介绍的都是我们自己的产品。

整段录音,一种语言

如果你没指定语言,标准的 Whisper 会听开头最多 30 秒,判断你说的是哪种语言,然后整段都按这种语言转写。半句中文半句英文的话,容易被推向它选定的那种,表现为漏词、英文被写成汉字音译,或者被翻译。严重程度取决于模型大小和应用的设置。

它的词表是所有语言共用的,训练音频大多是单一语言,所以句中切换语言正是它见得最少的情况。关于 Whisper 语码转换的研究也发现,错误集中出现在语言切换的位置。

继续用 Whisper 的话可以试试

把语言设成中文,不要让它自动检测,这样几个英文单词不会把整个窗口带成英文。

如果你用的应用有“提示词”或“词汇”设置(Whisper 里叫 initial prompt),在里面写一句简体中文,把常用的英文词(比如产品名)放进去,可以让 Whisper 保留英文拼写,并输出简体而不是繁体。

面向开发者:效果最好的是用中英混合数据微调。已有研究在 Whisper 上加小型适配器,中英混说的识别明显变好,但那是研究项目,不是一个设置项。

换一个为此训练的模型

大量用中文训练的新一代语音模型原生就能处理语言切换。Qwen3-ASR 能直接从声音里判断语言,TypeAloud 用的就是这种自动检测,你不用事先选语言。TypeAloud 在你的 Mac 上运行 Qwen3-ASR,做成了语音输入应用,中英混着说的句子会按你说的样子写出来。更多见中英混合语音输入。

内容核对于 2026年10月26日,来源:arXiv 2312.08856 (Whisper code-switching)。

常见问题

Whisper 支持中文吗?
支持。只说中文时,它的普通话识别不错。问题出在一句话里切换语言。
Whisper 为什么输出繁体?
它的训练数据里简体和繁体混在一起。用简体中文写 initial prompt,通常就能让它输出简体。
哪些听写应用用的是 Whisper?
很多 Mac 本地应用都提供 Whisper 模型,包括 Superwhisper、VoiceInk 和 MacWhisper。
有能处理中英混说的免费应用吗?
TypeAloud 免费开源,在你的 Mac 上本地运行 Qwen3-ASR。

关于 TypeAloud

TypeAloud:免费的 Mac 语音输入,在本机转写。

按住 Ctrl+Shift 说话,松开后文字出现在光标处。不限字数,无需账号,开源。

下载 Mac 版