新闻

腾讯混元开源同声传译模型Hy-SimulMT:中英双向语音实时互译,还能保留说话人音色

腾讯混元10月26日开源Hy-SimulMT,支持中英双向语音到语音同传与实时音色克隆,官方测试中延迟约3秒,质量可与资深同传译员相比。

橙色与蓝色两个对话气泡之间由一段渐变的声波连接

腾讯混元在10月26日开源了 Hy-SimulMT,一个专门做 中英双向实时同声传译 的模型。它不是先听完一整句再翻,而是边听边译,同时输出译文文字和语音,还支持 实时音色克隆,让翻译出来的声音尽量保留原说话人的特点。资料都在 GitHub项目页。

官方公布的几个关键点

  • 模型规模:Hugging Face上的版本名为 Hy-SimulMT-30B-A3B,即总参数约300亿、每次激活约30亿的混合专家结构。
  • 延迟:在RealSI长音频评测中,StreamLAAL(衡量流式翻译滞后的指标)约 3秒,是对比图里最低的。
  • 质量:GEMBA评分超过参与对比的其他开源模型,也超过五个商用API中的四个;在RealSI-Sentence短音频测试中拿到84.7,为表中最高。
  • 和真人对比:团队找了六位持有CATTI一级、二级口译证书的译员,用18段约6分钟的新录音做对比,结论是质量与资深译员相当、反应往往更快。官方也注明这只是小规模测试。
  • 开源内容包括SimulInfer推理服务和SimulTrain训练工具;语音输出和音色克隆需要另外配置TTS服务。

我的看法

同传最难的不是“翻得对”,而是“什么时候开口”。等得越久越准,但听众就越着急。Hy-SimulMT选择先说、再纠正,广东外语外贸大学高级翻译学院的一位副院长形容这种修正“很像译员的自我修正”,这一点我觉得很实在。

对我们这些常看日本动画活动、海外发布会直播的人来说,这类工具的意义很直接:以后看英文发布会或采访,有可能直接听到带原声音色的中文同传。可惜目前只支持中英两种语言,日语还要再等等。想直接体验的话,官方也提供了手机App“Hy Translate”。

来源: github.com

  • AI
  • 腾讯混元
  • Hy-SimulMT
  • 同声传译
  • 语音翻译
  • 开源模型