问题
开发语音 Agent 和交互式语音应用的开发者在选型时最关心用户要等多久才能听到第一段可播放音频,但现有榜单(如 Open TTS Leaderboard)不比较 streaming latency,各家模型厂商(微软、Qwen)宣传的延迟数字口径不一,开发者缺少一个可横向比较 time-to-first-audio 的中立数据源。
目标用户
构建语音 Agent、实时翻译、交互式语音应用的独立开发者和小型开发团队。市场规模难以从信号判断,但微软按量开放语音模型、Qwen 发布实时翻译模型说明流式语音开发正在快速升温,选型需求会随之增长。
解决方案
- 标准化测试脚本:统一输入文本/音频,自动化调用各家流式 ASR 与 TTS API
- 核心指标:time-to-first-audio(首包可播放音频延迟)为主,辅以长流会话稳定性与延迟抖动
- 公开榜单页:按延迟排名、可按语言/场景筛选,附原始测试数据与复现步骤
- 模型接入管道:新模型(如 MAI-Voice-2.1-Flash、Qwen3.8-LiveTranslate)发布后快速上线对比
- AI 角色:被评测的对象本身是 AI 模型;平台侧用脚本自动化采集与统计,AI 不直接参与评分
为什么是现在
微软刚以按量定价开放 MAI-Transcribe-2-Streaming 和 MAI-Voice-2.1/Flash 流式语音模型,Qwen3.8-LiveTranslate 也把实时翻译延迟压到 2.3 秒并支持 60 种输入语言——流式语音模型供给在数周内密集爆发,而 Hugging Face 博客明确指出现有榜单不比较 streaming latency,选型工具的空窗期就在现在。
MVP 范围
第一版只做一件事:对主流流式语音模型(如 MAI-Transcribe-2-Streaming、MAI-Voice-2.1-Flash、Qwen3.8-LiveTranslate 等)跑标准化测试脚本,测量并公开 time-to-first-audio、长流稳定性、掉线率等延迟指标,以可更新的榜单页形式发布。不做语音质量主观评分、不做自定义模型上传、不做实时监控 SaaS。
风险
- 榜单型产品变现路径不明,信号中无任何付费意愿证据,可能长期只能作为引流资产。
- 各模型按量计费,持续跑测试的成本随接入模型数量增长,需控制测试频率。
- 模型厂商随时可能自建官方 benchmark 或发布自家延迟数据,削弱中立榜单价值。
- 测试环境(网络、区域、时间)对延迟指标影响大,方法论不严谨会被社区质疑公信力。
已有产品
| 产品 | 定位 | 价格 |
|---|---|---|
| Open TTS Leaderboard | 现有 TTS 榜单,但 signal 明确指出其不比较 streaming latency,新平台以 time-to-first-audio 为核心差异点 | — |
信号证据
这张卡片依据的原始讨论。摘录保持原文,点“原文”查看上下文。
36氪10月2日新品发布
“当地时间10月1日,微软宣布推出MAI-Transcribe-2-Streaming,并同时发布两款全新语音模型:MAI-Voice-2.1和MAI-Voice-2.1-Flash。”
微软推出新的流式语音转录模型及两款语音生成模型,以按量定价对外提供。原文
Hugging Face Blog9月30日痛点
“This is important for voice agents and other interactive apps.”
Voice agents and interactive apps need to know how long a user waits for the first playable audio chunk, and existing leaderboards don't compare streaming latency.原文
TLDR AI9月21日新能力
“Qwen3.8-LiveTranslate uses an interleaved audio-text architecture to cut average translation lag from 2.8 to 2.3 seconds while improving quality.”
Qwen3.8-LiveTranslate cuts live translation lag from 2.8 to 2.3 seconds while adding real-time speaker separation, bilingual source alignment, long-context disambiguation, and voice cloning across 60 input languages.原文