中英混说1小时不卡壳,Meta实时语音转写模型如何炼成

中英混说1小时不卡壳,Meta实时语音转写模型如何炼成

AI 资讯 来源:新闻/公众号 发布时间:2026-09-02 20:17:54 预计阅读 4 分钟

Meta近日推出首个实时音频感知模型Muse Voice Transcribe,由超级智能实验室开发。该模型提供实时流式自动语音识别(ASR),支持超过20位说话人的语音分割及端点控制,可处理超1小时长音频,并实现无缝语码切换。官方示例显示,其对中文、中式英语及中英混说的转写速度和效果俱佳,堪称“中英混说1小时无压力”。

从独立工具到实时感知层

语音转写正从独立工具演变为AI系统的实时感知层。Meta此次发布的Muse Voice Transcribe,正是这一趋势的典型代表。该模型在Artificial Analysis流式语音转文本和公开语音分割基准测试中排名第一(截至2026年近日),可通过Meta Model API、Mac版Meta AI和Muse Code使用,API定价为每1000分钟3美元(约合人民币20元)。

模型已使用70多种语言训练,其中25种语言经全面验证,初始版本建议用户试用这25种语言。其原生支持任意语码转换,利用上下文信息提高准确率,并支持超1小时长音频和20位以上说话者,无需后处理。Meta AI和Muse Code的语音听写功能可一键调用该模型,用户按住“Fn”键即可与屏幕上的任何窗口配合使用。

技术内核:80ms音频片段与自适应延迟

技术上,Muse Voice Transcribe是Muse Spark系列的自回归多模态模型。音频以80ms为单位处理,每个片段转换为软token,模型决定继续监听或输出文本token。音频流停止时插入特殊token告知模型,模型随即输出剩余文本。模型通过强化学习实现“自适应延迟”,根据单词难度动态调整等待时间,在词错误率和延迟间实现帕累托最优。

基于流式ASR,模型引入特殊token支持说话人分割和端点检测。说话人切换时预测<|start_of_turn|>token,并用<|speaker_{A-Z}|>区分说话人;语音开始和结束分别由<|speech_onset|>和<|speech_endpoint|>标记。Meta使用流式ASR联合训练这些任务,并增加额外奖励信号。

多语言与长音频的实战表现

在官方示例中,模型对中文、中式英语及中英混说的转写表现出色。例如,当说话人用中文夹杂英文单词或短语时,模型能准确识别并输出对应文本,且延迟极低。这得益于其原生支持任意语码转换的能力,以及利用上下文信息提高准确率的设计。对于超过1小时的长音频,模型无需分段处理,可一次性完成转写,并准确区分20位以上的说话人。

未来竞争:低延迟与多说话人理解

Meta此次发布的模型,标志着语音转写技术进入新阶段。未来竞争将聚焦低延迟、长上下文、多说话人、多语言及语境理解,并最终与大模型推理、记忆和工具调用融合,使系统不仅“听见”,还能理解谁在说、何时说完及上下文关联。Muse Voice Transcribe的推出,为这一融合提供了基础能力,也让实时语音交互的想象空间进一步打开。

标签: AI 资讯 AI

更多推荐阅读

被称“最无聊机器人”的Dyna,靠叠衣服找到机器人Scaling Law

被称“最无聊机器人”的Dyna,靠叠衣服找到机器人Scaling Law

《纽约邮报》曾称Dyna Robotics为“全世界最无聊的机器人”,而公司创始人认为这是“对一家机器人公司最高的赞美”。Dyna-1主攻叠毛巾、叠衣服;新发布的Dyna-2让机器人Taku进入洗衣房,完成放脏衣服、操作洗衣机、取出送烘干机、折叠放架等流程。联合创始人Jason Ma表示,机器人真正开始工作本就应是“无聊”的,真实部署是衡量机器人的“唯一评估”;机器人不能落地,不是因为没有腿或手,...

2026-10-20 09:48:01
前剪映负责人做视频Agent获千万美元融资

前剪映负责人做视频Agent获千万美元融资

视频Agent赛道出现新玩家Pexo,与采用画布工作流的产品不同,Pexo将剪辑和视频整合在产品中,支持用自然语言对话创作视频。公司已获千万美元天使轮融资,此前于2025年10月获得数百万美元投资。创始人廖谦曾任生数科技产品副总裁、Vidu产品负责人,也曾在腾讯、字节跳动任职,从技术研发转向AI产品与商业化,先后从0到1搭建火山引擎智能创作云,并在剪映/CapCut发起海外AI内容平台Pippit...

2026-10-20 09:26:14
DeepSeek搜索卷起来后,前负责人创业做全网捞人

DeepSeek搜索卷起来后,前负责人创业做全网捞人

近日,DeepSeek开放了自研网页搜索接口,披露该引擎每天处理全球数亿次请求,已收录千亿级网页,正将搜索能力开放给更多开发者。 在搜索对象中,人物信息最为特殊,难点在于把零散线索拼到同一个人身上。Simplex AI创始人张博曾任DeepSeek-VL项目负责人,其团队推出的Lev8主要面向GTM,人物搜索是流程起点。用户用自然语言描述目标,系统即寻找符合条件的对象,结合公开资料判断匹配度,生...

2026-10-20 08:09:15
蚂蚁领投!清华系AI创企熵简科技完成C轮融资

蚂蚁领投!清华系AI创企熵简科技完成C轮融资

智东西10月19日消息,北京AI金融创企熵简科技宣布完成C轮融资,由蚂蚁集团领投,东方国信与乔贝资本跟投。融资后,蚂蚁集团将与熵简科技在AI金融智能体研发、AI金融垂域模型训练等领域展开深度合作。 熵简科技成立于2017年,主要依托大数据、云计算、人工智能等技术,打造全资产、全流程的端到端智能资产管理平台。公司名称源自热力学第二定律中度量系统混沌程度的“熵”,“熵简”寓意通过AI降低金融投研的复...

2026-10-20 09:26:26
Anthropic预言奇点已至:2030年美国GDP或飙至44万亿美元

Anthropic预言奇点已至:2030年美国GDP或飙至44万亿美元

在曼谷举行的国际货币基金组织佩尔·雅各布森讲座上,Anthropic联合创始人Jack Clark提出判断称“奇点已经到来”,即技术进步速度已甩开人类理解和跟进的能力。他预测,在奇点驱动下,到2030年美国GDP将升至44万亿美元。按常规推演,该数字为33.5万亿美元,奇点带来15.4%的额外GDP,平均每年约6%的GDP增长;到2030年前后,累积生产率提升与资本积累将把美国年化经济增长率推高至...

2026-10-20 08:36:21
港科大CMU联手开源新模型:KV Cache砍掉99%,单卡吞吐飙6倍

港科大CMU联手开源新模型:KV Cache砍掉99%,单卡吞吐飙6倍

谷歌一篇论文提到KV Cache至少能压缩6倍,曾引发美光等存储芯片巨头股价下跌。几个月后,岩山科技旗下岩芯矩阵联合港科大、CMU等高校发布并开源EdgeRock-4B,对KV Cache的处理更进一步:上下文从4K扩展到256K,KV Cache占用始终固定在72MiB,相比源模型减少99.1%。一张80GB显卡可同时跑512路长推理,输出吞吐达12124 tokens/s,是源模型的6.42倍...

2026-10-20 23:25:26
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部