AWS 发布 SageMaker 上流式语音合成教程
先了解这件事
AWS 的 Joseph Cottingham 发布技术教程,介绍如何在 Amazon SageMaker AI 上托管 Kokoro-82M 文本转语音模型,并按句流式合成语音:AI 语音智能体生成第一句时就开始播放音频,不必等完整回复生成完毕。 Kokoro-82M 只有 8200 万参数,可运行在单台 ml.g5.xlarge GPU 实例的 SageMaker AI 实时端点上,以压低延迟与推理成本。示例容器提供两条路由:POST /invocations 接收单次完整输入,WS /invocations-bidirectional-stream 维持跨多条消息的双向长连接。 教程给出两种接入方式:若前端已有可用的文本 SSE 管道,可把 base64 编码的音频放进 SSE 事件;若新建语音链路或以延迟优先,则用统一的二进制与 JSON 方式,复用已承载文本的连接。 教程提示,示例容器固定了较旧版本的 PyTorch,存在已知漏洞 PYSEC-2026-2286(在 torch 2.10.0 中修复),在任何非概念验证用途前应检查并升级该版本。为避免持续计费,需按部署的逆序拆除资源,先删智能体,再删端点。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- AWS Machine Learning Blog在 Amazon SageMaker AI 上用 Kokoro TTS 为 AI 智能体流式输出低延迟语音
在 Amazon SageMaker AI 上托管的 Kokoro-82M 文本转语音模型可按句流式合成,让 AI 语音智能体在生成第一句时就开始播放音频,而不必等完整回复生成完毕。Kokoro-82M 仅有 8200 万参数,可运行在单台 ml.g5.xlarge GPU 实例的 SageMaker AI 实时端点上,从而压低延迟与推理成本。容器提供 POST /invocations 与 WS /invocations-bidirectional-stream 两条路由,分别对应单次完整输入和跨多条消息的双向长连接。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。