在 Amazon SageMaker AI 上用 Kokoro TTS 为 AI 智能体流式输出低延迟语音

在 Amazon SageMaker AI 上部署 Kokoro-82M TTS 模型，可将 AI 智能体生成的每个句子即时流式合成为语音，让音频在完整回复生成前就开始播放。该模型仅 8200 万参数，运行于 ml.g5.xlarge GPU 实例的自定义容器，提供 POST /invocations 与 WebSocket 双向流两条路由。文章还介绍了客户端处理二进制帧、保持会话连接等实现要点。