AWS 发布 TTS 自动扩缩容目标推导教程

AWS Machine Learning Blog 发布教程，介绍如何为 Amazon SageMaker AI 上自托管的 TTS 端点推导自动扩缩容配置，不再靠猜。方案将 8200 万参数的 Kokoro-82M 以自定义容器部署到实时端点，用实测的单实例在 SLO 内可承受最高并发 Q_max 和一次扩容端到端耗时 T_total，通过算术推导出扩容阈值、缩容阈值及两个冷却时间。 教程给出前提条件：运行扩容测量前，需有 ml.g5.xlarge 服务配额，且比基线多出至少一个空闲槽位。示例容器固定了较早版本的 PyTorch，存在已知安全公告 PYSEC-2026-2286（在 torch 2.10.0 中修复），教程提示在非概念验证用途前检查并升级该版本。 教程称，示例中的每个数字都可用两份已提交的测量文件重新运行 plan 独立复现，无需调用 AWS、不产生新费用；清理步骤不会清空缓存模型权重的 S3 桶，也不会删除存放容器镜像的 ECR 仓库，因为二者可跨模型共享。

AI 根据报道生成 · 51 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。