跳到正文
AWS Machine Learning Blog· Joseph Cottingham·· 2 小时前AI 评分36

不再靠猜:为 Amazon SageMaker AI 上的 TTS 推导自动扩缩容目标

Stop guessing auto scaling targets for TTS on Amazon SageMaker AI

AI 导读

针对 Amazon SageMaker AI 上自托管 TTS 端点自动扩缩容目标靠猜的问题,该方案将 8200 万参数的 Kokoro-82M 以自定义容器部署到实时端点,用实测的 Q_max(单实例在 SLO 内可承受的最高并发)和 T_total(一次扩容端到端耗时)通过算术推导出扩容阈值、缩容阈值及两个冷却时间。

来源:AWS Machine Learning Blog · aws.amazon.com