SageMaker AI 双向流式推理推出按用量计费

AWS 宣布为 Amazon SageMaker AI 双向流式推理推出按用量计量，模型提供商可通过 AWS Marketplace 按实时流中的实际用量上报软件费用，Deepgram 为首发合作伙伴。 该计费仅针对 Marketplace 软件费用，SageMaker AI 端点基础设施费用仍需照常支付。用量通过元数据流上报，每条连接限每秒一条消息、单条最大 512 字节；元数据流建立失败或中途断开时，推理默认继续，因为 X-Amzn-SageMaker-Metadata-Stream-Required 默认为 false。AWS 提醒测试完成后删除测试端点，以免持续产生基础设施费用。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。