AWS Machine Learning Blog· Naomi Teng·· 4 小时前AI 评分25
Amazon Bedrock 为 Kimi K3 推出印度本地推理
Introducing India-based inference for Kimi K3 on Amazon Bedrock
AI 导读
Amazon Bedrock 现支持 Kimi K3 在印度境内推理,通过 in.moonshotai.kimi-k3 推理配置文件将请求处理限定在孟买和海得拉巴区域,满足严格数据驻留要求。Kimi K3 是 Moonshot AI 的多模态开放权重模型,Ultrahuman 已在生产中使用,借助提示词缓存将 LLM 成本降低 80%、多轮对话速度提升 85%。
来源:AWS Machine Learning Blog · aws.amazon.com