跳到正文
热点事件持续更新

AWS博客:AssemblyAI用EC2 Spot跑语音推理省70%

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

AWS 在技术博客中介绍,AssemblyAI 在生产环境中用搭载 GPU 的 Amazon EC2 Spot 实例运行语音转文字推理,其推理计算成本相比按需(On-Demand)定价节省 70%。 架构上,AssemblyAI 在 Amazon ECS 中混合使用 Spot 与 On-Demand 实例,单块 GPU 运行一个模型,规模达数千实例;每个 AWS 区域运行一套完全独立的推理架构,拥有各自的 SQS 队列、ECS 集群、容量提供者和 GPU 机群。单个任务通常耗时 15 秒至数分钟,取决于音频长度。 上述节省比例与架构细节均出自 AWS 博客对 AssemblyAI 实践的介绍。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. AWS Machine Learning Blog
    AssemblyAI 如何用 Amazon EC2 Spot 优化 AWS 上的语音转文字推理成本

    AssemblyAI 在 AWS 上以 Amazon ECS 混合 EC2 Spot 与 On-Demand 实例运行语音转文字推理,单 GPU 跑一个模型、规模达数千实例。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月14日 04:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。