跳到正文
热点事件持续更新

SageMaker HyperPod 新增 Data Capture 能力

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

AWS 发布教程,介绍 SageMaker HyperPod 新增的 Data Capture 能力:它可在端点、负载均衡、模型 Pod 三个独立层级,把线上推理的输入和输出记录到 S3。该能力目前已在装有 inference operator 的 HyperPod 集群上可用,启用方式是在 InferenceEndpointConfig 或 JumpStartModel 资源中加入 dataCapture 配置段并部署。 若要在同一集群上完成从数据捕获到模型改进的闭环,还需安装 amazon-sagemaker-hyperpod-training-operator EKS 插件。AWS 称,训练任务启动时会安装三个 Python 包,训练节点需要具备出站互联网访问(例如通过 NAT 网关),从 Docker Hub 拉取 vllm/vllm-openai 镜像时同样需要。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. AWS Machine Learning Blog
    用 Amazon SageMaker HyperPod Data Capture 搭建模型改进飞轮

    AWS 介绍 SageMaker HyperPod 新增的 Data Capture 能力,可在端点、负载均衡、模型 Pod 三个独立层级把线上推理输入输出记录到 S3。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月14日 03:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。