跳到正文
AWS Machine Learning Blog· Josh Longenecker·· 2 小时前AI 评分36

在 AWS Trainium 上用 torchtitan 训练 Qwen3

Train Qwen3 on AWS Trainium with torchtitan

AI 导读

在单台 trn2.48xlarge(16 颗 Trainium2、64 个逻辑 NeuronCore)上,torchtitan 可通过 TorchNeuron 把 Trainium 注册为原生 PyTorch 设备,用同一套 torchrun 启动方式训练 Qwen3。

来源:AWS Machine Learning Blog · aws.amazon.com