Hugging Face 原生接入 TorchTPU，支持 TPU

Hugging Face 宣布 TorchTPU 作为 PyTorch 原生后端接入其生态，Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行，加载模型时传入 device_map="tpu" 即可，不再需要 Optimum TPU。 在 TPU 虚拟机上安装需执行一条命令：pip install torch-tpu --extra-index-url https://download.pytorch.org/whl/cpu。该额外索引提供 torch 的 CPU 版本；不加该索引，pip 会拉取体积更大的 CUDA 版本，而在 TPU 上并不需要它。首次调用会编译，之后相同图像尺寸的调用复用已编译的计算图。Hugging Face 称，在 TPU 上运行的测试中 96.5% 通过。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。