亚马逊开源TorchNeuron:PyTorch代码可低改动跑上Trainium
The science behind TorchNeuron, Amazon’s new PyTorch backend for AWS Trainium chips
亚马逊宣布开源TorchNeuron,一个把PyTorch代码翻译为AWS Trainium可执行操作的后端,已有PyTorch代码几乎无需改动即可运行。它提供可选的adaptive eager模式,在eager与编译模式间折中,并做多级缓存与共享编译服务;团队还用AI智能体筛选出841个代表性模型和数万种张量形状用于调优与测试。
AAmazon Science阅读原文