Date: 2/28/2025Category: Tag: 神经网络
最近尝试了用混合精度的方法来加速模型训练。要用PyTorch进行混合精度训练非常简单,因为PyTorch已经封装好了这个功能,API也很便捷,要import的东西只有下面这些:
from torch.amp import autocast, GradScaler
shi0rik0 的博客最近尝试了用混合精度的方法来加速模型训练。要用PyTorch进行混合精度训练非常简单,因为PyTorch已经封装好了这个功能,API也很便捷,要import的东西只有下面这些:
from torch.amp import autocast, GradScaler