如何将bfloat16混合精度与PyTorch的Intel扩展一起指定？

Question

我想知道如何使用混合精度与PyTorch和英特尔扩展的PyTorch。

我试图查看他们的GitHub上的文档，但是我找不到任何指定如何从fp32到blfoat16的文档。

Answer 1

IPEX可能不是查找GitHub文档的最佳场所。我将尝试使用PyTorch IPEX页面，其中包括API应用程序的示例。

这将是如何使用fp32的一个示例

model, optimizer = ipex.optimize(model, optimizer, dtype=torch.float32)

这将是如何使用bfloat16的一个示例

model, optimizer = ipex.optimize(model, optimizer, dtype=torch.bfloat16)