我需要部署一个支持VNNI (向量神经网络指令)的EC2实例。有一些EC2实例类型可以支持同样的功能。
来自AWS
英特尔深度学习助推(Intel ):一套新的内置处理器技术,旨在加速人工智能深入学习用例。第二代英特尔Xeon处理器将Intel AVX-512扩展为一种新的向量神经网络指令(VNNI/INT8 8),与上一代英特尔Xeon处理器(带有FP32)相比,它大大提高了深入学习推理性能,用于图像识别/分割、目标检测、语音识别、语言翻译、推荐系统、强化学习等。VNNI可能不能与所有发行版兼容。使用前请检查文件。
值得一提的是,VNNI可能并不能兼容所有的发行版。那么,哪个Linux发行版支持VNNI?我也不确定这一发言所指的是哪些文件。
发布于 2022-06-18 07:24:53
在AWS中,为我工作的实例类型和OS组合:
m5n.large (m5n实例家族支持AVX-512 VNNI)Amazon Linux 2 (其他Linux发行版也应该工作,正如@BasileStarynkevitch和@PeterCordes所解释的那样)。对于好奇的头脑:亚马逊Linux AMI所基于的Linux发行版是什么?
https://stackoverflow.com/questions/72655996
复制相似问题