假设精度p介于1和16之间,我想在-p/2和p/2之间钳位一个AVX2整数寄存器。我目前在非AVX2整数上使用std::clamp做这件事。
有没有办法用AVX2做到这一点?
发布于 2020-09-02 09:50:56
用x = min(max(x, lower_limit), upper_limit)的标准方式实现饱和钳位,使用你想要的任意宽度的整数。或者让编译器自动向量化std::clamp。
8、16或32都很方便;AVX2没有打包64位整数的最小/最大值,但您可以用vpcmpgtq模拟它。AVX512有vpmaxsq。在仅使用SSE2的情况下,只有最小/最大操作的几个大小/符号组合可用。SSE4.1修正了这个问题,所以AVX2在有符号和无符号中都有3种大小。
例如,对于8位整数,__m256i向量上的有符号整数最大值为_mm256_max_epi8。
请参阅Intel's intrinsics guide以查找intrinscs。
https://stackoverflow.com/questions/63696946
复制相似问题