我只是想知道下面的代码:
mov eax, r9d ; eax = j
mul n ; eax = n * j
shl eax, 2 ; eax = 4 * n * j
; now I want to 'broadcast' this to YMM, like so:
; ymm = { eax, eax, eax, eax, eax, eax, eax, eax } ; This requires AVX512, not just AVX2
; vpbroadcastd ymm7, eax movd xmm7, eax ; therefore I must do this workaround?
vpbroadcastd ymm7, xmm7 ; and finally, the result这是否可以简化或优化?
发布于 2020-11-05 01:00:48
是的,vmovd + vpbroadcastd是正常的方式,如果你没有AVX512,对于英特尔和AMD。
我看到两个优化:
mul n将替换为 imul r9d, n,因为您没有使用乘结果的EDX高半部。2-操作数imul r32, r/m32是所有现代CPU上的一个uop;mul r/m32需要多个操作数。https://uops.info/ https://agner.org/optimize/.(当然,如果n是一个即时常量,imul eax, r9d, n*4)。
在movd xmm7, eax上使用VEX前缀。也就是说,如果任何YMM寄存器在遗留-SSE movd编写xmm7时有脏的上半部,它将在Haswell和冰湖上触发AVX过渡惩罚。(Why is this SSE code 6 times slower without VZEROUPPER on Skylake?有HSW/ICL和SKL使用的不同策略的详细信息。)
如果没有AVX512,是的,它需要一个uop (如movd指令)将数据从GP-整型域传输到SIMD域,并且uop也不能广播。然后,您需要另一个uop来进行洗牌。
正如@chtz所指出的,如果在英特尔CPU后端的端口5压力是循环的主要瓶颈(而不是全部前端uop或延迟),您可以mov存储(例如堆栈)和vpbroadcastd重新加载。
vmovd xmm, r32和vpbroadcastd只能在英特尔CPU上的端口5上运行。但是存储是微融合的p237 + p4,广播负载(32位或更宽的元素)完全在负载端口中处理,而不需要ALU uop,所以总成本仍然是英特尔CPU上的两个前端uop,成本为p237+p4 + p23。而不是2p5。如果加载/存储端口没有太大的压力,那么对于来自寄存器的32位和64位广播来说,大约5或6个周期的存储转发延迟实际上类似于1到3周期的 + 3周期。
(可能包括SSE3 movddup广播负载到XMM寄存器中,尽管在车道内的洗牌仅仅是一个周期延迟,所以movd + xmm洗牌在Haswell和以后只有大约4个周期的延迟。)
很容易测量movd xmm, r / movd r, xmm往返的延迟,但很难确定哪条指令有哪些延迟。他们可能只是一个周期ALU加一个周期旁路延迟对Skylake。显然,哈斯韦尔在每个方向都有一个周期的movd。https://uops.info/只是测量一个不太紧的延迟上限,方法是将它放在一个循环中,并使用指令来创建一个循环携带的依赖项,并假设其他人有一个周期延迟。https://agner.org/optimize/猜测如何分割一对指令的延迟时间。也许其中之一可以更好地包括一个方向的存储转发和另一个方向的ALU传输,但是沙桥家族上的存储转发延迟是众所周知的可变的,如果你不尝试立即重新加载的话,速度会更快。(例如,无用的商店可以加速通过存储转发瓶颈的关键路径。Adding a redundant assignment speeds up code when compiled without optimization)。而且,不能假设整数存储和vmovd xmm重新加载之间的存储转发具有与整数重新加载相同的延迟。
Skylake的movd xmm<->eax往返总共有4个周期延迟,高于沙桥/哈斯韦尔的2个。这可能是2和2与旁路延迟,或1和3没有告诉我们哪个方向更慢。
禅宗是6个周期,所以每条路可能有3个周期。
vpbroadcastd ymm, r32 AVX512F 是单uop(端口5),所以如果有AVX512,那么非常好。
https://stackoverflow.com/questions/64684140
复制相似问题