为什么AMD要在GPU板上安装SSD来减少延迟呢？

Question

AMD最近在新闻上有一个有趣的Radeon板，上面有几个M2 SSD。

正如一些更详细的故事(例如，这里或这里 )所指出的，好处可能主要不是来自高带宽( M2's只在4条PCIe通道上，因此董事会自己的16车道连接器应该有更多)，而是来自低延迟。这个故事包括“这会降低10倍的内存访问延迟”。

我的问题基本上是:为什么GPU板上的PCIe连接SSD的延迟要比GPU访问主系统内存或系统PCIe总线上的存储设备的延迟要小得多？主要的系统是什么“阻碍”，并意味着星上SSD可以更快地访问？

Answer 1

从某种程度上外行人的角度回答(我不是硬件专家，但我已经建立了自己的电脑)，我将类比，使用的情况是获得一些原料烹饪食物。

使用“主系统”RAM/存储就像你在找一种配料，而不是在你的橱柜里找到它，比如说，走到你的邻居那里，问他们有没有。事实证明，他们是这样做的；他们把它带给你，你感谢他们，然后回到你的家，使用它。

使用“在船上”RAM/存储就像你在找一种配料，在你的橱柜里找到它，并使用它。

在内存/存储器中，GPU只需做较少的工作就可以获得所需的信息。信息在物理上和在考虑信息所需通过的硬件和软件数量时，也只是简单地更加接近。对于车载RAM/存储，GPU只需要查找信息所在的位置，然后从RAM/存储中检索该信息，然后再通过几英寸的电线传输到GPU的处理单元。

有了主系统RAM/存储器，信号通过的电线距离就会更大，虽然可能只是一秒内的一个很小的部分，但仍然可以通过数千次调用来检索信息。此外，还有更多潜在的瓶颈，所有不同的部分都是相互关联的。

最后，随着内存/存储，AMD有机会优化系统，因为他们正在控制精确的硬件正在使用。这就像苹果为Mac电脑量身定做Mac。