首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >估计更改NVIDIA GPU型号时的速度提升

问估计更改NVIDIA GPU型号时的速度提升
EN

Stack Overflow用户
提问于 2011-07-12 09:50:28
回答 2查看 419关注 0票数 2

我目前正在开发一个CUDA应用程序,它肯定会部署在比我的GPU更好的GPU上。给出另一个GPU模型,我如何估计我的算法在它上运行的速度有多快?

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2011-07-12 12:12:49

你将会有一段艰难的时光,原因有很多:

  1. 时钟频率和存储器速度仅与代码速度具有弱关系,因为对于几乎所有新的hardware.
  2. Caches已被添加到新硬件(例如,费米)并且除非你对高速缓存命中/未命中率建模,你将很难预测这将如何影响speed.
  3. Floating点性能通常非常依赖于型号(例如:特斯拉C2050具有更好的性能,而不是每台设备的GTX-480).
  4. Register使用率因不同的设备而变化,这也会影响性能;占用率将受到影响的许多图形处理器可以通过目标特定的硬件来改善,所以即使你的算法是完美的图形处理器,如果你优化它为新的硬件可能会更好。

现在,也就是说,如果您通过其中一个分析器(如NVIDIA Compute Profiler)运行您的应用程序,并查看您的占用率和SM利用率,您可能会做出一些预测。如果你的GPU有2个SMs,而你最终运行的GPU有16个SMs,那么你几乎肯定会看到改进,但不是特别因为这个。

所以,不幸的是,要做出你想要的预测类型并不容易。如果你正在写一些开源的东西,你可以发布代码并要求其他人用更新的硬件测试它,但这并不总是一个选择。

票数 2
EN

Stack Overflow用户

发布于 2011-07-12 15:22:12

对于某些硬件更改,这可能是非常难以预测的,而对于其他硬件更改,这是微不足道的。突出显示您正在考虑的两张卡之间的差异。

例如,变化可能很小--如果我买了一台EVGA水冷的庞然大物,它的性能会比标准的GTX 580好多少?这只是一个计算极限时钟速度(内存或gpu时钟)差异的练习。当我想知道我是否应该超频我的卡时,我也遇到了这个问题。

如果你要使用类似的架构,GTX580到特斯拉C2070,你可以在时钟速度上做类似的情况,但你必须小心单/双精度问题。

如果你正在做一些更极端的事情,比如说从一张手机卡-- GTX240M --到顶级的线卡--特斯拉C2070 -- ,那么你可能根本得不到任何性能提升。

注: Chris的回答非常正确,但我想强调这一点,因为我设想了以下常见的工作路径:

一个人对老板说:

我听说过

  1. 这件事...efficient.
  2. Boss说,你可以有0.05%的工作时间来测试X --嘿,我们已经有了这张手机卡,用那个吧。一年后
  3. ...所以CUDA可以让我们的速度提高三倍。我可以买一张更好的卡来测试一下吗?(一台GTX580只要400美元--比实习生fiasco...)
  4. You花在$$上的钱还少,买了这张卡,你的CUDA代码运行slower.
  5. Your老板现在很不高兴。你浪费了时间和金钱。

那么发生了什么呢?在旧的卡上开发,想想8800、9800,甚至是30核的移动GTX 2XX,会导致人们以一种与高效利用512核的卡非常不同的方式来优化和设计算法。注意:你买的东西买得起--那些很棒的卡很棒--但是你的代码可能不会运行更快的。

Warning已发出,离开消息是什么?当你得到一张更好的卡片时,一定要投入时间来调整,测试,并可能从头开始重新设计你的算法。

好了,这就是说,经验法则?GPU的速度每六个月提高一倍。因此,如果你正在从一张使用了两年的卡转移到一张最好的卡上,向你的老板声称它的运行速度会快4到8倍(如果你得到了完全16倍的改进,太棒了!)

票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/6658701

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档