首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >在__device__函数中定义的普通变量在哪里?

问在__device__函数中定义的普通变量在哪里?
EN

Stack Overflow用户
提问于 2022-03-13 13:42:29
回答 3查看 85关注 0票数 1

在CUDA中,我理解如果将变量定义为__共享__,则该变量将被放置在共享内存中;如果将变量定义为__常量__.Also,则将一个变量放置在常量内存中,使用cudamalloc()分配内存的变量将被放入GPU全局内存中。但是,那些没有前缀的变量(如__ shared __、__常数__和寄存器)在哪里呢?例如,变量i如下所示:

代码语言:javascript
复制
__device__ void func(){
   int i=0;
   return;
}
EN

回答 3

Stack Overflow用户

回答已采纳

发布于 2022-03-13 19:51:28

自动变量,即在函数范围内没有内存空间规范的变量,放置在以下位置之一:

  1. 当优化离开时: 1.1 actually --如果变量实际上不是必需的。这实际上经常发生,因为CUDA函数通常是内联的,一些变量成为调用函数中变量的副本。示例 (请注意bar()编译中的foo()中的x -完全消失)。 1.2 程序编译代码中的直接值--如果变量的值是常数的,并且没有更新,那么它的值可能只是“插入”到代码中。下面是一个例子有两个变量,取常量,用常数替换为它们的和。
  2. 当未优化时: 2.1 寄存器-如果您的变量不能优化-离开,更好的选择是将它保存在硬件寄存器(对称的多处理器核心之一)的GPU。示例 (变量x和y放在寄存器%r1和%r2中)。最好和最具表现力的选项,编译器 2.2 'local‘内存-- CUDA线程的“本地内存”是全局设备内存中的一个区域,该区域(原则上)仅可由该线程访问。

显然,本地内存的使用速度要慢得多。那么编译器什么时候会选择它呢?

数据自动化系统编程指南给我们的答案:

  1. 当自动变量是时,太大,无法适应当前线程的寄存器文件(每个线程通常获得63到255个4字节寄存器)。
  2. 当自动变量是数组或具有数组成员时,该数组成员是用非常量偏移量索引的。不幸的是,NVIDIA GPU多处理器不支持注册索引。
  3. 当内核是时,过度使用其可用的寄存器配额时,已经满了其他变量或编译后的代码所使用的--即使变量本身非常小。这被称为寄存器溢出。
票数 2
EN

Stack Overflow用户

发布于 2022-03-13 14:42:10

局部变量要么放在硬件寄存器中,要么放在本地内存中(这实际上是全局内存)。

但是,在您的示例中,变量i将被编译器删除,因为它是未使用的。

票数 2
EN

Stack Overflow用户

发布于 2022-03-13 14:55:16

GPU有大量空间专门用于直接存储在GPU计算单元中的许多寄存器(即。(流多处理器)。寄存器不会存储在内存中,除非发生某些寄存器溢出(通常当您在给定内核中使用太多寄存器时)。与所有内存字节不同,寄存器没有地址。CPU也是如此,只不过CPU寄存器的数量通常比GPU小得多。例如,Intel Skylake内核有180个整数寄存器和168个矢量寄存器,而指令集结构仅限于16个整数/向量寄存器。注意,在寄存器溢出的情况下,寄存器的值是临时存储在本地内存中的(如果可能的话通常存储在L1缓存中)。下面是基本(Nvidia Fermi) GPU的总体内存层次结构:

​

​

有关更多信息,请考虑阅读:局部内存和寄存器溢出。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/71457335

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档