什么是指GPU上下文，GPU硬件通道在NVIDIA的架构中

Question

在阅读一些与GPU计算有关的论文时，我坚持理解GPU上下文和GPU硬件通道 bellow这两个术语，但我不明白它们的意思，

命令：GPU使用体系结构专用命令进行操作。每个GPU上下文都分配一个FIFO队列，运行在CPU上的程序向队列提交命令。只有当GPU本身发出相应的命令时，才会触发GPU上的计算和数据传输。

通道：为每个GPU上下文分配一个GPU硬件通道，其中管理命令调度。费米不允许多个通道同时访问同一个GPU功能单元，但允许它们在硬件中自动切换。

因此，对此有一个清晰而简单的解释。

Answer 1

GPU上下文被描述为这里。它表示所有的状态(数据、变量、条件等)。用于执行某些任务(如CUDA计算、图形、H.264编码等)的集体要求和实例化。一个CUDA上下文被实例化，以在GPU上执行CUDA计算活动，或者通过CUDA运行时API隐式地执行，或者由CUDA驱动程序API显式地执行。

命令只是一组数据，要对该数据执行指令。例如，可以向GPU发出命令，以启动内核，或将图形窗口从一个位置移动到桌面上的另一个位置。

通道表示主机(CPU)和GPU之间的通信路径。在现代GPU中，这使用了PCI，并表示主机和设备中的状态和缓冲区，这些状态和缓冲区是通过PCI Express交换的，用于向GPU发出命令，并向GPU提供其他数据，并通知CPU GPU的活动。

在大多数情况下，使用CUDA运行时API，没有必要熟悉这些概念，因为它们都是在CUDA运行时API下被抽象(隐藏)的。