首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >CUBLAS通用矩阵点积

问CUBLAS通用矩阵点积
EN

Stack Overflow用户
提问于 2013-10-23 04:47:19
回答 1查看 1.1K关注 0票数 1

我编写了一个struct和一些包装"CUBLAS矩阵对象“的函数。

struct是:

代码语言:javascript
复制
#include <cuda.h>
#include <cuda_runtime.h>
#include <cublas_v2.h>

#define uint unsigned int

typedef struct {
    uint rows;
    uint cols;
    float* devPtrvals;
} matrix;

alloc函数创建矩阵结构:

代码语言:javascript
复制
matrix* matrix_alloc(uint rows, uint cols)
{
    cudaError_t cudaStat;
    matrix* w = malloc(sizeof(matrix));
    w->rows = rows;
    w->cols = cols;
    cudaStat = cudaMalloc((void**)&w->devPtrvals, sizeof(float) * rows * cols);
    if(cudaStat != cudaSuccess) {
        fprintf(stderr, "device memory allocation failed\n");
        return NULL;
    }
    return w;
};

免费功能:

代码语言:javascript
复制
uint matrix_free(matrix* w)
{
    cudaFree(w->devPtrvals);
    free(w);
    return 1;
};

函数,该函数从浮点数数组中设置矩阵的值:

代码语言:javascript
复制
uint matrix_set_vals(matrix* w, float* vals)
{
    cublasStatus_t stat;
    stat = cublasSetMatrix(w->rows, w->cols, sizeof(float),
                           vals, w->rows, w->devPtrvals, w->rows);
    if(stat != CUBLAS_STATUS_SUCCESS) {
        fprintf(stderr, "data upload failed\n");
        return 0;
    }
    return 1;
};

我有一个问题,要写一个通用的点乘积函数,它包括矩阵的转换。这就是我所写的:

代码语言:javascript
复制
matrix* matrix_dot(cublasHandle_t handle, char transA, char transB,
                   float alpha, matrix* v, matrix* w, float beta)
{
    matrix* x = matrix_alloc(transA == CUBLAS_OP_N ? v->rows : v->cols,
                             transB == CUBLAS_OP_N ? w->cols : w->rows);
    //cublasStatus_t cublasSgemm(cublasHandle_t handle,
    //                 cublasOperation_t transa, cublasOperation_t transb,
    //                 int m, int n, int k,
    //                 const float           *alpha,
    //                 const float           *A, int lda,
    //                 const float           *B, int ldb,
    //                 const float           *beta,
    //                 float           *C, int ldc)
    cublasSgemm(handle, transA, transB,
                transA == CUBLAS_OP_N ? v->rows : v->cols,
                transB == CUBLAS_OP_N ? w->cols : w->rows,
                transA == CUBLAS_OP_N ? v->cols : v->rows,
                &alpha, v->devPtrvals, v->rows, w->devPtrvals,
                w->rows, &beta, x->devPtrvals, x->rows);
    return x;
};

示例:

我要一个矩阵A:

代码语言:javascript
复制
 1  2  3
 4  5  6
 7  8  9
 10 11 12

这意味着:

代码语言:javascript
复制
float* a = {1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12};
matrix* A = matrix_alloc(4, 3);
matrix_set_vals(A, a);

然后用转置的B相乘:

代码语言:javascript
复制
1 2 3
4 5 6

此外:

代码语言:javascript
复制
float* b = {1, 2, 3, 4, 5, 6};
matrix* B = matrix_alloc(2, 3);
matrix_set_vals(B, b);

A*B^T=C的结果:

代码语言:javascript
复制
14    32
32    77
50   122
68   167

我使用的是点函数:

代码语言:javascript
复制
matrix* C = matrix_dot(handle, CUBLAS_OP_N, CUBLAS_OP_T, 1.0, A, B, 0.0);

当使用这个函数时,我得到:** On entry to SGEMM parameter number 10 had an illegal value

我做错了什么?

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2013-10-23 07:37:24

代码中有两个问题。

首先,您将矩阵存储在主要行中,但是cublas假设矩阵应该存储在col中。对于主矩阵A,应该使用以下数据进行初始化.

代码语言:javascript
复制
float* a = {1,4,7,10,2,5,8,11,3,6,9,12};

事实上,您可能已经注意到cublas_gemm()也可以用来计算行主矩阵乘法。由于存储在行- M中的矩阵M^T的数据布局与存储在col中的转置矩阵M^T的数据布局完全相同,如果存储中没有填充字节的话。所以如果你想

代码语言:javascript
复制
 C_row = A_row * B_row

你可以用这个代替

代码语言:javascript
复制
 C_col_trans = B_col_trans * A_col_trans

其中,C_row和C_col_trans的底层存储布局完全相同,A和B也是如此。

第二个问题是关于主导维度。当存储中没有填充字节时,主行矩阵的ld等于列数,而columns矩阵的ld等于行数。

编辑

另一个问题是您可能不得不使用cublasOperation_t tansA而不是char transA。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/19532991

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档