我编写了一个struct和一些包装"CUBLAS矩阵对象“的函数。
struct是:
#include <cuda.h>
#include <cuda_runtime.h>
#include <cublas_v2.h>
#define uint unsigned int
typedef struct {
uint rows;
uint cols;
float* devPtrvals;
} matrix;alloc函数创建矩阵结构:
matrix* matrix_alloc(uint rows, uint cols)
{
cudaError_t cudaStat;
matrix* w = malloc(sizeof(matrix));
w->rows = rows;
w->cols = cols;
cudaStat = cudaMalloc((void**)&w->devPtrvals, sizeof(float) * rows * cols);
if(cudaStat != cudaSuccess) {
fprintf(stderr, "device memory allocation failed\n");
return NULL;
}
return w;
};免费功能:
uint matrix_free(matrix* w)
{
cudaFree(w->devPtrvals);
free(w);
return 1;
};函数,该函数从浮点数数组中设置矩阵的值:
uint matrix_set_vals(matrix* w, float* vals)
{
cublasStatus_t stat;
stat = cublasSetMatrix(w->rows, w->cols, sizeof(float),
vals, w->rows, w->devPtrvals, w->rows);
if(stat != CUBLAS_STATUS_SUCCESS) {
fprintf(stderr, "data upload failed\n");
return 0;
}
return 1;
};我有一个问题,要写一个通用的点乘积函数,它包括矩阵的转换。这就是我所写的:
matrix* matrix_dot(cublasHandle_t handle, char transA, char transB,
float alpha, matrix* v, matrix* w, float beta)
{
matrix* x = matrix_alloc(transA == CUBLAS_OP_N ? v->rows : v->cols,
transB == CUBLAS_OP_N ? w->cols : w->rows);
//cublasStatus_t cublasSgemm(cublasHandle_t handle,
// cublasOperation_t transa, cublasOperation_t transb,
// int m, int n, int k,
// const float *alpha,
// const float *A, int lda,
// const float *B, int ldb,
// const float *beta,
// float *C, int ldc)
cublasSgemm(handle, transA, transB,
transA == CUBLAS_OP_N ? v->rows : v->cols,
transB == CUBLAS_OP_N ? w->cols : w->rows,
transA == CUBLAS_OP_N ? v->cols : v->rows,
&alpha, v->devPtrvals, v->rows, w->devPtrvals,
w->rows, &beta, x->devPtrvals, x->rows);
return x;
};示例:
我要一个矩阵A:
1 2 3
4 5 6
7 8 9
10 11 12这意味着:
float* a = {1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12};
matrix* A = matrix_alloc(4, 3);
matrix_set_vals(A, a);然后用转置的B相乘:
1 2 3
4 5 6此外:
float* b = {1, 2, 3, 4, 5, 6};
matrix* B = matrix_alloc(2, 3);
matrix_set_vals(B, b);A*B^T=C的结果:
14 32
32 77
50 122
68 167我使用的是点函数:
matrix* C = matrix_dot(handle, CUBLAS_OP_N, CUBLAS_OP_T, 1.0, A, B, 0.0);当使用这个函数时,我得到:** On entry to SGEMM parameter number 10 had an illegal value
我做错了什么?
发布于 2013-10-23 07:37:24
代码中有两个问题。
首先,您将矩阵存储在主要行中,但是cublas假设矩阵应该存储在col中。对于主矩阵A,应该使用以下数据进行初始化.
float* a = {1,4,7,10,2,5,8,11,3,6,9,12};事实上,您可能已经注意到cublas_gemm()也可以用来计算行主矩阵乘法。由于存储在行- M中的矩阵M^T的数据布局与存储在col中的转置矩阵M^T的数据布局完全相同,如果存储中没有填充字节的话。所以如果你想
C_row = A_row * B_row你可以用这个代替
C_col_trans = B_col_trans * A_col_trans其中,C_row和C_col_trans的底层存储布局完全相同,A和B也是如此。
第二个问题是关于主导维度。当存储中没有填充字节时,主行矩阵的ld等于列数,而columns矩阵的ld等于行数。
编辑
另一个问题是您可能不得不使用cublasOperation_t tansA而不是char transA。
https://stackoverflow.com/questions/19532991
复制相似问题