cuda 矩阵乘法适应任意blocksize gridsize

cuda 矩阵乘法适应任意blocksize
gridsize
当使用 CUDA 进行矩阵乘法时，可以通过动态分配网格和块大小来适应任意的矩阵大小。

以下是一个示例代码，展示了如何使用 CUDA 实现矩阵乘法，并动态调整网格和块大小以适应任意大小的矩阵：
```cpp
#include <iostream>
#include <vector>
#include <cstdlib>
#include <ctime>
// CUDA 核函数用于矩阵乘法
__global__ void matrixMultiply(float *A, float *B, float *C, int N) {
int i = blockIdx.y * blockDim.y + threadIdx.y;
int j = blockIdx.x * blockDim.x + threadIdx.x;
if (i < N && j < N) {
float sum = 0.0f;
for (int k = 0; k < N; ++k) {
sum += A[i * N + k] * B[k * N + j];
}
C[i * N + j] = sum;
}
}
int main() {
//矩阵大小 N x N
int N = 4;
size_t matrixSize = N * N * sizeof(float);
// 在主机上分配内存
std::vector<float> h_A(N * N);
std::vector<float> h_B(N * N);
std::vector<float> h_C(N * N);
// 用随机数初始化矩阵
std::srand(static_cast<unsigned int>(std::time(nullptr)));
for (int i = 0; i < N * N; ++i) {
h_A[i] = static_cast<float>(std::rand()) / RAND_MAX;
h_B[i] = static_cast<float>(std::rand()) / RAND_MAX;
}
// 在设备上分配内存
float *d_A, *d_B, *d_C;
cudaMalloc(&d_A, matrixSize);
cudaMalloc(&d_B, matrixSize);
cudaMalloc(&d_C, matrixSize);
// 将矩阵从主机复制到设备
cudaMemcpy(d_A, h_A.data(), matrixSize, cudaMemcpyHostToDevice); cudaMemcpy(d_B, h_B.data(), matrixSize, cudaMemcpyHostToDevice); // 使用动态网格和块大小进行矩阵乘法
dim3 threadsPerBlock(2, 2);
dim3 numBlocks(N / threadsPerBlock.x, N / threadsPerBlock.y);
matrixMultiply<<<numBlocks, threadsPerBlock>>>(d_A, d_B, d_C, N); // 将结果从设备复制回主机
cudaMemcpy(h_C.data(), d_C, matrixSize, cudaMemcpyDeviceToHost); // 输出矩阵 C 的内容
std::cout << "矩阵 C 的内容：" << std::endl;
for (int i = 0; i < N; ++i) {
for (int j = 0; j < N; ++j) {
std::cout << h_C[i * N + j] << " ";
}
std::cout << std::endl;
}
// 释放设备内存
cudaFree(d_A);
cudaFree(d_B);
cudaFree(d_C);
return 0;
}
```
在上述示例代码中，我们定义了一个 `matrixMultiply` 核函数，用于在 GPU 上进行矩阵乘法。

该核函数使用了共享内存来优化内存访问，并通过线程索引计算每个线程负责的元素位置。

在 `main` 函数中，我们首先生成了两个随机的矩阵 `h_A` 和 `h_B`，并将它们复制到设备内存中。

然后，我们使用 `dim3` 结构体动态指定了网格和块大小，以适应不同大小的矩阵。

接下来，我们调用 `matrixMultiply` 核函数进行矩阵乘法，并将结果存储在设备内存中。

最后，我们将结果从设备复制回主机，并输出矩阵 `C` 的内容。

你可以根据需要修改矩阵大小 `N` 和网格、块大小来适应不同的计算需求。

请确保在运行代码之前已正确安装和配置 CUDA 环境。