HCgemmBatched
【免费下载链接】sip本项目是CANN提供的一款高效、可靠的高性能信号处理算子加速库，基于华为Ascend AI处理器，专门为信号处理领域而设计。项目地址: https://gitcode.com/cann/sip
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Atlas 200I/500 A2 推理产品 | × |
| Atlas 推理系列产品 | × |
| Atlas 训练系列产品 | × |
| Atlas A3 训练系列产品/Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品/Atlas A2 推理系列产品 | √ |
| Ascend 950PR/Ascend 950DT | × |
功能说明
- 接口功能：
asdBlasMakeCgemmBatchedPlan：初始化该句柄对应的算子配置。
asdBlasCgemmBatched：用于计算两批复数矩阵的乘积。 - 计算公式： $$ C= alpha * op(A[i])*op(B[i]) + beta * C[i] $$ 示例：
输入“inTensorA[i]”为：
[ [ 1+i, 1+2i ], [ 1+3i, 1+4i ] ]
输入“inTensorB[i]”为：
[ [ 2+i, 2+2i ], [ 2+3i, 2+4i ] ]
输入“inTensorC[i]”为：
[ [ 3+i, 3+2i ], [ 3+3i, 3+4i ] ]
输入“transa”为： N，输入“transb”为：T。
输入“m”为：2，输入“n”为： 2，输入“k”为：2，输入“alpha”为：1+i，“beta”为：2+2i。
输入“lda”为： 2，输入“ldb”为：2，输入“ldc”为：2。
输入“batchCount”为：1。
调用“asdBlasCgemmBatched”算子后，输出“C”为：
[ [ -15+19i, -27+19i ], [ -37+21i, -57+13i ] ]
函数原型
AspbStatus asdBlasMakeCgemmBatchedPlan( asdBlasHandle handle)AspbStatus asdBlasCgemmBatched( asdBlasHandle handle, asdBlasOperation_t transa, asdBlasOperation_t transb, const int64_t m, const int64_t n, const int64_t k, const std::complex<float> & alpha, aclTensor * A, const int64_t lda, aclTensor * B, const int64_t ldb, const std::complex<float> & beta, aclTensor * C, const int64_t ldc, const int64_t batchCount)asdBlasMakeCgemmBatchedPlan
参数说明：
参数名 输入/输出 描述 handle（asdBlasHandle） 输入 算子的句柄 返回值：
返回状态码，具体参见SiP返回码。
asdBlasCgemmBatched
参数说明：
参数名 输入/输出 描述 handle（asdBlasHandle） 输入 算子的句柄 transa（asdBlasOperation_t） 输入 指定矩阵A是否需要转置，取值必须为ASDBLAS_OP_N。 transb（asdBlasOperation_t） 输入 指定矩阵B是否需要转置，取值必须为ASDBLAS_OP_N。 m（int64_t） 输入 矩阵C的行数，取值范围为：{1-32}。 n（int64_t） 输入 矩阵C的列数，取值范围为：{1-32}。 k（ int64_t） 输入 矩阵A和B的公共维度，取值范围为：{1-32}。 lda（ int64_t） 输入 A左右相邻元素间的内存地址偏移量，取值和k相等。 ldb（ int64_t） 输入 B左右相邻元素间的内存地址偏移量，取值和n相等。 ldc（ int64_t） 输入 C左右相邻元素间的内存地址偏移量，取值和n相等。 A（aclTensor *） 输入 - 输入的矩阵，对应公式中的'A'
- 数据类型支持COMPLEX64。
- 数据格式支持ND。
- shape为[batchCount, m, k]。
B（aclTensor *） 输入 - 输入的矩阵，对应公式中的'B'
- 数据类型支持COMPLEX64。
- 数据格式支持ND。
- shape为[batchCount, k, n]。
C（aclTensor *） 输出 - 对应公式中的'C'
- 数据类型支持COMPLEX64。
- 数据格式支持ND。
- shape为[batchCount, m, n]。
alpha（std::complex<float> &） 输入 对应公式中的alpha，复数标量，用于乘以矩阵乘法的结果，取值必须为1+0j。 beta（std::complex<float> &） 输入 对应公式中的beta，复数标量，用于乘以矩阵C。取值必须为 0+0j。。 batchCount（int64_t） 输入 批次数量。取值范围为{12 - 26208}。 返回值：
返回状态码，具体参见SiP返回码。
约束说明
- 算子实际计算时，只支持3维ND运算。
- 算子输入数据为行主序，输入shape为[batchCount, m, k]、[batchCount, k, n]、[batchCount, m, n]，输出shape为[batchCount, m, n]。
调用示例
示例代码如下，该样例旨在提供快速上手、开发和调试算子的最小化实现，其核心目标是使用最精简的代码展示算子的核心功能，而非提供生产级的安全保障。不推荐用户直接将示例代码作为业务代码，若用户将示例代码应用在自身的真实业务场景中且发生了安全问题，则需用户自行承担。
#include <iostream> #include <vector> #include "asdsip.h" #include "acl/acl.h" #include "acl_meta.h" using namespace AsdSip; #define ASD_STATUS_CHECK(err) \ do { \ AsdSip::AspbStatus err_ = (err); \ if (err_ != AsdSip::ErrorType::ACL_SUCCESS) { \ std::cout << "Execute failed." << std::endl; \ exit(-1); \ } else { \ std::cout << "Execute successfully." << std::endl; \ } \ } while (0) #define CHECK_RET(cond, return_expr) \ do { \ if (!(cond)) { \ return_expr; \ } \ } while (0) #define LOG_PRINT(message, ...) \ do { \ printf(message, ##__VA_ARGS__); \ } while (0) int64_t GetShapeSize(const std::vector<int64_t> &shape) { int64_t shapeSize = 1; for (auto i : shape) { shapeSize *= i; } return shapeSize; } int Init(int32_t deviceId, aclrtStream *stream) { // 固定写法，acl初始化 auto ret = aclInit(nullptr); CHECK_RET(ret == ::ACL_SUCCESS, LOG_PRINT("aclInit failed. ERROR: %d\n", ret); return ret); ret = aclrtSetDevice(deviceId); CHECK_RET(ret == ::ACL_SUCCESS, LOG_PRINT("aclrtSetDevice failed. ERROR: %d\n", ret); return ret); ret = aclrtCreateStream(stream); CHECK_RET(ret == ::ACL_SUCCESS, LOG_PRINT("aclrtCreateStream failed. ERROR: %d\n", ret); return ret); return 0; } template <typename T> int CreateAclTensor(const std::vector<T> &hostData, const std::vector<int64_t> &shape, void **deviceAddr, aclDataType dataType, aclTensor **tensor) { auto size = GetShapeSize(shape) * sizeof(T); // 调用aclrtMalloc申请device侧内存 auto ret = aclrtMalloc(deviceAddr, size, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret == ::ACL_SUCCESS, LOG_PRINT("aclrtMalloc failed. ERROR: %d\n", ret); return ret); // 调用aclrtMemcpy将host侧数据复制到device侧内存上 ret = aclrtMemcpy(*deviceAddr, size, hostData.data(), size, ACL_MEMCPY_HOST_TO_DEVICE); CHECK_RET(ret == ::ACL_SUCCESS, LOG_PRINT("aclrtMemcpy failed. ERROR: %d\n", ret); return ret); // 计算连续tensor的strides std::vector<int64_t> strides(shape.size(), 1); for (int64_t i = shape.size() - 2; i >= 0; i--) { strides[i] = shape[i + 1] * strides[i + 1]; } // 调用aclCreateTensor接口创建aclTensor *tensor = aclCreateTensor(shape.data(), shape.size(), dataType, strides.data(), 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), *deviceAddr); return 0; } void printTensor(std::vector<std::complex<float>> tensorData, int64_t batch, int64_t rows, int64_t cols) { for (int64_t b = 0; b < batch; b++) { for (int64_t i = 0; i < rows; i++) { for (int64_t j = 0; j < cols; j++) { auto data = tensorData[b * rows * cols + i * cols + j]; std::cout << "(" << (float)data.real() << "," << (float)data.imag() << ")" << " "; } std::cout << std::endl; } std::cout << std::endl; } } int main(int argc, char **argv) { int deviceId = 0; aclrtStream stream; auto ret = Init(deviceId, &stream); CHECK_RET(ret == ::ACL_SUCCESS, LOG_PRINT("Init acl failed. ERROR: %d\n", ret); return ret); int batch = 2; int m = 3; int k = 3; int n = 3; asdBlasOperation_t transA = asdBlasOperation_t::ASDBLAS_OP_N; asdBlasOperation_t transB = asdBlasOperation_t::ASDBLAS_OP_N; std::complex<float> alpha = std::complex<float>(1.0f, 0.0f); std::complex<float> beta = std::complex<float>(0.0f, 0.0f); int64_t lda = k; int64_t ldb = n; int64_t ldc = n; const int64_t tensorASize = batch * m * k; const int64_t tensorBSize = batch * k * n; const int64_t tensorCSize = batch * m * n; std::vector<std::complex<float>> tensorInAData; tensorInAData.reserve(tensorASize); for (int i = 0; i < tensorASize; i++) { tensorInAData.push_back(std::complex<float>(1.0f, i + 0.0f)); } std::vector<std::complex<float>> tensorInBData; tensorInBData.reserve(tensorBSize); for (int i = 0; i < tensorBSize; i++) { tensorInBData.push_back(std::complex<float>(1.0f, i + 0.0f)); } std::vector<std::complex<float>> tensorInCData; tensorInCData.reserve(tensorCSize); for (int i = 0; i < tensorCSize; i++) { tensorInCData.push_back(std::complex<float>(1.0f, i + 0.0f)); } std::vector<int64_t> matAShape = {batch, m, k}; std::vector<int64_t> matBShape = {batch, k, n}; std::vector<int64_t> matCShape = {batch, m, n}; aclTensor *matA = nullptr; aclTensor *matB = nullptr; aclTensor *matC = nullptr; void *matADeviceAddr = nullptr; void *matBDeviceAddr = nullptr; void *matCDeviceAddr = nullptr; ret = CreateAclTensor<std::complex<float>>( tensorInAData, matAShape, &matADeviceAddr, aclDataType::ACL_COMPLEX64, &matA); CHECK_RET(ret == ::ACL_SUCCESS, return ret); ret = CreateAclTensor<std::complex<float>>( tensorInBData, matBShape, &matBDeviceAddr, aclDataType::ACL_COMPLEX64, &matB); CHECK_RET(ret == ::ACL_SUCCESS, return ret); ret = CreateAclTensor<std::complex<float>>( tensorInCData, matCShape, &matCDeviceAddr, aclDataType::ACL_COMPLEX64, &matC); CHECK_RET(ret == ::ACL_SUCCESS, return ret); std::cout << "alpha = " << "(" << (float) alpha.real() << "," << (float) alpha.imag() << ")" << std::endl; std::cout << "beta = " << "(" << (float) beta.real() << "," << (float) beta.imag() << ")" << std::endl; std::cout << "------- input TensorInA -------" << std::endl; printTensor(tensorInAData, batch, m, k); std::cout << "------- input TensorInB -------" << std::endl; printTensor(tensorInBData, batch, k, n); asdBlasHandle handle; asdBlasCreate(handle); size_t lwork = 0; void *buffer = nullptr; asdBlasMakeCgemmBatchedPlan(handle); asdBlasGetWorkspaceSize(handle, lwork); std::cout << "lwork = " << lwork << std::endl; if (lwork > 0) { ret = aclrtMalloc(&buffer, static_cast<int64_t>(lwork), ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret == ::ACL_SUCCESS, LOG_PRINT("allocate workspace failed. ERROR: %d\n", ret); return ret); } asdBlasSetWorkspace(handle, buffer); asdBlasSetStream(handle, stream); ASD_STATUS_CHECK(asdBlasCgemmBatched(handle, transA, transB, m, n, k, alpha, matA, lda, matB, ldb, beta, matC, ldc, batch)); asdBlasSynchronize(handle); asdBlasDestroy(handle); ret = aclrtMemcpy(tensorInCData.data(), tensorCSize * sizeof(std::complex<float>), matCDeviceAddr, tensorCSize * sizeof(std::complex<float>), ACL_MEMCPY_DEVICE_TO_HOST); CHECK_RET(ret == ::ACL_SUCCESS, LOG_PRINT("copy result from device to host failed. ERROR: %d\n", ret); return ret); std::cout << "------- output TensorInC -------" << std::endl; printTensor(tensorInCData, batch, m, n); aclDestroyTensor(matA); aclDestroyTensor(matB); aclDestroyTensor(matC); aclrtFree(matADeviceAddr); aclrtFree(matBDeviceAddr); aclrtFree(matCDeviceAddr); aclrtDestroyStream(stream); aclrtResetDevice(deviceId); aclFinalize(); return 0; }【免费下载链接】sip本项目是CANN提供的一款高效、可靠的高性能信号处理算子加速库，基于华为Ascend AI处理器，专门为信号处理领域而设计。项目地址: https://gitcode.com/cann/sip
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
