SetAType【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit功能说明设置A矩阵的位置数据格式数据类型是否转置等信息这些信息需要和kernel侧的设置保持一致。函数原型int32_t SetAType(TPosition pos, CubeFormat type, DataType dataType, bool isTrans false)参数说明表1参数说明参数名输入/输出描述pos输入A矩阵所在的buffer位置可设置为TPosition::GM, TPosition::VECOUT, TPosition::TSCM。type输入A矩阵的数据格式可设置为CubeFormat::NDCubeFormat::NZCubeFormat::VECTOR。dataType输入A矩阵的数据类型可设置为DataType::DT_FLOAT、DataType::DT_FLOAT16、DataType::DT_BFLOAT16、DataType::DT_INT8、DataType::DT_INT4、DataType::DT_FLOAT8_E4M3FN、DataType::DT_FLOAT8_E5M2、DataType::DT_HIFLOAT8。isTrans输入A矩阵是否转置。参数取值trueA矩阵转置falseA矩阵不转置。Atlas 推理系列产品AI CoreA矩阵为DataType::DT_INT8数据类型时不支持转置即不支持该参数设置为true。返回值说明-1表示设置失败0表示设置成功。约束说明无调用示例auto ascendcPlatform platform_ascendc::PlatformAscendC(context-GetPlatformInfo()); matmul_tiling::MatmulApiTiling tiling(ascendcPlatform); // 设置A矩阵buffer位置为GM数据格式为ND数据类型为bfloat16默认不转置 tiling.SetAType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); tiling.SetBType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); tiling.SetCType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT); tiling.SetBiasType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT); tiling.SetShape(1024, 1024, 1024); tiling.SetOrgShape(1024, 1024, 1024); tiling.SetBias(true); tiling.SetBufferSpace(-1, -1, -1); optiling::TCubeTiling tilingData; int ret tiling.GetTiling(tilingData);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考