CANN/asc-devkit等待批量迭代完成接口

发布时间:2026/7/17 18:41:08
CANN/asc-devkit等待批量迭代完成接口 WaitIterateBatch【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明等待IterateBatch异步接口或IterateNBatch异步接口返回支持连续输出到Global Memory。函数原型__aicore__ inline void WaitIterateBatch()参数说明无返回值说明无约束说明配套IterateBatch或IterateNBatch异步接口使用。仅支持连续输出至Global Memory。当开启MixDualMaster双主模式场景时即模板参数enableMixDualMaster设置为true不支持使用该接口。调用示例AscendC::MatmulaType, bType, cType, biasType mm; mm.SetTensorA(gm_a[offsetA]); mm.SetTensorB(gm_b[offsetB]); if (tiling.isBias) { mm.SetBias(gm_bias[offsetBias]); } mm.IterateBatch(gm_c[offsetC], batchA, batchB, false); // do some other compute tasks mm.WaitIterateBatch(); // 等待IterateBatch完成【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考