
WriteGmByPassDCache(ISASI)【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径为basic_api/kernel_operator_scalar_intf.h。不经过DCache向GM地址上写数据。使用场景当多个核写入的数据落在同一条Cache Line内时经过DCache的读写将以64B为粒度可能引发多核数据随机覆盖问题参考DataCacheCleanAndInvalid调用示例3。使用该接口不经过DCache直接按操作数大小写GM可避免此问题。经过DCache写GM时可能导致多核间的数据不一致问题详细原因请参考Cache写策略与Cache一致性问题使用该接口不经过DCache直接向GM写数据可避免此问题。由于WriteGmByPassDCache接口向GM写数据时不经过DCache因此开发者需要考虑如下场景当GM上地址addr已经在DCache缓存并且其对应的Cache Line标记为“脏”dirty表示该数据已被修改但尚未写回到GM时开发者应该在WriteGmByPassDCache接口之前调用DataCacheCleanAndInvalid接口将addr对应的Cache Line立即写回GM否则WriteGmByPassDCache接口写入addr的数据后续可能被DCache写回的脏数据覆盖。DataCacheCleanAndInvalid接口与WriteGmByPassDCache接口向GM写数据时硬件不能保证两个接口的执行顺序因此开发者应该在WriteGmByPassDCache接口之前调用DataSyncBarrier.md)接口对这两个接口进行同步否则WriteGmByPassDCache接口写入addr的数据依然可能被DCache写回的脏数据覆盖。根据以上的描述为了简化编程开发者无需关心addr是否在DCache缓存以及是否被标记为“脏”建议开发者在使用WriteGmByPassDCache接口时采用如下代码片段AscendC::GlobalTensorT global; // global为addr对应的GlobalTensor AscendC::DataCacheCleanAndInvalidT, AscendC::CacheLine::SINGLE_CACHE_LINE, AscendC::DcciDst::CACHELINE_OUT(global); // 保证WriteGmByPassDCache接口向addr写入value之前DCache中的脏数据已经写回GM。 AscendC::DataSyncBarrierAscendC::MemDsbT::DDR(); AscendC::WriteGmByPassDCacheT(addr, value);函数原型template typename T __aicore__ inline void WriteGmByPassDCache(__gm__ T* addr, T value)参数说明表1模板参数说明参数名描述T操作数的数据类型。表2接口参数说明参数名输入/输出含义addr输入目标GM地址。value输入待写入目标数据。数据类型支持的数据类型为int8_t、uint8_t、int16_t、uint16_t、int32_t、uint32_t、int64_t、uint64_t。返回值说明无约束说明无调用示例if (blockIdx 0) { // 先写入被依赖数据再通过DataSyncBarrier等待DDR访问完成。 AscendC::WriteGmByPassDCacheT(reinterpret_cast__gm__ T *(srcGm) 1, DATA_VALUE); // DataSyncBarrierDDR阻塞后续GM写确保上一条GM写对其他核可见。 AscendC::DataSyncBarrierAscendC::MemDsbT::DDR(); // 最后写入同步标记block 1读到该标记后即可安全读取srcGm[1]。 AscendC::WriteGmByPassDCacheT(reinterpret_cast__gm__ T *(srcGm), SYNC_FLAG); } if (blockIdx 1) { while (true) { __gm__ T *addr const_cast__gm__ T *(srcGlobal.GetPhyAddr()); // 轮询GM第0个元素等待block 0写入同步标记。 T flagValue AscendC::ReadGmByPassDCacheT(addr); if (flagValue SYNC_FLAG) { // DataSyncBarrier保证同步标记之前的srcGm[1]写入已完成。 T dataValue AscendC::ReadGmByPassDCacheT(addr 1); AscendC::WriteGmByPassDCacheT(reinterpret_cast__gm__ T *(dstGm), 2 * dataValue); return; } } }完整样例请参考DataSyncBarrier样例。【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考