CANN/GE多func处理函数

发布时间:2026/7/4 6:08:55
CANN/GE多func处理函数 # 多func处理函数【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 推理系列产品/Atlas A2 训练系列产品支持函数功能用户自定义的多flow func处理函数。函数原型普通场景下函数输入由框架准备完毕后直接给用户使用用户直接使用入参中的flowMsg即可。std::functionint32_t (const std::shared_ptrMetaRunContext runContext, const std::vectorstd::shared_ptrFlowMsg flowMsg)流式输入即函数入参为队列场景下由用户自行从输入队列中获取数据使用。std::functionint32_t (const std::shared_ptrMetaRunContext runContext, const std::vectorstd::shared_ptrFlowMsgQueue flowMsgQueue)参数说明参数名输入/输出描述runContext输入处理函数的上下文信息。FlowMsg/FlowMsgQueue输入函数的入参/输入队列。返回值0SUCCESS。otherFAILED具体请参考UDF错误码。异常处理如果有不可恢复的异常信息发生返回ERROR。其他情况则调用SetRetcode设置输出tensor的错误码。如果返回success调度会终止。约束说明使用流式输入flow func时需要在ProcessPoint编译配置文件中将对应func的stream_input字段设置为true。例如{ func_list: [ { func_name: Func, stream_input: true } ], input_num: 1, output_num: 1, target_bin: libfunc.so, workspace: ./, cmakelist_path: CMakeLists.txt, }【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考