ShardGraphsToFile【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品xAtlas A2 训练系列产品 / Atlas A2 推理系列产品√头文件/库文件头文件#include ge/ge_api.h库文件libge_runner.so功能说明该接口已废弃请勿使用。大模型分布式编译切分场景下使用Graph太大场景下需要调用该接口进行切分图并将切分后的图保存为pb文件。切分图接口对Session内的图按照AddGraph的顺序进行切分切分后的图保存为pb文件。切分方式由options参数说明中的ge.graphParallelOptionPath参数配置若未使能并行切分功能则接口不会进行切分。切分后的图命名规则若工作在SPMD模式切分后的图的命名规则为{原图名}_{ClusterId}_{ItemId}_{ChipId}_{VirtualStageId}_{原图GraphId}切分后的图的个数将为原图的个数*切分份数。若工作在非SPMD模式切分后的图命名规则为{原图名}_{原图GraphId}切分后的图的个数将等于原图个数。切分图以后原图将不在Session内存在生成的新的切分后图的GraphId将使用其他ID替代原图的GraphId。该接口与SaveGraphsToPb接口区别ShardGraphsToFile适用于大模型分布式编译切分场景而SaveGraphsToPb适用于任何图。该接口与ShardGraphs接口区别ShardGraphsToFile可以完成搜索策略、图的切分并输出切分后的图等文件切分后的图也通过该接口落盘file_path参数必须指定有效路径。而ShardGraphs完成搜索策略、图的切分并输出切分后的图等文件后切分后的图保存在内存中然后通过SaveGraphsToPb落盘。函数原型Status ShardGraphsToFile(const char_t *file_path ./) const参数说明参数名输入/输出说明file_path输入保存图和权重的目录必须为一个合法路径。如果该参数为空则只进行切分图不生成pb文件。返回值说明参数名类型说明-StatusSUCCESS成功FAILED失败约束说明当前仅支持并行切分模式打开时才可以使能。调用示例Session session(options); // options中已使能并行切分功能 Graph init_graph(init_graph); Graph first_graph(first_graph); Graph second_graph(second_graph); session.ShardGraphsToFile(/xxx/graph_path);【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考