CANN/GE添加图API
AddGraph【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√头文件/库文件头文件#include ge/ge_api.h库文件libge_runner.so功能说明向Session中添加GraphSession内会生成唯一的Graph ID。函数原型[!NOTE]说明 数据类型为string的接口后续版本会废弃建议使用数据类型为非string的接口。Status AddGraph(uint32_t graph_id, const Graph graph) Status AddGraph(uint32_t graph_id, const Graph graph, const std::mapstd::string, std::string options) Status AddGraph(uint32_t graph_id, const Graph graph, const std::mapAscendString, AscendString options)参数说明参数名输入/输出说明graph_id输入Graph对应的ID。graph输入需要加载到Session内的Graph。options输入map表key为参数类型value为参数值均为字符串格式描述Graph配置信息。一般情况下可不填与GEInitialize传入的全局options保持一致。如需单独配置当前Graph的配置信息时可以通过此参数配置支持的配置项请参见options参数说明中graph级别的参数。返回值说明参数名类型说明-StatusGE_CLI_GE_NOT_INITIALIZEDGE未初始化。SUCCESS图添加成功。FAILED图添加失败。约束说明相同对象的Graph调用此接口注册会导致不同的Graph ID实际共享同一个Graph对象导致后续操作相互影响而出错。不同的Graph对象请不要使用相同的Graph ID来添加该情况下只保留第一次添加的Graph对象后续的Graph对象不会添加成功。使用该接口Session会直接修改添加的Graph对象。如果AddGraph后需要保持原有的Graph对象不受影响应使用AddGraphWithCopy接口AddGraphWithCopy会在Session中拷贝一份Graph对象仅对Graph对象的拷贝进行修改。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考