资讯详情

深入了解 · 专业解读

Paddle-Lite 昆仑芯 XTCL 部署指南：通过 NNAdapter 子图接入在 R200/K100/K200 上加速 Paddle 模型推理

发布时间：2026/9/16 18:58:48
Paddle-Lite 昆仑芯 XTCL 部署指南：通过 NNAdapter 子图接入在 R200/K100/K200 上加速 Paddle 模型推理 Paddle-Lite 昆仑芯 XTCL 部署指南通过 NNAdapter 子图接入在 R200/K100/K200 上加速 Paddle 模型推理【免费下载链接】Paddle-LitePaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎项目地址: https://gitcode.com/GitHub_Trending/pa/Paddle-Lite本篇基于 昆仑芯 XTCL 部署文档完整梳理 Paddle-Lite 如何以 NNAdapter 子图方式接入昆仑芯Kunlunxin系列 AI 芯片涵盖支持现状芯片/加速卡/模型/算子/性能、基于 PaddleLite-generic-demo 的端到端运行步骤、从源码重新编译带 kunlunxin_xtcl 支持的部署库、以及多卡与卡型选择等高级参数并结合仓库内 kunlunxin_xtcl 驱动源码 解析参数解析与模型在线组网的底层实现。一、接入原理Paddle 算子 → NNAdapter 标准算子 → XTCL 组网Paddle-Lite 已支持昆仑芯系列芯片及板卡可在 X86 和 ARM 服务器上部署预测服务。接入方式为子图接入其原理是在线分析 Paddle 模型fluid / protobuf 组网文件将 Paddle 算子先转为统一的NNAdapter 标准算子如CONV_2D、FULLY_CONNECTED、SOFTMAX等再由各硬件的 Converter 将标准算子映射为目标硬件 API。对昆仑芯而言就是通过XTCL 组网 API 进行网络构建在线生成并执行模型。其中XPU Tensor Compilation LibraryXTCL是昆仑芯针对机器学习场景提供的图编译引擎库提供基于昆仑芯硬件的图层分析框架与加速优化能力。从源码结构看整个接入链路在仓库中的落点如下kunlunxin_xtcl 驱动目录包含driver.ccNNAdapter device HAL 入口、engine.cc模型构建与执行、converter/NNAdapter 标准算子到 XTCL 的转换实现driver.cc 中通过NNADAPTER_EXPORT导出vendor Kunlunxin、type NNADAPTER_ACCELERATOR的设备描述符实现OpenDevice / CreateContext / CreateProgram / ExecuteProgram等 HAL 接口converter/all.h 用REGISTER_CONVERTER宏登记了该驱动支持的 NNAdapter 标准算子全集CONV_2D、CONV_2D_TRANSPOSE、DEFORMABLE_CONV_2D、FULLY_CONNECTED、MAT_MUL、SOFTMAX、RESIZE_LINEAR、ROI_ALIGN、TOP_K等其中CHANNEL_SHUFFLE、QUANTIZE、DEQUANTIZE标注为 not support可据此判断一个模型能否完全下推到昆仑芯执行。执行流程解析engine.cc 的Program::Build()揭示了“在线组网”的具体过程有编译缓存时直接从缓存 buffer 加载已编译的 XTCL runtime 实例LoadInstanceRuntimeFromBuffer跳过重新编译无缓存时先做一系列图优化FuseConv2DBatchNormIntoConv2D、FuseConv2DAddIntoConv2D、FuseConv2DActivationIntoConv2D、FuseMatMulAddIntoFullyConnected、FuseReshapeTransposeReshapeIntoChannelShuffle再由Converter将 NNAdapter 模型转为 XTCL 网络表达式最终BuildInstanceRuntimeToBuffer()编译为 runtime 实例并可序列化进缓存供下次免编译加载。Program::Execute()则校验输入 shape 一致性把输入写入DLTensor后调用runtime_-Run()执行再将输出拷贝回 host 内存。也就是说首次推理会触发一次在线编译命中缓存后直接执行这与文档中“在线生成并执行模型”的描述完全对应。二、支持现状已支持的芯片与加速卡类别型号昆仑芯 1 代 AI 芯片CK10 / CK20昆仑芯 2 代 AI 芯片CR20昆仑芯 AI 加速卡1 代K100 / K200昆仑芯 AI 加速卡2 代R200已验证支持的 Paddle 模型原文档按任务类型列出了在昆仑芯上验证通过的模型覆盖面包括图像分类AlexNet、DarkNet53、DenseNet121、DPN68、EfficientNetB0、GhostNet、GoogLeNet、HRNet-W18、Inception-v3、Inception-v4、MobileNet-v1、MobileNet-v2、MobileNetV3_large、MobileNetV3_small、PP-LCNet、Res2Net50、ResNet-18/50/101、ResNeXt50、SE_ResNet50、SqueezeNet-v1、VGG16、VGG19目标检测PP-YOLO_mbv3、PPYOLO_tiny、SSD-MobileNetV1(1.8)、SSDLite-MobileNetV3_large、SSDLite-MobileNetV3_small、YOLOv3-DarkNet53、YOLOv3-MobileNetV1、YOLOv3-MobileNetV3、YOLOv4人脸检测FaceBoxes文本检测/识别/端到端ch_ppocr_server_v2.0_det、ch_ppocr_server_v2.0_rec、ch_PP-OCRv2_det、ch_PP-OCRv2_rec、CRNN-mv3-CTC推荐系统NCF图像分割PP-HumanSeg-Lite、PP-HumanSeg-Server(DeepLabV3)视频分类PP-TSN。更多模型可查阅 开源模型支持列表。注意以上全部模型目前只在 R200 上测试验证通过部分模型支持 K100 / K200。性能参考性能数据来自官方文档实测仅供参考以实际运行效果为准。下表为 Intel CPUx86 纯 CPU 推理与 x86 R200CPU XTCL 加速的单次预测耗时对比ms模型Intel CPU (ms)x86 R200 (ms)AlexNet37.7774000.689400DenseNet12176.7675994.015600EfficientNetB096.1744001.564200GoogLeNet46.0628001.464400Inception-v377.4644002.183400Inception-v4151.7213993.128800MobileNet-v123.4424000.500800MobileNet-v219.8892001.411200ResNet-1847.6911990.429400ResNet-50108.1129990.815200ResNet-101200.1349981.392200ResNeXt50110.6847991.648600SqueezeNet-v133.1408000.902400VGG16491.2379941.542200VGG19613.2873961.675200DPN6888.0270002.805000DarkNet5311197.1105471.139400GhostNet19.5384005.726200Res2Net50371.8240052.664400SE_ResNet50140.2311981.521600ch_PP-OCRv2_det111.9110033.690000ch_PP-OCRv2_rec40.9889985.419000ch_ppocr_server_v2.0_det987.7299806.303000ch_ppocr_server_v2.0_rec370.88101216.434999CRNN-mv3-CTC13.0410004.146000FaceBoxes336.13800043.075001NCF0.0100000.147000PP-TSN29140.35546990.681000SSD-MobileNetV1(1.8)33.7583002.078400YOLOv3-DarkNet531828.80705818.015895YOLOv3-MobileNetV1541.6698999.348368YOLOv46887.93397925.008631可以看到对于 VGG、DarkNet53、YOLO 系列等重计算模型R200 相对纯 CPU 的加速收益非常显著如 YOLOv4 从约 6.9s 降至约 25ms。已支持或部分支持的 Paddle 算子各算子在不同新硬件上的最新支持信息可以查阅仓库中的 NNAdapter 标准算子头文件 lite/backends/nnadapter/nnadapter/src/operation/all.h以及昆仑芯驱动自身登记的算子列表 converter/all.h模型中出现未登记的算子时NNAdapter 会将其划入 CPU 子图回退执行子图接入方式的特性或按算子支持度决定可否整图下推。三、参考示例演示测试设备昆仑芯 R2003.1 准备设备环境昆仑芯 AI 加速卡R200产品手册见官方文档R200 为全高全长 PCI-E 卡要求使用PCIe4.0 x16 插槽且需要单独的8 针供电线供电安装 R200XRE 驱动。目前支持 Ubuntu 和 CentOS 系统由于驱动依赖 Linux kernel 版本请正确安装对应版本的驱动安装包。3.2 准备本地编译环境为保证编译环境一致建议根据机器实际情况参考 Linux x86 环境下编译适用于 Linux x86 的库 或 ARM Linux 环境下编译适用于 ARM Linux 的库 中的“准备编译环境”章节进行配置。3.3 下载并解包示例程序下载 PaddleLite-generic-demo 并解压模型文件在原文档中以官方对象存储链接提供可按需获取清单结构如下- PaddleLite-generic-demo - image_classification_demo - assets - configs - imagenet_224.txt # config 文件 - synset_words.txt # 1000 分类 label 文件 - datasets - test # dataset - inputs - tabby_cat.jpg # 输入图片 - outputs - tabby_cat.jpg # 输出图片 - list.txt # 图片清单 - models - resnet50_fp32_224 # Paddle non-combined 格式的 resnet50 float32 模型 - __model__ # Paddle fluid 模型组网文件可用 Netron 可视化网络结构 - bn2a_branch1_mean # Paddle fluid 模型参数文件 - bn2a_branch1_scale ... - shell - CMakeLists.txt # 示例程序 CMake 脚本 - build.linux.amd64 # 已编译好的适用于 amd64 - demo # 已编译好的适用于 amd64 的示例程序 - build.linux.arm64 # 已编译好的适用于 arm64 - demo # 已编译好的适用于 arm64 的示例程序 - demo.cc # 示例程序源码 - build.sh # 示例程序编译脚本 - run.sh # 示例程序本地运行脚本 - run_with_ssh.sh # 示例程序 ssh 运行脚本 - run_with_adb.sh # 示例程序 adb 运行脚本 - libs - PaddleLite - android - arm64-v8a - armeabi-v7a - linux - amd64 - include # Paddle Lite 头文件 - lib # Paddle Lite 库文件 - cpu - libiomp5.so # Intel OpenMP 库 - libmklml_intel.so # Intel MKL 库 - libmklml_gnu.so # GNU MKL 库 - kunlunxin_xtcl # 昆仑芯 XTCL 库、NNAdapter 运行时库、device HAL 库 - libnnadapter.so # NNAdapter 运行时库 - libkunlunxin_xtcl.so # NNAdapter device HAL 库 - libxtcl.so # 昆仑芯 XTCL 库 ... - libpaddle_full_api_shared.so # 预编译 Paddle Lite full api 库 - libpaddle_light_api_shared.so # 预编译 Paddle Lite light api 库 - arm64 - include - lib - armhf ... - OpenCV # OpenCV 预编译库 - object_detection_demo # 目标检测示例程序注意lib/下与昆仑芯相关的三个核心库libnnadapter.soNNAdapter 运行时库负责模型在线分析、标准算子转换调度与子图划分libkunlunxin_xtcl.soNNAdapter 的 kunlunxin_xtcldevice HAL 库对应仓库中 driver 源码 编译出的目标导出设备描述符并桥接 XTCL APIlibxtcl.so昆仑芯 XTCL 图编译库本体来自 XTCL SDKSDK 依赖的libxpuapi.so、libxpurt.so、libxpujitc.so、libtvm.so等在 dependencies.cmake 中逐一声明。3.4 运行图像分类示例CPU 与 CPUR200 对比进入PaddleLite-generic-demo/image_classification_demo/shell/目录后执行run.sh比较 mobilenet_v1_fp32_224 模型在不同执行路径下的性能与结果。run.sh的第 4 个参数指定目标架构第 5 个参数可选kunlunxin_xtcl以启用加速卡# 运行 mobilenet_v1_fp32_224 模型 # For amd64 (intel x86 cpu only) $ ./run.sh mobilenet_v1_fp32_224 imagenet_224.txt test linux amd64 Top1 Egyptian cat - 0.482870 Top2 tabby, tabby cat - 0.471594 Top3 tiger cat - 0.039779 Top4 lynx, catamount - 0.002430 Top5 ping-pong ball - 0.000508 Preprocess time: 3.133000 ms, avg 3.133000 ms, max 3.133000 ms, min 3.133000 ms Prediction time: 12.594000 ms, avg 12.594000 ms, max 12.594000 ms, min 12.594000 ms Postprocess time: 4.235000 ms, avg 4.235000 ms, max 4.235000 ms, min 4.235000 ms # (intel x86 cpu kunlunxin xtcl) $ ./run.sh mobilenet_v1_fp32_224 imagenet_224.txt test linux amd64 kunlunxin_xtcl Top1 Egyptian cat - 0.482607 Top2 tabby, tabby cat - 0.471841 Top3 tiger cat - 0.039819 Top4 lynx, catamount - 0.002419 Top5 ping-pong ball - 0.000505 Preprocess time: 2.653000 ms, avg 2.653000 ms, max 2.653000 ms, min 2.653000 ms Prediction time: 0.524000 ms, avg 0.524000 ms, max 0.524000 ms, min 0.524000 ms Postprocess time: 4.077000 ms, avg 4.077000 ms, max 4.077000 ms, min 4.077000 ms # For arm64 (arm cpu only) $ ./run.sh mobilenet_v1_fp32_224 imagenet_224.txt test linux arm64 Top1 Egyptian cat - 0.482871 Top2 tabby, tabby cat - 0.471594 Top3 tiger cat - 0.039779 Top4 lynx, catamount - 0.002430 Top5 ping-pong ball - 0.000508 Preprocess time: 8.123000 ms, avg 8.123000 ms, max 8.123000 ms, min 8.123000 ms Prediction time: 78.482000 ms, avg 78.482000 ms, max 78.482000 ms, min 78.482000 ms Postprocess time: 8.023000 ms, avg 8.023000 ms, max 8.023000 ms, min 8.023000 ms # (arm cpu kunlunxin xtcl) $ ./run.sh mobilenet_v1_fp32_224 imagenet_224.txt test linux arm64 kunlunxin_xtcl Top1 Egyptian cat - 0.482583 Top2 tabby, tabby cat - 0.471810 Top3 tiger cat - 0.039866 Top4 lynx, catamount - 0.002430 Top5 ping-pong ball - 0.000506 Preprocess time: 8.135000 ms, avg 8.135000 ms, max 8.135000 ms, min 8.135000 ms Prediction time: 3.223000 ms, avg 3.223000 ms, max 3.223000 ms, min 3.223000 ms Postprocess time: 8.605000 ms, avg 8.605000 ms, max 8.605000 ms, min 8.605000 ms两组结果的 Top5 分类输出与纯 CPU 几乎一致概率差异在小数点后第 3 位以内说明 XTCL 路径下精度保持良好预测耗时方面amd64 上 MobileNet-v1 从 12.59ms 降到 0.52msarm64 上从 78.48ms 降到 3.22ms。更换测试模型将run.sh里的MODEL_NAME改成resnet50_fp32_224或直接在命令行传参# (intel x86 cpu kunlunxin xtcl) $ ./run.sh resnet50_fp32_224 imagenet_224.txt test linux amd64 kunlunxin_xtcl # (arm cpu kunlunxin xtcl) $ ./run.sh resnet50_fp32_224 imagenet_224.txt test linux arm64 kunlunxin_xtcl更换测试图片将图片拷贝到PaddleLite-generic-demo/image_classification_demo/assets/datasets/test/inputs目录并把文件名追加到同级的list.txt中。重新编译示例程序# For amd64 $ ./build.sh linux amd64 # For arm64 $ ./build.sh linux arm64四、从源码重新编译带 kunlunxin_xtcl 的 Paddle-Lite 部署库4.1 获取源码$ git clone https://github.com/PaddlePaddle/Paddle-Lite.git $ cd Paddle-Lite $ git checkout release-version-tag4.2 编译full_publish 模式For amd64# 默认自动从云上下载 kunlunxin_xtcl_sdk如需指定请使用参数 --nnadapter_kunlunxin_xtcl_sdk_root $ ./lite/tools/build_linux.sh --archx86 --with_extraON --with_logON --with_exceptionON --with_nnadapterON --nnadapter_with_kunlunxin_xtclON full_publishFor arm64ARM 环境下需先指定交叉/本地 C/C 编译器# arm 环境下需要设置环境变量 CC 和 CXX分别指定 C 编译器和 C 编译器的路径 # 默认自动从云上下载 kunlunxin_xtcl_sdk如需指定请使用参数 --nnadapter_kunlunxin_xtcl_sdk_root $ export CCpath_to_your_c_compiler $ export CXXpath_to_your_c_compiler $ ./lite/tools/build_linux.sh --archarmv8 --with_extraON --with_logON --with_exceptionON --with_nnadapterON --nnadapter_with_kunlunxin_xtclON full_publish关键参数说明对应 build_linux.sh 中的参数解析参数作用--archx86/--archarmv8目标架构--with_nnadapterON编译 NNAdapter 运行时--nnadapter_with_kunlunxin_xtclON启用昆仑芯 XTCL device HALlibkunlunxin_xtcl.so--nnadapter_kunlunxin_xtcl_sdk_root指定本机 XTCL SDK 根目录缺省时自动按环境下载full_publish构建完整发布包含 full api / light api 动态库关于 SDK 的自动获取dependencies.cmake 中可以看到未指定NNADAPTER_KUNLUNXIN_XTCL_SDK_ROOT时CMake 会按当前系统自动判定NNADAPTER_KUNLUNXIN_XTCL_SDK_ENVaarch64 →kylin_aarch64x86_64/amd64 →bdcentos_x86_64Ubuntu →ubuntu_x86_64并依次下载解压xdnn / xre / xtdk / xccl / xtcl五个归档包把libxpuapi.so、libxpurt.so、libxpujitc.so、libtvm.so、libxtcl.so等作为导入库链接进来。同时该文件强制要求 GCC ≥ 5.0因 XTCL HAL 需要按 C14 编译并把编译标准提升为 C14、移除-Werror。这也解释了为什么 ARM 环境编译需要先export CC/CXX。4.3 替换示例程序的头文件与库For amd64产物目录为build.lite.linux.x86.gcc/inference_lite_lib/cxx/# 清理原有 include 目录 $ rm -rf PaddleLite-generic-demo/libs/PaddleLite/linux/amd64/include/ # 替换 include 目录 $ cp -rf build.lite.linux.x86.gcc/inference_lite_lib/cxx/include/ PaddleLite-generic-demo/libs/PaddleLite/linux/amd64/include/ # 替换 NNAdapter 运行时库 $ cp build.lite.linux.x86.gcc/inference_lite_lib/cxx/lib/libnnadapter.so PaddleLite-generic-demo/libs/PaddleLite/linux/amd64/lib/kunlunxin_xtcl/ # 替换 NNAdapter device HAL 库 $ cp build.lite.linux.x86.gcc/inference_lite_lib/cxx/lib/libkunlunxin_xtcl.so PaddleLite-generic-demo/libs/PaddleLite/linux/amd64/lib/kunlunxin_xtcl/ # 替换 libpaddle_full_api_shared.so $ cp build.lite.linux.x86.gcc/inference_lite_lib/cxx/lib/libpaddle_full_api_shared.so PaddleLite-generic-demo/libs/PaddleLite/linux/amd64/lib/ # 替换 libpaddle_light_api_shared.so $ cp build.lite.linux.x86.gcc/inference_lite_lib/cxx/lib/libpaddle_light_api_shared.so PaddleLite-generic-demo/libs/PaddleLite/linux/amd64/lib/For arm64ARM 编译产物目录为build.lite.linux.armv8.gcc/inference_lite_lib.armlinux.armv8.nnadapter/cxx/# 清理原有 include 目录 $ rm -rf PaddleLite-generic-demo/libs/PaddleLite/linux/arm64/include/ # 替换 include 目录 $ cp -rf build.lite.linux.armv8.gcc/inference_lite_lib.armlinux.armv8.nnadapter/cxx/include/ PaddleLite-generic-demo/libs/PaddleLite/linux/arm64/include/ # 替换 NNAdapter 运行时库 $ cp build.lite.linux.armv8.gcc/inference_lite_lib.armlinux.armv8.nnadapter/cxx/lib/libnnadapter.so PaddleLite-generic-demo/libs/PaddleLite/linux/arm64/lib/kunlunxin_xtcl/ # 替换 NNAdapter device HAL 库 $ cp build.lite.linux.armv8.gcc/inference_lite_lib.armlinux.armv8.nnadapter/cxx/lib/libkunlunxin_xtcl.so PaddleLite-generic-demo/libs/PaddleLite/linux/arm64/lib/kunlunxin_xtcl/ # 替换 libpaddle_full_api_shared.so $ cp build.lite.linux.armv8.gcc/inference_lite_lib.armlinux.armv8.nnadapter/cxx/lib/libpaddle_full_api_shared.so PaddleLite-generic-demo/libs/PaddleLite/linux/arm64/lib/ # 替换 libpaddle_light_api_shared.so $ cp build.lite.linux.armv8.gcc/inference_lite_lib.armlinux.armv8.nnadapter/cxx/lib/libpaddle_light_api_shared.so PaddleLite-generic-demo/libs/PaddleLite/linux/arm64/lib/五、高级特性多卡选择与卡型参数针对多块昆仑芯 AI 加速卡或不同代际卡型Paddle-Lite 提供两个高级运行时参数参数名定义见 utility.hKUNLUNXIN_XTCL_SELECTED_DEVICE_IDS指定昆仑芯产品的 ID 号。例如KUNLUNXIN_XTCL_SELECTED_DEVICE_IDS0或KUNLUNXIN_XTCL_SELECTED_DEVICE_IDS0,1,2,3。 从 engine.cc 的 Context 构造函数 可以看到参数优先从 context properties 解析取不到时回退读取同名环境变量值按逗号拆分为 int 列表当前实现仅支持指定一块设备若列出多个 ID 只会取第一个并打印 WARNING。未设置时默认使用 0 号设备。KUNLUNXIN_XTCL_DEVICE_TARGET指定昆仑芯不同类型的 AI 加速卡。例如KUNLUNXIN_XTCL_DEVICE_TARGETxpu -libsxdnn -device-typexpu1KUNLUNXIN_XTCL_DEVICE_TARGETxpu -libsxdnn -device-typexpu2其中 XPU 代指昆仑芯自主研发的芯片硬件架构XPU1 用于昆仑芯 1 代系列产品K100、K200XPU2 用于昆仑芯 2 代系列产品R200 等。解析出的字符串最终传入BuildInstanceRuntimeToBuffer()参与 XTCL 编译目标选择见 engine.cc。使用方式C 代码light api多参数之间使用;分隔// Run inference by using light api with MobileConfig paddle::lite_api::MobileConfig mobile_config; // nnadapter_context_properties, 多个参数之间使用;进行分割 std::string nnadapter_context_properties KUNLUNXIN_XTCL_SELECTED_DEVICE_IDS0;KUNLUNXIN_XTCL_DEVICE_TARGETxpu -libsxdnn -device-typexpu1; mobile_config.set_nnadapter_context_properties(nnadapter_context_properties);shell 脚本export KUNLUNXIN_XTCL_SELECTED_DEVICE_IDS0 export KUNLUNXIN_XTCL_DEVICE_TARGETxpu -libsxdnn -device-typexpu1从源码看context properties 与环境变量是“同一参数的两条通道”Context构造时对每个参数先查 properties再回退GetStringFromEnv因此 C 显式配置优先级高于 shell 环境变量二者可任意组合使用。六、小结与其他说明昆仑芯 XTCL 接入走的是 Paddle-Lite 的 NNAdapter 子图框架在线解析 Paddle 模型 → 转换为 NNAdapter 标准算子 → 经融合优化后由 XTCL 组网 API 在线编译执行并支持编译结果缓存以加速冷启动硬件覆盖昆仑芯 1 代CK10/CK20、K100/K200与 2 代CR20、R200芯片/加速卡文档中列出的分类、检测、OCR、分割、推荐、视频分类模型均已验证默认以 R200 为准实操路径清晰装好 XRE 驱动 → 使用 PaddleLite-generic-demo 的run.sh/build.sh验证 → 需要更新时按--nnadapter_with_kunlunxin_xtclON重新编译并替换libs/下的头文件与三个核心 so高级参数KUNLUNXIN_XTCL_SELECTED_DEVICE_IDS与KUNLUNXIN_XTCL_DEVICE_TARGET可在 C API 或 shell 环境中配置用于指定设备号与卡型代际xpu1/xpu2昆仑芯研发团队正在持续适配更多的 Paddle 算子以便支持更多的 Paddle 模型。算子支持情况可随时对照 converter/all.h 中的REGISTER_CONVERTER清单核实。适用前提与限制本文命令与路径均基于当前仓库lite/tools/build_linux.sh的 nnadapter 编译参数与docs/demo_guides/kunlunxin_xtcl.md文档版本R200 需要 PCIe4.0 x16 插槽与 8 针独立供电XRE 驱动需匹配 Ubuntu/CentOS 及对应 Linux kernel 版本示例库仅覆盖 x86amd64与 arm64/armv8 两种 Linux 架构。【免费下载链接】Paddle-LitePaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎项目地址: https://gitcode.com/GitHub_Trending/pa/Paddle-Lite创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

相关新闻