一、环境信息1️⃣ 硬件环境边端设备Jetson Nano B014GB 架构ARM64aarch64 应用挖掘机视觉系统YOLO / Mask R-CNN 推理2️⃣ 软件环境JetPack4.6.1 Ubuntu18.04Jetson系统 CUDA / cuDNN / TensorRT随JetPack集成 Docker20.10.213️⃣ 开发环境开发主机Windows 虚拟化:contentReference[oaicite:0]{index0} 2 容器工具:contentReference[oaicite:1]{index1}4️⃣ 模型与推理路线训练模型YOLOv8 / Mask R-CNN 中间格式ONNX 部署方式TensorRT 运行方式Docker容器二、遇到的问题及解决方案❌ 问题1Docker pull 超时现象Client.Timeout exceeded EOF i/o timeout原因Jetson设备网络不稳定 / 被限制访问外网解决方案不在Jetson拉镜像 → 改为Windows拉取 离线导入 ✔❌ 问题2无法访问 nvcr.io现象failed to resolve reference ... EOF原因NVIDIA镜像仓库nvcr.io网络不稳定解决方案在Windows侧成功拉取 → docker save → 离线传输 ✔❌ 问题3WSL版本过低现象WSL needs updating解决方案wsl --update shutdown /r /t 0❌ 问题4docker save 文件过小现象导出文件 ≈ 795MB原因Docker layer 压缩 去重机制验证方式docker images结果DISK USAGE ≈ 2.8GB正常❌ 问题5IPv6干扰网络解决sudo sysctl -w net.ipv6.conf.all.disable_ipv61三、概念总结1️⃣ Docker镜像结构镜像 多层layer关键概念CONTENT SIZE压缩大小save后的体积 DISK USAGE解压后真实占用2️⃣ 架构差异Windows → x86_64 Jetson → ARM64 必须使用docker pull --platformlinux/arm64 ...3️⃣ 推理技术路线PyTorch训练/验证 ↓ ONNX中间格式 ↓ TensorRT部署4️⃣ TensorRT作用GPU加速推理核心性能来源5️⃣ 离线部署体系docker pullWindows ↓ docker save ↓ 拷贝 ↓ docker loadJetson6️⃣ Nano能力边界能力状态YOLO检测✔单路摄像头✔TensorRT推理✔Mask R-CNN实时❌多路摄像头❌四、最终成功的运行命令1️⃣ Windows侧拉镜像docker pull --platformlinux/arm64 nvcr.io/nvidia/l4t-pytorch:r32.7.1-pth1.10-py32️⃣ 导出镜像docker save -o l4t-pytorch-r32.7.1.tar nvcr.io/nvidia/l4t-pytorch:r32.7.1-pth1.10-py33️⃣ Jetson导入docker load -i l4t-pytorch-r32.7.1.tar4️⃣ TensorRT引擎生成/usr/src/tensorrt/bin/trtexec \ --onnxmodel.onnx \ --saveEnginemodel.engine \ --fp16 \ --workspace10245️⃣ 推理运行python3 app.py6️⃣ Docker运行Jetsondocker run -it --rm \ --runtime nvidia \ --network host \ --device /dev/video0 \ -v /tmp/argus_socket:/tmp/argus_socket \ your_image:1.0五、关键教训总结⭐ 1️⃣ 工程环境优先于算法环境不通 → 算法无意义⭐ 2️⃣ Jetson必须离线化设计工程机械场景 ≈ 无公网环境⭐ 3️⃣ 架构匹配是基础x86 ≠ ARM64⭐ 4️⃣ TensorRT是性能核心不用TRT → Nano基本不可用⭐ 5️⃣ Docker问题本质多是网络问题不是Docker错是网络环境问题⭐ 6️⃣ 不要执着“完美方案”能跑通 官方推荐 理论最优⭐ 7️⃣ Nano只是验证平台最终目标Jetson Orin域控级⭐ 8️⃣ 架构设计比代码更重要单线程Demo ≠ 工程系统我的项目链接https://chatgpt.com/g/g-p-69402f9d944481918f66e17d2480a71b-yu-kong-xiang-mu/c/69c5ef07-9db4-8320-9c7d-7c7ab8ab2285
