目录1. 工具简介2. 环境简介3. Jetson 端采集 Trace以本地VSCode为例4. 把.nsys-rep 从 Jetson 拉到 Windows 本地4.1 方法一直接在VScode上操作4.2 方法二利用windows的power shell5. Nsight Systems的基本使用5.1 远程设备连接5.2 打开本地文件5.3 界面介绍与基本操作5.3.1 报告界面切换5.3.2 Timeline缩放与平移6. 总结与展望1. 工具简介Nsight Systems 是 NVIDIA 官方推出的系统级性能剖析工具主打 GPU、CPU、内存拷贝、CUDA 调用流的全局时序分析是 CUDA 开发、GPU 程序性能调优的基础工具。与侧重 Kernel 微观指标的 Nsight Compute 不同Nsight Systems 更适合用于定位程序整体瓶颈、观察数据传输耗时、判断计算与拷贝是否并行、分析 CUDA Stream 调度情况等宏观问题。本文以 Jetson Orin 为演示设备从零讲解 Nsight Systems 的基本使用方法。2. 环境简介硬件Jetson Orin远程 SSH 开发工程CUDA 矩阵乘 matmul可执行文件 trt-cuda流程远程 Jetson 采集 trace → scp 把报告拷到 Windows 本地 → Windows Nsight Systems 2026.4.1 打开分析踩坑核心Windows 本地 Nsight 版本2026.4.1 Jetson 内置 nsys 版本2024.5.4远程 GUI 直连 Target 实时采集会直接报通信错误私有实时流协议跨大版本不兼容。✅ 解决方案本文主推、最稳方案板端离线采集 nsys-rep 文件拷贝到本地离线查看离线报告向前兼容不受版本限制。3. Jetson 端采集 Trace以本地VSCode为例先进入到我们远程的软件工程中。然后输入nsys profile-otrt_cuda_trace ./trt-cuda其中trt_cuda_trace是生成trace文件的名称./trt-cuda是本地编译生成的ELF文件。4. 把.nsys-rep 从 Jetson 拉到 Windows 本地这个方法就比较多了有很多可以用的工具和方法直接在VScode上操作也行。4.1 方法一直接在VScode上操作直接选中生成的文件然后鼠标右击再点击下载即可选中本地路径进行拉取。4.2 方法二利用windows的power shell直接在windows的power shell中输入scpjetson192.168.0.109:/home/jetson/chapter2-cuda-programming/2.6-nsight-system-and-compute/trt_cuda_trace.nsys-rep.然后就可以在相应位置找到复制到本地的文件了5. Nsight Systems的基本使用5.1 远程设备连接虽然我们这次实践中并没有涉及到远程的SSH连接但Nsight Systems本身的远程连接还是很有用的。进入软件会自带一个Project 1直接点击右侧小扳手然后点击按钮创建一个新连接。输入远程设备的地址以及用户名然后根据提示输入密码连接即可。该软件有个自带的bug就是新建的Project无法删除但并不影响使用比如我自己再左侧创建的Project 2。5.2 打开本地文件与很多软件一样Nsight Systems打开本地文件非常简单。直接点击file→open然后选择刚刚拉取到本地的文件即可。5.3 界面介绍与基本操作5.3.1 报告界面切换点击左上角的按钮可切换不同的报告页面比如当前是Timeline页面也是最常见的页面。右侧区域显示的就是在软件执行过程中各个资源的占用情况CPU和GPU等。Analysis Summary页面也是非常常用的是以文本的形式对整个软件的运行情况做了一个非常详细的分析。5.3.2 Timeline缩放与平移鼠标左键滑动选择需要放大的区域并双击便可放大锁定区域便于查看细节。鼠标右击选择Reset Zoom即可复原到最开始的大小。或者像很多其他软件一样Cotr️鼠标滚轮也可以实现整体的横向缩放。 平移操作方法1直接通过键盘上的⬅️和➡️进行控制。方法2鼠标拖动底部的水平滚动条进行操作。6. 总结与展望本文完整记录了 Nsight Systems 的零基础上手流程包括 Jetson 设备端离线采集、文件拉取、GUI 视图操作。整体来说Nsight Systems和地平线OE工具链编译生成的html文件很像。只不过地平线的OE工具链并不依赖端侧的硬件。更多关于地平线OE工具链的使用方法请移步从零上手地平线 OE 工具链ResNet50 的 PTQ 量化与精度验证从零上手地平线 OE 工具链YOLOv3 的 PTQ 量化与精度验证后面有机会的话会更新 Nsight Systems远程直连调优的相关内容敬请关注
)
