Jetson Orin使用一、 安装NVIDIA-jetpack和基础开发环境1、修改deb sourcesudobash-cecho deb https://repo.download.nvidia.com/jetson/common r34.1 main /etc/apt/sources.list.d/nvidia-l4t-apt-source.listsudobash-cecho deb https://repo.download.nvidia.com/jetson/t234 r34.1 main /etc/apt/sources.list.d/nvidia-l4t-apt-source.listcat/etc/apt/sources.list.d/nvidia-l4t-apt-source.list2、更换镜像源备份源sudomv/etc/apt/sources.list /etc/apt/sources.list.baksudovim/etc/apt/sources.list更换为清华源\#加⼊清华源或者其他的⽐如阿⾥云中科⼤⾖瓣等等都可以 deb http://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal-updates main restricted universe multiverse deb-src http://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal-updates main restricted universe multiverse deb http://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal-security main restricted universe multiverse deb-src http://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal-security main restricted universe multiverse# 默认注释了源码镜像以提高 apt update 速度如有需要可自行取消注释 deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal main restricted universe multiverse # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal main restricted universe multiverse deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal-updates main restricted universe multiverse # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal-updates main restricted universe multiverse deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal-backports main restricted universe multiverse # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal-backports main restricted universe multiverse # 以下安全更新软件源包含了官方源与镜像站配置如有需要可自行修改注释切换 deb http://ports.ubuntu.com/ubuntu-ports/ focal-security main restricted universe multiverse # deb-src http://ports.ubuntu.com/ubuntu-ports/ focal-security main restricted universe multiverse # 预发布软件源不建议启用 # deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal-proposed main restricted universe multiverse # # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal-proposed main restricted universe multiverse3、安装jetpacksudoaptupdatesudoaptdist-upgrade# 20分钟左右 更新319个 新增了5个sudoreboot在这⾥必须执⾏⼀次重启的动作否则会出现⼀些不稳定的现象。重启之后只要执⾏以下指令即可sudoaptinstallnvidia-jetpack出现问题the following packages have unmet dependencies nvidia-jetpack-runtime(5.0.1-b118)sudoapt-getinstallnvidia-jetpack-runtime5.0.1-b118 nvidia-jetpack-dev5.0.1-b1184、验证jetpack安装sudoaptshow nvidia-jetpack# jetpack 中已经安装了docker和nvidia-docker存在triton / deepStream使用需求时可直接通过docker启动5、预安装必要的软件sudoapt-get-yinstallcmake libopenblas-base libopenmpi-dev autoconfbcbuild-essential g-8 gcc-8 clang-8 lld-8 gettext-base gfortran-8 iputils-ping libbz2-dev libc-dev libcgal-dev libffi-dev libfreetype6-dev libhdf5-dev libjpeg-dev liblzma-dev libncurses5-dev libncursesw5-dev libpng-dev libreadline-dev libssl-dev libsqlite3-dev libxml2-dev libxslt-dev locales moreutils openssl python-opensslrsyncscons pythons-pip libopenblas-dev libjpeg-dev zlib1g-dev libpython3-dev libavcodec-dev libavformat-dev libswscale-dev二、GPU监测工具安装sudo-Hpipinstalljetson-statssudojtopjtop窗口查看jetson-stats 4.2.1(rnext.it)1、安装jtop系统监控工具sudoaptinstallpython3-pipsudo-Hpip3install-Upipsudo-Hpipinstalljetson-stats4.0.0rc12、启动监控工具jtop# 上面操作后需要reboot有效chu xian wentimiaoshu:pip3 更新 pip 本身时遇到了网络问题导致下载超时。这通常表明你的系统无法成功连接到 PyPIPython 包索引服务器来下载所需的包。jiejue:(1)检查网络连接首先确保您的Ubuntu系统已连接到互联网并且网络连接是稳定的。您可以尝试访问其他网站或使用ping命令来检查与PyPI服务器的连接。bashping pypi.org如果ping命令失败那么您可能需要检查您的网络设置或联系您的网络管理员。(2)使用其他PyPI镜像如果您的网络访问PyPI的速度较慢或者受到限制您可以尝试使用国内的PyPI镜像来加速下载。您可以在pip命令中指定镜像源例如使用清华大学的PyPI镜像bashsudo -H pip3 install -i https://pypi.tuna.tsinghua.edu.cn/simple pip --upgrade(3)临时禁用防火墙或代理如果您使用的是防火墙或代理服务器请尝试暂时禁用它们看看是否可以解决问题。(4)检查pip版本虽然您正在尝试更新pip但请确保您当前安装的pip版本不是完全损坏的。您可以尝试运行pip3 --version来查看当前版本。(5)使用其他包管理工具如果您仍然无法解决问题您可以考虑使用Ubuntu的包管理工具apt来安装或更新pip。但是请注意通过apt安装的pip版本可能不是最新的。bashsudo apt updatesudo apt install --reinstall python3-pip然后您可以使用pip3命令来安装其他Python包但可能无法获得pip的最新功能。(6)检查系统时间有时如果您的系统时间设置不正确可能会导致SSL证书验证失败。请确保您的系统时间设置正确。(7)尝试使用虚拟环境如果您只是想更新pip来管理某个项目的依赖项那么考虑使用Python的虚拟环境如venv或conda。这样您可以在不影响系统级pip的情况下更新项目特定的pip版本。(8)查看pip日志如果上述步骤都无法解决问题您可以尝试查看pip的详细日志以获取更多关于错误的信息。您可以通过添加-v或-vv、-vvv来增加日志的详细程度。bashsudo -H pip3 install -v -U pip或者如果您正在使用镜像源则bashsudo -H pip3 install -v -i https://pypi.tuna.tsinghua.edu.cn/simple pip --upgrade三、整理cudatookit、cudnn、trtexec工具安装步骤Perform the following steps to install CUDA and verify the installation.Install the repository meta-data, install GPG key, update the apt-get cache, and install CUDA:$ sudo dpkg --install cuda-repo-distro-version.architecture.deb $ sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/distro/architecture/7fa2af80.pub $ sudo apt-get update $ sudo apt-get install cudacuda-repo-ubuntu2004-11-4.aarch64.debReboot the system to load the NVIDIA drivers.Set up the development environment by modifying the PATH and LD_LIBRARY_PATH variables:$ export PATH/usr/local/cuda-11.4/bin${PATH::${PATH}} $ export LD_LIBRARY_PATH/usr/local/cuda-11.4/lib64\ ${LD_LIBRARY_PATH::${LD_LIBRARY_PATH}}Install a writable copy of the samples then build and run the nbody sample:$ cuda-install-samples-11.4.sh ~ $ cd ~/NVIDIA_CUDA-11.4_Samples/5_Simulations/nbody $ make $ ./nbodyNote:Run samples by navigating to the executable’s location, otherwise it will fail to locate dependent resources.在 Jetson AGX Orin 设备上你可以通过以下方式来查询distro、version和architecture这三个参数(发行版名称):打开终端。运行lsb_release -a命令来查看你的 Linux 发行版信息。对于基于 Ubuntu 的系统输出会包含 “Ubuntu” 以及版本号例如 “Ubuntu 18.04”。注意这里的distro应该是ubuntu版本号的格式不包括点号。本设备得到ubuntu2004(CUDA 版本号):CUDA 的版本号通常是你想要安装的版本而不是通过查询系统来获得的。但是如果你已经安装了 CUDA 并且想要查询已安装的版本可以查看/usr/local/cuda目录下的版本号或者通过nvcc --version命令来查看。本设备准备安装11-4(系统架构):Jetson AGX Orin 设备是基于 ARM 架构的具体来说是arm64也被称为aarch64。你可以通过uname -m命令来确认这一点该命令会返回你的系统架构。本设备得到aarch64示例查询发行版名称bashlsb_release-a输出可能类似于No LSB modules are available. Distributor ID: Ubuntu Description: Ubuntu 20.04.4 LTS Release: 20.04 Codename: focal在这种情况下distro应该是ubuntu2004假设你希望与 CUDA 11.x 系列的.deb包兼容。查询系统架构bashuname-m输出应该是aarch64。假设你已经下载了 CUDA 的.deb安装包并且知道你想要安装的 CUDA 版本号例如 11.4那么你就可以使用这些信息来安装 CUDA。例如bashsudodpkg--installcuda-repo-ubuntu1804-11-4-local_具体版本号_arm64.deb注意替换具体版本号为实际的.deb文件名中的版本号部分。最后不要忘记在安装 CUDA 之后运行sudo apt update和sudo apt install cuda或相应的安装命令来完成 CUDA 的安装。同时请确保你遵循了 NVIDIA 提供的针对 Jetson 设备的官方安装指南。1、CUDA在使用dpkg安装 NVIDIA CUDA 的.deb安装包时distro、version和architecture需要根据你的实际系统和包的内容来替换。以下是如何选择这些配置项的指南这通常指的是你的 Linux 发行版的名称。例如如果你使用的是 Ubuntu 18.04那么distro就是ubuntu1804。对于其他发行版如 Debian、CentOS 等你需要找到与你的发行版相对应的字符串。这指的是 CUDA 的版本号。例如如果你正在安装 CUDA 11.4那么version就是11-4。注意这里通常不包括点号.。这指的是你的系统架构。对于大多数现代的 Jetson 设备包括 Jetson Orin这通常是arm64也被称为aarch64。安装步骤基于上面的信息如果你的 CUDA.deb安装包名为cuda-repo-ubuntu1804-11-4-local_11.4.0-470.42.01-1_arm64.deb注意这是一个假设的名字那么安装命令应该是bashsudodpkg--installcuda-repo-ubuntu1804-11-4-local_11.4.0-470.42.01-1_arm64.deb本设备安装命令bashsudodpkg--installcuda-repo-ubuntu2004-11-4-local_11.4.0-470.42.01-1_arm64.debhttps://developer.nvidia.com/cuda-toolkit-archivehttps://developer.nvidia.com/cuda-11-4-4-download-archive?target_osLinuxtarget_archarm64-sbsaCompilationNativeDistributionUbuntutarget_version20.04target_typedeb_networkwgethttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/sbsa/cuda-ubuntu2004.pinsudomvcuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600sudoapt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/sbsa/7fa2af80.pubsudoadd-apt-repositorydeb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/sbsa/ /sudoapt-getupdatesudoapt-get-yinstallcuda接下来你需要添加 NVIDIA 的公钥到你的 APT 密钥环中。但是请注意对于 Jetson 设备你可能不需要直接从 NVIDIA 的网站下载公钥因为.deb安装包可能已经包含了所需的签名。但是如果确实需要你可以使用以下命令注意替换distro和architecturebashsudoapt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/distro/architecture/7fa2af80.pub但是请再次注意对于 Jetson 设备你可能不需要这一步因为 NVIDIA 可能已经通过其他方式提供了所需的签名。更新软件源并安装 CUDA在安装了.deb文件之后你可能需要更新你的软件源列表并安装 CUDA。这通常可以通过以下命令完成sudoaptupdatesudoaptinstallcuda但是请注意具体的安装命令可能会因 CUDA 的版本和你的系统配置而有所不同。检查 CUDA 安装安装完成后你可以通过运行nvcc --version来检查 CUDA 是否已成功安装。1.2 安装失败清理在Jetson AGX Orin设备的系统中如果CUDA安装失败你可以按照以下步骤来清理环境并重新安装1. 卸载已安装的CUDA如果存在如果之前已经安装过CUDA首先需要将其卸载。这通常可以通过系统的包管理工具来完成。在基于Debian的Linux发行版如Ubuntu上你可以使用以下命令来卸载CUDAbashsudoapt-getremove--purgecuda*这条命令会卸载所有与CUDA相关的软件包。2. 清理残留的CUDA文件除了通过包管理工具卸载CUDA软件包之外还可能需要手动删除一些残留的文件和目录。这些文件和目录可能包括CUDA的安装目录、配置文件、环境变量设置等。在标准的Linux系统中CUDA通常安装在/usr/local/cuda目录下。你可以使用以下命令来删除这个目录如果它存在bashsudorm-rf/usr/local/cuda*同时检查并删除任何与CUDA相关的环境变量设置这些设置可能位于你的shell配置文件如~/.bashrc、~/.bash_profile或~/.zshrc等中。3. 清理系统缓存和依赖关系使用包管理工具来清理系统的缓存和依赖关系以确保没有残留的CUDA文件或配置影响新的安装。在基于Debian的Linux发行版上可以使用以下命令sudoapt-getautocleansudoapt-getautoremove4. 重新启动系统在清理完CUDA相关的文件和配置后建议重新启动系统以确保所有的更改都已生效。5. 重新安装CUDA在清理完环境后你可以按照NVIDIA官方提供的安装指南来重新安装CUDA。确保选择与你的Jetson AGX Orin设备兼容的CUDA版本并按照指南中的步骤进行操作。在安装过程中注意选择正确的安装选项和配置以避免之前遇到的问题。注意事项在进行任何系统级的更改之前建议备份你的重要数据以防止意外丢失。如果你不确定如何执行某些步骤或担心可能会破坏系统请寻求专业人士的帮助或参考官方文档。确保你的系统满足CUDA安装的最低要求并检查是否有任何已知的硬件或软件兼容性问题。通过遵循上述步骤你应该能够成功清理CUDA的安装环境并重新安装它。1.3 方式方式一vi~/.bashrcexportPATH/usr/local/cuda-11/bin:$PATHexportLD_LIBRARY_PATH/usr/local/cuda-11/lib64:$LD_LIBRARY_PATHexportCUDA_ROOT/usr/local/cuda-11#使资源⽣效source~/.bashrcnvcc-V方式二软链接sudoln-s/usr/local/cuda-11 /usr/local/cudasudovim/etc/profile# 在文件末尾添加加入exportPATH/usr/local/cuda-11/bin:$PATHexportLD_LIBRARY_PATH/usr/local/cuda-11/lib64:$LD_LIBRARY_PATHexportCUDA_HOME/usr/local/cuda-11# 验证cudatookitsource/etc/profile nvcc-V在修改了 /etc/profile 文件后您通常需要重新加载这个文件或重新启动终端会话以使更改生效。您可以使用以上命令来重新加载/etc/profile 文件2、CUDNN方式一dpkg-llibcudnn8方式二sudocp/usr/include/cudnn.h /usr/local/cuda-11/includesudocp/usr/lib/aarch64-linux-gnu/libcudnn* /usr/local/cuda-11/lib64/sudochmod777/usr/local/cuda-11/include/cudnn.h /usr/local/cuda-11/lib64/libcudnn*# 验证和更新链接库cd/usr/local/cuda-11/lib64 ll libcudnn*#有东西sudoldconfig# 测试cudnnsudocp-r/usr/src/cudnn_samples_v8/ /tmp/cd/tmp/cudnn_samples_v8/conv_samplesudomakecleansudomake./conv_sample3、trtexec TensorRT方式1dpkg-ltensorrt方式2ln-s/usr/src/tensorrt/bin/trtexec /usr/bin/trtexec验证tensorrt安装正确与否sudochmod-R777/usr/src/tensorrtcd/usr/src/tensorrt/samples/sampleINT8/sudomakecd../../bin/ ./sampleINT84、OpenCV方式1dpkg-llibopencv四、安装pythorch开发环境方式1官网下载安装包安装javasudoapt-getinstallopenjdk-11-jdk java--version配置环境变量sudovim~/.bashrcexportJAVA_HOME/usr/lib/jvm/java-11-openjdk-arm64exportJRE_HOME${JAVA_HOME}/jreexportCLASSPATH:${JAVA_HOME}/lib:${JRE_HOME}/libexportPATH${JAVA_HOME}/bin:$PATHsource~/.bashrc安装cd ~/Downloads/pycharm-community-2020.3.2/bin chmod x ~/Downloads/pycharm-community-2020.3.2/bin/pycharm.sh sh ./pycharm.sh