TAO系列03-安装TAO模型训练工具

英伟达将大部分应用透过Dcoker容器技术进行封装，并且为了协助开发人员更加轻松地使用这些软件，英伟达特别开发一个nvidia-pyindex工具，将应用安装的过程变得更加简单，TAO训练工具也不例外。

英伟达将大部分应用透过Dcoker容器技术进行封装，并且为了协助开发人员更加轻松地使用这些软件，英伟达特别开发一个nvidia-pyindex工具，将应用安装的过程变得更加简单，TAO训练工具也不例外。

完整的TAO安装流程请参考 https://docs.nvidia.com/tao/tao-toolkit/ 里的“TAO Toolkits Quick Start Guide”，目前这个工具只支持x86电脑的Ubuntu操作系统，以下列出最基本的硬件需求：

  • CPU：推荐8核以上，最好支持AVX2以上指令集，否则某些神经网络的模型训练会出现失败的状况，例如detectnet_v2。
  • 内存：推荐32GB以上，至少也需要16GB。
  • GPU卡：推荐32GB显存的计算卡，至少需要8GB。
  • 存储：推荐使用SSD硬盘，至少使用7200RPM转速的机械硬盘。

以上系统要求是容易达到的，目前测试过用8GB显存的RTX 2070或3070都能顺利执行训练任务，但是显存大小对模型训练的计算有很大的影响，另外一款RTX A4000配置16GB GDDR6显存，是性价比相当好的一个选择。

  • 操作系统与安装NVIDIA驱动

至于操作系统方面，推荐Ubuntu 18.04或20.04桌面版，这两个都是经过测试兼容性比较好的版本，接下去只要在上面执行以下指令，安装好NVIDIA的GPU驱动即可，要求为455以上版本，目前测试到495版本也是很稳定：

$

$

$

$

sudo apt-get install software-properties-common

sudo add-apt-repository ppa:graphics-drivers/ppa

sudo apt-get install nvidia-driver-495

sudo reboot

执行以上指令之后必须重启系统才会生效，重启后执行nvidia-smi，如果出现以下画面就表示驱动已经安装成功。

TAO系列03-安装TAO模型训练工具

  • 安装TAO所需要的配套环境：

如今英伟达大部分应用都使用Docker容器技术进行封装，并且使用Jupyter作为操作工具，因此使用之前是必须先安装好docker、nvidia-docker、Jupyter这些软件，最后安装virtualenv这个Python虚拟环境并非必要的，如果对Python不熟悉的使用者，建议按照说明进行安装预配置。

  1. 安装docker操作环境 ：以下步骤都是标准的流程，不多做说明

$

$

 

$

 

 

 

$

$

sudo apt install -y ca-certificates curl gnupg lsb-release

curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg \ --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg

echo "deb [arch=$(dpkg --print-architecture)  signed-by=/usr/share/keyrings/docker-archive-keyring.gpg]   https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" |  sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

sudo apt update

sudo apt install -y docker-ce docker-ce-cli containerd.io

测试 docker 的安装，请执行以下指令：

$

sudo docker run hello-world

如果显示以下信息，就表示这部分的安装是成功的：

TAO系列03-安装TAO模型训练工具

由于docker指令的执行是需要权限的，但如果每次都需要在前面加上”sudo”再输入密码的话，就会变得较为繁琐，可以执行以下操作去免除 “sudo” 权限：

$

$

$

sudo addgroup --system docker

sudo adduser $USER docker && newgrp docker

sudo groupadd docker && sudo usermod -aG docker $USER

现在就能为您节省很多麻烦！

  1. Docker登录NGC：只要登录一次就行

$$

export KEY='在NGC生成的密钥'

docker login -u '$oauthtoken' --password-stdin nvcr.io <<< $KEY

TAO系列03-安装TAO模型训练工具

最后显示 “Login Succeeded” 就表示登录成功，只要没有在NGC上重新生成密钥，这个登录就只要执行一次就可以，不需要每次开机都登陆。

  1. 安装nvidia-docker2：以下步骤也是标准的流程，不多做说明

$

$

$

 

$

$

curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -

distribution=$(. /etc/os-release;echo $ID$VERSION_ID)

curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list |  sudo tee /etc/apt/sources.list.d/nvidia-docker.list

sudo apt-get update && sudo apt-get install -y nvidia-docker2

sudo systemctl restart docker

测试 nvidia-docker2 的安装，请执行以下指令：

$

docker run --rm --gpus all nvidia/cuda:11.0-base nvidia-smi

如果出现以下信息，表示nvidia-docker2也安装完成：

TAO系列03-安装TAO模型训练工具

这里显示的内容虽然与本机的nvidia-smi完全一样，不过前者是本机所得到的信息，这里是容器所执行的显示结果。

  1. 安装Jupyter Lab交互式环节

$

$

$

 

$

$

sudo apt install python3-pip

sudo pip3 install -U pip

sudo pip3 install jupyter jupyterlab

# 设置登录密码

export PW=’自行提供‘

python3 -c "from notebook.auth.security import set_password;

set_password('$PW','$HOME/.jupyter/jupyter_notebook_config.json')"

启用Jupyter Lab：

$

$

cd <您的工作目录>

jupyter-lab --ip 0.0.0.0 --port 8888 --allow-root --no-browser

现在就能用浏览器（推荐使用Chrome）输入<IP_OF_MACHINE>:8888，输入前面自行设定的密码，就能进入Jupyter工作环境，会以执行命令的位置作为工作的根(root)路径。

  1. 安装Python的虚拟环境（非必要）

英伟达为TAO开发的一个Python版本启动器(launcher)，为了确保使用环境的隔离，在官方安装文件里使用virtualenv创建Python的虚拟工作环境，但是经过测试验证，使用conda虚拟技术或者完全不使用虚拟环境，也都能正常运作，请根据自己的实际状况进行处理。

如果要使用virtualenv虚拟工具的话，请按照以下步骤进行安装：

$

 

$

 

 

 

 

 

$

 

$

 

$

 

$

pip3 install virtualenv virtualenvwrapper

# 创建目录用来存放虚拟环境

mkdir $HOME/.virtualenvs

# 在~/.bashrc中添加行：

export WORKON_HOME=$HOME/.virtualenvs

export VIRTUALENVWRAPPER_PYTHON=/usr/bin/python3

source /usr/local/bin/virtualenvwrapper.sh

# 保存并退出

source ~/.bashrc

# 创建名为”tao”的 Virtualenv

mkvirtualenv tao -p /usr/bin/python3

# 关闭“tao”虚拟环境

deactivate

# 重新启动 “tao”虚拟环境

workon tao

以上就完成所有配套所需要的软件，接下去就开始安装TAO的工作元件。

  • 安装TAO的工作元件：
  1. TAO的启动器：可以在virtualen或conda虚拟环境下

$

$

 

$

pip3 install nvidia-pyindex

pip3 install nvidia-tao

# 检查安装

tao info

如果安装正常的话，会看到下面信息：

TAO系列03-安装TAO模型训练工具

这边会看的“~/.tao_mounts.json wasn't found”的信息，这是因为我们还未去执行路径映射的任务，所以没有这个文件是正常的，现在表示TAO启动器已经安装完成。

  1. 下载TAO镜像文件：

虽然在标准执行的流程中，我们不需要事先下载镜像到本机里，但由于这个高达15GB的镜像文件是放置于境外的英伟达原厂服务器上，在国内的实际操作过程中并不是太稳定，因此推荐在执行任务之前，先执行独立的镜像下载工作。

TAO的视觉类(CV AI)与对话类(Conv AI)的镜像文件是不一样的，分别在以下链接：

请执行以下指令，将两个容器都先下载到模型训练设备上：

 

$

$

 

$

$

# 下面版本请根据实际状况进行调整

export TAO_CV_VER=v3.21.11-tf1.15.4-py3

docker pull nvcr.io/nvidia/tao/tao-toolkit-tf:$TAO_CV_VER

# 下面版本请根据实际状况进行调整

export TAO_CONV_VER=v3.21.11-py3

docker pull nvcr.io/nvidia/tao/tao-toolkit-pyt:$TAO_CONV_VER

下载完毕之后用docker images指令检查，看看是否如下图的信息：

TAO系列03-安装TAO模型训练工具

这样就已经完成整个TAO模型训练的开发环境。【完】

来源：业界供稿

0赞

好文章，需要你的鼓励

推荐文章
西门子和微软将数字孪生定义语言与W3C事物描述标准融合

西门子

微软

数字孪生

2024-04-16

西门子和微软将数字孪生定义语言与W3C事物描述标准融合

西门子和微软宣布致力于将数字孪生定义语言 (DTDL)与国际标准组织W3C的事物描述标准相融合。

思科渠道负责人谈AI深度投资和通过合作伙伴刺激增长

思科

网络

人工智能

2024-04-15

思科渠道负责人谈AI深度投资和通过合作伙伴刺激增长

思科合作伙伴关系和中小企业业务高级副总裁Rodney Clark已经准备好为合作伙伴提供他们所需的资源，以应对最新的、可以说是最大的机遇：人工智能。现在，随着规模达280亿美金的Splunk收购交易的签署和敲定，思科在人工智能、网络安全、可观察性、以及为客户创造新创新产品、服务和功能方面制定了宏伟的计划，并且需要合作伙伴的帮助。

加速边缘AI部署 Arm推出Ethos-U85 NPU和Corstone-320

ARM

边缘AI

NPU

2024-04-15

加速边缘AI部署 Arm推出Ethos-U85 NPU和Corstone-320

近日，Arm宣布推出Arm Ethos-U85神经网络处理器（NPU），以及全新物联网参考设计平台——Arm Corstone-320，以加速实现语音、音频和视觉系统的部署，促进未来多模态智能应用的全方位部署。

云巨头两面下注：亚马逊云科技既要原研AI芯片，又要英伟达GPU

亚马逊

AI芯片

GPU

2024-04-15

云巨头两面下注：亚马逊云科技既要原研AI芯片，又要英伟达GPU

曾几何时，或者说就在短短几年之前，数据中心芯片市场还是个资金门槛极高但却相对简单的市场。CPU战团主要有英特尔、AMD和Arm，GPU阵营则是英伟达、AMD和英特尔等厂商的舞台。尽管AI初创公司数量可观，但普遍并未在数据中心领域建立起真正的话语权。

2022

03/17

09:12

分享

点赞

最新文章
相关文章
邮件订阅
白皮书
更多
数字化转型方略
更多

友情链接

业界热点:

北京第二十六维信息技术有限公司（至顶网）版权所有. 京ICP备15039648号-7 京ICP证161336号京公网安备 11010802021500号  京网文(2021)3350-928号  京字第20868号

举报电话：010-62641205　涉未成年人举报专线：010-62641208 举报邮箱：jubao@zhiding.cn　公开举报受理处置规则

网上有害信息举报专区：https://www.12377.cn

安全联盟认证