TAO工具包快速入门指南

本页提供安装和运行TAO工具包的快速入门指南。

要求

硬件

以下系统配置建议，以实现TAO工具包和提供的支持模型的可接受训练性能

• 32 GB系统RAM
• 32 GB的GPU RAM
• 8核CPU
• 1个NVIDIA GPU
• 100 GB的SSD空间

TAO工具包支持A100、V100和RTX 30x0 GPU。

软件要求

安装先决条件

tao-launcher严格是仅适用于python3的包，能够在python 3.6.9或3.7上运行。

1. 按照官方说明安装docker-ce。

   安装docker-ce后，按照安装后步骤执行，以确保docker可以在不使用sudo的情况下运行。

2. 按照安装指南安装nvidia-container-toolkit。

3. 获取一个NGC账号和API密钥

   a. 前往NGC，在目录标签页中点击TAO Toolkit容器。将显示此消息：登录以访问此存储库的PULL功能。b. 输入您的电子邮件地址并点击下一步，或点击创建账号。c. 当提示时选择您的组织组织/团队。d. 点击登录。

4. 使用命令docker login nvcr.io登录NGC Docker注册库（nvcr.io）并输入以下凭证

     a. Username: $oauthtoken
     b. Password: YOUR_NGC_API_KEY
   

   其中YOUR_NGC_API_KEY对应于您在第3步中生成的密钥。

推荐使用DeepStream 6.0 - NVIDIA IVA推理SDK。

安装TAO Toolkit

TAO Toolkit是一个托管在NVIDIA PyIndex上的Python pip包。该包在底层使用docker restAPI与NGC Docker注册库交互，以拉取和实例化底层docker容器。您必须有一个NGC账号以及与账号关联的API密钥。有关创建NGC账号和获取API密钥的详细信息，请参阅安装先决条件部分。

1. 使用virtualenvwrapper创建一个新的virtualenv。

   您可以通过以下链接中的说明来设置Python虚拟环境：[设置Python虚拟环境](https://python-guide-cn.readthedocs.io/en/latest/dev/virtualenvs.html)。

   您已经按照说明安装了virtualenv和virtualenvwrapper，请设置virtualenv中的Python版本。这可以通过以下两种方式完成

   • 定义名为VIRTUALENVWRAPPER_PYTHON的环境变量。该变量应指向您的本地计算机中python3二进制文件的路径。您还可以将其添加到.bashrc或.bash_profile中，以便默认设置您的Python virtualenv。

     export VIRTUALENVWRAPPER_PYTHON=/usr/bin/python3
     

   • 使用virtualenvwrapper包装器创建virtualenv时设置python3二进制文件的路径

     mkvirtualenv launcher -p /path/to/your/python3
     

   一旦您已登录virtualenv，命令提示符应显示您的虚拟环境名称

   (launcher) py-3.6.9 desktop:
   

   当您完成会话时，您可以使用deactivate命令注销virtualenv

   deactivate
   

   您可以使用workon命令重新实例化此创建的virtualenv。

   workon launcher
   

2. 安装名为nvidia-tao的TAO Launcher Python包。

   pip3 install nvidia-tao
   

   如果您已安装了较旧的nvidia-tao启动器版本，您可以通过运行以下命令升级到最新版本。

   pip3 install --upgrade nvidia-tao
   

3. 使用tao命令调用入口点。

   tao --help
   

   上述命令的示例输出如下

   usage: tao [-h]
            {list,stop,info,augment,bpnet,classification,detectnet_v2,dssd,emotionnet,faster_rcnn,fpenet,gazenet,gesturenet,
            heartratenet,intent_slot_classification,lprnet,mask_rcnn,punctuation_and_capitalization,question_answering,
            retinanet,speech_to_text,ssd,text_classification,converter,token_classification,unet,yolo_v3,yolo_v4,yolo_v4_tiny}
            ...
   
   Launcher for TAO
   
   optional arguments:
   -h, --help            show this help message and exit
   
   tasks:
         {list,stop,info,augment,bpnet,classification,detectnet_v2,dssd,emotionnet,faster_rcnn,fpenet,gazenet,gesturenet,heartratenet
        ,intent_slot_classification,lprnet,mask_rcnn,punctuation_and_capitalization,question_answering,retinanet,speech_to_text,
        ssd,text_classification,converter,token_classification,unet,yolo_v3,yolo_v4,yolo_v4_tiny}  
   

   请注意，在任务下可以看到所有可由启动器调用的任务。以下是一些具体任务，这些任务有助于使用TAO启动器处理启动的命令

   • list
   • stop
   • info

   当将TAO Toolkit启动器安装到主机机器的本地python3而不是推荐的虚拟环境路径时，您可能会收到错误消息，表明找不到tao二进制文件。这是因为您通过pip安装的tao二进制文件的路径未添加到您本地机器的PATH环境变量中。在这种情况下，请运行以下命令

   export PATH=$PATH:~/.local/bin
   

运行TAO Toolkit

有关TAO启动器CLI的信息以及如何使用它运行TAO支持的任务的详细信息，请参阅TAO Toolkit启动器部分，该部分包含在TAO Toolkit用户指南中。