跳转到主要内容

高性能深度学习推理库

项目描述

NVIDIA TensorRT是一个SDK,它简化了高性能机器学习推理。它旨在与TensorFlow、PyTorch和MXNet等训练框架协同工作。它专注于在NVIDIA硬件上快速高效地运行已训练的网络。

重要: 这是由TensorRT-LLM支持的TensorRT的特殊版本。如果您不使用TensorRT-LLM,请勿升级到这个版本。

要安装,请执行以下操作

pip install tensorrt --extra-index-url https://pypi.nvidia.com

或将索引URL添加到(空格分隔的)PIP_EXTRA_INDEX_URL环境变量中

export PIP_EXTRA_INDEX_URL='https://pypi.nvidia.com'
pip install tensorrt

当额外索引URL不包含https://pypi.nvidia.com时,将使用正确硬编码的额外索引URL运行嵌套的pip install

项目详情


下载文件

下载适用于您平台的文件。如果您不确定选择哪个,请了解有关安装包的更多信息。

源分发

tensorrt-cu11-10.5.0.tar.gz (18.3 kB 查看哈希值)

上传时间:

由以下机构支持