跳转到主要内容

高性能深度学习推理库

项目描述

NVIDIA TensorRT是一个SDK,它使高性能机器学习推理变得容易。它设计用于与TensorFlow、PyTorch和MXNet等训练框架协同工作。它专注于在NVIDIA硬件上快速高效地运行已经训练好的网络。

重要: 这是一个专门为TensorRT-LLM设计的TensorRT版本,请勿升级到这个版本,除非您正在使用TensorRT-LLM。

要安装,请执行以下操作

pip install tensorrt --extra-index-url https://pypi.nvidia.com

或者将索引URL添加到(空格分隔) PIP_EXTRA_INDEX_URL环境变量中

export PIP_EXTRA_INDEX_URL='https://pypi.nvidia.com'
pip install tensorrt

当额外的索引URL不包含https://pypi.nvidia.com时,将运行带有正确额外索引URL的嵌套pip install命令。

项目详情


下载文件

下载适用于您平台的文件。如果您不确定选择哪个,请了解更多关于安装包的信息。

源分布

tensorrt_lean-cu11-10.5.0.tar.gz (18.3 kB 查看哈希值)

上传时间

由以下机构支持