跳转到主要内容

高性能深度学习推理库

项目描述

NVIDIA TensorRT是一个SDK,用于实现高性能机器学习推理。它旨在与TensorFlow、PyTorch和MXNet等训练框架协同工作。它专注于在NVIDIA硬件上快速有效地运行已训练的网络。

重要: 这是一种专为与TensorRT-LLM一起工作而设计的TensorRT特殊版本。如果您不使用TensorRT-LLM,请勿升级到此版本。

要安装,请执行以下操作

pip install tensorrt --extra-index-url https://pypi.nvidia.com

或者将索引URL添加到(空格分隔的)PIP_EXTRA_INDEX_URL环境变量中

export PIP_EXTRA_INDEX_URL='https://pypi.nvidia.com'
pip install tensorrt

当额外索引URL不包含https://pypi.nvidia.com时,将运行带有正确额外索引URL硬编码的嵌套pip install

项目详情


下载文件

下载适用于您平台的文件。如果您不确定选择哪个,请了解更多关于 安装包 的信息。

源分布

tensorrt_dispatch-cu11-10.5.0.tar.gz (18.4 kB 查看哈希值)

上传时间 来源