跳转到主要内容

高性能深度学习推理库

项目描述

NVIDIA TensorRT是一个SDK,用于实现高性能机器学习推理。它旨在与TensorFlow、PyTorch和MXNet等训练框架协同工作。它专注于在NVIDIA硬件上快速高效地运行已训练的网络。

重要: 这是一个专为与TensorRT-LLM协同工作而设计的TensorRT特殊版本。如果您不使用TensorRT-LLM,请勿升级到此版本。

要安装,请执行以下操作

pip install tensorrt --extra-index-url https://pypi.nvidia.com

或将索引URL添加到(空格分隔的) PIP_EXTRA_INDEX_URL环境变量中

export PIP_EXTRA_INDEX_URL='https://pypi.nvidia.com'
pip install tensorrt

当额外索引URL不包含https://pypi.nvidia.com时,将运行具有正确额外索引URL的嵌套pip install,其中额外索引URL已硬编码。

项目详情


下载文件

下载适合您平台的文件。如果您不确定该选择哪一个,请了解更多有关安装包的信息。

源分发

tensorrt-cu12-10.5.0.tar.gz (18.3 kB 查看哈希值)

上传时间

由以下支持

AWS AWS 云计算和安全赞助商 Datadog Datadog 监控 Fastly Fastly CDN Google Google 下载分析 Microsoft Microsoft PSF赞助商 Pingdom Pingdom 监控 Sentry Sentry 错误日志 StatusPage StatusPage 状态页面