高性能深度学习推理库
项目描述
NVIDIA TensorRT是一个SDK,它简化了高性能机器学习推理。它旨在与TensorFlow、PyTorch和MXNet等训练框架协同工作。它专注于在NVIDIA硬件上快速有效地运行已训练的网络。
重要: 这是一个专为TensorRT-LLM设计的TensorRT特殊版本。如果您没有使用TensorRT-LLM,请勿升级到这个版本。
要安装,请执行以下操作
pip install tensorrt --extra-index-url https://pypi.nvidia.com
或将索引URL添加到(空格分隔) PIP_EXTRA_INDEX_URL环境变量中
export PIP_EXTRA_INDEX_URL='https://pypi.nvidia.com'
pip install tensorrt
如果额外的索引URL不包含https://pypi.nvidia.com
,则将运行具有正确硬编码额外索引URL的嵌套pip install
。
项目详情
关闭
tensorrt_dispatch-cu12-10.5.0.tar.gz 的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | f78f1bb5c4cb0c2073027ca76fc6b60b2588043f4c61a81ee32961074dc95b10 |
|
MD5 | 07623fe2c57286414ac95b822846ab9e |
|
BLAKE2b-256 | 883db2c96b9a4faf877854941193859b6fbcc73462d394e0912462101b2a44df |