高性能深度学习推理库
项目描述
NVIDIA TensorRT是一个SDK,用于实现高性能机器学习推理。它旨在与TensorFlow、PyTorch和MXNet等训练框架协同工作。它专注于在NVIDIA硬件上快速高效地运行已训练的网络。
重要: 这是一个专为与TensorRT-LLM协同工作而设计的TensorRT特殊版本。如果您不使用TensorRT-LLM,请勿升级到此版本。
要安装,请执行以下操作
pip install tensorrt --extra-index-url https://pypi.nvidia.com
或将索引URL添加到(空格分隔的) PIP_EXTRA_INDEX_URL环境变量中
export PIP_EXTRA_INDEX_URL='https://pypi.nvidia.com'
pip install tensorrt
当额外索引URL不包含https://pypi.nvidia.com
时,将运行具有正确额外索引URL的嵌套pip install
,其中额外索引URL已硬编码。
项目详情
关闭
tensorrt-cu12-10.5.0.tar.gz 的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | 46edbda08c54c8ffa88c75d75b4761eb9839e81678135e8d1530adc8cef6a61b |
|
MD5 | e7752db936f829626f9c23a36d4ec439 |
|
BLAKE2b-256 | 22d5a4c3e22482d4273e151123990934d7c8d0ba1e4efb9a483eba807cdce279 |