Holoscan SDK

Holoscan SDK Python Wheel 是 NVIDIA Holoscan 的一部分，NVIDIA Holoscan 是一个 AI 传感器处理平台，该平台结合了低延迟传感器和网络连接的硬件系统、针对数据处理和 AI 优化的库以及运行流媒体、成像和其他应用程序的核心微服务，从嵌入式到边缘再到云。它可以用于为各种领域构建流媒体 AI 管道，包括医疗设备、边缘高性能计算、工业检测等。

入门指南

访问 Holoscan 用户指南以 开始使用 Holoscan SDK。

先决条件

• 每个受支持平台的先决条件在 用户指南 中记录。请注意，Python 轮子有许多可选依赖项，您可以根据需要手动安装（请参阅下面的兼容性矩阵）。
• Holoscan SDK Python 轮子仅在 Ubuntu 22.04 上正式测试。然而，它们预计可以在具有 glibc 2.35 或更高版本的任何 Linux 发行版上运行（请参阅 ldd --version 的输出）以及 CUDA 运行时 12.2 或更高版本。
• Python：3.8 到 3.11

故障排除

安装了版本 0.6.0 而不是最新版本

轮子的最新版本是在 Ubuntu 22.04 上使用 glibc 2.35 构建和测试的。您需要切换到一个具有更新版本 glibc 的 Linux 发行版，以使用 Holoscan SDK Python 轮子 1.0 或更高版本（使用 ldd --version 检查您的版本），或者使用 Holoscan SDK NGC 容器。

ERROR: Could not find a version that satisfies the requirement holoscan==<version>
ERROR: No matching distribution found for holoscan==<version>

与上面相同，或者 Python 版本不兼容。

libc.so.6: version 'GLIBC_2.32 not found
libstdc++.so.6: version `GLIBCXX_3.4.29` not found

与上面相同。

ImportError: libcudart.so.12: cannot open shared object file: No such file or directory

您的系统缺少 CUDA 运行时（即使对于仅 CPU 的管道也要求安装）。

• x86_64：遵循官方 安装步骤。
  • 注意：虽然 Holoscan 不使用 CUDA Python API，但您可以选择使用 pip 而不是在系统范围内安装它来安装 CUDA 运行时 Python 轮子：python3 -m pip install nvidia-cuda-runtime-cu12。在调用 Holoscan 应用程序之前，请确保更新您的 LD_LIBRARY_PATH 环境变量，以包含这些 CUDA 库的路径，例如

    export CUDA_WHL_LIB_DIR=$(python3 -c 'import nvidia.cuda_runtime; print(nvidia.cuda_runtime.__path__[0])')/lib
    export LD_LIBRARY_PATH="$CUDA_WHL_LIB_DIR:$LD_LIBRARY_PATH"
    

• IGX Orin：确保已安装 计算堆栈。
• Jetson：重新安装JetPack 6.0。

Error: libnvinfer.so.8: cannot open shared object file: No such file or directory
...
Error: libnvonnxparser.so.8: cannot open shared object file: No such file or directory

您的系统缺少TensorRT（请注意，它仅由holoscan.operators.InferenceOp操作符需要）。

• x86_64：遵循官方安装步骤。
  • 注意：如果您更喜欢使用pip而不是全局安装，也可以安装TensorRT库的python wheel：python3 -m pip install tensorrt-libs~=8.6.1 --index-url https://pypi.nvidia.com。在调用Holoscan应用程序之前，请确保更新您的LD_LIBRARY_PATH环境变量以包含这些TensorRT库的路径，例如

    export TRT_WHL_LIB_DIR=$(python3 -c 'import tensorrt_libs; print(tensorrt_libs.__path__[0])')
    export CUDNN_WHL_LIB_DIR=$(python3 -c 'import nvidia.cudnn; print(nvidia.cudnn.__path__[0])')/lib
    export CUBLAS_WHL_LIB_DIR=$(python3 -c 'import nvidia.cublas; print(nvidia.cublas.__path__[0])')/lib
    export LD_LIBRARY_PATH="$TRT_WHL_LIB_DIR:$CUDNN_WHL_LIB_DIR:$CUBLAS_WHL_LIB_DIR:$LD_LIBRARY_PATH"
    

• IGX Orin：确保已安装 计算堆栈。
• Jetson：重新安装JetPack 6.0。

     from pip._internal.models.scheme import SCHEME_KEYS
ModuleNotFoundError: No module named 'pip'
...
ImportError: libholoscan_core.so.2: cannot open shared object file: No such file or directory

您的pip版本可能太旧（<20.2），或者您正在尝试使用找不到的pip的系统pip安装holoscan。

为了解决这个问题，您可以

• 在虚拟环境中安装holoscan，或者
• 卸载holoscan，使用python3 -m pip install --upgrade pip在您的系统上升级pip，然后重新安装holoscan