ONNX Runtime 是机器学习模型的运行时加速器
项目描述
OpenVINO™ 执行提供程序用于ONNX Runtime 是为ONNX Runtime开发者设计的一款产品，旨在使开发者能够在其推理应用程序中开始使用OpenVINO™。此产品提供了OpenVINO™内联优化，通过最小代码修改提升推理性能。
- OpenVINO™ 执行提供程序用于ONNX Runtime 在多种Intel® 硬件上加速了众多 AI模型，例如
Intel® CPU
Intel® 集成GPU
Intel® 独立GPU
Intel® 集成NPU（仅限Windows）
安装
要求
Ubuntu 18.04、20.04、RHEL（仅限CPU）或Windows 10 - 64位
Linux的Python 3.9或3.10或3.11，Windows的Python 3.10或3.11
- 此软件包支持
Intel® CPU
Intel® 集成GPU
Intel® 独立GPU
Intel® 集成NPU（仅限Windows）
pip3 install onnxruntime-openvino
请为Windows单独安装OpenVINO™ PyPi包。有关Windows上的安装说明，请参阅OpenVINO™执行提供程序用于ONNX Runtime for Windows。
OpenVINO™执行提供程序用于ONNX Runtime的Linux Wheels包含预构建的OpenVINO™ 2024.1.0版本库，无需单独安装OpenVINO™。
有关构建和安装的更多详细信息，请参阅构建。
使用方法
默认情况下，使用Intel® CPU运行推理。但是，您可以将默认选项更改为Intel®集成GPU、独立GPU（仅限Windows）或集成NPU。通过调用提供程序配置设备类型参数来更改执行推理的硬件。
有关更多API调用和环境变量，请参阅使用方法。
示例
要了解如何使用OpenVINO™执行提供程序用于ONNX Runtime，请探索位于示例中的演示。
许可证
OpenVINO™执行提供程序用于ONNX Runtime采用MIT许可。通过向项目贡献，您同意其中的许可和版权条款，并在此条款下发布您的贡献。
支持
请通过GitHub Issues提交您的问题、功能请求和错误报告。
如何贡献
我们欢迎社区为OpenVINO™执行提供程序用于ONNX Runtime做出贡献。如果您有改进的想法
通过GitHub Issues分享您的提案。
提交一个Pull Request。
onnxruntime_openvino-1.19.0-cp311-cp311-win_amd64.whl 的哈希值
| 算法 | 哈希摘要 | |
|---|---|---|
| SHA256 | 12330922ecdb694ea28dbdcf08c172e47a5a84fee603040691341336ee3e42bc |
|
| MD5 | ff29f0fcc07d3d66d6aba121698210f1 |
|
| BLAKE2b-256 | e8bbb8fa939119164eecef8ac38a08b6f7c7832158e3bec056f32866e5c68c37 |
onnxruntime_openvino-1.19.0-cp311-cp311-manylinux_2_28_x86_64.whl 的哈希值
| 算法 | 哈希摘要 | |
|---|---|---|
| SHA256 | f3a0b954026286421b3a769c746c403e8f141f3887d1dd601beb7c4dbf77488a |
|
| MD5 | 0f95adbe566f7930b5a7a1b72162feb1 |
|
| BLAKE2b-256 | 02251c1d982ef2c07f59b972ff0764fb7ac6fc89ae3d9b2936697d1b762b7db1 |
onnxruntime_openvino-1.19.0-cp310-cp310-win_amd64.whl 的哈希值
| 算法 | 哈希摘要 | |
|---|---|---|
| SHA256 | fb8de2a60cf78db6e201b0a489479995d166938e9c53b01ff342dc7f5f8251ff |
|
| MD5 | d49bd61a06d951eff5d87a44fd79be27 |
|
| BLAKE2b-256 | 62591bedc810bdd0ba887d0483751cb407ce07da2050bbe56c8d7b4bda433794 |
onnxruntime_openvino-1.19.0-cp310-cp310-manylinux_2_28_x86_64.whl 的哈希值
| 算法 | 哈希摘要 | |
|---|---|---|
| SHA256 | 8c5658da819b26d9f35f95204e1bdfb74a100a7533e74edab3af6316c1e316e8 |
|
| MD5 | 761e0704210b615bbde7132ed668380f |
|
| BLAKE2b-256 | a2ec414da1603574065cae9668c47ef5453966a1d3c4237ef101e36e89b50355 |
onnxruntime_openvino-1.19.0-cp39-cp39-manylinux_2_28_x86_64.whl 的哈希值
| 算法 | 哈希摘要 | |
|---|---|---|
| SHA256 | be00502b1a46ba1891cbe49049033745f71c0b99df6d24b979f5b4084b9567d0 |
|
| MD5 | 01926fa6540def37ec0861e8154e8bb1 |
|
| BLAKE2b-256 | 20373f66154285d67325737b0f0d22535752bdd98091614e9592455b73d00aa3 |