跳转到主要内容

NVIDIA DALI每周版针对CUDA 12.0。Git SHA: 408c18bb0d8a7c1b300e02fd7f6bb58369fdf4c6

项目描述

NVIDIA数据加载库(DALI)是一个用于数据加载和预处理的库,用于加速深度学习应用。它提供了一系列高度优化的构建块,用于加载和处理图像、视频和音频数据。它可以作为流行的深度学习框架中内置的数据加载器和数据迭代器的便携式替代品。

深度学习应用需要复杂的多阶段数据处理管道,包括加载、解码、裁剪、调整大小和许多其他增强。这些在CPU上执行的数据处理管道已成为瓶颈,限制了训练和推理的性能和可伸缩性。

DALI通过将数据预处理卸载到GPU来解决CPU瓶颈问题。此外,DALI依赖于自己的执行引擎,该引擎旨在最大化输入管道的吞吐量。预取、并行执行和批量处理等功能对用户来说是透明的。

此外,深度学习框架有多种数据预处理实现,导致诸如训练和推理工作流程的可移植性和代码可维护性等挑战。使用DALI实现的数据处理管道是可移植的,因为它们可以轻松地重新定向到TensorFlow、PyTorch、MXNet和PaddlePaddle。

有关更多详情,请参阅最新的DALI文档

DALI Diagram

由以下支持

AWS AWS 云计算和安全赞助商 Datadog Datadog 监控 Fastly Fastly CDN Google Google 下载分析 Microsoft Microsoft PSF 赞助商 Pingdom Pingdom 监控 Sentry Sentry 错误记录 StatusPage StatusPage 状态页面