Dask和cuDF交互工具
项目描述
cuDF - GPU DataFrames
📢 cuDF现在可以作为无需代码更改的pandas加速器使用!了解更多信息,请参阅此处!
cuDF(发音为“库-迪-艾夫”)是一个GPU DataFrame库,用于加载数据、连接、聚合、过滤以及进行其他数据操作。cuDF利用libcudf,一个快速的C++/CUDA DataFrame库和Apache Arrow列格式,提供GPU加速的pandas API。
您可以直接导入cudf
并像使用pandas
一样使用它
import cudf
tips_df = cudf.read_csv("https://github.com/plotly/datasets/raw/master/tips.csv")
tips_df["tip_percentage"] = tips_df["tip"] / tips_df["total_bill"] * 100
# display average tip by dining party size
print(tips_df.groupby("size").tip_percentage.mean())
或者,您可以使用cuDF作为无需代码更改的pandas加速器,使用cudf.pandas
。 cudf.pandas
支持100%的pandas API,利用cuDF进行受支持的运算,并在需要时回退到pandas
%load_ext cudf.pandas # pandas operations now use the GPU!
import pandas as pd
tips_df = pd.read_csv("https://github.com/plotly/datasets/raw/master/tips.csv")
tips_df["tip_percentage"] = tips_df["tip"] / tips_df["total_bill"] * 100
# display average tip by dining party size
print(tips_df.groupby("size").tip_percentage.mean())
资源
- 现在尝试cudf.pandas:在Google Colab的免费GPU实例上探索
cudf.pandas
! - 安装:安装cuDF和其他RAPIDS库的说明。
- cudf (Python) 文档
- libcudf (C++/CUDA) 文档
- RAPIDS社区:获取帮助、贡献和协作。
请参阅RAPIDS安装页面以获取最新信息和安装cuDF和其他RAPIDS包的命令。
安装
CUDA/GPU要求
- CUDA 11.2+
- NVIDIA驱动程序 450.80.02+
- Volta架构或更高(计算能力 >=7.0)
Pip
cuDF可以通过从NVIDIA Python软件包索引使用pip
进行安装。请确保根据您环境中可用的CUDA主要版本选择合适的cuDF软件包。
对于CUDA 11.x
pip install --extra-index-url=https://pypi.nvidia.com cudf-cu11
对于CUDA 12.x
pip install --extra-index-url=https://pypi.nvidia.com cudf-cu12
Conda
您可以使用conda(通过miniconda或从rapidsai
通道的完整Anaconda发行版)安装cuDF。
conda install -c rapidsai -c conda-forge -c nvidia \
cudf=24.08 python=3.11 cuda-version=12.5
我们还提供了从最新开发分支的HEAD构建的夜间Conda软件包。
注意:cuDF仅支持Linux,以及Python 3.9及以后的版本。
有关更多操作系统和版本信息,请参阅RAPIDS安装指南。
从源码构建/安装
请参阅构建说明。
贡献
请参阅我们关于如何为cuDF做出贡献的指南。