基于delta-rs的Delta Lake原生Python绑定,与Pandas集成
项目描述
Deltalake-python
基于Delta Lake的delta-rs原生Python绑定,与Pandas集成。
示例
from deltalake import DeltaTable
dt = DeltaTable("../rust/tests/data/delta-0.2.0")
dt.version()
3
dt.files()
['part-00000-cb6b150b-30b8-4662-ad28-ff32ddab96d2-c000.snappy.parquet',
'part-00000-7c2deba3-1994-4fb8-bc07-d46c948aa415-c000.snappy.parquet',
'part-00001-c373a5bd-85f0-4758-815e-7eb62007a15c-c000.snappy.parquet']
请参阅用户指南以获取更多示例。
安装
pip install deltalake
注意:官方的二进制轮文件使用了静态链接的openssl进行远程对象存储通信。请提交Github问题请求关键openssl升级。
构建自定义轮文件
有时你可能想构建自定义轮文件。也许你想尝试一些未发布的特性。或者也许你想调整Rust代码的优化。
要编译此包,你需要Rust编译器和maturin
curl https://sh.rustup.rs -sSf | sh -s
pip install maturin
然后你可以这样构建你自己的平台的轮文件
maturin build --release --out wheels
为你的系统进行优化构建(但牺牲了可移植性)
RUSTFLAGS="-C target-cpu=native" maturin build --release --out wheels
交叉编译
上述命令仅适用于你的当前平台。要为其他平台创建轮文件,你需要交叉编译。交叉编译需要安装两个额外的组件:要交叉编译Rust代码,你需要使用rustup
安装目标;要交叉编译Python绑定,你需要安装ziglang
。
以下示例针对manylinux2014。其他目标将需要不同的Rust target
和Python compatibility
标签。
rustup target add x86_64-unknown-linux-gnu
pip install ziglang
然后你可以使用以下命令构建轮文件
maturin build --release --zig \
--target x86_64-unknown-linux-gnu \
--compatibility manylinux2014 \
--out wheels
如果你预计只会在更现代的系统上运行,你可以设置一个更新的target-cpu
标志来针对Rust,并使用一个更新的兼容性标签来针对Linux。例如,这里我们设置了与Haswell(2013年)之后的CPU兼容,以及glibc版本至少为2.24的Linux操作系统。
RUSTFLAGS="-C target-cpu=haswell" maturin build --release --zig \
--target x86_64-unknown-linux-gnu \
--compatibility manylinux_2_24 \
--out wheels
项目详情
关闭
deltalake-0.20.1.tar.gz 的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | b1eacc6fa462ae6c3e40ba444f7353d9d8c1a05056fd31aed7fe6a623898a4a1 |
|
MD5 | 2643281ee233d9094475a2d00ea01fb4 |
|
BLAKE2b-256 | 58fb17070bff95981d3eb902c02c8cf61a45fc8171819f503b84ef666e56cefb |
关闭
deltalake-0.20.1-cp38-abi3-win_amd64.whl 的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | 0f2edb2e0e82b8f5c374912c56b765ed0d39dbc4b96b1d402217d1680cb73b22 |
|
MD5 | a96df8b5bbd3a6650bd3f610d0390817 |
|
BLAKE2b-256 | d21107ae31607ca8f5ff1d0d47cfef1f32805d284d5bb190fb0169141143d51c |
关闭
deltalake-0.20.1-cp38-abi3-manylinux_2_17_x86_64.manylinux2014_x86_64.whl 的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | 3cc070e727ec83533c776ecd490526356280ff34a71239049a3ada8e1be8319e |
|
MD5 | 83602ab4e27af95fd4b274546fc74dcd |
|
BLAKE2b-256 | 177dfcca43592258b39674cfbb8729f9e875a94766b8e55ebb671aa893c20612 |
关闭
deltalake-0.20.1-cp38-abi3-manylinux_2_17_aarch64.manylinux2014_aarch64.whl 的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | 45ac9ce1b03ecfd373244573b8cea9e352eae7e1a8987c8b666529864c767659 |
|
MD5 | 84ae0195cca5b89a3a9b585489c1738e |
|
BLAKE2b-256 | 786d954bad223da7e712b8e1f70a8c10e247d3a7b66112a0c697b009ae97663a |
关闭
deltalake-0.20.1-cp38-abi3-macosx_11_0_arm64.whl 的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | e42f4974a14edd63a19752ad6fe1b5cc8ad72c83aa095249713651025ab9707e |
|
MD5 | c310e293a64a69c2c99aba783eaddb61 |
|
BLAKE2b-256 | 3db29367bfe248db87c9b52cf6f2084380a6517eb6001bafa1ccafb9db8fcad2 |
关闭
哈希值用于deltalake-0.20.1-cp38-abi3-macosx_10_12_x86_64.whl
算法 | 哈希摘要 | |
---|---|---|
SHA256 | a4dbd455e3511feb8016f9917de558324049b8bbdd401c2658b6d0411f6f082e |
|
MD5 | bcdea50d678d3854e8de50fe01acc447 |
|
BLAKE2b-256 | 3d3c22d819293d6e5cf1f495623b17e7dbed70b6c208d7fe51144c3ec5f76dff |