为各种dask集群配置
项目描述
dask-hpcconfig
要安装,使用
python -m pip install git+https://github.com/umr-lops/dask-hpcconfig.git#egg=dask-hpcconfig
或克隆源
git clone https://github.com/umr-lops/dask-hpcconfig.git
cd dask-hpcconfig
然后从那里安装
python -m pip install .
或作为“可编辑的”
python -m pip install -e .
用法
import dask_hpcconfig
列出可用的集群定义
dask_hpcconfig.print_clusters()
或,作为名称到类型的映射
clusters = dask_hpcconfig.available_clusters()
要创建集群,使用
cluster = dask_hpcconfig.cluster(name)
其中 name
是可用集群的名称之一。
要覆盖任何特定的设置:例如在 'datarmor-local' 中仅使用 7 个工作进程来增加每个工作进程的内存大小
overrides = {"cluster.n_workers": 7}
cluster = dask_hpcconfig.cluster("datarmor-local", **overrides)
例如在 'datarmor' 中仅使用 7 个工作进程来增加每个工作进程的内存大小,并使用 49 个工作进程(即 7 个 mpi_1 节点)
overrides = {"cluster.cores": 7}
cluster = dask_hpcconfig.cluster("datarmor", **overrides)
cluster.scale(49)
cluster
可以用来创建一个 Client
from distributed import Client
client = Client(cluster)
项目详情
下载文件
下载适合您平台的应用程序。如果您不确定选择哪个,请了解更多关于 安装软件包 的信息。
源分发
dask-hpcconfig-2022.3.0.tar.gz (11.2 kB 查看哈希值)
构建版本
关闭
dask-hpcconfig-2022.3.0.tar.gz的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | af5db3151f481bbcf06dd644a965a6387ec5a933da3f92735fa3bc5de33d13ca |
|
MD5 | 005183c73164da4b0f3401a415a7d501 |
|
BLAKE2b-256 | dd85290258d05620d59cd68c85324bc85916dd671dd806465454d41778044b85 |
关闭
dask_hpcconfig-2022.3.0-py3-none-any.whl的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | e80e123b364c5aad5c55abb5ea4a3f504525bb0b7f436df84be4a62d28c6d416 |
|
MD5 | feb2faeb26742380d479372a06aacd95 |
|
BLAKE2b-256 | b98adde3bdf98ab948b8614e155cbe491ddb87b69675538b1ebe2fc0f94bf2dd |