使用spaCy和Ray进行并行和分布式训练
项目描述
spacy-ray: 使用spaCy和Ray进行并行和分布式训练
⚠️ 此存储库仍在开发中,需要新的 spaCy v3.0。
Ray 是一个快速简单的框架,用于构建和运行 分布式应用程序。这个非常轻量级的扩展包允许您使用Ray进行与 spaCy 的并行和分布式训练。如果 spacy-ray
在与spaCy相同的环境中安装,它将自动将 spacy ray
命令添加到您的spaCy CLI中。
主要命令是用于并行和分布式训练的 spacy ray train
,但我们预计还会添加 spacy ray pretrain
和 spacy ray parse
。
🚀 快速入门
您可以从pip安装 spacy-ray
pip install spacy-ray
检查命令是否成功注册
python -m spacy ray --help
使用与 spacy train
相同的API训练模型
python -m spacy ray train config.cfg --n-workers 2
项目详情
下载文件
下载适用于您的平台的文件。如果您不确定选择哪个,请了解有关 安装包 的更多信息。
源分布
spacy_ray-0.1.4.tar.gz (12.3 kB 查看哈希值)
构建版本
spacy_ray-0.1.4-py2.py3-none-any.whl (13.3 kB 查看哈希值)
关闭
spacy_ray-0.1.4.tar.gz的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | 8aace86e08dfb8169b14e2a8ab18c7da5b6977d0c6ba286403bb5a443327b8dd |
|
MD5 | 5de24d5b149d385151e2aaf0aaae0d8d |
|
BLAKE2b-256 | d309034a71f86e7d0880272a667e7f56df25dde0124afb0d4ed748fb5da01cb9 |
关闭
spacy_ray-0.1.4-py2.py3-none-any.whl的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | ebbe8268ee642eb460a18dc243269bb340c31214d32409c5b9c21beffecf0bce |
|
MD5 | 8634b8732970c4c690cee6315c808b33 |
|
BLAKE2b-256 | 2f6526795a2901c38466b64e0a17447d987ec31b50145ef4d3fc16c94f9480ea |