跳转到主要内容

使用spaCy和Ray进行并行和分布式训练

项目描述

spacy-ray: 使用spaCy和Ray进行并行和分布式训练

⚠️ 此存储库仍在开发中,需要新的 spaCy v3.0

Ray 是一个快速简单的框架,用于构建和运行 分布式应用程序。这个非常轻量级的扩展包允许您使用Ray进行与 spaCy 的并行和分布式训练。如果 spacy-ray 在与spaCy相同的环境中安装,它将自动将 spacy ray 命令添加到您的spaCy CLI中。

主要命令是用于并行和分布式训练的 spacy ray train,但我们预计还会添加 spacy ray pretrainspacy ray parse

Azure Pipelines Current Release Version PyPi Version

🚀 快速入门

您可以从pip安装 spacy-ray

pip install spacy-ray

检查命令是否成功注册

python -m spacy ray --help

使用与 spacy train 相同的API训练模型

python -m spacy ray train config.cfg --n-workers 2

项目详情


下载文件

下载适用于您的平台的文件。如果您不确定选择哪个,请了解有关 安装包 的更多信息。

源分布

spacy_ray-0.1.4.tar.gz (12.3 kB 查看哈希值)

上传时间 源码

构建版本

spacy_ray-0.1.4-py2.py3-none-any.whl (13.3 kB 查看哈希值)

上传时间 Python 2 Python 3

支持者