跳转到主要内容

轻量级piece分词库

项目描述

🍴 cutlery

此Python库提供单词/句子piece分词器。以下类型的分词器目前得到支持

分词器 绑定 示例模型
BPE sentencepiece
字节BPE 原生 RoBERTa/GPT-2
单语 sentencepiece XLM-RoBERTa
单词piece 原生 BERT

⚠️ 注意:实验性包

此包是实验性的,API可能在不兼容的方式下更改。

⏳ 安装

Cutlery通过PyPI提供

pip install cutlery

🚀 快速入门

开始使用cutlery的最佳方式是通过curated-transformers库。 curated-transformers还提供了从Huggingface Hub加载分词模型的功能。

项目详情


下载文件

下载您平台上的文件。如果您不确定选择哪个,请了解更多关于安装包的信息。

源分发

cutlery-0.0.6.tar.gz (2.2 MB 查看哈希值)

上传时间 源代码

构建版本

cutlery-0.0.6-cp311-cp311-win_amd64.whl (598.5 kB 查看哈希值)

上传时间 CPython 3.11 Windows x86-64

cutlery-0.0.6-cp311-cp311-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (687.6 kB 查看哈希值)

上传时间 CPython 3.11 manylinux: glibc 2.17+ x86-64

cutlery-0.0.6-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl (663.5 kB 查看哈希值)

上传时间 CPython 3.11 manylinux: glibc 2.17+ ARM64

cutlery-0.0.6-cp311-cp311-macosx_11_0_arm64.whl (662.5 kB 查看哈希值)

上传时间 CPython 3.11 macOS 11.0+ ARM64

cutlery-0.0.6-cp311-cp311-macosx_10_9_x86_64.whl (693.1 kB 查看哈希值)

上传时间 CPython 3.11 macOS 10.9+ x86-64

cutlery-0.0.6-cp310-cp310-win_amd64.whl (600.3 kB 查看哈希值)

上传时间 CPython 3.10 Windows x86-64

cutlery-0.0.6-cp310-cp310-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (687.8 kB 查看哈希值)

上传时间 CPython 3.10 manylinux: glibc 2.17+ x86-64

cutlery-0.0.6-cp310-cp310-manylinux_2_17_aarch64.manylinux2014_aarch64.whl (663.4 kB 查看哈希值)

上传时间 CPython 3.10 manylinux: glibc 2.17+ ARM64

cutlery-0.0.6-cp310-cp310-macosx_11_0_arm64.whl (665.5 kB 查看哈希值)

上传时间 CPython 3.10 macOS 11.0+ ARM64

cutlery-0.0.6-cp310-cp310-macosx_10_9_x86_64.whl (696.1 kB 查看哈希值)

上传时间 CPython 3.10 macOS 10.9+ x86-64

cutlery-0.0.6-cp39-cp39-win_amd64.whl (602.3 kB 查看哈希值)

上传时间 CPython 3.9 Windows x86-64

cutlery-0.0.6-cp39-cp39-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (690.8 kB 查看哈希值)

上传时间 CPython 3.9 manylinux: glibc 2.17+ x86-64

cutlery-0.0.6-cp39-cp39-manylinux_2_17_aarch64.manylinux2014_aarch64.whl (666.8 kB 查看哈希值)

上传时间 CPython 3.9 manylinux: glibc 2.17+ ARM64

cutlery-0.0.6-cp39-cp39-macosx_11_0_arm64.whl (665.5 kB 查看哈希值)

上传时间 CPython 3.9 macOS 11.0+ ARM64

cutlery-0.0.6-cp39-cp39-macosx_10_9_x86_64.whl (696.3 kB 查看哈希值)

上传时间 CPython 3.9 macOS 10.9+ x86-64

cutlery-0.0.6-cp38-cp38-win_amd64.whl (602.6 kB 查看哈希值)

上传时间 CPython 3.8 Windows x86-64

cutlery-0.0.6-cp38-cp38-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (692.0 kB 查看哈希值)

上传时间 CPython 3.8 manylinux: glibc 2.17+ x86-64

cutlery-0.0.6-cp38-cp38-manylinux_2_17_aarch64.manylinux2014_aarch64.whl (668.2 kB 查看哈希值)

上传时间 CPython 3.8 manylinux: glibc 2.17+ ARM64

cutlery-0.0.6-cp38-cp38-macosx_11_0_arm64.whl (663.1 kB 查看哈希值)

上传时间 CPython 3.8 macOS 11.0+ ARM64

cutlery-0.0.6-cp38-cp38-macosx_10_9_x86_64.whl (693.5 kB 查看哈希值)

上传时间 CPython 3.8 macOS 10.9+ x86-64

cutlery-0.0.6-cp37-cp37m-win_amd64.whl (601.1 kB 查看哈希值)

上传时间 CPython 3.7m Windows x86-64

cutlery-0.0.6-cp37-cp37m-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (688.8 kB 查看哈希值)

上传时间 CPython 3.7m manylinux: glibc 2.17+ x86-64

cutlery-0.0.6-cp37-cp37m-manylinux_2_17_aarch64.manylinux2014_aarch64.whl (665.8 kB 查看哈希值)

上传时间 CPython 3.7m manylinux: glibc 2.17+ ARM64

cutlery-0.0.6-cp37-cp37m-macosx_10_9_x86_64.whl (692.8 kB 查看哈希值)

上传时间 CPython 3.7m macOS 10.9+ x86-64

cutlery-0.0.6-cp36-cp36m-win_amd64.whl (653.4 kB 查看哈希值)

上传时间 CPython 3.6m Windows x86-64

cutlery-0.0.6-cp36-cp36m-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (688.7 kB 查看哈希值)

上传时间 CPython 3.6m manylinux: glibc 2.17+ x86-64

cutlery-0.0.6-cp36-cp36m-manylinux_2_17_aarch64.manylinux2014_aarch64.whl (665.9 kB 查看哈希值)

上传时间 CPython 3.6m manylinux: glibc 2.17+ ARM64

支持者