llm-embed-jina

Jina AI的嵌入模型

背景

Jina AI发布世界上首个开源8K文本嵌入，与OpenAI竞争介绍了这些模型。

另请参阅嵌入：它们是什么以及为什么很重要以获取嵌入的背景和LLM嵌入工具的解释。

安装

在与LLM相同的环境中安装此插件。

llm install llm-embed-jina

使用

此插件添加了对三个新嵌入模型的支持

• jina-embeddings-v2-small-en：3300万个参数。
• jina-embeddings-v2-base-en：13700万个参数。
• jina-embeddings-v2-large-en：43500万个参数 - 尚未发布，但发布后将可使用。

首次尝试使用这些模型时，将下载它们。

有关您能做的一切，请参阅LLM文档。

要开始嵌入单个字符串，请运行以下命令

llm embed -m jina-embeddings-v2-small-en -c 'Hello world'

这将在您的终端输出一个包含512个浮点数的JSON数组。

开发

要本地设置此插件，首先检出代码。然后创建一个新的虚拟环境

cd llm-embed-jina
python3 -m venv venv
source venv/bin/activate

现在安装依赖项和测试依赖项

llm install -e '.[test]'

要运行测试

pytest