llm-gemini

访问Google的Gemini模型的API

安装

在与LLM相同的环境中安装此插件。

llm install llm-gemini

使用方法

通过设置名为"gemini"的键来配置模型，该键对应于您的API密钥

llm keys set gemini

<paste key here>

现在使用-m gemini-pro运行模型，例如

llm -m gemini-pro "A joke about a pelican and a walrus"

为什么海鸥会生海象的气？

因为他叫他河马批评家。

要交互式地与模型聊天，请运行llm chat

llm chat -m gemini-pro

如果您可以访问Gemini 1.5 Pro预览版，可以使用-m gemini-1.5-pro-latest来使用该模型。

嵌入

该插件还添加了对text-embedding-004嵌入模型的支持。

运行单个字符串，如下所示

llm embed -m text-embedding-004 -c 'hello world'

这将返回一个包含768个数字的JSON数组。

此命令将嵌入当前目录子目录中的每个README.md文件，并将结果存储在名为embed.db的SQLite数据库中，在名为readmes的集合中

llm embed-multi readmes --files . '*/README.md' -d embed.db -m text-embedding-004

然后您可以像这样对该集合进行相似性搜索

llm similar readmes -c 'upload csvs to stuff' -d embed.db

有关更多详细信息，请参阅LLM嵌入文档

开发

要本地设置此插件，首先检出代码。然后创建一个新的虚拟环境

cd llm-gemini
python3 -m venv venv
source venv/bin/activate

现在安装依赖项和测试依赖项

llm install -e '.[test]'

要运行测试

pytest