llm-openrouter

LLM 插件，用于由 OpenRouter 托管的模型

安装

首先，安装LLM命令行工具。

现在在LLM相同的环境中安装此插件。

llm install llm-openrouter

配置

您需要从OpenRouter获取一个API密钥。您可以在此处获取一个。

您可以将它设置为名为 OPENROUTER_KEY 的环境变量，或者使用以下方式将其添加到 llm 保存的密钥集合中

llm keys set openrouter

Enter key: <paste key here>

用法

要列出可用的模型，运行

llm models list

您应该看到一个类似以下列表

OpenRouter: openrouter/openai/gpt-3.5-turbo
OpenRouter: openrouter/anthropic/claude-2
OpenRouter: openrouter/meta-llama/llama-2-70b-chat
...

要对模型运行提示，通过 -m 选项传递其完整模型ID，如下所示

llm -m openrouter/anthropic/claude-2 "Five spooky names for a pet tarantula"

您可以使用 llm aliases 命令为模型设置较短的别名

llm aliases set claude openrouter/anthropic/claude-2

现在您可以使用以下方式提示Claude

cat llm_openrouter.py | llm -m claude -s 'write some pytest tests for this'

开发

要本地设置此插件，首先检出代码。然后创建一个新的虚拟环境

cd llm-openrouter
python3 -m venv venv
source venv/bin/activate

现在安装依赖项和测试依赖项

pip install -e '.[test]'

要运行测试

pytest