llm-claude

LLM的插件，为Anthropic的Claude模型提供支持。

安装

在LLM的环境中安装此插件。

llm install llm-claude

配置

您需要从Anthropic获取API密钥。请在https://www.anthropic.com/earlyaccess请求访问，然后转到https://console.anthropic.com/account/keys

您可以将它设置为名为ANTHROPIC_API_KEY的环境变量，或者使用以下方式将其添加到llm的已保存密钥集

llm keys set claude

Enter key: <paste key here>

用法

此插件添加了名为claude和claude-instant的模型。

Anthropic 描述它们为

两种模型系列，都支持100,000个令牌的上下文窗口

• Claude Instant：低延迟，高吞吐量
• Claude：在需要复杂推理的任务上表现优异

您可以像这样查询它们

llm -m claude-instant "Ten great names for a new space station"

llm -m claude "Compare and contrast the leadership styles of Abraham Lincoln and Boris Johnson."

选项

• max_tokens_to_sample，默认10_000：在停止之前生成令牌的最大数量

用法示例

llm -m claude -o max_tokens_to_sample 20 "Sing me the alphabet"
 Here is the alphabet song:

A B C D E F G
H I J

开发

要本地设置此插件，首先检出代码。然后创建一个新的虚拟环境

cd llm-claude
python3 -m venv venv
source venv/bin/activate

现在安装依赖项并测试依赖项

pip install -e '.[test]'

要运行测试

pytest