llm-palm

为LLM添加对Google的PaLM 2模型的支持的插件。

安装

在LLM相同的环境中安装此插件。

llm install llm-palm

配置

您需要从Google获取一个API密钥。获取方法的说明： https://developers.generativeai.google/tutorials/setup

您可以将它设置为名为 PALM_API_KEY 的环境变量，或使用以下方式将其添加到 llm 保存的密钥集

llm keys set palm

Enter key: <paste key here>

用法

此插件添加了一个名为 palm 的模型。您可以像这样执行它

llm -m palm "Ten great names for a pet pelican"

PaLM还支持系统提示

echo "I like pelicans a lot" | llm -m palm --system "Translate to french"

开发

为了在本地上设置此插件，首先检出代码。然后创建一个新的虚拟环境

cd llm-palm
python3 -m venv venv
source venv/bin/activate

现在安装依赖关系并测试依赖关系

pip install -e '.[test]'

要运行测试

pytest