跳转到主要内容

多个LLM/AI提供商的简单包装

项目描述

EveryAI

License: MIT PyPI version EveryAI CI

EveryAI旨在为多个AI服务提供一个统一的接口,提供一个应用程序可以使用的单一API,而无需了解底层服务的具体细节。

目前支持的底层服务包括

  • OpenAI(聊天和嵌入)
  • Anthropic(仅聊天)

用法

要创建EveryAI后端的实例,请使用init函数

import every_ai

backend = every_ai.init("openai")

一旦有了后端,您就可以根据后端访问方法

response = backend.chat("Tell me a joke")
embedding = backend.embed(["Embed this content"])

OpenAI

OpenAI后端支持聊天完成和嵌入。可以使用包含以下设置的字典初始化它

  • api_key(必需)- 您的OpenAI API密钥
  • chat_model(默认:gpt-3.5-turbo)- 用于聊天完成的OpenAI模型,例如gpt-4gpt-3.5-turbo
  • embedding_model(默认:text-embedding-ada-002)- 用于嵌入的OpenAI模型。

例如,要将OpenAI后端定制为使用GPT4

import every_ai

backend = every_ai.init("openai", api_key="foo-bar-baz", chat_model="gpt-4")

Anthropic

Anthropic后端仅支持聊天完成。可以使用包含以下设置的字典初始化它

  • api_key(必需)- 您的Anthropic API密钥
  • chat_model(默认:claude-instant-1)- 用于聊天完成的Anthropic模型,例如claude-instant-1claude-2

例如,要将Anthropic后端定制为使用claude-2

import every_ai

backend = every_ai.init("anthropic", api_key="foo-bar-baz", chat_model="claude-2")

链接

贡献

安装

要更改此项目,请首先克隆此存储库

git clone https://github.com/tomusher/every-ai.git
cd every-ai

使用您首选的虚拟环境激活后,安装测试依赖项

使用pip

python -m pip install --upgrade pip>=21.3
python -m pip install -e .[testing] -U

使用 flit

python -m pip install flit
flit install

提交前

注意,该项目使用 pre-commit。它包含在项目测试要求中。要本地设置

# go to the project directory
$ cd every-ai
# initialize pre-commit
$ pre-commit install

# Optional, run all checks once for this, then the checks will run only on the changed files
$ git ls-files --others --cached --exclude-standard | xargs pre-commit run --files

如何运行测试

现在您可以按照以下方式运行测试

tox

或者,您可以针对特定环境运行它们 tox -e python3.8 或特定测试 tox -e python3.9 every-ai.tests.test_file.TestClass.test_method

要交互式运行测试应用程序,请使用 tox -e interactive,访问 http://127.0.0.1:8020/admin/ 并使用 admin/changeme 登录。

项目详情


下载文件

下载适用于您的平台的文件。如果您不确定选择哪个,请了解更多关于 安装包 的信息。

源代码分发

every_ai-1.1.1.tar.gz (7.0 kB 查看哈希值)

上传时间 源代码

构建分发

every_ai-1.1.1-py3-none-any.whl (7.6 kB 查看哈希值)

上传时间 Python 3

支持