多个LLM/AI提供商的简单包装
项目描述
EveryAI
EveryAI旨在为多个AI服务提供一个统一的接口,提供一个应用程序可以使用的单一API,而无需了解底层服务的具体细节。
目前支持的底层服务包括
- OpenAI(聊天和嵌入)
- Anthropic(仅聊天)
用法
要创建EveryAI后端的实例,请使用init
函数
import every_ai
backend = every_ai.init("openai")
一旦有了后端,您就可以根据后端访问方法
response = backend.chat("Tell me a joke")
embedding = backend.embed(["Embed this content"])
OpenAI
OpenAI后端支持聊天完成和嵌入。可以使用包含以下设置的字典初始化它
api_key
(必需)- 您的OpenAI API密钥chat_model
(默认:gpt-3.5-turbo
)- 用于聊天完成的OpenAI模型,例如gpt-4
、gpt-3.5-turbo
。embedding_model
(默认:text-embedding-ada-002
)- 用于嵌入的OpenAI模型。
例如,要将OpenAI后端定制为使用GPT4
import every_ai
backend = every_ai.init("openai", api_key="foo-bar-baz", chat_model="gpt-4")
Anthropic
Anthropic后端仅支持聊天完成。可以使用包含以下设置的字典初始化它
api_key
(必需)- 您的Anthropic API密钥chat_model
(默认:claude-instant-1
)- 用于聊天完成的Anthropic模型,例如claude-instant-1
、claude-2
。
例如,要将Anthropic后端定制为使用claude-2
import every_ai
backend = every_ai.init("anthropic", api_key="foo-bar-baz", chat_model="claude-2")
链接
贡献
安装
要更改此项目,请首先克隆此存储库
git clone https://github.com/tomusher/every-ai.git
cd every-ai
使用您首选的虚拟环境激活后,安装测试依赖项
使用pip
python -m pip install --upgrade pip>=21.3
python -m pip install -e .[testing] -U
使用 flit
python -m pip install flit
flit install
提交前
注意,该项目使用 pre-commit。它包含在项目测试要求中。要本地设置
# go to the project directory
$ cd every-ai
# initialize pre-commit
$ pre-commit install
# Optional, run all checks once for this, then the checks will run only on the changed files
$ git ls-files --others --cached --exclude-standard | xargs pre-commit run --files
如何运行测试
现在您可以按照以下方式运行测试
tox
或者,您可以针对特定环境运行它们 tox -e python3.8
或特定测试 tox -e python3.9 every-ai.tests.test_file.TestClass.test_method
要交互式运行测试应用程序,请使用 tox -e interactive
,访问 http://127.0.0.1:8020/admin/
并使用 admin
/changeme
登录。
项目详情
下载文件
下载适用于您的平台的文件。如果您不确定选择哪个,请了解更多关于 安装包 的信息。
源代码分发
every_ai-1.1.1.tar.gz (7.0 kB 查看哈希值)
构建分发
every_ai-1.1.1-py3-none-any.whl (7.6 kB 查看哈希值)
关闭
every_ai-1.1.1.tar.gz 的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | 9abd26eb8dde21d776696291230810daaee69d00ad08e2c2295afbac1295fef3 |
|
MD5 | 2ea0834fdfee31ee18098b76daa9bce1 |
|
BLAKE2b-256 | d62bb0b78325927c2c49081081a38b319c631e298c2b33ece3a32f761160bf05 |
关闭
every_ai-1.1.1-py3-none-any.whl 的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | f75bf0c20175d46d2ddea7d2169f0d5ac684b4b18c1e56b9c0ee0b6d62e54be2 |
|
MD5 | 947c182c1c5d65ce9e7adf585c4d4eb6 |
|
BLAKE2b-256 | 0c4d520c361850d9ec25dd43b30816ca5cb5f14091219fa5f45966c61983a427 |