跳转到主要内容

LLM框架,用于构建可自定义、生产就绪的LLM应用程序。将组件(模型、向量数据库、文件转换器)连接到可以与您的数据进行交互的管道或代理。

项目描述

Green logo of a stylized white 'H' with the text 'Haystack, by deepset. Haystack 2.0 is live 🎉' Abstract green and yellow diagrams in the background.
CI/CD Tests types - Mypy Coverage Status Ruff
文档 Website
PyPI PyPI - Downloads PyPI - Python Version Conda Version GitHub License Compliance
元数据 Discord Twitter Follow

Haystack 是一个端到端LLM框架,允许您构建由LLM、Transformer模型、向量搜索等驱动的应用程序。无论您是想执行检索增强生成(RAG)、文档搜索、问答或答案生成,Haystack都可以将最先进的嵌入模型和LLM编排到管道中,以构建端到端NLP应用程序并解决您的用例。

安装

获取Haystack最简单的方法是使用pip

pip install haystack-ai

Haystack支持多种安装方法,包括Docker镜像。有关完整指南,请参阅文档

文档

如果您是项目的新手,请先查看 "什么是 Haystack?",然后阅读 "入门指南",并在几分钟内构建您的第一个LLM应用。通过 教程 继续学习。对于更高级的使用场景或仅仅为了获得一些灵感,您可以在 食谱 中浏览我们的 Haystack 简易指南。

在任何时候,点击 文档 了解更多关于 Haystack 的信息,包括它能为您做什么以及背后的技术。

特性

[!IMPORTANT] 您目前正在查看 Haystack 2.0 的说明文件。我们仍在维护 Haystack 1.x,以便 everyone 有足够的时间迁移到 2.0。在这里 切换到 Haystack 1.x

  • 技术无关性: 允许用户灵活决定他们想要的供应商或技术,并使替换任何组件变得容易。Haystack 允许您使用和比较 OpenAI、Cohere 和 Hugging Face 可用的模型,以及您自己的本地模型或托管在 Azure、Bedrock 和 SageMaker 上的模型。
  • 明确性: 使不同部分如何“交流”彼此变得透明,以便更容易适应您的技术堆栈和用例。
  • 灵活性: Haystack 在一个地方提供所有工具:数据库访问、文件转换、清理、拆分、训练、评估、推理等。并且当需要自定义行为时,创建自定义组件变得容易。
  • 可扩展性: 为社区和第三方提供一个统一且简单的方式来构建他们自己的组件,并在 Haystack 周围培养一个开放生态系统。

以下是一些您可以使用 Haystack 做的事情的示例

  • 通过利用可用的向量数据库并自定义您的 LLM 交互来构建 检索增强生成 (RAG),天空才是极限 🚀
  • 在自然语言中进行问答,以在您的文档中找到精确答案。
  • 进行 语义搜索 并根据含义检索文档。
  • 构建能够做出复杂决策以回答复杂查询的应用程序:例如解决复杂客户查询的系统,在许多不相关的资源上执行知识搜索等。
  • 使用检索器和生产规模组件扩展到数百万份文档。
  • 使用 现成模型 或对它们进行 微调 以适应您的数据。
  • 使用 用户反馈 来评估、基准测试并持续改进您的模型。

[!TIP]

您是否正在寻找一个可以利用 Haystack 的托管解决方案? deepset Cloud 是我们的全托管、端到端平台,用于将 LLM 集成到您的数据中,该平台使用 Haystack 作为 LLM 管道架构。

🔜 可视化管道编辑器

使用 deepset Studio 可视化创建并导出您的 Haystack 管道架构为 YAML 或 Python 代码。在 我们的公告文章 中了解更多。

studio

👉 加入等待列表

遥测

Haystack 收集管道组件的 匿名 使用统计信息。每当这些组件初始化时,我们都会收到一个事件。这样,我们就知道哪些组件对我们社区来说最相关。

在 Haystack 文档中了解更多关于遥测的信息,或了解如何退出的 Haystack 文档

🖖 社区

如果您有功能请求或错误报告,请随时在Github上创建问题。我们会定期检查这些问题,并期待快速回复。如果您想讨论某个话题,或获取关于如何让Haystack适应您的项目的更一般性建议,您可以在Github讨论区或我们的Discord频道发起话题。我们也会关注TwitterStack Overflow

为Haystack做贡献

我们非常欢迎社区的贡献——无论是快速修复一个错别字,还是开发一个全新的功能!您不需要成为Haystack专家就能提供有意义的改进。要了解如何开始,请首先查看我们的贡献指南

您可以通过多种方式为Haystack做出贡献

[!TIP] 👉 查看所有可贡献问题的完整列表

谁在使用Haystack

以下是一些使用Haystack的项目和公司列表。想要添加您的吗?请打开一个PR,将其添加到列表中,让全世界都知道您在使用Haystack!

项目详情


发布历史 发布通知 | RSS源

下载文件

下载适合您平台的文件。如果您不确定选择哪一个,请了解有关 安装包 的更多信息。

源分发

haystack_ai-2.6.0.tar.gz (237.0 kB 查看散列值)

上传时间

构建分发

haystack_ai-2.6.0-py3-none-any.whl (372.1 kB 查看散列值)

上传时间 Python 3

支持者

AWS AWS 云计算和安全赞助商 Datadog Datadog 监控 Fastly Fastly CDN Google Google 下载分析 Microsoft Microsoft PSF赞助商 Pingdom Pingdom 监控 Sentry Sentry 错误日志 StatusPage StatusPage 状态页面