跳转到主要内容

Mongo Connector

项目描述

Mongo Connector项目最初是MongoDB的mongo-labs项目,现在是YouGov, Plc的社区维护项目。

View build status

要获取完整的文档,请查看Mongo Connector Wiki

系统概述

mongo-connector 从MongoDB集群到一个或多个目标系统(如Solr、Elasticsearch或另一个MongoDB集群)创建一个管道。它将MongoDB中的数据同步到目标系统,然后跟踪MongoDB的oplog,实时跟踪MongoDB中的操作。详细信息可在wiki上找到。

入门

mongo-connector支持Python 3.4+和MongoDB版本3.4和3.6。

安装

要使用适合将数据复制到MongoDB的MongoDB文档管理器安装mongo-connector,请使用pip

pip install mongo-connector

安装命令可以自定义以包含文档管理器和针对目标系统的任何额外依赖项。

目标系统

安装命令

MongoDB

pip install mongo-connector

Elasticsearch 1.x

pip install 'mongo-connector[elastic]'

Amazon Elasticsearch 1.x 服务

pip install 'mongo-connector[elastic-aws]'

Elasticsearch 2.x

pip install 'mongo-connector[elastic2]'

Amazon Elasticsearch 2.x 服务

pip install 'mongo-connector[elastic2-aws]'

Elasticsearch 5.x

pip install 'mongo-connector[elastic5]'

Solr

pip install 'mongo-connector[solr]'

您可能需要以 sudo 的权限运行 pip,具体取决于您安装 mongo-connector 的位置以及您的权限。

System V 服务

Mongo Connector 支持在 Linux 上 System V Init 下作为服务守护进程进行安装和卸载。在安装软件包后,使用以下命令进行安装或卸载:

$ python -m mongo_connector.service.system-v [un]install

开发

您还可以手动安装 mongo-connector 的开发版本

git clone https://github.com/yougov/mongo-connector.git
pip install ./mongo-connector

使用 mongo-connector

mongo-connector 会从 MongoDB oplog 复制操作,因此必须在启动前运行一个复制集。出于开发目的,您可能发现运行一个单节点复制集很方便(请注意,这**不推荐**用于生产环境)

mongod --replSet myDevReplSet

要在 mongo shell 中初始化您的服务器为复制集,请运行以下命令

rs.initiate()

一旦复制集运行,您就可以启动 mongo-connector。最简单的调用方式如下

mongo-connector -m <mongodb server hostname>:<replica set port> \
                -t <replication endpoint URL, e.g. http://localhost:8983/solr> \
                -d <name of doc manager, e.g., solr_doc_manager>

mongo-connector 除了上面展示的选项外还有很多其他选项。要获取带有描述的完整列表,请尝试 mongo-connector --help。您还可以使用带有配置文件 配置文件 的 mongo-connector。

如果您想快速使用 mongo-connector 与另一个特定的系统,请查看以下内容

文档管理器

Elasticsearch 1.x: https://github.com/yougov/elastic-doc-manager

Elasticsearch 2.x 和 5.x: https://github.com/yougov/elastic2-doc-manager

Solr: https://github.com/yougov/solr-doc-manager

MongoDB 文档管理器包含在 mongo-connector 项目中。

故障排除/问题

在安装过程中遇到麻烦?对 Mongo Connector 有任何疑问?您的问题或问题可能已在 常见问题解答wiki 中解答。如果您在那里找不到问题的答案,请随时在 Mongo Connector 的 Github 页面上 提交问题

项目详情


下载文件

下载适合您平台文件的文件。如果您不确定选择哪个,请了解更多关于 安装包 的信息。

源分发

mongo-connector-3.1.1.tar.gz (91.2 kB 查看哈希值)

上传时间

构建分发

mongo_connector-3.1.1-py2.py3-none-any.whl (60.7 kB 查看哈希值)

上传时间 Python 2 Python 3

支持者