Mongo Connector
项目描述
Mongo Connector项目最初是MongoDB的mongo-labs项目,现在是YouGov, Plc的社区维护项目。
要获取完整的文档,请查看Mongo Connector Wiki。
系统概述
mongo-connector 从MongoDB集群到一个或多个目标系统(如Solr、Elasticsearch或另一个MongoDB集群)创建一个管道。它将MongoDB中的数据同步到目标系统,然后跟踪MongoDB的oplog,实时跟踪MongoDB中的操作。详细信息可在wiki上找到。
入门
mongo-connector支持Python 3.4+和MongoDB版本3.4和3.6。
安装
要使用适合将数据复制到MongoDB的MongoDB文档管理器安装mongo-connector,请使用pip
pip install mongo-connector
安装命令可以自定义以包含文档管理器和针对目标系统的任何额外依赖项。
目标系统 |
安装命令 |
---|---|
MongoDB |
pip install mongo-connector |
Elasticsearch 1.x |
pip install 'mongo-connector[elastic]' |
Amazon Elasticsearch 1.x 服务 |
pip install 'mongo-connector[elastic-aws]' |
Elasticsearch 2.x |
pip install 'mongo-connector[elastic2]' |
Amazon Elasticsearch 2.x 服务 |
pip install 'mongo-connector[elastic2-aws]' |
Elasticsearch 5.x |
pip install 'mongo-connector[elastic5]' |
Solr |
pip install 'mongo-connector[solr]' |
您可能需要以 sudo 的权限运行 pip,具体取决于您安装 mongo-connector 的位置以及您的权限。
System V 服务
Mongo Connector 支持在 Linux 上 System V Init 下作为服务守护进程进行安装和卸载。在安装软件包后,使用以下命令进行安装或卸载:
$ python -m mongo_connector.service.system-v [un]install
开发
您还可以手动安装 mongo-connector 的开发版本
git clone https://github.com/yougov/mongo-connector.git pip install ./mongo-connector
使用 mongo-connector
mongo-connector 会从 MongoDB oplog 复制操作,因此必须在启动前运行一个复制集。出于开发目的,您可能发现运行一个单节点复制集很方便(请注意,这**不推荐**用于生产环境)
mongod --replSet myDevReplSet
要在 mongo shell 中初始化您的服务器为复制集,请运行以下命令
rs.initiate()
一旦复制集运行,您就可以启动 mongo-connector。最简单的调用方式如下
mongo-connector -m <mongodb server hostname>:<replica set port> \ -t <replication endpoint URL, e.g. http://localhost:8983/solr> \ -d <name of doc manager, e.g., solr_doc_manager>
mongo-connector 除了上面展示的选项外还有很多其他选项。要获取带有描述的完整列表,请尝试 mongo-connector --help。您还可以使用带有配置文件 配置文件 的 mongo-connector。
如果您想快速使用 mongo-connector 与另一个特定的系统,请查看以下内容
文档管理器
Elasticsearch 1.x: https://github.com/yougov/elastic-doc-manager
Elasticsearch 2.x 和 5.x: https://github.com/yougov/elastic2-doc-manager
Solr: https://github.com/yougov/solr-doc-manager
MongoDB 文档管理器包含在 mongo-connector 项目中。
故障排除/问题
在安装过程中遇到麻烦?对 Mongo Connector 有任何疑问?您的问题或问题可能已在 常见问题解答 或 wiki 中解答。如果您在那里找不到问题的答案,请随时在 Mongo Connector 的 Github 页面上 提交问题。
项目详情
mongo-connector-3.1.1.tar.gz 的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | 1c72a1cf22353aa35788ce285e37109c130b81bdec8cc1d442953a7c467b78a9 |
|
MD5 | e647dcaca4566b7810f8e5b580bed1df |
|
BLAKE2b-256 | a2f3b5a010ad5f5c6ef357fb9f429f40deac6a00120e20600cd89a63d6e95754 |
mongo_connector-3.1.1-py2.py3-none-any.whl 的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | 0c3b44320fc7d954b4eec0c6f142fb389f0fc584f89bf1beb565761c5487ceb1 |
|
MD5 | fb06558e4eef748a950e0a0f455c9b86 |
|
BLAKE2b-256 | 976b839c15a24959a54e15302a07fda2bed8513b79674ff085b6c9028b90b8bf |