跳转到主要内容

从Python生成器在后台预取元素,从单独的进程

项目描述

一个库,用于在后台使用单独的进程预取Python生成器的项目。

安装(无依赖项)

pip install multiprocessing_generator

示例

from multiprocessing_generator import ParallelGenerator

def my_generator():
    while True:
        # ... download something long ...
        yield result

with ParallelGenerator(
   my_generator(),
   max_lookahead=100) as g:
     for elem in g:
          # ... do some heavy processing on that element ...

生成器将在后台获取最多100个超出消费的元素,这在生产者和消费者不使用相同资源(例如网络与CPU)时很有用。

生成器可以透明地处理异常和更严重的故障。

在MIT许可下发布。

另请参阅: https://github.com/justheuristic/prefetch_generator

项目详情


下载文件

下载您平台的文件。如果您不确定选择哪个,请了解更多关于 安装包 的信息。

源分布

multiprocessing-generator-0.3.tar.gz (4.6 kB 查看哈希值)

上传时间:

由以下支持