跳转到主要内容

一个用于进行无梯度优化的Python工具箱

项目描述

Support Ukraine CircleCI

Nevergrad - 一个无梯度优化平台

Nevergrad

nevergrad 是一个 Python 3.8+ 库。它可以使用以下命令安装:

pip install nevergrad

更多安装选项,包括Windows安装和完整说明,可在文档的“入门”部分找到。

您可以在这里加入Nevergrad用户Facebook群组。

使用优化器(此处为NGOpt)最小化函数很简单

import nevergrad as ng

def square(x):
    return sum((x - .5)**2)

optimizer = ng.optimizers.NGOpt(parametrization=2, budget=100)
recommendation = optimizer.minimize(square)
print(recommendation.value)  # recommended value
>>> [0.49971112 0.5002944]

nevergrad 也支持有界连续变量以及离散变量,以及它们的混合。为此,可以指定输入空间。

import nevergrad as ng

def fake_training(learning_rate: float, batch_size: int, architecture: str) -> float:
    # optimal for learning_rate=0.2, batch_size=4, architecture="conv"
    return (learning_rate - 0.2)**2 + (batch_size - 4)**2 + (0 if architecture == "conv" else 10)

# Instrumentation class is used for functions with multiple inputs
# (positional and/or keywords)
parametrization = ng.p.Instrumentation(
    # a log-distributed scalar between 0.001 and 1.0
    learning_rate=ng.p.Log(lower=0.001, upper=1.0),
    # an integer from 1 to 12
    batch_size=ng.p.Scalar(lower=1, upper=12).set_integer_casting(),
    # either "conv" or "fc"
    architecture=ng.p.Choice(["conv", "fc"])
)

optimizer = ng.optimizers.NGOpt(parametrization=parametrization, budget=100)
recommendation = optimizer.minimize(fake_training)

# show the recommended keyword arguments of the function
print(recommendation.kwargs)
>>> {'learning_rate': 0.1998, 'batch_size': 4, 'architecture': 'conv'}

文档 中了解更多有关参数化的信息!

Example of optimization

使用两点差分进化法,点群收敛到最小值。

文档

查看我们的 文档!它仍在进行中,因此请毫不犹豫地提交问题和/或拉取请求(PR),以更新它并使其更清晰!我们 数据 的最新版本和我们的 PDF 报告 的最新版本。

引用

@misc{nevergrad,
    author = {J. Rapin and O. Teytaud},
    title = {{Nevergrad - A gradient-free optimization platform}},
    year = {2018},
    publisher = {GitHub},
    journal = {GitHub repository},
    howpublished = {\url{https://GitHub.com/FacebookResearch/Nevergrad}},
}

许可证

nevergrad 采用 MIT 许可发布。有关更多详细信息,请参阅 LICENSE。另请参阅我们的 使用条款隐私政策

项目详情


发布历史 发布通知 | RSS 源

下载文件

下载您平台的文件。如果您不确定选择哪个,请了解更多有关 安装包 的信息。

源分布

nevergrad-1.0.5.tar.gz (403.2 kB 查看哈希值)

上传时间

构建分布

nevergrad-1.0.5-py3-none-any.whl (495.7 kB 查看哈希值)

上传时间 Python 3

由以下机构支持