rgf-python 3.12.0

功能

Scikit-learn接口和多类别分类问题使用的可能性。

rgf_python 包含了来自论文 [1] 的原始 RGF 和 FastRGF 实现。

注意，FastRGF 是为使用大型（和稀疏）数据集而开发的，因此在小数据集上通常比原始 RGF 表现较差。

原始 RGF 实现仅适用于回归和二元分类，但 rgf_python 还可以通过“一对多”方法用于 多类别分类。

示例

from sklearn import datasets
from sklearn.utils.validation import check_random_state
from sklearn.model_selection import StratifiedKFold, cross_val_score
from rgf.sklearn import RGFClassifier

iris = datasets.load_iris()
rng = check_random_state(0)
perm = rng.permutation(iris.target.size)
iris.data = iris.data[perm]
iris.target = iris.target[perm]

rgf = RGFClassifier(max_leaf=400,
                    algorithm="RGF_Sib",
                    test_interval=100,
                    verbose=True)

n_folds = 3

rgf_scores = cross_val_score(rgf,
                             iris.data,
                             iris.target,
                             cv=StratifiedKFold(n_folds))

rgf_score = sum(rgf_scores)/n_folds
print('RGF Classifier score: {0:.5f}'.format(rgf_score))

更多关于使用 RGF 估计器的示例可以在这里找到。

使用 FastRGF 估计器的示例可以在这里找到。

软件需求

• Python (>= 3.7)

• joblib

• scikit-learn (>= 0.18)

安装

使用 PyPI 通过 pip 安装

pip install rgf_python

或从 GitHub

git clone https://github.com/RGF-team/rgf.git
cd rgf/python-package
python setup.py install

MacOS 用户，版本 3.10.0 及以后的 rgf_python 使用 g++-11 构建，无法在 g++-10 及更早的系统上运行。如果您不想从源代码构建或从 PyPI 安装 3.10.0 版本的 rgf_python（这是最后一个使用 g++-10 构建的版本），则应更新您的 g++ 编译器。

MacOS 用户，版本 3.8.0 及以后的 rgf_python 使用 g++-10 构建，无法在 g++-9 及更早的系统上运行。如果您不想从源代码构建或从 PyPI 安装 3.8.0 版本的 rgf_python（这是最后一个使用 g++-9 构建的版本），则应更新您的 g++ 编译器。

MacOS 用户，版本 3.5.0 及以后的 rgf_python 使用 g++-9 构建，无法在 g++-8 及更早的系统上运行。如果您不想从源代码构建或从 PyPI 安装 3.5.0 版本的 rgf_python（这是最后一个使用 g++-8 构建的版本），则应更新您的 g++ 编译器。

MacOS 用户，版本 3.1.0 及以后的 rgf_python 使用 g++-8 构建，无法在 g++-7 及更早的系统上运行。如果您不想从源代码构建或从 PyPI 安装 3.1.0 版本的 rgf_python（这是最后一个使用 g++-7 构建的版本），则应更新您的 g++ 编译器。

如果在上述方法安装时遇到任何问题，您应该从二进制文件中自行构建 RGF 和 FastRGF 可执行文件，并将编译的可执行文件放入包含在环境变量 ‘PATH’ 中的目录或安装包的目录中。或者，您可以通过配置文件 .rgfrc 中的相应标志指定可执行文件的实际位置和放置临时文件的目录，您应该将其创建在您的家目录中。默认值如下： rgf_location=$HOME/rgf （Windows 的 $HOME/rgf.exe），fastrgf_location=$HOME，temp_location=tempfile.gettempdir() （有关 tempfile.gettempdir() 的更多详细信息）。请查看 .rgfrc 文件的示例。

rgf_location=C:/Program Files/RGF/bin/rgf.exe
fastrgf_location=C:/Program Files/FastRGF/bin
temp_location=C:/Program Files/RGF/temp

请注意，尽管 rgf_location 应指向一个具体的 RGF 可执行 文件，但 fastrgf_location 应指向一个包含 forest_train.exe 和 forest_predict.exe FastRGF 可执行文件的 文件夹。

您还可以直接指定不进行自动编译的安装

pip install rgf_python --install-option=--nocompilation

或

git clone https://github.com/RGF-team/rgf.git
cd rgf/python-package
python setup.py install --nocompilation

可能需要 sudo（或在 Windows 中的管理员权限）来执行安装命令。

有关如何从源文件构建 RGF 和 FastRGF 可执行文件的详细指南可以在它们的文件夹这里和这里找到。

# Run docker image
docker run -it rgfteam/rgf /bin/bash
# Run RGF example
python ./rgf/python-package/examples/RGF/comparison_RGF_and_RF_regressors_on_boston_dataset.py
# Run FastRGF example
python ./rgf/python-package/examples/FastRGF/FastRGF_classifier_on_iris_dataset.py

调整超参数

在Kaggle核上使用

Kaggle核支持rgf_python。请参阅此页面。

故障排除

如果遇到任何错误，请尝试运行test_rgf_python.py以确认已成功安装包。

然后请随意创建新问题。

许可

rgf_python 采用 MIT 许可证。请阅读文件 LICENSE 以获取更多信息。

非常感谢 Rie Johnson 和 Tong Zhang（RGF 的作者）。

其他

毫不掩饰，实现的一部分基于以下 代码。谢谢！

参考文献

[1] Rie Johnson 和 Tong Zhang. 使用正则化贪婪森林学习非线性函数。 IEEE 信号处理与机器智能杂志，36(5):942-954，2014 年 5 月