Symbolic Pursuit

2020年NIPS论文“黑盒之外的求学：在追求可解释模型的道路上”的Github

安装

可以使用以下命令从PyPI安装库

$ pip install symbolic_pursuit

或者从源码，使用

$ pip install .

示例用法

要为给定的数据集和给定的模型（或给定的模型类型）构建符号回归器，可以使用以下命令

 python3 build_interpreter.py [-h] [--dataset DATASET] [--test_ratio TEST_RATIO]
                            [--model MODEL] [--model_type MODEL_TYPE]
                            [--verbosity VERBOSITY] [--loss_tol LOSS_TOL]
                            [--ratio_tol RATIO_TOL] [--maxiter MAXITER]
                            [--eps EPS] [--random_seed RANDOM_SEED]

例如，如果想要在wine-quality-red数据集上训练一个MLP，然后使用随机种子27拟合符号回归器，可以使用以下命令

python3 build_interpreter --dataset wine-quality-red --model_type MLP --random_seed 27

有关如何在一般情况下使用该模块的更多详细信息，请参阅附带的3个笔记本。

1. 构建符号回归器 2. Symbolic Pursuit与LIME的比较 3. 使用Symbolic Pursuit的合成实验

:hammer: 测试

使用以下命令安装测试依赖项

pip install .[testing]

可以使用以下命令执行测试

pytest -vsx

参考文献

在我们的实验中，我们使用了 LIME、SHAP 和 pysymbolic 的实现

引用

如果你使用了此代码，请引用相关的论文

@article{https://doi.org/10.48550/arxiv.2011.08596,
  doi = {10.48550/ARXIV.2011.08596},
  url = {https://arxiv.org/abs/2011.08596},
  author = {Crabbé, Jonathan and Zhang, Yao and Zame, William and van der Schaar, Mihaela},
  keywords = {Machine Learning (cs.LG), Artificial Intelligence (cs.AI), FOS: Computer and information sciences, FOS: Computer and information sciences},
  title = {Learning outside the Black-Box: The pursuit of interpretable models},
  publisher = {NeurIPS 2020},
  year = {2020},
}