Intel® 可解释人工智能工具

此存储库为数据科学家和MLOps工程师提供工具，他们有特定的AI模型可解释性需求。

概述

Intel可解释人工智能工具旨在帮助用户检测和减轻公平性和可解释性问题，在Intel硬件上运行最佳。存储库中有两个Python*组件

• 模型卡片生成器
  • 创建包含模型性能和公平性指标的交互式HTML报告
• 解释器
  • 通过简单的Python API运行事后模型蒸馏和可视化方法，以检查TensorFlow*和PyTorch*模型的预测行为，包括以下模块
    • 归因：可视化表格特征、像素和词元的预测的负面和正面归因
    • CAM（类别激活图）：使用梯度加权的类别激活CAM映射创建CNN图像分类的热图
    • 度量：在机器学习工作流程中，通过所需的测量和可视化来深入了解模型

入门

要求

• Linux系统或Windows上的WSL2（已在Ubuntu* 20.04/22.04 LTS上验证）
• Python 3.8, 3.9, 3.10
• 使用 apt-get install build-essential python3-dev 安装所需的操作系统软件包
• git（仅用于“开发者安装”）

创建并激活Python3虚拟环境

我们鼓励您使用Python虚拟环境（virtualenv或conda）进行一致的软件包管理。有两种方法可以实现这一点

a. 使用 virtualenv

python3.9 -m virtualenv xai_env
source xai_env/bin/activate

b. 或者 conda

conda create --name xai_env python=3.9
conda activate xai_env

基本安装

pip install intel-xai

开发者安装

使用以下说明通过GitHub仓库的克隆版本安装Intel可解释AI工具。如果您计划进行代码更改，则可以使用此方法而不是基本的pip安装。

1. 克隆此仓库并导航到仓库目录

   git clone https://github.com/IntelAI/intel-xai-tools.git
   
   cd intel-xai-tools
   

2. 使用以下命令安装Intel可解释AI工具

   make install
   

特定功能步骤

笔记本可能需要它们相关文档中列出的附加依赖项。

验证安装

通过以下命令验证安装是否成功，这些命令显示Explainer和模型卡片生成器版本

python -c "from explainer import version; print(version.__version__)"
python -c "from model_card_gen import version; print(version.__version__)"

运行笔记本

以下链接包含Jupyter*笔记本，展示了如何在不同机器学习和用例中使用Explainer和模型卡片生成器API

• 模型卡片生成器笔记本
• Explainer笔记本

支持

Intel可解释AI工具团队使用GitHub问题跟踪错误和增强请求。在提交建议或错误报告之前，请搜索现有的GitHub问题，以查看是否已报告您的问题。

*其他名称和品牌可能属于他人所有。 商标

免责声明

这些脚本不适用于基准测试Intel平台。有关特定Intel平台的性能和/或基准测试信息，请访问https://www.intel.ai/blog。

Intel致力于尊重人权，避免参与人权侵犯，这一政策反映在Intel全球人权原则中。因此，通过访问本平台上的Intel材料，您同意不会将材料用于导致或促成违反国际公认人权的产品或应用。

许可证

Intel®可解释AI工具根据Apache许可证第2版授权。

数据集和模型

在Intel或通过本站点的工具或代码访问任何数据、数据集或模型的情况下，此类数据、数据集和模型由作为此类内容来源的第三方提供。Intel不创建数据、数据集或模型，不向任何第三方数据、数据集或模型提供许可证，也不保证其准确性或质量。通过访问此类数据、数据集或模型，您同意与该内容相关的条款，并且您的使用符合适用的许可证。 数据集

Intel明确否认任何数据、数据集或模型的准确性、充分性或完整性，不对此类内容的任何错误、遗漏或缺陷承担责任，也不对任何依赖此类内容承担责任。Intel还明确否认与此类数据、数据集或模型相关的任何不侵权保证。Intel不对使用此类数据、数据集或模型导致的任何责任或损害承担责任。