shap原理及计算过程

shap原理及计算过程
SHAP（SHapley Additive exPlanation）全称是SHapley Additive exPlanation，属于模型事后解释的方法，可以对复杂机器学习模型进行解释。

虽然来源于博弈论，但只是以该思想作为载体。

在进行局部解释时，SHAP的核心是计算其中每个特征变量的Shapley Value。

计算过程如下：
1. 选择一个基准值（例如全局平均值或者零向量），作为输入特征的参考点。

2. 对于每个输入样本，通过遍历所有可能的特征子集来计算每个特征的Shapley值。

该过程称为特征交互迭代（Feature Interaction Iteration）。

3. 在每次特征交互迭代中，依次加入一个特征，并计算加入特征后的模型预测输出与不加入该特征时的预测输出之间的差异（贡献）。

4. 通过对所有可能的特征子集进行加权平均来计算每个特征的Shapley值，这些权重符合合作博弈理论中的Shapley值定义。

5. 得到每个特征的Shapley值，用于衡量该特征对于模型预测输出的贡献度，从而得到特征的重要性评估。