人工智能的下一个挑战 —— 可解释性和可诠释性？

解决方案：

上图所示，经典的机器学习算法(如线性算法或基于树的算法)的可诠释性很好。而现有的模型不可知方法可分为5大类:

• 可视化（Visualizations）: 提高模型可诠释性的常用可视化方法有：部分依赖图(Partial Dependenc Https://Christophm.Github.Io/Interpretable-Ml-Book/e Plots, PDP)、个体条件期望图(Individual Conditional Expectation , ICE)和累积局部效应图(Accumulated Local Effects , ALE)PDP和ICE可以用来显示特征对预测值的影响，特别是当关系是线性的、单调的(特征对目标的影响总是在同一方向，但不以恒定的速度)或更复杂的情况下。当特征互相关联时，ALE图则更有用(在这种情况下，PDPs不是很有用)。
• 基于特性的（Feature-based）: 特征的交互和特征重要性也是了解模型的方法。H值 (H-statistic, 由Friedman提出的一种度量方法)是一种广泛应用于特征交互的度量方法。特征重要性的概念相当简单。特征的重要性是通过对特征值进行变更后，预测误差的增加来衡量的。若预测误差没有变化，说明该特性“不重要”。
• 代理模型:代理模型在许多工程领域都很常见。代理建模背后的概念是，如果测量输出值耗时且麻烦，我们可以使用更快的代理模型。在机器学习中，代理模型需是可诠释的机器学习模型。
  Shapley Values（Shapley Values）: Shapley技术博弈论（game theory）为基础。博弈论中的一个经典问题是，倘若玩家拥有不同的技能水平，他们将如何为总支出做出贡献。在机器学习中，支出是对单个实例的预测，而特征就是不同的玩家。非常坦白地说，个人认为Shapley值对于计算任何ML模型(不仅仅是线性模型)中特征对单个预测的贡献特别有用。
• LIME: LIME(Local interpretable model-agnostic explanations的缩写，局部保真可诠释的与模型无关的解释)背后的关键想法是，通过一个简单的本地模型来近似一个黑盒子模型，要比试图全局近似一个模型容易得多。LIME将模型视为一个黑盒子，对于每个感兴趣的实例，生成一个新的数据集，该数据集由变更后的样本和黑盒子模型的相应预测组成。这个经过更改的数据集构成了可诠释模型的基础，该模型通过采样的实例与目标实例之间的接近程度来加权。

然而，不是每一个上述方法都能对深度神经网络管用。

在今后， 我会讨论其他方法来提高卷积神经网络（CNN）和 循环神经网络（RNN）的诠释性。