前言

Posted 2022-09-17 上下求索.

第1章 前言

当我在临床研究中担任统计学家时，这本书是作为一个副项目来进行的。我每周工作四天，在我的“休息日”中，我从事一些业余项目。最终，《可解释机器学习》成为我的副业之一。起初我并没有打算写一本书。相反，我只是想了解更多关于可解释机器学习的信息，并且正在寻找可以学习的好资源。鉴于机器学习的成功和可解释性的重要性，我预计会有大量关于这个主题的书籍和教程。但是我只找到了相关的研究论文和一些散布在互联网上的博客文章，但没有一个很好的概述。没有书籍，没有教程，没有概述论文，什么都没有。这个差距启发了我开始写这本书。当我开始研究可解释的机器学习时，我最终写了一本我希望有的书。我读这本书的目的是双重的：为自己学习并与他人分享这些新知识。

我在德国慕尼黑大学获得统计学学士和硕士学位。关于机器学习的大部分知识我都是通过在线课程、竞赛、业余项目和专业活动自学的。我的统计学专业背景是进入机器学习的良好基础，尤其是在可解释性方面。在统计学中，主要关注点是建立可解释的回归模型。我在完成统计学硕士学位后便决定不继续攻读博士学位，因为我不喜欢写我的硕士论文。写论文让我感觉压力太大了。所以我在一家金融科技初创公司担任数据科学家，在临床研究领域担任统计学家。在工业界工作了三年之后我开始写这本书，以此为契机，我开始攻读可解释机器学习的博士学位。，

这本书涵盖了可解释机器学习技术的多个方面。在第一章中，我介绍了可解释性的概念，并说明了为什么需要可解释性。甚至还穿插了一些小故事！这本书讨论了解释的不同属性以及人类认为什么是好的解释。然后我们将讨论本质上可解释的机器学习模型，例如回归模型和决策树。本书的主要重点是与模型无关的可解释性方法。模型无关意味着这些方法可以应用于任何机器学习模型，并在模型经过训练后应用。模型的独立性使得与模型无关的方法非常灵活和强大。一些技术解释了个人预测是如何做出的，像本地可解释的与模型无关的解释 (LIME) 和 Shapley 值。其他技术描述了模型在数据集中的平均行为。在这里，我们了解了部分依赖图、累积局部效应、排列特征重要性和许多其他方法。一个特殊的类别是基于示例的方法，它产生数据点作为解释。反事实解释、原型、有影响的实例和对抗性示例是基于示例的方法，本书将对此进行讨论。本书最后对可解释机器学习的未来进行了一些思考。排列特征重要性和许多其他方法。一个特殊的类别是基于示例的方法，它产生数据点作为解释。反事实解释、原型、有影响的实例和对抗性示例是基于示例的方法，本书将对此进行讨论。本书最后对可解释机器学习的未来进行了一些思考。排列特征重要性和许多其他方法。一个特殊的类别是基于示例的方法，它产生数据点作为解释。反事实解释、原型、有影响的实例和对抗性示例是基于示例的方法，本书将对此进行讨论。本书最后对可解释机器学习的未来进行了一些思考。

您不必从头到尾阅读这本书，您可以来回跳跃并专注于您最感兴趣的技术。我只建议您从介绍和可解释性章节开始。大多数章节都遵循类似的结构，并专注于一种解释方法。首先总结一种方法，然后尝试不依赖数学公式直观地解释该方法，接着我们看一下该方法的理论，以深入了解它的工作原理。不可避免地理论讲述中会包含公式。我相信使用示例来理解新方法是最好的一种方式。因此，每种方法都适用于真实数据。有人说统计学家是很挑剔的人。对我来说的确如此，因为每一章都包含对各自解释方法的优缺点的批判性讨论。这本书不是这些方法的广告，但它应该可以帮助您确定一种方法是否适合您的应用程序。在每章的最后一节，讨论了可用的软件实现。

机器学习受到了许多研究和工业界人士的高度关注。有时机器学习在媒体上被夸大了，但确实又有许多真实而有影响力的应用程序。机器学习是用于产品、研究和自动化的强大技术。今天，机器学习被用于检测欺诈性金融交易、推荐电影和分类图像。机器学习模型的可解释性通常至关重要。可解释性帮助开发人员调试和改进模型，建立对模型的信任，证明模型预测的合理性并获得洞察力。对机器学习可解释性的需求增加是机器学习使用增加的自然结果。这本书已成为许多人的宝贵资源。教学讲师使用这本书向学生介绍可解释机器学习的概念。我收到了许多硕士和博士生的电子邮件，他们告诉我这本书是他们论文的起点和最重要的参考资料。这本书帮助了生态学、金融学、心理学等领域的应用研究人员，他们使用机器学习来理解他们的数据。来自工业界的数据科学家告诉我，他们在工作中使用《可解释的机器学习》一书并将其推荐给他们的同事。我很高兴很多人可以从这本书中受益并成为模型解释方面的专家。

我会将这本书推荐给想要使其机器学习模型更具可解释性的从业者，也推荐给对该主题感兴趣的学生和研究人员（以及其他任何人）。看了这本书之后，您应该已经对机器学习有一个基本的了解。您需要具备一定的大学数学基础，以便能够遵循本书中的理论和公式。然而，在没有数学基础的情况下，也应该可以理解每章开头对方法的直观描述。

我希望你们喜欢这本书！