斯坦福博士论文 | 机器学习的模型解释和数据评估

Posted 2021-09-30 人工智能博士

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了斯坦福博士论文 | 机器学习的模型解释和数据评估相关的知识，希望对你有一定的参考价值。

点上方人工智能算法与Python大数据获取更多干货

在右上方 ··· 设为星标 ★，第一时间获取资源

仅做学术分享，如有侵权，联系删除

转载于：专知

机器学习正在医疗健康等各种关键应用得到实施。为了能够信任机器学习模型，并在它出现故障时修复它，能够解释它的决策是很重要的。例如，如果一个模型在特定的子群体(性别、种族等)上的表现很差，找出原因并解决它是很重要的。在本文中，我们研究了现有可解释性方法的不足，并介绍了新的ML可解释性算法，旨在解决一些不足。数据是训练机器学习模型的材料。如果不返回最初训练ML模型的数据，就不可能解释ML模型的行为。一个基本的挑战是如何量化每个数据源对模型性能的贡献。例如，在医疗健康和消费市场，有人提出个人应因其产生的数据而得到补偿，但对个人数据的公平估值尚不清楚。在本文中，我们讨论了数据公平价值评估的原则框架; 也就是说，给定一个学习算法和一个性能度量来量化结果模型的性能，我们试图找到单个数据的贡献。本论文分为3个部分，机器学习的可解释性和公平性，数据估值，以及用于医疗健康的机器学习——所有这些都被一个共同的目标联系在一起，即使机器学习的使用对人类的福祉更负责。

https://searchworks.stanford.edu/view/13874839