技术文章｜机器学习先驱Thomas Dietterich： 如何构建强健的人工智能

Posted 2020-09-30

7 月 22 - 23 日，在中国科学技术协会、中国科学院的指导下，由中国人工智能学会、阿里巴巴集团 & 蚂蚁金服主办，CSDN、中国科学院自动化研究所承办,云栖社区作为独家直播合作伙伴的 2017 中国人工智能大会（CCAI 2017）在杭州国际会议中心盛大召开。

在本次大会上，俄勒冈州立大学教授、AAAI 前主席 Thomas G. Dietterich 发表了主题为《构建强健的人工智能：原因及方式》的演讲。

在演讲中，Thomas G. Dietterich 综合考虑了“已知的未知”情况（对不确定情形有一个明确的模型）以及“未知的未知”情况（模型不完整或有错误）， 介绍了 7 种用于保证 AI 系统安全可靠的方法。

演讲内容

以下是 Thomas G. Dietterich 的演讲全文，AI科技大本营略做修改：

感谢大会的邀请，非常高兴今天有机会在这边演讲。

我今天的演讲跟前面那些可能有所不同，技术性没那么强。当然，我也会讲到一些数学知识，但更多的内容还是关于人工智能所面临的挑战，以及我们现在所用的一些安全的解决方法。

首先，我会讲一讲我们对于强健 AI（robust artificial intelligence）的需求、背后的目的何在。然后，我要谈一下，在模型不完整的时候，我们的 AI 系统需如何来正常工作。

我们知道，现在世界上还有很多东西是人工智能不知道的，我们的目标就是要知道，有什么样的方法能让 AI 研究社区来解决这些问题。

人工智能已经有 61 年的历史了，我们怎样才能应对人工智能的不确定性，特别是这些未知的未知（unknown unknowns）？

>>>展开全文