AI事件数据库有望提高机器学习的安全性
Posted 技福教育
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了AI事件数据库有望提高机器学习的安全性相关的知识，希望对你有一定的参考价值。
人工智能系统的故障已成为技术新闻中反复出现的主题。歧视女性的信用评分算法。计算机视觉系统对肤色较黑的人进行了错误分类。宣传暴力内容的推荐系统。趋势科技会放大假新闻。
大多数复杂的软件系统在某些时候会发生故障，需要定期进行更新。我们拥有可帮助我们发现和修复这些错误的过程和工具。但是目前大多数由机器学习算法主导的AI系统与传统软件有所不同。我们仍在探索将它们应用于不同应用程序的含义，并且保护它们免受故障的影响需要新的思想和方法。
这是AI事件数据库背后的想法，该数据库是现实世界中已记录的AI系统故障的存储库。该数据库旨在使查看过去的故障并避免重复发生更加容易。
AIID由AI伙伴关系（PAI）赞助，该组织致力于发展AI最佳实践，提高公众对该技术的了解，并减少AI系统可能造成的潜在危害。PAI由苹果，亚马逊，谷歌，Facebook，IBM和Microsoft的AI研究人员于2016年成立，但此后扩展到包括50多个成员组织，其中许多是非营利组织。
在2018年，PAI成员正在讨论有关“ AI失败分类法”的研究，或以一致的方式对AI失败进行分类的方法。但是问题是没有大量的AI失败来开发分类法。这导致了开发AI事件数据库的想法。
IBM Watson AI XPRIZE的首席技术顾问Sean McGregor在对TechTalks的书面评论中说：“我了解航空事故和事故数据库，并致力于在AI伙伴关系会议期间构建AI版本的航空数据库。” 从那时起，McGregor一直监督AIID的工作，并帮助开发了数据库。
AIID的结构和格式部分地受到航空和计算机安全行业中记录的事件的启发。商业航空旅行业已通过在共享数据库中系统地分析和归档过去的事故和事件来设法提高飞行安全性。同样，共享的AI事件数据库可以帮助共享知识并提高在现实世界中部署的AI系统的安全性。
同时，由MITER Corp.维护的“常见漏洞和披露（CVE）”是有关各个行业软件故障的数据库的一个很好的例子。它有助于塑造AIID的愿景，使之成为记录不同领域AI应用程序故障的系统。
McGregor说：“ AIID的目标是防止智能系统造成伤害，或至少降低其可能性和严重性。”
McGregor指出，通常已经很好地理解了传统软件的行为，但是现代机器学习系统无法得到完整描述或详尽测试。机器学习从其训练数据中得出其行为，因此，随着基础数据随时间变化，其行为具有以意想不到的方式变化的能力。
McGregor说：“这些因素，加上深度学习系统进入我们所居住的非结构化世界的能力，意味着故障更有可能发生，更加复杂并且更加危险，”
如今，我们拥有深度学习系统，可以用传统的基于规则的软件无法实现的方式来识别图像中的对象和人，处理音频数据并从数百万个文本文档中提取信息，而这些软件都希望数据可以在表格格式。这使AI可以应用于自动驾驶汽车，监控摄像头，医院和启用语音的助手等物理世界。所有这些新领域为失败创造了新的载体。
自成立以来，AIID已从媒体和公开渠道收集了有关1,000多次AI事件的信息。公平问题是提交给AIID的最常见的AI事件，尤其是在政府使用智能系统（例如面部识别程序）的情况下。“我们也越来越多地看到涉及机器人技术的事件，” McGregor说。
还有数以百计的其他事件正在审查中，并将其添加到McGregor的AI事件数据库中。他说：“不幸的是，我认为我们不会出现新的事件。”
访客可以根据源，作者，提交者，事件ID或关键字在数据库中查询事件。例如，搜索“翻译”将显示42例涉及机器翻译的AI事件报告。然后，您可以根据其他条件进一步过滤研究。
涉及AI系统的事件综合数据库可以在AI系统的研究，开发和部署中发挥多种作用。
例如，如果产品经理正在评估向应用程序添加基于AI的推荐系统，则她可以检查13份报告和10起此类系统对人员造成伤害的事件。这将有助于产品经理为其团队开发的功能设定正确的要求。
其他主管可以使用AI事件数据库做出更好的决策。例如，风险官可以在数据库中查询使用机器翻译系统可能造成的损害，并制定正确的风险缓解措施。
工程师可以使用数据库找出在现实世界中部署时其AI系统可能造成的危害。研究人员可以将其用作AI系统的公平性和安全性论文的引文来源。
最后，不断增长的事件数据库可以证明是对于在其应用程序中实现AI算法的公司的重要警告。“科技公司以其迅速采取行动而不评估所有潜在的不良结果而闻名。列举并分享不良结果时，就不可能无视伤害而继续前进。” McGregor说。
AI事件数据库建立在灵活的体系结构上，该体系结构将允许开发各种应用程序以查询数据库并获得其他见解，例如关键术语和贡献者。McGregor在将在第三十三届人工智能创新应用年度会议（IAAI-21）上发表的论文中，讨论了该架构的全部细节。AIID也是GitHub上的一个开源项目，社区可以在其中帮助改善和扩展其功能。
有了一个可靠的数据库，McGregor现在正在与AI合作伙伴关系一起开发用于AI事件分类的灵活分类法。将来，AIID团队希望扩展该系统，以自动监视AI事件。
McGregor说：“ AI社区已经开始彼此共享事件记录，以激发对其产品，控制程序和研究程序的更改。” “该站点于11月公开发布，因此我们才刚刚开始意识到该系统的好处。”
以上是关于AI事件数据库有望提高机器学习的安全性的主要内容，如果未能解决你的问题，请参考以下文章