算法也是颜值控，Twitter AI更青睐肤白貌美图

Posted 2021-09-05 AI科技大本营

【CSDN 编者按】这是不是一个看脸的世界，谁都说不准，但是近期有研究人员发现，Twitter有这样一种AI算法：更青睐于身材好、皮肤白的年轻人的图片，哪怕这些图片经美图软件加工过。具体的情况究竟如何？下面这篇文章进行了详细的解释。

​
作者 | Stephen Shankland
译者 | 祝涛
出品 | CSDN（ID：CSDNnews）

Twitter举办了“寻找AI偏见大赛”，并提供了漏洞赏金，鼓励参赛者寻找人工智能的偏见。有参赛者发现，美颜滤镜欺骗了算法。

来自洛桑联邦理工学院的一名研究人员获得了3500美元的奖金，因为他发现Twitter上的一种算法更青睐那些看起来苗条、年轻、白皮肤或暖肤色的面孔。Twitter于周日宣布把奖金授予博丹·库利尼奇(Bogdan Kulynych)——他是一名研究隐私、安全、人工智能和社会的研究生。

Twitter赞助了这项竞赛，目的是找出“图像显著度”算法中的问题。该算法用于裁剪Twitter时间轴上的照片。传统的漏洞赏金是企业为寻找安全漏洞而付给外部人员的，而Twitter为发现AI偏见提供赏金，这也开创了区别于主流漏洞赏金的另一种新方式。

人工智能可以有效地处理视频字幕、识别钓鱼邮件、实现面容解锁，彻底改变了传统算法。但是，基于现实数据训练的人工智能算法可以反映真实世界的问题，解决人工智能偏差是计算机科学的一个热门领域。Twitter的悬赏就是为了发现这些问题，以便纠正。

今年年初，Twitter承认了其人工智能系统在裁剪图片的算法中存在偏见，该算法更偏向白人而非黑人的图像。但Kulynych发现了这个算法的其他问题，他认为这些问题才是核心。

研究人员Bogdan Kulynych发现，推特的AI算法通常更喜欢年轻、皮肤白、身材苗条的、被编辑过的美图。Twitter为了确定裁剪照片的方式，曾规定了“图像显著度”，现在，在符合AI审美的照片顶部、中间和底部序列的最右边都发生了变化，“图像显著度”分别增加了35%、28%和29%。

Kulynych发现：“目标模型倾向于认为那些看起来苗条、年轻、肤色明亮或温暖、皮肤光滑、面部特征偏女性化的人更突出。这种偏见可能会导致少数群体被排斥在外，数千张图片中，刻板的审美标准也会延续下去。”

Kulynych所设计的系统将一张原始人脸照片的显著度与一系列人工智能生成的美图进行了比较。他发现，面孔越年轻、越瘦，显著度就越高。该算法还对肤色偏浅、偏暖、高对比度、高饱和度的照片给出了更高的分数。

Twitter高度赞扬了这项比赛，因为在这个世界上，当我们与朋友分享照片或在社交媒体上发布照片，很多人都会先使用美颜相机和修图软件，给照片加上美颜滤镜。而这可能会扭曲我们对“美”的认知。

美颜相机和修图软件很普遍，除了滤镜之外，很多软件还推出了“智能美容”功能，可以调整人物的脸型和五官。​但谷歌认为，美颜滤镜会“对心理健康产生负面影响”。因此，在Pixel相机APP中他们关闭了默认的自动润色功能，该公司也不再将其调整功能称为“美容”滤镜。

原文链接：
https://www.cnet.com/tech/mobile/twitter-ai-bias-contest-shows-beauty-filters-hoodwink-the-algorithm/