谷歌把TensorFlow送给世界，世界却用它人工合成色情片！

Posted 2021-04-24 花边科技

在无人驾驶、击败全人类最优秀的棋手、辅助甚至主导医疗行业等等严肃而高大上的场景应用上，有关人工智能的能力解读相信不少人早已听到耳朵长茧了，但利用AI强大的数据识别和合成能力来伪造各式的图片、音频乃至视频的，估计多数人却是鲜有耳闻……

自去年12月份开始，在互联网上就陆续流传着一种利用全新的人工智能技术合成的色情片，将知名女星的脸「即时移植」到A 片女优身上，从而创造仿佛是该女星亲自「下海」的假A 片，其合成效果之逼真程度直追原画。而这一批“不幸涉事“的作品，其中不乏《神奇女侠》主演盖尔·加朵「无码三级片」流出，《哈利·波特》赫敏扮演者艾玛·沃特森「床照」曝光，女神寡姐斯嘉丽·约翰逊「下海」拍片……等

《神奇女侠》主演盖尔·加朵

实际上任何稍具AI 知识、又有好一点的消费级PC 的用户，都可以轻易尝试这种制作方法。首先，用户必须收集数百张该女星的影像，用YouTube 影片、Google 搜寻来的照片即可，然后把图像丢上去并使用开源的机器学习工具，就可以花上几个小时让电脑算出来。由于这种假影片不算是太高深的技术，任何人只要曾发表够多的自拍照或影片，都有可能成为假A 片的受害者。

谷歌把TensorFlow送给世界,世界用它制作A片

这条AV的制作者使用的正是谷歌对外发布了其内部用于开发人工智能算法的工具——TensorFlow。

它会通过学习得来的经验进行图像处理，而且关键技术任何人都学得会。

只要搜索出大量盖尔·加朵和成人女星的图片视频，然后让系统进行深度学习。

当学习样本足够多之后，就可以生成细节还原度很高的脸谱图，从而实现轻松换脸。

实际上，像这样喜欢做明星假视频的人，有四万个之多，而且在这个奇葩小组里，全是知名女演员的仿制色情片：黛茜·雷德利、娜塔莉·波特曼……甚至包括很多知名歌手。

原来我们总以为照片可以P，但想不到现在视频也可以轻易的移花接木，并且合成的效果竟然天衣无缝。从一开始 的「自娱自乐」，到如今事件的逐渐失控，这对于近来讨论渐趋热烈的数位隐私与假新闻而言，无疑将更是火上添油，而人工智能的道德边界随着舆论的质疑同时更是承压不断。

万物都有两面性，“换脸软件”于我们而言是一种警示，它意味着除了对社会有益的方面外，从生成虚假色情内容到诈骗等这些负面应用也将因为AI而大行其道。AI正向我们证明，这些由0和1组成的数据里存在着好与坏的无限可能。类似TensorFlow的开源工具则充当了一个助推器，让AI能够更快地去实现各种可能。

人工合成色情片流行后，几家互联网网站开始封禁

最初这种合成色情片就起源于在线论坛Reddit，一位ID是deepfakes的用户将盖尔·加朵的脸用作素材，合成了视频放在了帖子上。很多用户开始关注到该视频，用户deepfakes还专门建了个Reddit主题，吸引了9万用户关注。

而更多类似视频的出现，推动力来自于Reddit用户deepfakeapp开发的一款名为FakeApp的电脑软件，可以更快速、便捷地制作这类合成视频。

本质上，这类合成视频在技术层面上没有特别的地方。对人脸特征进行定位，再将另外一张人脸贴合上去，如果找来的素材质量较高，合成效果很可能不错。类似的合成技术，和PS、阅后即焚Snapchat、FaceU、美图秀秀等差别其实不是太大，但合成的时间、效果可能都不会很理想。

但科技公司、科研机构近几年开发的人工智能技术，将这类合成视频的制作成本降到更低了，效果也更好了。

这次事件中，最主要的可能是Google在2015年开源的机器学习工具TensorFlow。用户deepfakes和deepfakeapp开发的FakeApp都用到了TensorFlow。素材方面，用户通过网络搜索、社交网站的照片都可以找到，确实有不少人在名人的Instagram上找素材。

用户deepfakeapp称，他开发FakeApp的目的是降低门槛，让任何没有技术背景、编程经验的人都可以使用这类合成视频的技术。有些用户用5小时左右就能做一个类似的视频出来。

例如，也有人用FakeApp这款工具恶搞了尼古拉斯·凯奇，让他成了《夺宝奇兵》主角印第安纳·琼斯、007等。像华盛顿大学也有类似的研究，通过抓取视频，就可以编造出美国前总统奥巴马在说一段他从未说过的话，效果都挺逼真。

尼古拉斯·凯奇的脸被用作了素材

左边是奥巴马的视频素材，右边是合成的

但最近1周，包括社交网站Twitter、在线论坛Reddit、gif搜索引擎Gfycat以及聊天工具Discord等开始封禁这些合成的色情片。Reddit调整了网站上的内容条款，禁止青少年非自愿型色情、有性暗示的内容出现，deepfakes主题在这周三也被封禁。

即便是色情网站也加入了封禁这类合成视频的行列。最大的色情网站Pornhub称，这种类型的色情片不是自愿，他们会禁止这部分的内容放在网站上。Pornhub有相当多的这类视频是用户上传上去的。Pornhub被看作是色情网站里引入新技术最快速的网站之一。

但彻底封禁这部分合成的色情视频可能没多少可行性。用户将这类视频制作成gif图片，托放在Gfycat、imgur等平台上，Twitter、Reddit等平台删除没法根绝这类内容的传播。事实上，即便这些互联网公司说要封禁，但还有不少内容留存。在技术上识别这类内容本身也相当难。

文章部分内容整理来自：好奇心日报 徐弢