Deepfake 换脸真假难辨,马斯克分克已伪装成功

Posted AI科技大本营

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Deepfake 换脸真假难辨,马斯克分克已伪装成功相关的知识,希望对你有一定的参考价值。

整理 | 禾木木

出品 | AI科技大本营(ID:rgznai100)

在最受欢迎的社交媒体平台之一 TikTok 上,现仍有源源不断的 Deepfake 视频正在冒出来。

Deepfake 是对拍摄对象的面部或身体进行了数字化改造,让用户完全变成了另一个人。

当然,一般改造完都是相对出名的人。

很引人注意的是这位 @deeptomcriuse,已经发布了数十个假冒汤姆·克鲁斯的 Deepfake 视频,并且吸引了 360 万粉丝。

在另一个 Deepfake 视频例子中,小扎的一段视频也开始疯传,在视频中小扎说“让我们快速地想象一下,一个人手握偷窃来的数十亿人的隐私信息,他们的所有秘密、生活和未来等等 ”,这也是 Deepfake 杰作。

还有就是这位马斯克中国分克甚至骗过了马斯克本人。

虽然在大多时候,Deepfake被网友们用来搞怪,用于娱乐,但令人担忧的是,越来越多人在用这门技术进行虚假宣传、欺诈、抹黑公众人物。

不同的角色

Deepfake 很好地融合了文本、图像和镜头处理。与绿屏和计算机生成图像相比,它为视觉插入提供了性价比更高的技术。

很多时候,Deepfake 还可以使已故演员的复活或是历史重演成为可能,他们甚至可以在帮助人们哀悼已故亲人方面发挥作用。

但它们也可能被滥用。

同时,Deepfake 技术被认为存在的几个社会问题,例如:

  • 被用来制作虚假新闻和虚假信息的“证据”;

  • 被用来诋毁名人和其他人已分享内容为生的人,同时保持声誉;

  • 甚至伪造色情内容。

美国大选期间,AI 换脸技术就成了政客之间相互攻击的工具。特朗普就曾在推特上转发过一个伪造的拜登吐舌头的视频,播放量一晚上就超过了1000万。

这么明显的恶搞,一般人都不会信。但如果是那种似是而非的视频呢?

2019年,Deepfake 检测软件公司 Deeptrace 发现,14000 个 Deepfake 视频中有 96% 是色情的。,如现已停产的 DeepNude 2.0,被用来让穿着衣服的女性在镜头中呈现裸体,经常被用于报复和敲诈。

除此之外,Deepfake 还经常被用于诈骗,尤其是信任朋友或亲戚。当这些人打来视频电话向你借钱,你大概率会中招。一项研究发现,2020 年使用数字技术进行的诈骗使美国金融机构损失了 200 亿美元。

Deepfake 很容易,管理很难

DeepFake的创作者强调,如果想让这些换脸视频看起来更加真实,就要花费大量的时间和精力。以克里斯·梅(Chris Ume)为例,他是 TikTok 帐户背后的视觉效果 @deeptomcruise AI 艺术家。梅表示:“你不能仅仅通过按下一个按钮来做到这一点。”

有充分的证据标明,DeepFake 也确实在变得越来越容易。

随着 DeepFake 应用程序的开发,在未来,哪怕是技术水平不高的人也能容易地制作出看起来很逼真的 DeepFake 视频。

而立法、监管和检测软件正在努力跟上 DeepFake 的蓬勃发展。

2019年,Facebook 因未能删除政治家 Nancy Pelosi 的合成视频而受到批评,因为它不符合其对 DeepFake 的定义。

2020年,Twitter 和 TikTok 禁止分享可能会欺骗、迷惑或伤害他人的合成视频(除非标清楚是DeepFake)。

而YouTube则是下架了所有与2020年美国联邦选举有关的DeepFake视频。

但是,即使这些政策有意引导,平台管理员也很难快速处理每一条上报的视频。

在澳大利亚,新南威尔士州的 Ashurst 公司的律师表示,现有的版权和相关法律可能无法保护澳大利亚人免受 DeepFake 的影响。

虽然国外已经开始尝试制定法律规整这个领域,但这些法律大多都集中在政治传播方面。例如,加利福尼亚州规定,在选举期间张贴或传播经过数字处理的候选人内容是非法的。但不从政的人并不受这条法律的保护。

如何检测?

而最佳的补救措施之一,就是让用户尽量掌握辨别的技巧。

通常情况下,能让 DeepFake 露馅的第一个迹象是,有些东西看着似乎不对劲。如果是这样,就要更仔细地观察被拍者的脸,想一想:

  • 脸部是否太光滑,或有不寻常的颧骨阴影?

  • 眼睑和嘴巴的动作是否看起来不连贯或不自然?

  • 头发看起来是真的吗?

要知道,目前的深度造假技术很难保持头发(尤其是面部毛发)的原始外观。

你可以在网上搜索该视频或视频中人物的关键词,因为许多可疑的 DeepFake 视频已经被揭穿了。

还有就是上下文也很重要,试着判断一下来源的可靠性:“它看起来是真的吗?如果视频发布在社交媒体平台上,那么发帖人的账户是否经过了验证?”

你还可以对播放的视频进行截图,并进行谷歌反向图片搜索,检查视频的原始版本是否存在,将其与可疑的版本进行对比。

最后,如果你确实发现了一个DeepFake的视频,一定要记得点举报。

参考资料:

https://techxplore.com/news/2022-07-celebrity-deepfakes-tiktok-theyre-common.html

分享
点收藏
点点赞
点在看

以上是关于Deepfake 换脸真假难辨,马斯克分克已伪装成功的主要内容,如果未能解决你的问题,请参考以下文章

DeepFake换脸诈骗怎么破?让他侧个身

GitHub 被指审查内容,著名“换脸”开源项目遭限制访问

CV之Face Change:基于人工智能实现国内众多一线美女明星换脸(基于Face++输出4*106个特征点定位+融合代码deepfake技术)

CV之Face Change:基于人工智能实现国内众多一线美女明星换脸(基于Face++输出4*106个特征点定位+融合代码deepfake技术)

GitHub 疑被审查?著名“换脸”开源项目遭限制访问

SimSwap 高保真人脸交换的高效框架 以及 deepfake辨别图片或者视频真假 dalle-mini文字生成图片