如何缓解深度造假

Posted 宛如清风

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了如何缓解深度造假相关的知识,希望对你有一定的参考价值。

网络犯罪分子已经存在了几十年,他们经常使用网络钓鱼和恶意软件。但另外两项技术促进了网络犯罪的剧增。

一个是匿名网络或暗网络的使用,比如洋葱网络。另一个是比特币形式的加密货币的引入。这两项创新——暗网和加密货币——允许网络犯罪分子安全地通信和交易,产生了连锁效应,提供了新的网络犯罪服务,同时降低了发起钓鱼和恶意软件攻击的门槛。今天,网络犯罪对企业构成了很大的网络威胁。

同时攻击大量目标、放大信息、甚至在必要时扭曲现实从来没有像现在这样容易。

社交媒体、机器人和深度伪造

创造在线角色和机器人的过程,以及向边缘论坛和小众讨论小组注入你希望目标看到的信息,都已经实现自动化和被完善了。一旦信息被播种,它成长和分支只是时间问题,会冲击主流社交网络和媒体,并得到放大。

更糟糕的是,正如惠特尼·菲利普斯(Whitney Phillips)在《放大效应的氧气》(The Oxygen of Amplification)一书中所讨论的那样,仅仅报道虚假声明和假新闻,意图证明它们是毫无根据的,就会放大原始信息,帮助它们传播给大众。现在我们的技术可以让我们相对容易地创建深度伪造信息,而不需要编写任何代码。

虽然有些人认为深度造假技术的使用是未来的威胁,但美国联邦调查局(FBI)今年3月警告企业,他们应该做好受到不同形式的合成内容打击的准备。

声音合成,即对一个人的声音进行采样和使用,是对依赖于声音识别的身份验证的一个严重警告,也可能是对人脸识别解决方案的一个早期警告。

随着深度伪造进入实时能力(一个很好的例子是针对荷兰议会的深度伪造攻击),以及用于欺诈和羞辱的假视频的持续扩散的思考,加上技术的容易获得,我们能做什么来解决这个问题?如果眼见为实,但我们不相信所见,我们该怎么办?

当大量的新闻和信息媒体争夺收视率时,事情就变得更加复杂了。因为他们的商业模式,他们有时可能会优先考虑做第一,而不是准确。

对深度造假应用零信任

如何减轻这种威胁?也许我们应该从零信任开始——永远不要信任,始终要验证,并假定存在违背。我在处理不同网络媒体上看到的视频时,一直在使用这些概念。

在网络安全领域,如果存在漏洞意味着必须假定攻击者已经在您的网络中。攻击者可能是通过一个已经修补过的漏洞进入的。也许是内部威胁——有意或无意。您需要假设在您的网络上存在隐蔽的恶意活动。

这如何适用于深度造假?我从“假设违背”开始。我的假设是,我认识的人已经接触过假视频或虚假信息活动。我还假设我最亲密的圈子被曝光了,这导致我从不相信,总是核实。我总是试图找到至少两个额外的来源来证实我所接触到的数据,特别是当涉及到支持我的想法的视频和文章时。

深度造假多少能够检测并警告我们的技术领先。威胁行为者几乎总是具有领导和主动性。在无法阻止威胁的情况下,从网络安全的惨痛教训中吸取经验来对付深度造假,可能有助于我们减轻这些威胁,并将其损害和暴露降至最低。假设违背,从不信任,总是验证!

以上是关于如何缓解深度造假的主要内容,如果未能解决你的问题,请参考以下文章

论文阅读丨神经清洁:神经网络中的后门攻击识别与缓解

论文阅读丨神经清洁: 神经网络中的后门攻击识别与缓解

敏捷开发中如何缓解风险?

客观缓解率的可信区间如何计算

在 python 中,如何执行缓解 SQL 注入的 postgresql 'LIKE %name%' 查询?

使用 Android Turbolinks 框架,我如何缓解桥注入失败