谷歌禁止Deepfake项目研究

Posted 2022-10-15 不叫月红

近日，谷歌悄悄地禁止了其Colaboratory（Colab）服务上的deepfake项目，结束了以深度造假大规模利用资源的情况。Colab是一种在线计算资源，允许研究人员直接通过浏览器运行Python代码，同时使用免费的计算资源，例如GPU，为其项目提供动力。由于GPU的多核特性，Colab是训练机器学习项目（如深度假想模型）或进行数据分析的理想选择。

deepfake以“以假乱真”闻名，它可以被训练成在视频上替换人脸，通过添加面部表情特征，让其看起来非常真实。技术本应向善，但因其过于真实的效果，常被用来传播假新闻等低劣行为。因其缺乏道德与法律监管，deepfake一直存在争议。

谷歌对deepfakes下达禁令

据archive.org的历史数据显示，该禁令与月初颁布，Google Research 将 deepfakes 添加到不允许的项目列表中。正如 DFL 开发人员 "chervonij "在Discord 上指出的那样，那些试图在 Colab 平台上训练 deepfakes 的人现在会出现以下错误。

• “你可能正在执行不允许的代码，这可能会限制你在未来使用Colab的能力。请注意常见问题中规定的禁止行为”。

• 这项新限制的影响预计将在deepfakes领域产生深远影响，因为许多用户利用Colab的预训练模型来启动他们的高分辨率项目。

• Colab使这一过程变得非常容易，甚至对那些没有编码背景的人来说也是如此，这就是为什么这么多教程建议使用谷歌的 "免费资源 "平台来启动deepfakes项目。

资源滥用

目前还不知道谷歌执行这一政策是出于道德方面的考虑还是出于对计算资源的保护。

Colab旨在供那些需要花费数千美元的力量来帮助他们实现科学目标的研究人员使用。这在GPU短缺的时期尤其关键。

相反，有报告称，一些用户正在利用该平台的免费层级，大规模地创建深度伪造模型。这长期占用了Colab的大量可用资源。

下面是Colab被禁止项目的完整清单：

• 文件托管、媒体服务或其他与Colab的互动计算无关的网络服务产品
• 下载Torrents或参与点对点的文件共享
• 使用远程桌面或SSH
• 连接到远程代理机构
• 挖掘加密货币
• 运行拒绝服务攻击
• 破解密码
• 使用多个账户来绕过访问或资源使用限制
• 制造深层假象
• 所有被禁止的项目都远远不符合正规科学研究的要求。

虽然有些项目可能符合这种情况，但似乎谷歌检测到的滥用情况远远多于合法情况。

参考链接：https://www.bleepingcomputer.com/news/technology/google-quietly-bans-deepfake-training-projects-on-colab/