让假图无所遁形,阿里篡改图像检测大赛集结号令打响

Posted AI科技大本营

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了让假图无所遁形,阿里篡改图像检测大赛集结号令打响相关的知识,希望对你有一定的参考价值。

近年来,伴随多媒体技术的迅速发展,图像安全隐患随之而来。一些不法分子通过伪造或恶意篡改证件、政府文件、转账记录截图等方式,不仅进行诈骗活动,还带来一些社会问题:2 月 10 日,广西柳州融水苗族自治县赵某某为了好玩,将一张核酸检验结果呈阴性的《检测报告详情》,P 图为阳性转发到多个微信群,造成不良社会影响,最终被依法查获。

目前 IT 界已意识到图像篡改的危害性,国内外积极开展对图像篡改检测研究,但大多数技术主要针对自然图像篡改检测,如何帮助人们日常生活中辨别假图?对此,我们采访到阿里安全媒体安全负责人渡明来解读相关技术,一探究竟。

图像篡改检测技术,让假图无所遁形

企业数字化转型正如火如荼开展,越来越多企业的业务搬到线上,众多  IT 系统支持人们通过拍照上传照片材料等形式来办理业务,无需采用传统邮寄纸质材料,方便人们生活工作。

然而有不法分子有可能通过 P 图来伪造证书资料,意图鱼目混珠。近日,阿里安全负责知识产权投诉审核的小二发现了一些有问题的资质备案图片,用户提交的品牌方证明材料竟然是手敲的空白营业执照:下载的是浙江的营业执照模板,手敲的是上海公司的名称,如果没有丰富的审核经验,可能不会注意到细微的地区字母缩写差异。这类伪造品牌方的投诉,有可能是想勒索网店或同行恶意投诉。

渡明所在的阿里安全媒体安全研究团队,致力于媒体取证及媒体水印等的技术研究,为阿里的数据安全和内容保护提供技术支持,图像篡改检测研究也是关键的一环。针对上述情况,团队将这些人工经验沉淀到 AI 伪造图像检测技术中,利用 AI 技术帮助迅速识别是否为伪造证件,并标注伪造痕迹。

在实际应用中,如何快速判断一张图是否被 P 图篡改过?渡明跟我们解释道,最简单的是通过计算机分析图片,判断图像原数据是否被修改过,如果图片里的数据信息出现丢失、不一致情况,我们可判断出图片被篡改过。通过返回“是/否”的判断,可提示用户是否需要重新上传图片。

此时如果一张照片中的“2021”被改为“2022”,假如要标记出篡改信息末尾“2”的话,采用篡改定位技术,将整个图像分成小块,统计和分析每小块的特性,分析是否被压缩、重采样、引入新特征像素等,通过对比分析,标记出小块存在的差异点,从而找出被篡改过的图像。

谈及阿里安全在这领域的优势,渡明表示,在上述判断“是/否”的问题上,团队做的算法比学术界里公开的算法更准确。在篡改定位技术上,业界公布的一些算法针对的场景较简单,可能没有考虑到一些复杂的现实场景:例如当图片被篡改后做检测测试,没有考虑图片压缩、通过 IM 软件上传下载等场景,有可能造成算法性能下降。渡明团队洞察上述场景的实际需求,在研究算法时充分考虑传输特性等因素,让算法表现将更加稳定,增强算法鲁棒性。

目前图像篡改检测技术可应用在聊天信息篡改识别及定位、资质证明的信息页面篡改识别及定位、投诉申诉业务中凭证原始性、真实性鉴定及篡改定位、物流风控场景中物流单、购物单图像的原始性、真实性鉴定及篡改定位、转账记录和聊天记录篡改识别及定位、政务软件中生成的表单图像原始性、真实性鉴定及篡改定位、其他媒体内容(如网页或图像等)的截屏篡改检测及定位等场景上。

阿里安全发布AI安全人才召集令,10 万元奖金等你来战

阿里不仅通过成立上述研究团队来深入相关算法的研究,还重视对安全人才的培养。自 2019 年开始,每年阿里安全开展“安全 AI 挑战者计划”大赛,已举办了人脸对抗识别比赛、ImageNet 图像对抗比赛、辱骂场景文本对抗比赛、通用目标检测的对抗攻击、伪造图像的对抗攻击比赛,吸引全球安全高手关注。

为推进图像篡改检测技术的发展,培养更多安全人才,2 月 17 日,阿里安全开展真实场景下篡改图像检测大赛,准备了 10 万元奖金,诚邀高等院校、科研单位、互联网企业等人员参赛。值得一提的是,为更接近真实场景,本次大赛准备了一万张图像数据集,让选手充分发挥创意。

渡明表示,通过开展大赛,将国内外对安全技术志同道合的人员聚集起来,加强开发者之间的交流沟通,帮助开发者学习和成长。同时大赛反哺阿里安全技术创新,促进阿里安全与高校、企业产学研合作,加快相关项目的研究落地。

当笔者和往届选手交流时,发现不少同学通过大赛有“意外收获”:2021年,中国人民大学计算机视觉方向的研究生鹿月与轮辉参加了“伪造图像的对抗攻击”比赛,他们在比赛中沉淀的论文研究成果被计算机视觉三大顶会之一的 ICCV 收录,并获得“伪造图像的对抗攻击”比赛的最佳论文奖,获得丰厚奖金之余,随后两人收到阿里安全的面试邀请,顺利进入媒体安全团队实习。

鹿月说,大赛作为阿里安全提供的学习和交流平台,自己在参赛过程中,通过和其他优秀选手的交流分享,收获良多,成长不少。

轮辉说,大赛开展之际,阿里安全提供相关详尽的baseline 资料,帮助了自己快速入门,迅速尝试开展研究。

想了解更多“真实场景篡改图像检测挑战赛”资讯?可点击官网:

https://tianchi.aliyun.com/competition/entrance/531945/introduction

 

以上是关于让假图无所遁形,阿里篡改图像检测大赛集结号令打响的主要内容,如果未能解决你的问题,请参考以下文章

让假照片原形毕露?今日水印相机上线“照片验真”功能

互联网之无所遁形!

51万奖池邀你参战!第二届阿里云ECS CloudBuild开发者大赛来袭

一个命令让redis服务端所有信息无所遁形~(收藏吃灰系列)

实战篇:Oracle巧记登录用户IP,无所遁形

实战篇:Oracle巧记登录用户IP,无所遁形