AI安全领域的“雨山机车大赛”，改变了什么？

Posted 2021-12-31 脑极体

历史车轮滚滚向前，新旧事物替代是历史趋势，然而这个过程并不是一蹴而就的，因为新事物的出现和发展必然也会伴随着新问题的出现。

比如在今天看来，火车比马车要先进得多，但19世纪，利物浦到曼彻斯特的铁路即将通车时，依然有很多人认为马拉货车更靠谱，甚至连铁路公司董事会里都有人支持在铁轨上用马车拉的。这种情况，自然不能靠行政命令去强制都使用蒸汽机车，怎么办呢？

只能“是骡子是马，拉出来遛遛”，让蒸汽机车证明自己真的更加方便快捷。于是，一场影响历史进程的比赛出现了，那就是“雨山机车大赛”。

1829年10月，铁路公司宣布在“利物浦－曼彻斯特”铁路已经完工的雨山段，让参赛者的蒸汽机车来回跑圈，根据速度、重量、马力、耗煤量、排烟量等指标综合打分。

这场竞技比赛的获胜者“火箭号”，由工程师斯蒂芬森数次改良，最终创下了57.6公里的时速记录。自此，英国掀起了建造铁路的狂潮，现代化的步履也沿着铁轨铺遍全世界。

提起这段故事，是为了以史为鉴，映照当下的问题与选择。AI，是我们所处时代的新事物；安全，则是当代人普遍面临的新问题。业内有个共识，“当安全成为问题之前，它不是一个问题；一旦成为问题，就是一个大问题”。

而历史已经证明，由企业、创新者、大众所共同参与的竞技比赛，能够推动解决问题的方法诞生。

12月4日，由OPPO发起，OPPO安全主办的“极智担当，不燃怎YOUNG——OPPO安全AI挑战赛”，迎来了线下总决赛的高光时刻。来自全球知名高校的学子们组成战队，激烈角逐“人脸安全对抗”赛题，积极探索AI时代的安全思路。同时，“AI 安全新战场”高峰论坛也同步开启，数字企业与产业专家共同探讨AI安全的技术攻防之道。

汇聚了科技企业、研究机构、高校智慧，这场大赛让我们能够同时看到，时代背景下的业界间的联动将改变什么，AI时代应该如何构建全新的安全“防火墙”。

不妨从大家都关心的AI安全问题，审视这场或将影响你我生活的比赛。

AI安全，

比马车PK火车更残酷的竞技场

纵然没有一场“雨山机车大赛”，蒸汽机车也会很快展现出超越马车的能力，进而推广到全世界。但当下人们在AI时代面临的安全挑战，解决起来就困难多了。

首先，AI安全隐患更加多元。AI被运用到越来越多的生活场景当中，无论是手机、手表、家电等物联网设备，还是出行、金融、政务等生活服务场景，由此产生了更多的安全威胁，除了传统的基于 Web 的攻击，各类恶意应用程序的威胁，还有个性化服务带来的隐私泄露和被监视的等风险。

其次，AI安全问题更加隐蔽。AI能够利用复杂的机器学习算法从非敏感形式的数据中推断敏感信息，让安全威胁防不胜防。比如通过一个人键盘打字模式，就可以推断他的情绪状态，如紧张、自信、悲伤和焦虑等；根据照片分享中记录的时间地点，可以自动推断出活动规律……

同时，AI安全问题面临的挑战也更加复杂。复杂和隐蔽的AI安全，需要在算法、数据、应用等多个环节进行攻坚，这对任何国家、科技企业都带来了挑战。2021年OPPO与益普索联合发布的《2021年－中国智能手机用户安全需求洞察报告》显示，用户普遍关注安全隐私问题，其中，80%在日常生活中设置或采用了安全防护措施，仅32%表示满意，安全隐私的防护体验提升仍有较大空间。

作为一家研发技术驱动的生态型科技公司，OPPO以“用户体验”为核心，始终关注用户的安全与隐私问题。面对时代交付的必答题，OPPO自然不能后退。今年，“OPPO安全挑战赛”作为升级后的OPPO安全技术赛事品牌，再次启航。

通过此次AI安全竞技赛事，中国的高校科创人才如何抓住时代需求与机遇，创造新的历史？我们到比赛中去看一看。

人脸识别，

不容逃避的安全命题

在诸多AI应用中，人脸识别可能是大众最熟悉的一项。

在疫情新常态下，人脸识别成为“无接触服务”的标配，数字政务、远程办公、闸机验证打卡签到、刷脸支付、在线医疗等等，都依靠人脸识别来进行身份校验。

人脸识别与大众衣食住行等生活绑定得越深，带来的安全隐患也就越多。2021年的3·15晚会上，就曝光了某连锁家具门店使用“无感式”人脸识别技术，未经同意擅自收集消费者人脸数据，并进行持续分析，获取消费者的 性别、年龄、心情等数据。

OPPO携手德勤联合发布《移动应用（APP）个人信息保护白皮书》也显示，有近52.95%受访者对生物识别技术，如人脸识别、指纹识别等，表示比较担心或非常担心。

为了解决上述问题，国内外都开始对人脸识别技术进行全生命周期的安全合规监管。除了法律法规层面的努力，在技术上不断精进，防范人脸识别技术风险，就成了科技企业与创新人才的时代担当。

本届OPPO安全AI挑战赛就聚焦“人脸识别安全对抗”，以赛代练，激发高校人才探索安全技术领域的潜力与创新力。

具体来说，采用鲁棒的对抗人脸生成或者合成技术，能够欺骗人脸识别系统，使其给出错误判断，从而在用户的人脸照片主动分享或者被动泄露的情况下，不法分子也无法用其照片进行训练模型或者用模型识别出照片中的人物是谁。

为了模拟真实的人脸识别场景并增加比赛的难度，OPPO在后台使用精度高鲁棒性强的一组模型集成起来作为黑盒模型，选手对提供的测试样本进行修改，提交生成的结果数据传至线上进行攻击评测。

自赛事发布以来，来自全国高校的2000多支参赛团队历经5个月的激励角逐，清华大学的“trivial”战队、重庆理工大学及北京大学组成的联合战队“green hand”、 北京航空航天大学及中国科学院大学的联合战队“TOP10我来了”等10支高校战队顺利晋级线下总决赛，争夺60万元奖金。

从技术层面，参赛者聚焦在可感知、可掌控、可信赖的隐私安全防护上，防止人脸识别等生物特征的伪造，避免关键生物认证信息被窃取；通过研究丰富的对抗样本生成算法，参赛者不断获得掌声和好评。

从参与维度看，赛事汇聚了全国高校的创新智慧，将技术与真实场景、产业问题相结合，增强创造力和产业洞察力，有效帮助人才练兵。

技术在更迭，人才在成长，成为数字中国未来发展的两项基本动力。其中，科技企业扮演了怎样的角色？

时代的摆渡人：

安全变局中的三重角色

在工业革命时代，铁路公司绝对是最高精尖的科技企业，除了商业价值之外，也起到了推动科技研发、孵化产业人才、推进现代化进程的重要作用。如果没有铁路公司举办的雨山机车大赛，工匠和科学家们也不可能在短时期内数次优化蒸汽机车设计，加速铁路商业化的脚步。

今天，上十亿的互联网人群让中国站到了万物智联的风口，这个过程中，有许多问题等待着中国科技企业去解决。以安全为例，OPPO就在其中扮演了三重角色。

1.安全水位的捍卫者。作为智能产品的研发者、制造者，OPPO等科技企业及移动应用平台方，必须建立严格而多元的安全体系，不断通过技术创新，将更具安全属性的产品交付给消费者。在此次峰会中，OPPO也分享了自身在移动应用个人信息保护的实践，比如整体统筹，成立了安全与合规委员会来制定安全与合规总体战略规划，统筹推进个人信息保护整体工作；三道防线，分别由业务部门、专职的安全隐私部门、审计部门担任，紧密结合，各司其职，发生违规情况也能清晰问责；六层防御，在技术方面，通过六层防御体系打造数据安全防御机制， 运用AI、大数据等新技术，实现智能化数据安全防护能力，有效感知威胁并做出预警和处置，将安全活动贯穿产品全生命周期。这些制度、技术上的创新，让OPPO能够坚守住安全水位，帮助消费者防御安全威胁。

2.新型人才的培养者。安全是一场“魔高一尺，道高一丈”的攻防战，需要源源不断地创新人才加入，而当下亟须既懂安全、又懂AI的新型人才。为此，OPPO一方面积极通过安全相关赛事，以赛代练，推动年轻创新人才持续关注安全隐私技术问题，先后在2018年和2019年，举办了“OGeek算法挑战赛”和“OGeek网络安全挑战赛”，不断让创新人才与新锐时代命题相连接；同时，OPPO也提供了学业与事业的接口，提升赛事的含金量和产业价值，成功晋级复赛并在决赛上表现优异的选手，不但有机会进入OPPO安全实习、在OPPO校招中免去笔试环节，还有机会拥有直接入围综合复试的机会，产研联动培养智能安全领域的新型人才。

3.安全长城的组织者。相比某一种设备、某一个品牌的“单点安全”，AI时代也要求从数字生活全链路，搭建一个守护用户安全的“新长城”，这就需要生态合作伙伴来共建共荣。此前，OPPO就与多家企业/机构合作，与德勤联合发布白皮书、与益普索联合发布洞察报告等，共筑互联网生态安全。此次线下总决赛期间，还启动了“AI 安全新战场”高峰论坛，汇聚了京东、英特尔及四川大学的多位行业及学术界处于前沿研究领域的大咖，与全社会一起共同探讨AI安全技术难题。

会上，OPPO高级算法工程师张文刚在《智能护盾安全大脑：移动应用智慧检测能力构建》的主题演讲中指出，OPPO通过基于大数据和AI的安全大脑能够实现从测试、上架到卸载、下架贯穿APP全生命周期的安全隐私治理。安全大脑集成多个智能引擎，包括利用前沿深度学习、知识图谱等AI能力的智能应用检测引擎、智能文本检测引擎等，广泛应用于用户使用APP的所有场景，为用户构建起了纵深防御体系。其次，通过对开发者开放了安全隐私云查服务、安全检测SDK和安全加固能力，OPPO安全为开发者提供公平、绿色、可持续的 APP 生态环境。实现了为开发者赋能，开发者共筑安全生态的目标。

从工业时代的雨山机车大赛，到AI时代的OPPO安全挑战赛，或许我们可以看到，在科技产业的关键变革时期，人才的创造力才是开启未来最重要的生产力。而科技企业所扮演的角色，就是将未来的舞台、剧本、道具交到年轻人手中，让他们在时代大幕下绽放光彩。

高校也好，企业也好，都是年轻人的“摆渡者”，载着他们不断抵达未知的彼岸，构建固若金汤的安全防护体系，切实保护各类用户的安全隐私。