华为云：修炼防控内力，竖起游戏文娱行业安全之盾

Posted 2022-12-23 CSDN资讯

随着5G时代的发展，以5G为基础能力的各大游戏平台、音视频等平台百花齐放。与此同时，越来越多的UGC内容产生，为人们带来更丰富的玩法。但UGC内容的增加对于平台而言，也带来了不少的压力和挑战，尤其是安全与合规方面的隐患。

以游戏行业举例。对于游戏玩家而言，游戏内出现的文字、图片内容不仅与游戏体验息息相关，更重要的是游戏内出现的内容是否绿色健康、是否合规。近年来，不少游戏厂商因内容审核不及时，导致违规内容出现在玩家面前，影响玩家体验的同时造成恶劣的社会影响，甚至让游戏整改下架，给游戏厂商、发行方都带来了十分严重的利益损害。

针对这些问题，近年来，相关的监管条例不断推出，不断优化，同时也在逐渐收紧。如2021年网信部门及各涉网管理部门持续整治的“清朗”系列专项行动、《互联网用户公众账号信息服务管理规定》等，纷纷鼓励倡导优质内容的生产，和对严重影响生态的主体进行专项治理。值得一提的是，这些监管条例均强调了平台与用户双主体责任，也就是说，平台主体责任、生产运营者责任都得到进一步强化，平台有责任有义务管理、规范和治理用户所产生的内容。UGC平台在内容审核方面无疑面临着十分大的压力。

除此之外，随着游戏产业的飞速发展，许多相关黑灰产业急剧扩张。在游戏安全的战场中，除了需要重视内容风控以外，还有外挂、信息安全、DDoS等平台/网站方面的安全隐患，时刻不得松懈，对于游戏厂商而言负担甚重，解决游戏安全问题刻不容缓。

针对这些问题，华为云在内容审核和网站安全方面提出了全链路的解决方案，构建了更灵活、更精准、更安全的内容审核解决机制，以及全面风险可控、业务连续可用的网站安全解决方案，守护游戏平台和用户隐私的安全与稳定，同时使资源弹性扩容，实现降本增效的目的。

确保内容安全建设，华为云助力审核“减负”

在游戏世界里，由玩家产生的UGC内容包含文本、语音、图片等内容，若审核不到位，极易出现违法犯罪、标题党、色情、暴力等大量有害身心的违规内容。即使近年来通过敏感词屏蔽、人工审核等传统方式进行对抗，也还是经常能够看到有类似问题出现。

随着内容安全审核标准关口的收紧，“内容安全审核从业者”成为了维护网络内容安全、营造清朗网络空间的绝对刚需。但面对海量的UGC内容，纯人工审核的方式并不现实，不仅时效差，且容易出现审核人员把握不到位、经验少、信息更新慢等情况，风险系数更高。且内容的产生通常都是7*24小时不间断的，人的工作时长有限，人力规模无法匹配。

为了解决这个问题，行业中出现了AI机器初筛+人工复核的“人机协同”方式。机器内容审核具有范围广、效率高、低成本等优势，但很难提升内容审核的精确度，包括有歧义的文字、模糊图片等。因此在用户上传文本、语音或图片后，机器对内容解构并提取关键信息，与数据库中的违规内容进行比对，以及清洗过滤。值得注意的是，其背后数据库的特征样本、筛选标准也是由人工完成的。内容审核专员需要夜以继日地工作，来确保筛选系统识别的标记内容在发布之前能得到及时审核和确认。

这样的组合，看似提高效率，但实际上是增加了另一项工作的工作量，成本不一定得到降低，覆盖范围有限，自研检测、校正能力不足。因此，合适的、可靠的初筛机器不仅能够大大减轻人工审核的负担，在机器足够可靠的情况下，甚至可以大幅度削减人工成本。

针对以上问题，华为云提出了一套更“稳准狠”的内容审核方案。在“机器初筛”的环节提高精准度，通过拓展审核场景覆盖范围和对审核难点专项优化等方式，确保机器在初筛阶段就能达到超出行业水平的高度，提高审核效率，降低人工复核等方面成本。

1.音频+文本+视觉多模态内容审核技术方案

华为云拥有领先的文本、视频、图像检测技术，其多模态内容审核技术方案，能够从图片、OCR违规文字识别、音频语音识别、文本理解全方位多模态检测违规信息，全方位覆盖视频、音频、图片、文本、直播场景的审核。

同时，华为云基于大量的违规图片和文本库、音频库进行训练，包括变体类型、数百种语义标签等，解决样本少、样本单一难题。深度学习检测分类+人脸识别+NLP文本分析模型，可避免单一模型的误杀和漏杀，高效识别各类场景中色情、违禁、垃圾广告等违规内容。

华为云内容审核解决方案-多模态审核流程示意图

2.审核场景更细、更全、更灵活

华为云内容审核解决方案在图像审核方面支持5大场景、51个小场景，场景覆盖率业界领先。

基于丰富的细分方案，华为云内容审核方案，提高了审核规则灵活度，避免误判、错判，能够更好地匹配不同用户和不同的业务场景。对于有特殊审核标准的用户，也提供了开放的可自定义的审核策略配置，以满足业务场景需求。提供高精度/高召回/均衡三种模式，让用户根据实际业务需求在“拦截准确率更高”和“不漏掉每一个可疑对象”间做灵活选择。

3.审核能力更精准

从声音、图像、文本、动作等多维度进行审核。

• 文本审核：基于海量词库+深度学习+GCN+文本分类等模型，可自动识别出文本中出现的涉黄、广告、辱骂、灌水内容，可应用在评论、短信、昵称、弹幕、签名等内容的审核。

• 语音审核：基于深度学习语音识别技术，结合文本审核，过滤语音环境中的娇喘、暴恐、广告、辱骂等不良信息。

• 视频审核：支持离线视频及在线直播的审核，审核内容为图片、文本、语音的集合。

4.审核难点专项优化

在当前行业中，AI机器容易被形变、模糊等方式欺骗，华为云内容审核解决方案专项专改，在敏感人物审核上，对非典型人脸识别场景进行了算法加强，审核召回率达95%以上。

基于以上能力，华为云内容审核解决方案覆盖面广，精度高，内容安审标准完全符合监管要求，既承载企业内容安全审核责任，又规避了企业自建平台的成本、技术及运营风险，灵活度高，避免了企业寻求不同服务商的烦恼。

更重要的是，华为云承诺，在内容安全审核解决方案当中，华为云不会动用户现网数据，不做任何形式保存，在内存态识别完成后立即释放，全方位保护数据安全，满足注重数据安全的用户需求。

对抗黑灰产，捍卫游戏安全势在必行！

“对内”要维护内容审核安全，“对外”更要维护网站/平台的整体安全。

在整个信息产业中，信息安全攻击中超过75%都发生在Web应用层上，可能造成的危害结果包括数据信息泄露、数据被篡改、网站被篡改、域名被劫持、大流量DDoS攻击、黑客攻击导致网站无法访问，业务中断及受损等，每年都给数以万计的用户造成了巨大的损失。

对于游戏行业来说，游戏安全/平台安全问题，主要体现在外挂、打金工作室、DDoS攻击、平台和用户的信息安全以及安全合规等方面。游戏黑灰产业覆盖非常全面，单靠游戏厂商难以全方位治理黑灰产带来的损害，需要行业共同携手来建设和治理。

华为云针对网站安全提出了最新的解决方案，在网站上云后，通过Web应用防火墙、DDoS高防AAD、云证书管理服务CCM、数据安全中心DSC、企业主机安全 HSS、云堡垒机 CBH、态势感知 SA、数据库安全服务 DBSS等核心产品，帮助网站上云后从应用、数据、负载、安全态势四方面进行安全加固。

和内容安全审核一样，在平台的安全守护方面，也同样需要7*24小时安全运营团队值守，安全事件快速响应，这对于时刻运营、时刻活跃的游戏厂商而言，除了维护成本极高以外，更需要产品功能key facts来支撑+数据化指标。

华为云网站安全解决方案，从“发现-预警-处置-监测”各环节入手，提供保障访问体验、维护资产安全、规避网页篡改三大重磅能力。

1.保障访问体验

• Web应用防火墙：防SQL注入、防CC攻击，0Day漏洞2小时防御，防网站爬虫；

• DDoS防护：无需调整网站基础架构，一键添加防护，透明接入，抵御大流量攻击。

2.维护资产安全

• 数据安全中心：支持敏感数据分类、数据加密等功能，为网站数据提供全生命周期防护；

• 数据库安全：通过用户行为发现审计保障云上数据库的安全。

3.规避网页篡改

• WAF及时识别阻断应用层攻击，HSS锁定Web文件目录文件，实现静动态双重防篡改； 

• 自研RASP技术，通过驱动级文件目录锁定+篡改检测自动恢复+远端备份恢复“三保险”，自动检测与防护，无需人工修复。

以上“三大能力”有效保证访问体验及业务连续性、保证数据资产安全、维护品牌信誉与形象、满足等保合规要求，同时支持弹性扩容，方便业务升级扩展，确保资源无浪费。从里到外严防死守，更安全、更自动化、更可靠。一键部署，全方位守护。

除了以上场景，为了落实“风险全面可控，业务连续可用”的产品原则，华为云还提供了可定制的进阶版安全防护能力。无论是从安全合规方面，还是从用户隐私安全方面与用户数据方面，均可通过“定制组合”方式，进一步提升业务贴合度、数据安全性、以及用户体验。

推荐使用产品组合及客户案例

安全生态，需要行业共建

对于游戏厂商而言，游戏本身与用户是同等重要的核心资产。维护游戏安全，守护用户信息安全，打造健康合规的游戏环境，是每一个游戏厂商、甚至每一个行业相关厂商都需要肩负的责任。华为云一如既往走在捍卫安全的路上，深入行业洞察真实需求，构建更贴合当下行业痛点的解决方案，值得合作伙伴信赖。

与行业一同并肩奋战，是华为云一贯的风格。

为了让更多行业一同建设安全生态，华为云双12重磅推出多项优惠。针对各项业务需求开设多个专场，多种产品及解决方案均参与活动，扫描下方二维码，直达华为云双十二会场！