网易易盾深度解读 | 清朗网络的背后，看见知乎长期生态治理的初心

Posted 2022-01-27 网品天下

“能力越大，责任也就越大。”这句话同样适用于汇聚着亿万双眼睛的互联网主体平台。

随着互联网信息载体和内容主体的不断丰富，网络不可避免地出现了鱼龙混杂的局面。无视版权、低俗涉黄、诈骗信息、涉恐涉暴……种种问题交织在一起，严重破坏了网络生态。为了改善网络环境，知乎致力于构建认真、专业、友善的社区氛围，并在此过程中，始终坚持长期主义，在不断升级的内容风控对抗中持续自我提升。

知乎一直以来都非常重视社区生态治理，面对海量数据，治理方找准方法很重要。“我们需要充分利用好算法模型的优势，并与第三方服务商合作。网易易盾是国内领先的内容安全服务商，我们非常认可其安全服务的专业性和可靠性。”知乎表示。

知识社区坚持「获得感」的长期主义

诸如「如何打造一个不凌乱的家？」「如何开家长长久久的咖啡馆？」「电脑内部是如何沟通工作的？」「我是否卷入了一场骗局？」「艺术品的收藏价值来自于何处？」等的问题在知乎中随处可见，透露着未知与求知的博弈。

与每个疑问面对面的瞬间，人们总是迫切地寻找答案，搜寻一本答疑解惑的书，询问一名相关领域的专家，或者是转向知识社区“知乎”。即使是没有学过的专业知识，没有经历过的人生，没有触达的未知，我们大概也会在翻阅数个帖子后，知晓一二。

从几个人，到几万个人，再到数千万人，对知识有渴求的内容创作者很快顺着网线会合，以一砖一瓦的“智慧”聚集构成了全知全能的“知乎”。在招股书上，知乎给自己下了这么一个定义：“中文互联网高质量的问答社区，创作者聚集的原创内容平台”。自 2010 年成立以来，知乎以“让人们更好的分享知识、经验和见解，找到自己的解答”为使命，在诸多领域建立起了以社区驱动的内容变现商业模式。目前，知乎已经覆盖问答社区、会员业务、商业内容解决方案、热榜、机构号、视频、直播等一系列产品和服务，并建立了包括音频、视频在内的多元媒介形式。

截至 2021 年第三季度，知乎共累计 4.59 亿条多元形式的内容，其中问答条数达到 3.98 亿，知乎平均月活跃用户首次突破一亿大关，知乎拥有累计超过 5300 万的内容创作者，月活创作者数量达到 364万。

可以说，知乎有着属于自己执着且独特的内容风控情怀，即获得感。一直以来，知乎将能够「开阔眼界，带来帮助或引发共鸣」的内容高度概括为「获得感」。截至目前，「获得感」已经成为知乎衡量内容价值的标尺，用来强化社区治理，调整内容结构。好内容因此得到了更多关注、流量和收益，社区生态也因此更加健康繁荣。

打造知识海洋深处的净化器

以往，提到内容风控，大家都会想到博人眼球的黄色擦边球、性感裸露图片……

在知乎看来，内容风控是指对合规内容的保护与对不合规内容的治理。这里面提到的「规」既包括法律、政策要求，也包括平台对内容风控的自驱要求。如此看来，内容风控需要做到的其实就是识别、判断不同载体（文本、图片、声音、视频等）中信息的合规性。

基于这样的目标，知乎设定了四个关键需求：法律法规的建设、内容风控技术的攻关、标准化的风控体系与高水平的人才，衍生出四大内容安全能力方向，简单举例：

一是，法律法规、政策要求、平台自身规则往往是精炼的，在实际的内容安全业务中，需要在充分理解规则的基础上，转化为可以直接指导业务的标准，再同步到内容安全业务各个环节有效落地。

二是，面对每天海量的数据，对内容的智能理解能力成为了内容安全业务的强需求，知乎目前通过自研+采买服务的形式不断补强风险内容的识别能力。

三是，采用人机结合的内容风险控制体系，能够良好地辅助审核人员对内容进行把关，提升工作效率。知乎自研的策略引擎「哪吒」与审核系统「天玑」，将内容安全业务各环节高效串联并运转。

四是，设立了专门的内容安全培训团队，并搭建了完整的培训流程，旨在长期培养出思想站位高、视野宽广、经验丰富的内容安全业务人员，帮助平台把关的同时，为清朗网络空间培养守护者。

AI赋能，不合规内容识别更高效

AI（Artificial Intelligence，人工智能技术）技术应用到内容风控中并非新鲜事，AI参与识别不合规内容越来越普遍。受疫情影响，许多工作都放在线上进行，知识的分享和获取也不例外。通过AI进行内容检测是一个节省人力、物力的全新方式，在几年前就受到了知乎的采用。

虽然AI算法模型不能完全代替人类审核员，但却是重要的违规“定位”工具。知乎采取AI机审和人审相结合的方式，离开了AI或是审核员，内容安全业务的质量和效果将大大下降。

在引入易盾的AI算法模型之后，知乎表示，易盾深厚的技术沉淀以及个性化定制的服务，在风险内容组织性与对抗性日趋增强的今天，能够补强知乎对于不合规内容的识别、判断能力。

近年来，知乎持续加大内容治理方面的投入，从内容安全红线底线、不友善、内容质量、未成年保护等多方面入手，将第三方模型和自研模型相结合，大大提升了相关违规内容的召回率和准确率。

知乎表示，内容风控作为生态建设的基本盘，在其内部已经建立起来一套新产品、新功能上线的内容风控评估流程，任何功能更新、上线前都需要经过内容风控评估。对于公司未来发展的方向和重点，知乎也提前做了行业调研和能力储备，确保基本盘一直是稳的，是可以跟得上行业发展的。