人工“护航”算法保障内容平台生态安全

摘要：“推荐算法本质上是一套高效的信息过滤系统。在实际应用中，平台推荐系统采取‘人工+机器’协同的方式进行风险治理，始终有人工运营和治理体系为算法导航。”4月15日，抖音生态运营经理陈丹丹在抖音“安全与信任中心开放日”活动上介绍。

“推荐算法本质上是一套高效的信息过滤系统。在实际应用中，平台推荐系统采取‘人工+机器’协同的方式进行风险治理，始终有人工运营和治理体系为算法导航。”4月15日，抖音生态运营经理陈丹丹在抖音“安全与信任中心开放日”活动上介绍。

算法能学习和预估用户行为，但其对内容语义的理解存在不足，可能导致违法违规、不良内容被推荐传播，因此，在真实使用场景中，必须通过平台治理对算法进行约束和规范。目前，抖音已建成一套完整的内容治理体系。

陈丹丹介绍，抖音的内容治理体系是采用“人工参与+机器学习”相结合的模式，而且组建了专门的平台治理团队为算法设置“护栏”。创作者将内容上传至抖音后，首先进入机器识别环节。如果内容被识别出含有高危特征，将被直接拦截；若未命中高危特征但模型判断有问题，则会送至人工审核；若问题概率较低，则获得基础流量进入下一环节。在抖音平台治理的审核流程下，流量越高的内容经过评估的次数越多，标准也越严格。视频被举报、评论区出现集中质疑、流量激增等情况出现，均可能触发审核。一旦内容在任一环节被处置，系统会立即停止进一步推荐和分发。

针对社会普遍关心的、对用户造成较多困扰的焦点问题，抖音成立了多个专项治理团队，针对诈骗、网暴、虚假摆拍、未成年人保护、网络水军、AIGC（人工智能生成内容）技术滥用等一系列专项风险进行治理。

以网暴风险应对为例，相关内容治理面临概念难界定、时效难保证、单个平台难以根治等问题。为此，抖音成立了专门治理网暴的团队，通过网暴风险特征构建模型，对识别出的潜在网暴受害者主动提醒风险，引导开启一键防护功能。

“在不实信息治理方面，我们近日上线了辟谣卡，遏制不实信息的传播。”陈丹丹以谣言治理为例称，目前，当用户在抖音搜索一些谣言相关的信息时，搜索结果将以“辟谣卡”页面形式呈现，明确标注相关信息为“谣言”或“存疑”，还会为用户提供权威媒体辟谣、当事人发声等信息。据了解，为打造良性的辟谣生态，抖音还会对发布不实信息的用户和易受不实信息影响的用户，定向精准推荐辟谣视频。

目前，在处于试运营阶段的抖音安全与信任中心网站上，除了阐释算法、治理等，还公布了平台倡导的社区价值，以及对优质内容的定义。据了解，未来，抖音将以安全与信任中心为依托，持续增加算法和治理透明度，回应社会关切的议题，主动公示违规案例治理情况，接受公众监督。