网络流量蜜糖还是陷阱-内容安全的重要性

随着短视频和现场直播的广泛发展,越来越多的网络信息内容产生,紧随其后的是巨大的内容监管压力,但互联网并不违法,违法的是那些部分的阴暗角落里不道德、不守法的行为。网络流量蜜糖还是陷阱-内容安全的重要性_第1张图片

 

近年来,我国在内容安全管理方面,呈现出几个核心特征:

1. 监管部门覆盖面广,政策法规逐步完善,各部门在不同领域发布的法规也十分频繁,如网络音视频信息服务管理规定、未成年人节目管理规定、未成年人个人信息网络保护规定等相关法律法规也趋于完善。

2. 对于违法违规的相关企业,国家在这方面也很强硬,采取了更有针对性的专项治理行动,比如护苗行动、净网行动、5月份刚刚落地的清剿行动,都是针对网络安全的专项治理行动。

即使在高强度的政策进行监管工作力度下,我们仍旧会发现国内的互联网违规内容与信息依然层出不穷。这样的一些带有消极影响的舆论和传播已经可以覆盖到各种经济业务数据类型上。比如游戏论坛、新闻传播内容、用户评论、头像昵称等任何有内容发布可能性的场景都很难躲过违规内容的骚扰,尤其是企业的产品在达到一定量级和日活的时候,网络上的运营环境就会经常发现有垃圾的侵入。同时,我们也会发现在信息社会各种不同场景下出现的违规种类和变种形式也非常多,从最初简单的敏感词,到现在有字体的拆分、特殊文化符号的混淆,图片内嵌入违规文字运用信息,以及学生语音里夹杂着不良内容等等。

从2008年形成了中国一次爆发式的流量聚合技术开始,类似的广告信息管理就开始逐渐发展成规模化企业的形式出现在社会视野,使这条零散的产业链已经开始阶段转型为系统产业化,群体的人数以及规模甚至可以说扩充了数十倍。据专家专业人士研究,保守估计在2008年时,这条产业链已经达到了十来万人左右。

当时人们被困在流量的大蜜罐里,对于网络市场的信息支付的方式也主要是点击费或按量付费。在彩色流信息产业的趋势出现后,人们发现文本垃圾开始变成图片垃圾,而更为隐秘的是,不良的文本并没有消失,而是缓慢地出现并结合在图片中。

从论坛到微博,从人人到微信,从页面广告到游戏拉人,流量慢慢从 pc 转移到移动,又从移动发展为全方位的侵蚀。黑色和灰色的流量大军逐渐形成了两个分支,一个进入UCG的生态平台,另一个则进入全民参与度极高的各款游戏中。

我们和这些灰黑产的产品之间,就如同猫鼠游戏一般。但是好在,网络的环境管理中不断地衍生并更新出新的技术。每一次新灰色产业技术的爆发,都会有新的管控技术进行强力压制,包括我们现在使用的人工智能技术,是反击的最好武器。

国内优质的AI审核平台谛听安全,凭借着数十年的技术累积和强有力的基础数据支持,可以以全栈式的角度为不同行业的用户降低网络环境维护成本,优化运营数据与日活。

你可能感兴趣的