内容安全服务的选择标准-谛听运营心得

作为一名产品经理或者运营人员,你需要对自身所负责的业务有所洞察,进而根据具体的业务需求、用户需求来做好产品架构设计。每个产品设计完成后都需要进行内容审核,一些非本领域的公司,如果要审核自己的内容,往往会对接一些成熟的第三方产品


目前市面上有很多非常成熟的内容审核的服务产品,比如阿里云、谛听安全服务等。

这里简单讲一下一些基本的入门了解以及内容审核的流程。


1.文本审核

对于文本的处理,人工智能主要是采用了NLP(自然语言处理)技术,将语句通过语法分析、情感分析、词向量分析等技术进行识别和归类,再与平台本身的素材库进行比对,返回匹配的结果。比如广告内容识别、垃圾内容识别等。

内容安全服务的选择标准-谛听运营心得_第1张图片

2. 图片审核

图片审核有两种方式。一是将图片的MD5与材料库中的MD5进行比较,获得审核结果。而另一种则是通过CNN(卷积神经网络)技术提取特征,汇总各部分特征,生成分类器进行预测和识别。


3. 音频与视频审核

音频的处理,是先通过ASR(语音识别)将音频经过降噪、断句处理成文字,然后再通过文本审核对其进行处理。视频审核则是通过抽帧技术,对视频进行抽帧频率的设定,然后对视频中的图片进行审核。(或对视频的MD5与素材库已有的MD5进行比对从而获得审核结果)。视频中的音频审核则是相同的原理。


一般来说,提供审核服务的第三方公司会提前提供模板并将其接入文档。因此作为拥有审核需求的企业而言,仔细研究文档,与第三方产品或技术支持对接审核流程、确认审核流程,这些都是在达成合作之后需要注意的。


举例来说,云点播视频需要上传视频才能进行相应的审核,这种情况下的审核是以任务的形式进行的。虽然一些固定的规则,可以中台系统进行处理,但如果基于业务规则不同(就举例的情况而言),那么就需要将规则交由业务系统进行处理,并在后续达成一致


正所谓“大中台小前台”。中台作为业务服务的提供方,需要做到的事情并不是让甲方企业过度依赖业务,而是需要不断为新业务提供能力支持。因此,在市面上,主要考察产品的抽象整合能力,是选择一家成熟公司的重要标准。

你可能感兴趣的