2分钟前 广东移动app内容检测平台服务为先「博特智能」[博特智能6802313]内容:
内容巡查的标准
系统配置标准,支持图文集合
系统平台可配置相关文字巡查标准,同时也支持上传图片形式的标准
手机端查看巡查要求,图文并茂
巡查人员巡查过程中可通过手机查看巡查要求,能有效落实标准要求,指引巡查人员具体工作过程。
查看时序图
可按巡查点位签到时间显示巡查计划时序图,并根据颜色的区分签到、未签到、结果异常和跳过显示巡查点。
内容巡查的能力
定期巡查
对APP进行定期违规信息巡查、智能搜索对抗巡查持续内容运营支撑,根据日历和监管分析更新升级巡查库对巡查结果进行人工校验,人工拓展挖掘
专项巡查
根据监管部门的专项治理要求提供临时专项支撑巡查服务
数据清洗
对APP进行违规内容巡查评估分析,制定清洗策略对后台数据进行数据检索回查和数据焦中过滤对清洗结果进行人工校验,人工拓展挖掘
不断扩招的后顾之虑
综合各路媒体报道来看,字节跳动内容审核员已扩招超2万人,快手、B站、腾讯等各平台也分别有数千人。整体不到十万数量级的内容审核员,在面对数亿人民产生的倍量内容时,互联网秩序的维护者们也显得有些力不从心。
内容审核员就如“互联网保安”,24小时在文本、图片、音频、视频的不间断“巡逻”,拦截那些黄色、低俗、涉政、广告等违规内容,如果拦截不及时,随时就可能上演“全民知晓”的内容安全事故。而长期熬夜、身体紊乱、长期面对黄色、低俗等内容,对审核员的精神,心理,造成非常大的损伤。
国内外已有不少从业者受到类似困扰,轻则“恶心到吃不下饭”,“晚上做噩梦”,严重的心理创伤,甚至可以让人变得麻木和暴躁,越来越具有攻击性,甚至有审核员猝死。
可以说,当前依靠人工审核来控制内容合规安全,已达到较高负荷的状态。
那不断扩大审核团队规模,就可以“后顾无忧”吗?显然这已不再是较优解。眼下还是平台可以增加人力成本,扩招人工、“少赚一点”的阶段,但作为企业,都会在成本和收益之间想达到一个平衡。
如果单纯把内容风险控制当成一件纯技术性的事情,或者说只认为是企业的成本负担,不能创造收益。那企业只需要准备大量训练数据,一些判断模型就可以直接拿来用,甚至还可以拿出去做成生意。但真正经历过内容安全痛苦的企业就会知道,内容风险控制掌握着企业发展的命门。
海量的内容,在人工之外如何做好内容的合规和安全?现已成了所有内容相关企业绕不开的话题,而内容风险控制细分领域头部玩家们,也瞄准了贴近人类思维的AI内容审核机制的算法研究。