达观动态

达观愿与业内同行分享 助力各企业在大数据浪潮来临之际一起破浪前行

弹幕审核来袭,别让色情广告淹没了直播平台

近年来,视频直播发展迅速,用户规模快速增长。据不完全统计,当前各类视频直播平台已达200余家,用户规模超过2亿,一些大型直播平台注册用户过亿、月活跃用户超千万,高峰时段部分“房间”用户数可达数百万人。

1、直播平台正在风口浪尖,不仅引来了大量用户和投资者,也成了舆论的焦点 

图1:市场上直播平台产品已超200家

  视频直播引爆的热点话题从来没有停息过,前有各大平台动辄千万甚至上亿挖角明星主播,后有文化部查处多家涉嫌宣扬淫秽暴力的直播平台并责令整改,无论是正面还是负面,直播行业已然被推到了风口浪尖。

直播该来的风还是来了,近日,公安部网络安全保卫局召开直播平台专项整治工作会议,决定从即日起至10月底,在全国范围内组织开展直播平台专项整治工作。

2、投资机构疯狂投资直播行业,色情产业也开始觊觎这块肥羊

如日中天的直播行业,凭借大量的用户群体和人气,引来大量资本的涌入,斗鱼TV获得腾讯、红杉资本等投资机构6.7亿元B轮融资,龙珠直播获得游久领投近亿美元B轮融资。

图2:2015年以来众多直播平台获得融资

  直播行业是被看好的,但同时也被一些色情产业所觊觎,大量的色情广告瞄准了这一风口,并且,正在不断侵蚀这些直播平台。

3、亲身体验告诉你,色情广告有多泛滥,部分直播平台遭重

经体验了几家直播平台发现,均不同程度的存在色情广告内容,有的是以刷屏弹幕的方式呈现,有的是以注册ID的昵称呈现,甚至有的通过给主播送礼物让包含色情广告的ID一直呈现在观众面前。

图1 广告疯狂输出

图2 色情广告疯狂刷屏

  如图所示,堂而皇之的色情广告已经对用户的观看体验造成了影响,而从观众的反应来看已经司空见惯。色情广告充斥直播屏幕的情况已经存在已久,平台采取的措施也基本一致,通过平台超管和房间的房管来对这些账号进行封禁,可显然仅仅依靠人力是无法战胜这些有组织的“专业”团队的。

图3 观众对广告习以为常并默默忍受

  那么,为什么这种现象一直存在,无法根治呢?是有技术难度,还是平台不作为?

4、对付色情广告,光靠人工进行弹幕审核远远不够,机器智能有妙招

“现在的广告非常狡猾,全部都是通过机器人自动发布,并且广告内容也包含异体字、特殊符号、借代等各种变形变换,普通的系统很难识别出来。”达观数据CEO陈运文说到。“达观数据针对此问题为直播平台推出了一系列反垃圾解决方案,通过计算机深度学习,智能识别的方式,自动帮助平台来识别这些色情广告,让计算机程序来学习人的分析和判断行为 。”

图4  广告内容包含各种异体字变换

图5 达观数据提供的文本挖掘服务

  “我们提供的文本审核系统采用计算机深度学习技术,深度学习直播平台的房管们是怎样工作的,通过不断的训练,让计算机学会人的技能,并部分代替人的工作,就像计算机学会下棋以后,可以比人下的更好一样,我们训练的计算机程序可以比人类在文字内容理解,审核,预测等方面做的更快更好。”

5、智能系统显神威,广告弹幕全部被准确识别,人工将被替代?

那么,计算机程序是不是真的能代替人工,比人做的更好呢?

将观看过程中发现的色情广告内容,输入到达观数据官网提供的体验demo中测试发现,均准确地检测出为广告内容,并且都给出了广告而的权重值。

图6 垃圾弹幕文本样例1检测结果显示

图7 垃圾弹幕文本样例2检测结果显示

  “有的平台检测只会告诉你一个结果,是广告或者不是,而我们提供权重值给客户,也是方便客户可以根据实际需求自主地把握过滤的范围,这种方式更加灵活。”陈运文介绍到。

而将包含色情广告的ID昵称进行测试,也准确地判断了出来。

图8 广告ID样例1检测结果显示

图9 广告ID样例2检测结果显示

  “有的广告往往内容上很正常,而是把广告信息隐藏在ID里,我们的系统不仅会检测用户发布的内容,同时也会检测用户的ID,从根本上来识破这些广告。”

6.达观数据智能文本处理系统,助力直播平台的弹幕审核,打造良好的直播环境

陈运文表示:“目前达观数据提供的文本处理服务,能有效地降低90%以上的人工成本,24小时全自动审核,0.1秒返回结果,处理效率约为人工处理的1000倍,达观数据还在继续努力,会根据用户的需求不断升级,除了对付这些色情、广告信息以外,也会为平台解决一些恶意注册、脏话、地域黑等问题,帮助平台净化弹幕环境,给观众提供一个良好的弹幕互动氛围。”

7.直播行业即将面临洗牌,不要轻视弹幕审核,别让广告成为平台的拖累

网上有这样一句话“直播发于秀场、兴于网红、盛于明星、衰于广告、毁于色情。” 如果各家平台不重视的话,这些色情广告只会越发猖獗,甚至从内部瓦解平台,用户慢慢流失,经过这一场洗牌之后,视频直播行业还能有多少家会留下来?想留下来,专心做好弹幕环境净化,不要让广告弹幕成为压垮直播平台的最后一根稻草。