金山云“金睛”智能监管 破解内容审核难题

近期，短视频、直播行业从“集万千宠爱于一身”到深陷舆论泥潭，值得深思。回顾当前中国短视频发展现状，2017年，用户规模已超过2.42亿，日活跃用户数量超过6300万人，每日使用次数达到7亿次。与短视频遥相呼应的视频直播行业在经历一番野蛮生长之后，到2017年用户规模达到4.22亿，年增长率依然高达到22.6%，行业热度空前。

井喷式的行业发展，使得各方监管变得心余力绌。违规内容成了平台审核之痛，发展之殇。在此背景下，主管部门重拳出击，多个短视频平台遭约谈、整改、下架。短视频、直播平台持有对违规内容绝不姑息的坚定立场以及从严处理的决心，在投入庞大资金的，并已开始大幅度扩大审核团队，加大人工审核力度进行紧急应对。

规范传播内容、保护未成年人健康成长，弘扬正确的社会主义核心价值观，各视频平台和关联企业都有着不可推卸的责任和义务。，由于视频量巨大，人工审核力有不逮，在加大人工审核力度之外，金山云金睛——一站式AI内容安全服务为视频平台提供了全新的解决方案。

“金睛”上岗配合人工大幅提高审核效率

金山云AI内容安全监管平台——“金睛”，早在2016年直播、短视频方兴未艾之际，紧随《互联网直播服务管理规定》同步上线，致力于为平台方提供一站式AI内容安全服务。“金睛”见证了短视频、直播行业的整个兴盛过程，夯实了自身基础。

当前，每天新增的短视频、直播数量不低于5000万条，不良“UP主”、主播使出“十八般武艺”钻监管漏洞，常出现图像正常而语音违规、违规行为持续时间短、打规则擦边球等问题，都会加大审核难度。巨大的审核工作依靠现有的“堆人”战术已经很难从当下的困局中突围，引入基于深度学习、图像识别、云技术的AI内容安全监管能力，提升审核效率和精准度，变得尤为重要。对比发现，采用传统的人工审核方式，可做到3万张/人/天，准确率约80%，而金山云“金睛”可以做到全天24小时不限量识别，1s之内响应，准确率高达99%以上，可大大提升效率。

单一依靠人工审核来保持网络环境的洁净安全，成本之高和耗时耗力之大显然无法应对飞速增长的数据量。面对复杂的网络环境，“金睛”与人工审核相结合的方式，是金山云提供给行业“破局”最行之有效的解决方案。

目前，金山云为90%的互联网、媒体及广电等行业头部客户提供服务，业务覆盖直播、短视频、长视频、OTT等多种视频业态。从最早入局视频、直播行业，经过多年积累，目前拥有10亿精标数据，夯实了金山云“金睛”广泛应用的基础。“金睛”基于精准AI算法模型，支持涉黄、涉恐、涉政、不良广告等多种违规场景的内容审核，提供直播实时AI内容安全监管服务、短视频AI安全审核解决方案，从而有效净化网络环境。基于深厚的大数据沉淀，金山云“金睛”对违规场景进行精细化标签，目前分别支持200+暴恐类标签识别和1000+敏感人物识别，鉴黄识别方面准确率超过99%。

金山云“金睛”低俗场景判断结果与其他平台对比

“金睛” 严审违规与辅助平台深度运营同举

众多直播、短视频平台都先后选择使用金山云“金睛”来进行内容安全监管服务，例如龙珠直播。龙珠直播是国内最全的赛事直播，最丰富的游戏视频互动平台。龙珠直播借助金山云“金睛”平台领先的内容监管能力，确保平台上不出现淫秽色情、凶杀暴力等有害信息，不传播泛娱乐化、低俗、恶搞等不良内容。

区别于传统的SDK、API方式的技术应用，龙珠直播将实时的直播流同步共享在金山云“金睛”平台上，“金睛”高效对直播流进行抽帧解析，从审核、响应、复审到违规结果传输给龙珠运营人员，全程30s之内高效执行并同步发送给龙珠运营人员进行跟进。，金睛根据龙珠平台上主播直播时间、行为、内容的抓取进行数据沉淀，利于运营方对主播的管理，对有潜在违规倾向的主播进行监控。

监管，关注用户的视频消费体验也是重点，监管做到不“死”管，才是真正的维护消费者的切身权益。例如维护体赛事直播的健康发展，“金睛”为龙珠直播上球类内容进行识别，杜绝非版权赛事视频在平台的恶性传播。对于游戏玩家，金睛针对平台上热门的“吃鸡游戏”进行了定制化的内容识别，精准识别主播游戏数据，辅助直播平台进行深度运营，增加电子竞技的观赏性，实现用户体验和主流价值观正确引导的统一。