继文化部、公安部等对直播平台的内容安全进行专项整治之后，广电总局再度下发通知抵制网络直播的低俗内容。2016年是网络直播爆发的元年，近300家直播平台出现印证了蛋糕的规模，但内容安全无疑成了一个隐形的烫手山芋。

　　与直播同样受关注的还有人工智能，自AlphaGo名声大噪之后，人们在对人工智能表示恐惧和担忧的同时，人工智能技术的应用也渐入佳境。那么人工智能可以解决网络直播的内容隐忧吗？至少在国外已经出现了国外已经诞生了mollom、WebPurify、Sightengine等第三方反垃圾服务，国内也有Gootion、网易易盾、达观、腾讯万象等一众产品。

　　互联网内容安全，为何直播成了众矢之的？

　　据CNNIC第38次中国互联网发展状况统计报告显示，截至今年6月，我国网络直播用户规模达到3.25亿，占网民总体的45.8%。迅速火起来的直播平台，已然成为当下影响力最大的内容生产者，这便不难理解广电总局等多次下发通知的原因所在。

　　2012年国内的直播平台还只有区区25家，如今的庞大规模和移动直播平台的草莽式发展不无关系。一方面，纵观整个直播市场， “美女”、“秀”、“色”等具有窥私欲和荷尔蒙刺激的元素成为诸多直播平台的标配。且在监管慢半拍的情况下，早期的直播平台多以色情、暴力等低俗内容吸引观众，尽管经历了几番严打，类似的情况依旧存在。

　　另一方面，即便是一些直播平台的用户规模达到了千万级甚至上亿，连《信息网络传播视听节目许可证》都还没有拿到，比如花椒、斗鱼等等，一些不为人知的直播平台所面临的情况可想而知。网络直播几乎无门槛的现状，导致拼颜值、拼尺度成为直播圈的主流，不少网络主播开始游走在“灰色边缘地带”，暴力、色情、低俗、猎奇等内容层出不穷。

　　让人不寒而栗的是，从《2015年中国青少年上网行为研究报告》给出的数据来看，我国的青少年网民数量达到2.87亿，而直播恰是青少年网络行为的重要场景之一。色情、暴力、谣言、欺诈等对青少年的身心健康有着很大的负面作用，根治直播平台所存在的内容低俗问题已是不可不为之举。

　　直播平台的痛点，人工智能可以解决吗？

　　对于主播来讲，提供低俗内容所面临的后果无非是“禁演”，可站在直播平台的角度来看，因为低俗内容带来的负面影响和处罚却很可能导致在竞争激烈的直播市场中掉队。尽管主播月入十万的神话并不现实，直播平台的盈利模式也较为单一，可透过斗鱼、映客等数十亿的估值来看，直播已经成为名符其实的造富风口。

　　大多数直播平台显然不会在内容审核上轻易触碰政策的红线，但每天上千万的直播行为以及数亿的用户评论，很难依靠纯粹的人工审核来完成。事实上，从门户时代开始，内容审核就成了互联网产品的一大弊病，如今业已实现了从人工审核向人工智能的过渡，究其过程或可分为三个时期。

　　第一个时期可以称之为关键词过滤的时代。早期的门户网站、论坛、博客中为了审核用户评论，往往采用关键词、黑白名单和各种过滤器技术，来做一些内容的侦测和拦截。这个时期的技术手段很基础，却也能够满足早期互联网产品的需求。

　　第二个时期可以视为“算法”称霸的时代。进入Web2.0时代之后，互联网的产品形式变得更加丰富，网民的数量也不可同日而语。一些互联网公司开始基于计算机技术进行算法上的更新，比如贝叶斯过滤、肤色识别等，将机器内容审核的范围从文字延伸到了图片。

　　第三个时期就是当下的人工智能时代。大数据、云计算、人工智能等由概念走向实用，内容审核的范围扩展到文字、语音、图片、视频、直播等，几乎覆盖了移动互联网时代的所有产品。一个显著的特征就是深度学习在内容审核领域的应用，比如前文所说的Gootion、网易易盾等根据多年在安全领域违规词库的沉淀和神经网络学习能力，实现了对目标文本进行精确匹配和快速识别。

　　不难发现，单从技术角度来讲，人工智能和深度学习技术在内容审核上应用，在很大程度上可以解决当前内容审核的需求。可为何很多直播平台还在利用“场控”等形式进行直播监督，甚至一些典型的UGC产品还处于人工审核+算法过滤，这不得不让人思考人工智能在商业化上的思路。

　　人工智能的商业化，还要迈过哪些坎？