极端内容在社交网络上传播，光靠科技是无法阻止的，人类也要一起上。

由于近来发生的恐怖袭击，政客们开始批评社交网络成为极端主义的温床。如今Facebook宣布其正在研发AI以及雇佣了150名专家专门针对恐怖主义分子，打算将恐怖主义扼杀在萌芽中。

马克·扎克伯格解释道，在他“不切实际”的对未来的想象中，如今Facebook面临的许多问题，如暴力内容，虐待儿童，虚假消息及极端主义等，都将随着人工智能的发展而被逐渐解决。根据他的理论，强大的算法可以锁定侵犯性的内容及内容制作者从而从根源解决这些现有问题。

但是要真正实现扎克伯格的这一想法还为时尚早。如今，虚假消息会经历第三方的事实核对，雇佣成千人力来筛选出疑似侵犯性的内容。这些方法虽然朝着解决问题的方向努力，但并非扎克伯格所设想的自动化的解决方案。

尽管如此，现在Facebook已至少能利用人工智能来减少极端组织的招募与宣传。在一份报告中，Facebook全球政策主管MonikaBickert和反恐政策经理称Facebook利用AI抗击恐怖主义虽然最近才试水，但已经取得初步成效。

这份报告给出了详细的例子：

－利用图片识别技术识别之前因涉嫌极端主义而被删除的内容，这样防止极端内容重现

－通过分析文本理解与宣传恐怖主义与极端主义相关的语言

－衡量社会普通用户与极端用户之间的社会关系来寻找可能存在的招募活动

－监测这些极端主义分子创立新帐号的活动并及时关闭这些帐号

最大的问题是，这样的方法是否奏效。其他网站为解决复杂的社交网络问题而实施的类似试验，j2直播，如Google为消灭仇恨言论进行的措施，暂时没有达到Facebook所声称的效果。其中阻碍这些措施成功的最大的因素就是AI再聪明，人类也能想方设法水来土掩，避开AI的审查。以Google为例，仇恨言论的发起者通过秘密约定语言方式，从而混淆AI，使之不能真正破解人类的真实意义。

Facebook知道AI敌不过人类的智慧。事实上，Facebook的这项工作可能会永无止境，因为它必须根据恐怖分子层出不穷的花样，不断进化的手法来进行侦测。

这也是我们必须承认光靠科技是无法解决这一难题的原因。Facebook已经成立了由150名反恐专家组成的专家组，其中包括学者、律师以及执法机关等，来帮助机器理解一些需要在上下文语境中理解的内容以及锁定现实世界中可能存在的隐患，从而进行及时干预。Facebook亦坦言称它们不会孤军作战，也将继续联手其他社交媒体网站及政府来攻克这个难题。

通过结合人类洞察力和AI的优势，Facebook必然大大增加了解决这个困扰许多社交媒体网站多年的难题的可能性。但人类智囊团+AI组合对打击恐怖主义在社交媒体上的蔓延之势是否奏效，能否胜过极端分子的脑袋，j2直播，只有通过时间来检验了。

本文内容编译自 Jamie Condliffe, Facebook Is Enlisting Human Experts and AI to Fight Terrorism, MIT Technology Review.

原文链接: https://www.technologyreview.com/s/608121/facebook-is-enlisting-human-experts-and-ai-to-fight-terrorism/

本文为北大新媒体原创，转载请注明出处