在过去的几年中,与假新闻作斗争已成为一个日益严重的问题,这是乞求一种涉及人工智能的解决方案的问题。几乎不可能验证新闻网站,视频流服务,博客,社交媒体等上正在生成的几乎无限量的内容
一直在推动使用机器学习来管理在线内容,但是这些努力仅在找到垃圾邮件和删除成人内容以及在较小程度上检测到仇恨言论方面取得了一定的成功。打击假新闻是一个更为复杂的挑战。事实检查网站,例如Snopes,FactCheck.org和PolitiFact,在公正地核实政客的谣言,新闻和言论方面做得不错。但是他们的影响力有限。
期望当前的人工智能技术完全自动化打击假新闻的行为是不合理的。但是希望深度学习的使用可以帮助使伪造新闻检测管道的某些步骤自动化,并增强人类事实检查人员的功能。
在2019年NeurIPS AI会议上发表的一篇论文中,DarwinAI和加拿大滑铁卢大学的研究人员介绍了一种AI系统,该系统使用先进的语言模型来自动进行姿态检测,这是识别虚假信息的重要的第一步。
自动化的假新闻检测管道
在创建可以抵抗虚假新闻的AI系统之前,我们必须首先了解验证索赔真实性的要求。AI研究人员在论文中将过程分为以下几个步骤:
检索与索赔有关的文件
检测这些文件相对于索赔的立场或立场
根据文档的来源和语言质量计算该文档的声誉得分
根据从相关文件中获得的信息验证索赔