Deepfake是那些看上去真实,由AI编写的视频,它们描述了从未发生过的事件,多年来一直是人们关注的焦点,并且随着技术的发展,检测变得越来越困难。
目前,编辑过的图像和视频留下了数字指纹,可以用正确的工具检测到。例如,加州大学里弗赛德分校的研究人员开发了一种AI算法,该算法可以通过发现编辑工具留下的不起眼的伪像来识别操纵的图像和视频。
这种深度学习算法(由电气和计算机工程教授Amit Roy-Chowdhury和UCR研究人员共同开发)可以发现由于插入,移除或操作图像中的对象而引起的异常。罗伊·乔杜里(Roy-Chowdhury)解释说,该想法是对图像处理进行本地化。他说:“我们训练了一个神经网络,以识别未来图像中的可操纵区域。”