研究人员：在解决深度伪造问题上光开发检测算法远远不够

南加州大学计算机视觉专家兼副教授Hao Li告诉外媒The Verge，任何深度伪造检测器都只能有效一小段时间。他表示，事实上，在某种程度上，可能根本无法检测出AI赝品。

据悉，Li及其同事最近设计出了一套深度伪造检测器。他们通过一套算法追踪每个人特有的面部小动作然后辨别出假的视频。这些标记被称为soft biometrics（辅助生物识别），对于AI来说它们太过微妙以致目前还无法模仿。这些包括诸如在回答问题时如何撅起嘴巴、扬起眉毛等动作。最终试验结果显示，系统的准确率至少能达到92%。

不过，Li表示，系统的有效性不会持续太久，因为深度伪造技术正在以病毒/反病毒动态的方式发展。

打给比方，2018年6月的时候，研究人员发现，由于深度伪造系统没有对人们闭眼的视频进行过训练，所以他们制作了具有非自然眨眼模式的视频。结果AI克隆眨眼的频率并不高有时甚至不眨眼。而接下来，事态的发展多少是可以预测的。Li及其同事表示，在这项技术公开没多久下一代的合成技术就将眨眼融入了新系统中。

颇具讽刺意味的是，这种反复的模仿生成了深层造假的核心技术：生成式对抗网络(GAN)。这是一种机器学习系统，由两个神经网络组成协同工作。其中一个网络生成虚假信息，另一个则尝试检测到虚假信息，然后内容会来回反弹并随着每次攻击而不断改进。

人工智能基金会(AI Foundation)研究副总裁Delip Rao也认为，挑战远不止开发检测系统那么简单。例如，上周公布的深度伪造检测算法的准确率高达97%，但正如Rao所指出的那样，在考虑互联网平台的规模时，3%也可能具有破坏性。Rao表示：“假设Facebook使用这种算法、假设Facebook每天收到3.5亿张左右的图片，那就会有大量被错误识别的图片。”

Rao指出，开发出能够识别深度伪造的技术虽然非常重要，但更大的挑战是如何让这些方法变得有用。

眼下，Rao及其在基金会的同事们正在研究一种结合人类判断的方法，但其他人认为，验证真视频和图像应该是起点，而不是寻找造假。为此，他们开发了可以自动加水印和识别出由相机拍摄的图像的程序，不过其他人则建议使用区块链技术来验证内容。

然而不管怎样，这些技术都不能真正解决深度造假的问题--只要互联网以目前的形式存在这种情况就会继续存在。