智东西(公众号:zhidxcom)
编 | 李水青

导语:科技巨头纷纷涉足Deepfake检测的“猫鼠游戏”。

智东西9月25日消息,谷歌今天宣布已生成大量机器合成的视频,并将其合并到了慕尼黑工业大学等机构的人脸篡改取证(FaceForensics)基准中。研究人员可以免费使用该基准,以开发合成视频检测技术。这是继本月初脸书的Deepfakes鉴别挑战赛后,科技巨头又一为Deepfake检测采取的措施。

Deepfakes技术可以利用GAN(生成式对抗网络)将视频中的人脸换掉,且十分逼真。前段时间国内大火的“ZAO”App被就疑似使用了该技术,用户只需要在App中上传一张照片,就能将自己的脸替换成视频中“小李子”“周润发”“白展堂”等人的脸,几乎可以以假乱真。

谷歌的科学家Nick Dufour和相关技术研究经理Andrew Gully在文章中写道:“自Deepfakes于2017年底首次出现以来,出现了许多开源的Deepfake生成方法,导致合成视频的数量不断增加。虽然一些人认为这只是个娱乐工具,但还是有很多人认为它可能危害社会。”

一、请付费演员录视频,合成千万“伪造版”供研究

据了解,为了整理数据集,谷歌与付费演员一起录制了数百个视频。然后,谷歌从视频中制作了成千上万的合成视频,从而收集了真实和伪造的样本。

谷歌表示,随着Deepfake技术的不断发展,它会不断扩充数据集,并继续与该领域的伙伴深入合作。Dufour和Gully补充说:“我们坚决为蓬勃发展的研究团队提供支持,从而减轻滥用合成视频造成的潜在危害。今天我们发布的Deepfake数据集就是朝这个方向迈出的重要一步。”

Deepfake引起关注的原因有很多。今年6月,脸书CEO马克•扎克伯格的一段被篡改过的视频被广泛传播,这令人们担心换脸会被用来伪造信息、误导舆论甚至是诈骗犯罪。先前,在我国换脸软件“ZAO”也风靡一时,其中的隐私问题也引发了一波公众焦虑。

Deepfake视频鉴别战:谷歌发布数据集,脸书斥资千万美元办比赛

▲扎克伯格视频被篡改

二、国会议员要求审查,脸书斥资千万美元办比赛

Deepfake系统最近受到了越来越多的审查。9月,美国国会议员致信该国情报局局长Dan Coats,要求情报机构提交有关Deepfake的潜在影响的报告,Deepfake对民主和国家安全可能产生深远影响。

业界应对Deepfake负面影响的措施也不断变多。去年夏天,DARPA的Media Forensics计划的成员测试了一种原型系统,该系统可以通过查找不自然的闪烁等提示来自动检测AI生成的视频。创企Truepic在今年7月筹集了800万美元的资金,以尝试使用Deepfakes的“检测即服务”业务模型。

本月初,Facebook与微软、麻省理工等公司和机构共同发起了Deepfake检测挑战赛,探索如何通过数据集和基准测试检测Deepfake换脸视频。

该挑战赛将提供高达1000万美元的经费和奖励,以此鼓励Deepfake检测系统的开发。为此,Facebook也调试了一个现实的数据集。参赛者可以免费使用大量数据,几乎没有使用限制。

文章来源:Venture beat