智东西(公众号:zhidxcom)
编 | 年年

导语:部分初创企业、美国学术界和政府机构正在研究如何在2020年总统大选前对抗被篡改的视频图像。

智东西7月29日消息,据外媒报道,部分初创企业、美国政府机构和学术界都在与所谓的“deepfakes”作斗争,他们担心被篡改的视频和照片会被用来扰乱明年的美国总统选举。

为了解决这个问题,美国学术界、政府机构和一些创企纷纷研究推出自己的图像、视频验证、标记技术,例如有的技术能在你拍摄照片或视频的时候自动添加时间、位置等信息,它们希望通过这些技术能够对抗AI换脸视频、图片带来的威胁。

deepfakes是“AI换脸”技术的名称,起源于2017年,当时Reddit用户“deepfakes”第一次上传其制作的换脸视频。这项技术能够把照片和视频中的人脸替换成任何想要替换的人脸,且效果十分逼真,有些肉眼甚至难以分辨真假。

一、创企各出奇招,反击AI换脸

图像处理技术正在迅速发展并日渐普及、智能手机使得摄像头无处不在、社交媒体也扩大了个人用户的影响力,这些都使得AI换脸的威胁逐渐蔓延且越来越难以解决。

“虽然人工合成的视频仍然很容易被检测到,但这个难度正在不断提升。我预计,12个月之内,我们会看到肉眼无法检测到的deepfakes合成视频,”圣地亚哥图像验证技术初创公司Truepic的首席执行官Jeffrey McGregor说。“社会将开始怀疑他们看到的每一个视频或图像内容。”

美国刮起“反AI换脸”热潮,创企各出奇招,联合对抗deepfakes

▲Truepic能够标记照片的时间、位置等信息。

Truepic正在与高通公司合作,将其技术添加到手机硬件组件中。这项技术将在拍摄照片和视频时自动标记时间和位置等数据,以便日后进行验证。Truepic还提供了一个免费的应用程序,消费者可以用它在智能手机上拍摄经过验证的照片。

英国创企Serelay的创始人兼首席执行官Roy Azoulay表示,他们目标是创建一个类似于Twitter帐户验证的系统,然后将其应用于照片和视频,该公司也正在开发标记真实图片的方法。

“在你拍摄照片或视频时,Serelay可以捕获数据,例如相机与手机信号塔或GPS卫星相对的位置”,该公司表示。它与使用该技术帮助验证损害索赔的保险公司建立了合作关系,但是它拒绝透露这些公司的名称。

二、单一方法难检测AI换脸视频图片

近期,美国国防部正在研究一项名为forensic的图像鉴定技术,该技术可用于检测照片或视频在制作后是否被篡改。其技术原理是寻找图片和视频中的不一致性,作为图像是否被篡改的证据,例如不一致的光照、阴影和相机噪音等。

美国刮起“反AI换脸”热潮,创企各出奇招,联合对抗deepfakes

▲蒙娜丽莎也被换脸。

复杂的deepfakes检测还需要其他的验证方法,例如点捕捉法(point-of-capture)。专家们通过观察面部表情和头部运动的不一致性发现篡改的证据。然后,他们试图使这个过程自动化,这样计算机算法就可以自动检测图片或视频中的不一致。

forensic方法可以应用于几十年前的照片和视频,以及最近用智能手机或数码相机拍摄的照片和视频。相比之下,捕捉点法只适用于使用该技术拍摄的图像。

美国国防部国防高级研究计划署(DARPA)负责媒体取证项目的Matt Turek说,这两种策略都是解决deepfakes问题的必要手段。

“我认为没有一种单一的算法和技术能解决这一问题,可能需要一个整体的方案,”他说。

三、AI换脸或引起军事冲突和市场动荡

加州大学伯克利分校的计算机科学教授Hany Farid表示,随着用于制造AI换脸视频和图像的技术的进步,其正变得越来越难被发现。他在TruEpic公司拥有股权,其媒体取证研究由DARPA资助。

Hany Farid说,制造deepfakes的人一直在不断地适应各种检测技术。他说,有些人将两种不同的计算机系统工作结合起来,其中一种改变了图像,而另一种则试图确定是否可以将其与真实内容区分开来。

deepfakes的危险性很大,Hany Farid说,在极端情况下,一个deepfakes视频或图像可能会引发军事冲突或其他现实生活中的动荡。他援引一个可能的情况称:“一个贝佐斯秘密表示亚马逊利润下降的假视频可能会导致大规模的股票操纵。”

Hany Farid表示,令人担忧的是,社交媒体公司并没有采取更多措施来打击deepfakes,特别是在俄罗斯干预2016年总统大选之后(俄罗斯已否认)。

“这些平台已被武器化,这些都不是假设的威胁,”他说。

众议院情报委员会上个月举行了一次听证会,重点是应对来自deepfakes的威胁。国会议员和专家建议,应该让社交媒体公司对在其平台上传播的内容负责,并在无法验证的视频上贴上警告标签。

美国刮起“反AI换脸”热潮,创企各出奇招,联合对抗deepfakes

▲扎克伯格视频被篡改。

上个月,Facebook首席执行官马克•扎克伯格的一段被篡改过的视频浮出水面,在视频中他对该公司的用户数据隐私提出了质疑。此前,Facebook拒绝删除众议院议长Nancy Pelosi的一段被篡改的视频,在视频中她像是在说醉酒后的话且含糊其辞。

在这些事件发生后,扎克伯格上个月在Aspen Ideas Festival上向观众讲述了Facebook正在考虑制定应对deepfakes的政策。

他说:“deepfakes与传统的假消息不同,就像垃圾邮件不同于传统的假信息,应该区别对待。”

结语:AI换脸,进步与挑战并存

AI换脸技术deepfakes是AI技术的新应用,对于影视剧制作行业来说有很大的益处,引起了如此大的争议主要还是源于AI换脸黑产的不断蔓延。

许多人利用这项技术制作一些涉黄、涉政的视频或图片,例如AI换脸色情片和上文提到的众议院议长的AI换脸视频,这些黑产的存在扰乱了市场的秩序。

技术本身无罪,但是如何使用这项技术却是需要加以限制的,保证技术不滥用、设立合理的法律法规是规范市场、促进技术发展的最有效方法。

文章来源:Wall Street Journal