Google发布数据集以帮助击败Deepfake视频

 
Google今天宣布发布与视觉巨人内部技术孵化器Jigsaw合作生产的大量视觉深层假货。它已被合并到慕尼黑工业大学和那不勒斯的费德里科II大学的新FaceForensics基准测试中(由Google共同赞助)，研究人员可以免费使用该基准测试，以开发合成视频检测技术。
此次发布是紧随语音语料库之后的，该语料库包含Mountain View公司的文字转语音模型所讲的短语，这是AVspoof 2019竞赛的一部分，旨在开发可区分真实语音和计算机生成语音的系统。 Google表示，迄今为止，已有150多家研究和行业组织下载了该文件。
Google Research科学家Nick Dufour和Jigsaw技术研究经理Andrew Gully在文章中写道：“自[deepfakes]于2017年底首次出现以来，出现了许多开源的Deepfake生成方法，导致合成媒体剪辑的数量不断增加。”博客文章。 “尽管许多人可能打算幽默，但其他人可能对个人和社会有害。”
根据Google的说法，要整理数据集，需要与付费演员和同意演员一起录制“数百”部视频。然后，公司及其合作伙伴(包括FaceForensics背后的团队)从视频中制作了成千上万的伪造品，从而收集了真实和伪造的样本。
Google表示，随着Deepfake技术的不断发展，它将添加到语料库中，并将继续与该领域的合作伙伴合作。 Dufour和Gully补充说：“我们坚决支持为蓬勃发展的研究社区提供支持，以减轻因滥用合成媒体而造成的潜在危害，而今天在FaceForensics基准测试中发布我们的deepfake数据集是朝这个方向迈出的重要一步。”
可用于产生误导性媒体的AI系统最近受到了越来越多的审查。九月份，国会议员致信国家情报局局长丹·科茨(Dan Coats)，要求情报机构提供一份关于深造假的潜在影响的报告，深造假对民主和国家安全可能产生深远影响。国会议员与Facebook首席运营官谢丽尔·桑德伯格(Sheryl Sandberg)和Twitter首席执行官杰克·多尔西(Jack Dorsey)讲话时，在2018年末的国会听证会上也表达了对操纵性深造视频的潜在影响的担忧。
有很多原因值得关注。中国产生假货的应用程式ZAO于今年早些时候风靡一时，与此同时，也有报道称，这可能是首次使用合成声音来模仿大公司的首席执行官。
幸运的是，与Deepfake的斗争似乎正在加剧。去年夏天，DARPA的Media Forensics计划的成员测试了一种原型系统，该系统可以通过查找不自然的闪烁等提示来自动检测AI生成的视频。像Truepic这样的初创公司在7月筹集了800万美元的资金，它们正在尝试使用Deepfakes的“检测即服务”业务模型。本月早些时候，Facebook与AI，微软和学者合作伙伴共同发起了Deepfake检测挑战赛，该挑战赛将提供高达1000万美元的赠款和奖励，以刺激Deepfake检测系统的开发。