您当前的位置:中国IT时代网>资讯>正文

窥探神秘的Deepfake军备竞赛

发布日期:2019-10-09 作者:责任编辑NO。许安怡0216

新智元报导

来历:thedailybeast

修改:鹏飞

【新智元导读】本文梳理了deepfake的来龙去脉,以及发展趋势,并给出了防护Deepfake假视频可行的办法。>>>人工智能改动我国,咱们还要跨过这三座大山 | 献礼 70 周年

上一年下半年,西非加蓬总统阿里·邦戈(Ali Bongo)被报导中风,音讯一出,Ali几个月没出面。

可是本年元旦网上忽然呈现一个官方的视频,人们惊奇的发现视频中Ali向加蓬公民说话,尽管看起来有点目光有点迷幻。

竞争对手站出来,声称该视频运用“deepfake”假造的,因而他们断语Ali肯定是死了,或许丧失了举动才能。所以在1月7日,戎行领导人发动了一次政变。

政变失利了,由于Ali还没死。而这段视频也并非假造的,仅仅一段荒诞的录像,记载了一个身体不适的人,尽力使他自己体现的比实践他更健康罢了。

可是政变策划者最少说对了一件事:deepfake彻底有或许假造令人信服的国际领导者或其他人的视频。

Deepfake是交际媒体的一项适当新的功用,现已在全国范围内加重了暴力和不稳定,专家以为,问题只会越来越糟糕。

最早的Deepfake呈现在2017年末的Reddit上。一个匿名用户称自己为“deepfakes”(人工智慧“深度学习”和“虚伪”的描写),将名人的面孔加在色情内容上。

Reddit终究制止了deepfakes,可是这只猫现已锋芒毕露。斯坦福大学的研究人员Tom Van de Weghe在5月的一篇文章中写道:“一波仿照者在其他平台上替代了他。”

Deepfake视频,静止图画或音频记载是称为“生成对立网络”或GAN的奇妙编码的产品。

在Facebook的查找栏中输入“ deepfake”,你能够观看汤姆·克鲁斯(Tom Cruise)主演的漫威超级英豪电影,或许巴拉克·奥巴马(Barack Obama)出演漫威超级英豪电影。

不难想象,政党、情报机构,急进安排和在线巨魔会布置deepfakes来抹黑、栽赃或使对手感到为难。这种危险使得计算机科学家现已在力争上游地规划出深层的对策。乔治亚理工大学计算机科学副教授马克·里德尔(Mark Riedl)对《The Daily Beast》说:“这简直便是军备竞赛。”

也便是说,布置GAN简单但做起来难。底层代码并不难找到,但不只需求代码。关于初学者来说,需求很多牢靠的媒体作为生成器的中心。

要假造或人的相片或视频,需求很多明晰的人脸图画。要假造该人的声响,需求很多明晰记载他们的实在说话。

Van de Weghe指出,交际媒体能够更轻松地找到杰出的内容作为起点。可是搜集一切原资料依然需求时刻和精力。

佐治亚理工学院计算机科学家Polo Chau对《The Daily Beast》说:“一个歹意实体或许需求不止一个图画、音频或视频来有效地大规模地影响言论。”

单一的造假视频不会形成多大的声浪,只要当你制作了一堆不错的造假视频,它们都以相同的办法针对同一个人,并且假定你的视频没有被人识破,才会发生足够大的作用。

当然,GAN一向都在前进。可是现在来说辨认假货比造假要更简单一些。Riedl解说说,当今的GAN擅长于人脸。可是它们在杂乱,移动的资料周围变得不可信。在Deepfake视频中仔细观察目标的头发,你应该能够发现显着的失真。

能够主动进行这项检查。交际媒体公司和用户能够布置区别器,以挑选网络上的媒体,寻觅GAN出产的冒充产品的像素化和其他数字指纹。

谷歌在9月份发布了3000个旧的deepfake著作,一切这些都是为了加强辨认新假货的尽力。

别的,还有一些不只仅依托代码来应对Deepfake的办法。Chau解说说,Deepfake的供货商需求交际媒体账户和不道德的媒体来协助传达歹意内容。

Riedl说,这会导致骗子露出于交际媒体剖析中。“你能够对其进行剖析,找出这些事物的来历,检查此人周围的网络,并承认这些事物是人为的实体仍是与已知集体相关联。”

“你能够对此进行反编程,” Reidl弥补说。办法或许包含阻挠或陈述正在推进深deepfake的账户。“这是不直接与技能打交道的十分有出路的办法。”

专家说,归根到底,抵挡GAN及其制作的deepfake品的最佳防护办法是受过杰出教育和持置疑态度的大众,能够在知情的情况下检查媒体,并考虑其来历,支持者和反对者以及兵器化的潜力。

奥巴马闲聊着一些Marvel的反派人物?关于巴望将前总统描绘为愚笨的边际媒体而言,这无疑是有用的,因而很或许是假的。聪明的交际媒体用户应该知道这一点。

置疑是要害。可是在一个多党派的媒体环境中,每个人都在为承认自己现有的成见而尽力,置疑主义或许会求过于供。

这不只使GAN变得愈加虚伪,并且使一些专家感到忧虑。里德尔说:“deepfake冒充如此要挟的原因并不是技能如此超卓,而是人们想被捉弄。”

参阅链接:

https:///inside-the-deepfake-arms-race?ref=scroll

“如果发现本网站发布的资讯影响到您的版权,可以联系本站!同时欢迎来本站投稿!