当前位置:首页 >  热点 >  人脸识别解锁,这个人的图像资料是伪造的

人脸识别解锁,这个人的图像资料是伪造的

发布时间:2020-10-28 22:36编辑:小狐阅读: 816次 手机阅读

人脸识别解锁,这个人的图像资料是伪造的(图1)

全世界有76亿人口,但是在“查无此人”的网站上,你能看到的人脸远不止这个数字。

网站是优步的软件工程师菲利普·王(Philip Wang)所搭建,背后是最近几年炙手可热的生成式对抗网络(GANs)

GANs的神奇之处,在于它同时拥有一对图片伪造者和甄别者,一个负责生成尽可能逼真的图像,另一个负责判别生成的图片与原始真实图像的区别,将结果反馈给图片生成者。在二者的竞争里,图片不断重新生成、判定、修改,直到真假难辨。

脸书的首席AI科学家严·勒存(Yann LeCun)称,GANs是过去20年里深度学习领域最酷的想法,而百度前首席科学家安德鲁·吴(Andrew Ng)说,这是“重大而根本性的进步”学者们说,当未来的技术历史学家回首往事,可能会认为GANs是通往类人工智能之路上的重要一步。

人脸识别解锁,这个人的图像资料是伪造的(图2)

在”查无此人“网站上,每刷新一次,就会有一张新的人脸生成。图源:网站截图

但在科技发展之前,这项技术已经走向了另一个令人担忧的方向。在过去的两年间,不停有媒体曝出,这些图片被附加一系列身份信息,伪装成媒体或者社交平台上的用户,发布信息、影响。

在脸书上搜索阿方索·马西亚斯,能找到不少于500个搜索结果,这些同名的男性遍布西班牙、墨西哥、哥伦比亚、委内瑞拉等西语国家。

但如果仔细看他的头像,专业人士会发现一些端倪—眼镜框并不左右对称,而且在右耳边有一处诡异的扭曲,而他背后的风景则更加模糊,似乎是建筑,但颜色与线条都难以辨认。社交媒体集团Graphika和大西洋理事会数字取证研究实验室为这个用户身份出具报告,他们认为,这个人的图像资料是伪造的。

而与阿方索并肩作战的几十个假账户被用来几十个支持特朗普的脸书群组,名称包括“美国需要特朗普总统”和“我们与特朗普和彭斯站在一起”

人脸识别解锁,这个人的图像资料是伪造的(图3)

阿方索的照片里,眼镜框与背景泄露了他的AI身份。图源:FT

上述主页被发现后,都被脸书封禁,但由假面孔生成的假新闻不会只出现在脸书平台上。深度造假检测平台Sensity的首席执行官乔治·帕特里尼(Giorgio Patrini)表示,GAN生成的面孔也出现在企业界,截至目前,他们发现了一家软件公司使用假面孔假扮用户推荐产品,一家营销公司使用该技术生成其“团队”的照片。

但伯明翰大学并没有他的学籍记录,他只在问答网站Quora上有一个账户,3月时活跃过2天,除此以外没有任何网络痕迹;他留给的英国电话是假的,也从不回复核查者们发给他的。至于他给报社的照片,牙齿上有明显的重影,照片背景也有失真—这是多个图像重合时留下的痕迹。

路透社无从得知这位假记者的真实身份,但假记者的言论却在产生真实的影响—他称一位巴勒斯坦权利运动家“同情”这个指控令后者感到十分不安,随后他向两家报纸提出抗议,只有《以色列时报》删除了文章。

而在得知这位的假身份时,《以色列时报》的也对未来产生了担忧,不只因为它们可能会扭曲公共话语,更是因为这可能会使们在不知名的身上抱有更大的疑虑,从而使新的、新的言论被发表的可能性降低,“我并不想,但或许不得不,阻止某些声音被人们听见。”

人脸识别解锁,这个人的图像资料是伪造的(图4)

奥利弗·泰勒的头像里,两侧的牙齿和背景都有明显的模糊。图源:路透社

在过去的一年里,图像伪造技术已经拓展向,大西洋理事会数字取证研究实验室的研究者利兹图(Rizzuto)指出,去年三星公司进行的深度伪造研究将蒙娜丽莎变成了一个逼真的会说话的头。他说,这项技术有朝一日可以应用于创造更逼真的假档案,创造出各种角度和表情的照片。

去年,当人工智能创造的假脸和假人开始在社交网络上遍地开花时,事实核查组织已经开始介入。事实核查组织Snopes和Lead Stories持续地报道类似的问题,Snopes还发布一篇报道,批评脸书的不作为。

对抗的第一步是发现。在这些假脸里往往存在类似的问题,大西洋理事会数字取证研究实验室的研究者利兹图(Rizzuto)说,尽管GANs技术取得了显著的进展,但仍有一些蛛丝马迹—例如,受试者的头部可能是倾斜的,而鼻子和牙齿仍然是直的,该算法在纳入背景物体和其他人时也会很吃力,有时会无意中创造出扭曲或模糊的眼镜。还有专家指出,GANs生成的人脸里,眼睛都会出现在图像内的同一个地方—无论“人”面向哪个方向。

而达特茅斯学院研究数字取证学的汉尼·法里德(Hany Farid)正在研究更好的方法来发现假,比如检测吸气和呼气引起的脸部颜色的轻微变化,而GANs很难精确模仿。

但未来似乎并不乐观,利兹图说,AI潜在的欺骗能力已经超过了要识破它所需的工作量,而法里德的担忧则更为长远—GANs的技术本身,就包含着发现自己的弱点、进行提升的功能,这意味着人类的识别工作或许不过是在帮助GANs完成它自己的工作,“我们从根本上来说处于弱势地位,”法里德说。

本文相关词条概念解析:

伪造

伪造,假造的意思。

标签:
  • 网友评论
相关文章:

热点本月排行

热点精选