当前位置:首页 >  互联网 >  让人脸识别算法失灵,以模仿真实压缩图像的压缩效果,武大,这项研究提出了抗压缩对抗框架,成功率最高超90%

让人脸识别算法失灵,以模仿真实压缩图像的压缩效果,武大,这项研究提出了抗压缩对抗框架,成功率最高超90%

发布时间:2020-08-19 16:14编辑:小狐阅读: 167次 手机阅读

上回书说到,现在, 对抗攻击的理念已经被应用到隐私保护领域 :

让人脸识别算法失灵,以模仿真实压缩图像的压缩效果,武大,这项研究提出了抗压缩对抗框架,成功率最高超90%(图1)

让人脸识别算法失灵,以模仿真实压缩图像的压缩效果,武大,这项研究提出了抗压缩对抗框架,成功率最高超90%(图2)

让人脸识别算法失灵,以模仿真实压缩图像的压缩效果,武大,这项研究提出了抗压缩对抗框架,成功率最高超90%(图3)

最近,武汉大学国家网络安全学院就和Adobe公司合作,针对这个问题进行了研究, 并提出了一种 适用于任意压缩方式的抗压缩对抗性图像生成方案

让人脸识别算法失灵,以模仿真实压缩图像的压缩效果,武大,这项研究提出了抗压缩对抗框架,成功率最高超90%(图4)

一般来说,添加了微小扰动的对抗性实例,都会受到图像压缩方法的影响。

论文一作王志波教授就指出:

在压缩算法未知或不可微的情况下,生成抗压缩的对抗性图像具有很大性。

为了解决这样的问题,这项研究提出了抗压缩对抗框架 ComReAdv

让人脸识别算法失灵,以模仿真实压缩图像的压缩效果,武大,这项研究提出了抗压缩对抗框架,成功率最高超90%(图5)

具体而言,方案分为三个步骤。

步骤一:构建训练数据集

步骤二:压缩近似

利用原始图像-压缩图像对构成的数据集进行学习。

研究人员设计了一个基于编码-解码的压缩近似模型,称为 ComModel。该模型被用于学习如何像黑盒压缩算法一样转换图像,以达到近似压缩的目的。

让人脸识别算法失灵,以模仿真实压缩图像的压缩效果,武大,这项研究提出了抗压缩对抗框架,成功率最高超90%(图6)

其中,编码器从原始图像中提取多尺度特征,如内在纹理和空间内容特征。

对应的,解码器对压缩后的对应图像进行由粗到细的重构,以模仿真实压缩图像的压缩效果。

通过最小化重构图像和真实压缩图像之间的平均绝对误差 (MAE)训练后的ComModel可作为社交平台未知压缩算法的可微近似形式。

步骤三:抗压缩对抗性图像生成

构建优化目标,将ComModel融入到对抗性图像的优化过程中,并使用基于动量的迭代方法(MI-FGSM)进行优化,最终使得生成的对抗性图像具有较好的抗压缩能力。

研究人员表示,该方案不需要任何压缩算法的细节,仅根据适量的原图和压缩图的数据集,便能训练得到未知压缩算法的近似形式,并进一步生成相应的抗压缩对抗性图像,因此,该方案能应用于所有社交平台保护用户隐私。

实验结果

让人脸识别算法失灵,以模仿真实压缩图像的压缩效果,武大,这项研究提出了抗压缩对抗框架,成功率最高超90%(图7)

让人脸识别算法失灵,以模仿真实压缩图像的压缩效果,武大,这项研究提出了抗压缩对抗框架,成功率最高超90%(图8)

而真实社交平台的结果也表明,该方法能显著提高对抗性图像的抗压缩能力。

论文一作 王志波,是武汉大学国家网络安全学院教授、博士生导师。

让人脸识别算法失灵,以模仿真实压缩图像的压缩效果,武大,这项研究提出了抗压缩对抗框架,成功率最高超90%(图9)

王志波教授本科毕业于浙江大学信息学院自动化专业,2014年获美国田纳西大学计算机工程博士的学位。

目前的研究方向包括物联网、移动感知与计算、大数据、网络安全与隐私保护、人工智能安全。

对于这项研究,王志波教授表示:

每天5分钟,抓住行业发展机遇

每个工作日,量子位AI内参精选全球科技和研究最新动态,汇总新技术、新产品和新应用,梳理当日最热行业趋势和政策,搜索有价值的论文、教程、研究等。

加入AI社群,与优秀的人交流

վ“ᴗ” ի 追踪AI技术和产品新动态

本文相关词条概念解析:

压缩

压缩的定义是如果您从互联网上下载了许多程序和文件,可能会遇到很多ZIP文件。这种压缩机制是一种很方便的发明,尤其是对网络用户,因为它可以减小文件中的比特和字节总数,使文件能够通过较慢的互联网连接实现更快传输,此外还可以减少文件的磁盘占用空间。在下载了文件后,计算机可使用WinZip或Stuffit这样的程序来展开文件,将其复原到原始大小。如果一切正常,展开的文件与压缩前的原始文件将完全相同。内容压缩很简单,它就是移除多余的空白字符,插入单个的重复字符指出一个字符串中重复的字符,以及将小型的位串用频繁使用的字符替代。这种类型的压缩能够将文本文件的大小减少50%。压缩由使用特定公式和算法的程序来执行,它确定如何压缩和解压数据。

标签: 图像 王志波 量子位 隐身衣 算法
  • 网友评论
相关文章:

互联网本月排行

互联网精选