Fawkes给你的自拍照穿上隐身衣 让人脸识别系统彻底失灵

似水流年

Fawkes给你的自拍照穿上隐身衣 让人脸识别系统彻底失灵

8月11日消息，近日，芝加哥大学的研究者在第29届USENIX安全研讨会发布了一个新的图像混淆技术，可以对人们发布的照片进行像素级的更改（肉眼无法察觉的图像伪装），实验证明，无论如何训练人脸识别深度学习模型，Fawkes都能提供95％以上的保护成功率（人像不被正确识别）。通过团队最新研发的软件Fawkes可令脸部识别算法故障，经实验取得100%成功率。



此前，新加坡国立大学（NUS）开发的对抗人工智能人脸识别的照片“加扰”技术，可以保护人们的数字隐私不受机器大规模人脸识别和采集技术的侵犯（例如社交媒体、电商巨头、有组织犯罪集团等等）

Fawkes的研究团队宣称，即使面对最先进的人脸识别模型，Fawkes依然能保持极高的成功率，同时对于尝试检测或破坏图像伪装的各种对策具有强大的抵抗力。



Fawkes是由芝加哥大学Sand Lab团队研发的软件，能够误导包括旷视、Microsoft、Amazon等公司以及任何的脸部识别算法。研究人员介绍，Fawkes对脸部图片进行像素级、肉眼几乎无法发现的细微变更。任何扫描这些照片的算法都会将这些“高度失真”的图片视为完全不同的人。



而且不管定位器如何训练模型，图片伪装都可为用户识别提供95%以上保护。Fawkes处理一张照片也只需几分钟，经过Fawkes快速处理的图片，可在不改变原貌的基础上，随意分享至各大社群媒体，不必担心照片被随意取得或用于非法途径。

该软件的工作方式有点复杂。通过Fawkes运行照片不会使您完全看不到面部识别。取而代之的是，该软件对您的照片进行了细微的更改，以便以后扫描这些图像的任何算法都将您视为完全不同的人。本质上，在照片上运行Fawkes就像在自拍照中添加不可见的蒙版一样。



科学家称此过程为“伪装”，其目的是破坏面部识别系统所需功能的资源：从社交媒体刮取的面部数据库。例如，面部识别公司Clearview AI声称已经从Facebook，YouTube和Venmo等网站收集了约30亿张面部图像，用于识别陌生人。但是，研究人员说，如果您在线共享的照片是通过福克斯拍摄的，那么算法知道的面孔实际上并不是您自己的。

根据来自芝加哥大学的团队的调查，与中国科技巨头Megvii的Microsoft(Azure Face)，Amazon(Rekognition)和Face ++的最先进的面部识别服务相比，Fawkes取得了100%的成功。



使用此AI隐私工具隐藏您的照片，以欺骗面部识别



“我们都是用像木马本质的隐形照片，腐败未经授权的模式来学习做错了什么让事情，你看起来像你，而不是别人，”奔着，在大学的计算机科学教授芝加哥的一位曾帮助创建Fawkes软件的作者告诉The Verge。“一旦腐败发生，无论您身在何处或被人看见，您都将得到持续的保护。”

这项工作的小组成员Shawn Shan，Emily Wenger，张佳云，李慧英，郑海涛和Ben Y. Zhao今年年初发表了一篇关于该算法的论文。但是上个月末，他们还发布了Fawkes，它是供Windows和Mac使用的免费软件，任何人都可以下载和使用。迄今为止，他们说它已被下载超过100,000次。



在我们自己的测试中，我们发现Fawkes的设计稀疏但易于应用。处理每张图像需要花费几分钟，并且所做的更改几乎是无法察觉的。本周早些时候，《纽约时报》在福克斯上发表了一篇报道，其中指出，这种隐蔽效果非常明显，通常会对图像进行性别更改，例如给女性留胡须。但是Fawkes小组表示，更新后的算法更加微妙，The Verge自己的测试也对此表示赞同



使用此AI隐私工具隐藏您的照片，以欺骗面部识别



但是福克斯是保护隐私的万灵药吗?值得怀疑。首先，存在采用的问题。如果您阅读此文章并决定使用Fawkes伪装以后上传到社交媒体的任何照片，那么您肯定会是少数。面部识别令人担忧，因为这是全社会的趋势，因此解决方案也必须是全社会的。如果只有精通技术的人屏蔽他们的自拍照，那只会造成不平等和歧视。



其次，许多出售面部识别算法的公司很久以前就创建了他们的面部数据库，因此您无法追溯获取这些信息。Clearview的首席执行官Hoan Ton-That对《纽约时报》也是如此。Ton-That说：“互联网上有数十亿张未经修改的照片，它们都使用不同的域名。”“实际上，完善Fawkes之类的技术并大规模部署它几乎为时已晚。”



但是，自然而然，福克斯背后的团队不同意这种评估。他们指出，尽管像Clearview这样的公司声称拥有数十亿张照片，但是当您认为它们应该识别数亿用户时，这并没有多大意义。“对于许多人来说，Clearview的机会只有很少的公开照片，”赵说。他说，如果人们将来发布更多隐藏的照片，那么隐藏的图像的数量迟早会超过未隐藏的图像。



目前Fawkes软件升级到V0.3版。V0.3更新目标选择算法。技术论文已经在网上开放，也将会在8月12至14日举行的USENIX安全研讨会正式发布。



研究团队表示，希望Fawkes能够广泛被公众使用，降低个人资料泄露的风险。因此Fawkes完全开源，并且支持Windows和Macs系统，任何人都可以下载使用。

郑先生

    

郑先生

      

wy1104969359

tomtang