人脸识别软件日新月异，机器学习和人工智能的进步更是让其性能呈指数级增长。人工智能技术的最新进展使得系统能够完全从零开始生成逼真的人脸图像。这些系统利用包含数百万张真实人物图像的数据集，经过一段时间的“学习”，最终能够自主生成原创图像。在一年一度的美国黑帽大会上，这项新技术接受了考验。
2020 年 8 月，Black Hat USA 举办了一场线上活动，汇聚了众多网络安全和技术专家。McAfee 的研究人员展示了他们如何利用人工智能技术成功欺骗人脸识别系统，使其将一个人错误地识别为另一个人。例如，研究人员演示了在机场，一名被列入禁飞名单的人如何欺骗用于护照验证的人脸识别系统，使其将其识别为另一个人（文章末尾附有视频）。活动结束后，McAfee 高级威胁研究主管 Steve Povolny 表示：
“这里的基本目标是确定我们是否可以使用机器学习模型创建一个假图像，该图像在人眼看来像一个人，但同时在面部识别系统看来却被归类为另一个人”
迈克菲的研究人员构建了一个机器学习系统，并向其输入了 1,500 张来自两个不同个体的照片。这些照片是从实时视频中捕捉的，并试图准确地还原两人的有效护照照片。该系统通过融合两个人的面部特征，不断创建并测试这两个人的假照片。经过数百次训练循环，机器学习系统最终生成了能够骗过面部识别系统的图像。其中一人的有效护照照片被错误地识别为另一个目标个体的照片。
首席研究员波沃尔尼 (Povolny) 提到，虽然护照验证系统攻击并非本研究的重点，但这种攻击场景是可以实现的。由于现在数字护照照片已被广泛接受，攻击者可以伪造同伙的照片，提交护照申请，并将该照片保存在护照数据库中。例如，如果攻击者随后在机场的自动护照验证亭拍摄了一张攻击者的现场照片，该照片就会被识别为同伙的照片。
这根本不需要攻击者拥有任何访问护照系统的权限；只需护照系统数据库中包含同伙申请护照时提交的照片即可。护照系统只需判断两张脸是否匹配即可。它所做的就是验证一个人的照片是否与后端保存的照片相符。因此，这种攻击完全可行，尽管需要一些努力才能实现。邮寄、扫描并上传到该数据库的实体护照照片不太可能用于攻击。
– Steve Povolny，McAfee 首席研究员
这项关于人脸识别的研究采用了名为 CycleGAN 的“生成对抗网络”（GAN）工具。GAN 是一种人工智能神经网络，能够生成与输入数据相似的数据。例如，GAN 可以使用一组真实的人脸图像，自主生成完全虚假但看起来非常逼真的人脸图像。GAN 使用生成网络来创建合成数据，并使用判别网络来持续评估生成内容的质量，直到其达到可接受的质量。
根据 McAfee 的说法， CycleGAN 本身是一种用于图像到图像转换的生成对抗网络 (GAN)：例如，将斑马的图像转换为马的图像。该 GAN 的一个特点是它利用图像的重要特征进行转换，例如眼睛位置、头部形状、身体大小和其他属性。
面部识别技术的使用日益广泛，在执法机构识别照片或视频中的嫌疑人方面发挥着重要作用。迈克菲希望开展这项研究，以了解面部识别软件的潜在影响以及它可能如何被用来对付我们。
面部识别技术难以监管。许多人担心该软件可能带来的隐私问题。这项工具的使用方式令人难以置信：从互联网上传照片，并将其与面部识别技术相结合，从而创建强大的身份识别工具。Clearview AI开发了一款应用程序，允许用户（通常是执法部门）在其应用程序中上传和分析个人照片。只需几分钟，请求者即可查看数据库中同一人的所有公开照片（搜索超过 3 亿张图片）。这些新照片会显示在其网络来源（社交媒体）的链接旁边。
尽管您可以采取的行动不多，但您可以联系像 Clearview AI 这样的公司，通过他们的隐私页面链接要求删除您的数据。您也可以写信给您的国会议员，要求美国参议院通过一项全面的隐私改革法案，以保护所有美国公民的隐私，而不是让各州各自制定不同的隐私法规。科技发展日新月异，现有的法律法规已经无法有效监管。我们需要一种全面的隐私保护方法。阅读本文及其他类似文章，了解最新信息，删除您不希望存储的数据，并积极争取隐私权，这些都是我们保护自身隐私的必要措施。
此外，Povolny 还指出，致力于开发面部识别技术的人工智能组织可以采取一些行动，以降低成为攻击受害者的可能性：
异常测试、对抗性输入以及更多样化的训练数据是供应商改进面部识别系统的方法之一。此外，利用第二个系统（无论是人工的还是机器的）进行纵深防御，可以比单点故障提供更高的攻击门槛。
企业和个人都能从面部识别技术中受益，因为它能提高身份验证的安全性。面部识别软件广泛应用于移动设备，以保护设备以及设备内置应用程序的安全。安全专家认为，面部识别技术比大多数用户使用不当的密码要好，因此也是一种身份验证和身份验证的改进。然而，需要注意的是，黑客和安全研究人员都在想方设法伪造面部识别工具，以获取面部识别工具所保护的账户、设备和应用程序的访问权限。
通过更多地了解面部识别认证的优势和挑战以及它的一些执法用途，您可以变得更加安全。
来源
其他读物
发现并分享最新的网络安全趋势、技巧和最佳实践——以及需要注意的新威胁。
