McAfee利用AI绕过绕过图像识别验证技术,面部识别也存在安全漏洞

图像识别已成为一种常见的技术。数以百万计的人可以一目了然地解锁自己的个人设备,社交网络会在照片被标记之前识别出用户,因此每天都可以找到它。但是图像识别的许多用途远远超出了这些情况。各个执法部门和网络安全企业越来越多地使用此工具,以帮助调查,加强安全措施,并根据COVID-19消除关闭的需要人际交往。


McAfee利用AI绕过绕过图像识别验证技术,面部识别也存在安全漏洞_人工智能_AI+


图像识别技术虽然在安全性和身份验证方面具有多种优势,但它是一个高度两极分化的问题(最近因种族偏见而受到攻击),并且带来了严重的隐私问题。面部识别的几个主要参与者已经暂停或取消了他们的执法计划,以响应该技术反复展示的种族特征和偏见。


这些不是面部识别的唯一问题。该技术仍然需要完善,需要进一步开发以消除(或大大减少)安全漏洞。尽管在机场和其他安全检查站中使用面部识别和相关技术可以减少大流行期间的身体接触并减少感染,但同时也可能增加新目标的攻击面。


迈克菲的高级威胁研究(ATR)团队反映了面部识别技术的发展及其所做出的关键决策。是否可以操纵技术底层系统中的缺陷以绕过目标系统?我们考虑了这个问题,想知道面部识别系统(特别是模拟护照扫描仪以进行身份验证的系统)是否比人类更容易受到错误影响。


迈克菲ATR小组着手研究是否可以将精心制作的护照风格的“对抗形象”错误地归类为目标个人。为了运行测试,我们实施了一个物理系统,类似于用于在机场验证护照身份的系统。使用机器学习,我们创建了一张图像,人眼看起来像一个人,但通过我们系统的面部识别算法将其识别为其他人。这使我们可以诱骗系统错误地验证错误的个人。


如果我们的测试是真实的场景,那么护照扫描程序将识别出系统攻击者-禁飞名单上的个人-是没有飞行限制的另一个人。攻击者本来可以成功地通过安全保护和护照识别,而后被允许登机,这显然是不可接受的结果。


如果人类历来执行的关键任务(例如身份认证)将继续移交给不断发展的技术,我们必须确保有一个框架来确定在不利条件下的弹性和性能可接受的范围。


我们研究的目的不是要贬低面部识别技术。没有研究,就没有进步。我们的目标是表明,如果不检查这些技术的固有安全漏洞,那么依靠自动化系统和机器学习(例如面部识别)可以为恶意的网络参与者提供绕过护照识别和其他关键系统的机会。


安全专家必须与关键系统的供应商和实施者紧密合作,利用数据科学和安全研究来弥补可能削弱这些系统的任何差距,这一点很重要。我们期望社区寻求一种可以在存在上述对抗性示例的情况下衡量机器学习系统可靠性的标准。面部识别是一项不断发展的技术,需要多种方式来完善,我们必须确保安全性是其中之一。


随着数码相机和智能手机的出现,大多数人喜欢在任何场合聚会时集体照。要获得完美的集体照可能会非常具有挑战性,因为集体中的某人可能会眨眼,瞥了一眼相机,或者在按下快门按钮时可能会有奇怪的表情。


50
48
0
96

相关资讯

  1. 1、丰田皇冠将在2022年转向SUV或命名为“CrownCross”1552
  2. 2、吉利公布10月汽车销售数据:14万销量同比增长8%944
  3. 3、行车记录仪安装不规范交警:扣六分罚款200为你好!1687
  4. 4、沈义人发文吐槽奔驰服务太差小米高管臧智渊也有共鸣3471
  5. 5、创中外造车新势力记录!理想六个半月完成万辆交付1348
  6. 6、售价1500元!三星M31正式上市内置6000mAh大电池2679
  7. 7、QCYHT01真无线耳机上架具备主动降噪整体小巧便携438
  8. 8、英伟达免费提供基因组测序工具助力全球抗击疫情1257
  9. 9、星途TXL新车上市全场景超五星SUV售价13.99万元起4797
  10. 10、广汽讴歌RDXA-Spec运动款上市38.6万元起外观帅气128
全部评论(0)
我也有话说
0
收藏
点赞
顶部