面对网络隐私、数据的安全性问题，加拿大多伦多大学研究团队近日成功创建了一种破坏脸部识别系统的算法，即一项“抗人脸识别”的 AI。
负责该计划的多伦多大学教授Parham Aarabi 表示：“当脸部识别技术越精准时，个人隐私也成了大问题。其中一个能有效打击脸部识别方式，就是反脸部识别算法。”该算法的特征在于使用了对抗训练(Adversarial training)，是一种深度学习技术，让两个人工智能互相对抗。
团队设计了两个神经网络，第一个用于“识别人脸”，第二个则是专门“唱反调”破坏前者的脸部识别任务。这两个网络不断地互相争斗、相互学习，创建了一场持续不断的人工智能军备竞赛。结果是，唱反调AI 能够知道敌手脸部识别AI，在找寻什么关键部位，并适时动些人眼看不出来的小手脚 ，例如改变眼角，使其不太明显，但却能够完全欺骗敌手，让它无法识别。
团队于脸部数据库 300-W(拥有 600 张包含多种族、照明条件、环境的脸部数据)，测试了该系统。他们表示， 新算法可以将脸部识别准确度 100%，降到只剩 0.5%。该算法可以应用在，类似 Instagram 过滤器的工具上。未来团队将希望通过 App 或网站公开提供隐私过滤器。