牛津大学开发新数学模型用于保护隐私

摘要：越来越多的人工智能工具被用来跟踪和监控我们的日常生活，它们的有效性也伴随着巨大的风险。 近日，牛津大学（University of Oxford）的计算机科学家领导了一项研究，他们开发出一种新的数学模型，可以帮助人们更好地理解人工智能带来的风险，并协助监管机构

越来越多的人工智能工具被用来跟踪和监控我们的日常生活，它们的有效性也伴随着巨大的风险。 近日，牛津大学（University of Oxford）的计算机科学家领导了一项研究，他们开发出一种新的数学模型，可以帮助人们更好地理解人工智能带来的风险，并协助监管机构保护人们的隐私。这项研究结果已经发表在《自然通讯》（Nature Communications）上。

这个全新的数学模型，首次为评估识别技术提供了一个强大的科学框架，尤其是在处理大规模数据时。例如，可以用于监测广告代码和隐形跟踪器，在从时区或浏览器设置等小信息识别在线用户方面的准确性。

这项研究的主要作者——牛津大学牛津互联网研究所（Oxford Internet Institute）高级研究员Luc Rocher表示，这是帮助评估数据发布中重新识别风险的新方法，同时也是评估关键、高风险环境中现代识别技术的新方法。在医院、人道主义援助交付或边境管制等地方，风险高得令人难以置信，准确可靠的身份识别是最重要的。

全新的数学模型借鉴了贝叶斯统计领域的知识，可以了解小范围内个人的可识别性，并推断出更大范围内的识别准确性。其准确性比以往的启发式方法和经验法则高出10倍。这使得该方法在评估不同数据识别技术，尤其是不同应用和行为环境中的大规模表现方面，具有独特的能力。这也有助于解释，为什么一些人工智能识别技术在小型案例研究测试中表现非常准确，但在真实世界条件下却识别错误。

鉴于基于人工智能的识别技术迅速崛起，给匿名和隐私带来了挑战，这些研究结果非常及时。例如，目前正在试用人工智能工具，以便在网上银行业务中通过声音自动识别人的身份，在提供人道主义援助时通过眼睛自动识别人的身份，在执法过程中通过脸部自动识别人的身份。

研究人员认为，新方法可以帮助组织在使用人工智能技术，与保护人们个人信息的需求之间取得更好的平衡，使日常技术互动更加安全可靠。论文共同作者 Yves-Alexandre de Montjoye副教授（伦敦帝国学院数据科学研究所）表示，新扩展法则首次提供了一个原则性数学模型，用于评估识别技术在大规模应用时的表现。