微软的面部识别可以更好地识别肤色较暗的人

据公司博客文章称，微软表示其面部识别工具在识别肤色较暗的人群方面正在变得越来越好。皮肤较深的男性和女性的错误率降低了20倍，所有女性的错误率降低了9倍。

该公司表示，它正在通过更大，更多样化的数据集来培训其AI工具，这已经取得了进展。“如果我们正在培训机器学习系统，以模仿在偏见社会中做出的决策，使用该社会产生的数据，那么这些系统必然会重现其偏见，”微软高级研究员Hanna Wallach在博客文章中说。

今年2月，麻省理工学院媒体实验室的一份报告测试了微软，IBM和中国Megvii的面部识别系统，发现高达35%的肤色较深的女性的性别被系统误认。该报告仅证实了许多人多年来一直怀疑的情况 - 面部识别系统可能受到有限数据集和其他因素(如系统性种族主义)的偏见。早在2015年，谷歌就在一张照片中将软件工程师的黑人朋友称为“大猩猩”，并不得不为此错误道歉。

尽管如此，虽然微软今天的公告显示其面部识别系统中的种族偏见有所减少，但如果执法部门开始使用改进的面部识别工具，那么目前还不清楚这对于有色人种会如何发挥作用以及这是否会加剧已经存在问题的做法。微软与美国移民和海关执法局(ICE)合作，其面部识别工具作为资源提供给政府机构。微软首席执行官萨蒂亚·纳德拉上周在一份备忘录中澄清说“微软并没有与美国政府就任何与边境家庭分离儿童有关的项目进行合作”，但他没有说明面部识别如何在使ICE受益方面发挥作用。工作。