面部识别技术和多样性的斗争

作为一名大规模研究的分析师，我花了很多时间从事教育和早期职业生涯。事实上，我进入IBM执行资源计划的方式是通过我所在部门开展的最大的研究项目之一。

那些试图解决多样性和包容性问题的人反复出现的问题是，在缺乏理解的情况下，他们会关注症状。就像服用减充血剂治疗感冒一样，它可能会暂时缓解症状，但这种方法在解决问题方面并不成功。

在上周的戴尔科技世界，我参加了由首席多元化官Brian Reaves主持的多元化和包容性会议。它侧重于面部识别技术的问题，这种技术与白人一起运作良好，但对其他任何一组都不太好。

发言人是Joy Buolamwini，她称自己为“守则诗人”。如果她的演讲是TED演讲(并且毫不奇怪 - 她已经完成了TED演讲)，它将成为我见过的最好的演讲之一。如果您曾经见过TED演讲，您会发现这意味着演示和留言的质量非常高。

我会分享我对这个重要会议的回应，并结束我本周的产品。

大师会议

每个戴尔技术世界都包含涵盖广泛兴趣主题的会议。你真的应该参加这些会议。虽然并非所有人都很出色，但他们通常会提供有关市场中发展的关键问题的见解，并且您可能无法获得任何其他活动的广度。见鬼，无论如何你在那里 - 你可能会学到一些东西。它们往往比大多数产品推销更有趣和相关。

过去的演讲似乎表明戴尔应该进入新兴市场，比如机器人技术和通用人工智能(去年)，但戴尔似乎并没有认真对待这些话题。今年我发现令人着迷的是Brian Reaves就在那里参加活动，他显然已经计划好了。事实上，他似乎已经采纳了Joy的建议。

算法偏差

乔伊雄辩地指出了我们大多数技术人员都知道或应该知道的事情，即白人男性工程师的同质文化对任何其他群体都毫无头绪。她的重点是面部识别，世界各国政府越来越多地使用这种技术来识别人。Joy表示，目前美国面部识别项目有1.3亿人。他们中的许多人不仅不知道，而且还被误认。

对于有色女性来说，这尤其繁重，她们往往被误认为是男性 - 甚至是动物或其他东西。例如，有些人被认定为男性的假发或胡须。这些程序用于决定服务，是否允许个人访问，以及他们是否是罪犯。

潜在的问题不是核心技术方面的AI工具失败。虽然这些错误识别有时可能是低质量相机产生的，但它们很大程度上是由于可怕的数据集造成的。通常情况下，数据集来自科技公司，主要由白人男性或媒体提供，在数量方面似乎有利于白人男性的照片。

这不仅仅是系统准确性的问题 - 它实际上是大规模滥用。我的意思是，如果一些脑死亡的人工智能认定你是一只大猩猩，会有多么令人反感?用于确定某些地区的刑事判决，这些程序经常将有色人种作为屡犯者，错误地为他们提出更高的判决。

这些程序可用于通过分析面部表情来清除可能不良的就业候选人(一种产品被称为“Hirevue”) - 尽管已经证明他们甚至无法可靠地识别性别，或候选人是否均匀人类。

IBM，微软，亚马逊

作为她努力的一部分，Joy最初研究了面向微软，IBM和Face ++的面部识别程序，这是一家我以前从未听说过的中国公司。这些程序对于白人来说几乎是完美的，但是当你遇到有色人种，特别是有色女人时，他们的准确性往往比掷硬币要好一些。在公司意识到这些问题之后，他们开始修理它们，而且目前他们的程序对于有色人种来说更加准确 - 尽管远非完美。

Joy然后看着亚马逊和Kairos，发现他们和其他人一样糟糕，从同龄人那里学到了什么。考虑到它的使用范围有多广，令人恐惧的是，亚马逊是迄今为止最糟糕的。

然而，这表明，通过专注，想要解决问题和强有力的执行，您可以在很大程度上减少问题，并且继续使用它最终会使错误识别的数量变得微不足道。

解决问题

Joy认为，为了解决这个问题，有必要增加用于训练AI的数据集的多样性，以便它们能够更好地匹配他们要测量的人群。今天，这些数据集只有17%的女性，只有4%的女性有色。(令人着迷 - 令人尴尬的是 - Joy发现她必须戴上白色面具才能将这些系统视为人类。)

她建议的过程应该是无休止的，首先要强调偏见，这样才能解决问题。然后确定偏差的原因，因此资源可以集中在问题上。然后执行以减轻偏差。

我自己的研究培训表明，你永远不能消除偏见，因为偏见是人们固有的，但你可以努力将其降至最低，以使其影响随着时间的推移而降低。

乔伊提出了三个包容性要求：

敢于提出令人不安的交叉问题。如果看起来不对劲，那就努力调查问题。不要避免它，因为它会让人不舒服。改变是不舒服的，但是你可以取得进步的唯一方法就是改变。

敢于倾听沉默的声音。通常情况下，处于不利地位的人被认为是无关紧要的，但如果你不听，就不会看到或理解需要解决的关键问题 - 更不用说能够为他们提供资源。

敢于梦想。我认为乔伊显然是这样生活的。在共同分享的情况下，一个更美好世界的梦想可以带来一个更美好的世界。如果你只是接受现状，那么你几乎没有机会实现可能的目标。

乔伊赞扬了上周发起一些反抗的谷歌员工，抗议他们对同行的报复 - 其中许多人因为走出去抗议谷歌的一些不良行为而被降职或被解雇。我同意这些人是英雄，如果我们想要推动所需的改变，这种事情往往是必要的。

Joy建议使用分析工具的人认识到缓解是一个过程，并且当您向分析工具添加元素时，总是质疑假设，数据的准确性和使用的模型。永远不要假设

她还称赞英国已大规模实施面部识别，因为它公开宣称它很糟糕。它需要透明度来确定问题的目标资源;掩盖它们显然不起作用。

标签： 面部识别技术