15万人联名抗议！亚马逊人脸识别误判28名国会议员为罪犯

新智元报道 

来源：CNET、businessinsider、aclu.org、AWS

编辑：肖琴，李静怡

【新智元导读】 亚马逊人脸识别再次陷入舆论漩涡。该产品此前就遭到亚马逊用户、民间组织、股东甚至亚马逊员工在内超过15万人联名抗议。最近，在美国公民自由联盟（ACLU）的一次测试中，它将535名美国国会议员中的28人误判为罪犯！不过，亚马逊今天回应，这只是ACLU设置有误，菜炒糊了别怪锅。

亚马逊人脸识别产品Rekognition又闯祸了。

美国公民自由联盟（ACLU）使用亚马逊的这款人脸识别软件进行了一项实验，发现软件错误地将28名国会议员判定为此前被捕的罪犯！

尴尬。

但亚马逊方面今天回应，其软件的设计本意是辅助人类工作，造成误判的原因是ACLU在实验中使用了错误的设置，将识别阈值定为80%，一般在警方工作中建议阈值不低于99%——简而言之，这锅我们可不背。

Rekognition是亚马逊最具争议的产品之一。这是一款在亚马逊服务器上运行的图像识别AI软件，用户需要为使用该软件处理的每张图片向亚马逊付费。

它可以识别图像或视频上的文字、对象、场景、活动和人员。亚马逊正积极地将其面部识别技术卖给执法部门。在美国，警方已经开始使用该软件来寻找走失的儿童和被拐卖的人口。

但是，此举引发了美国民众极其强烈的反对和民权倡导者的严重质疑，遭到亚马逊用户、民间组织、股东甚至亚马逊员工在内超过15万人联名抗议。其中，最强烈的质疑声音来自美国公民自由联盟（ACLU）。该组织警告称，无处不在的面部识别软件可能侵犯人们的隐私，并造成一个无缝不入的政府监控系统。

使用默认设置，针对有色人种，识别错误率达5.2%

最近，ACLU找到了一些看似令人信服的证据——他们使用亚马逊的Rekognition人脸识别工具，扫描了全部535名美国国会议员的照片，并将它们与25000张警方公开的罪犯面部照片进行了比对。

结果，系统错误地将28名国会议员的照片与罪犯面部照片进行了配对。

也就是说，亚马逊的人脸识别 工具 认为，535名国会议员中，有28名议员看起来像是罪犯。

在测试时，ACLU使用25000张公开的入监，照构建了一个面部照片数据库和搜索工具。然后，他们搜索了这个数据库，比对了所有现任参众两院议员的公开照片。 他们使用亚马逊为Rekognition的默认匹配设置。

民主党众议员Sanford Bishop (D-Ga.) 被亚马逊人脸识别系统错误地判定为罪犯。

结果，产生了28个不正确的匹配——错误率达到5.2%。

被错误匹配的议员中，有色人种的比例显著过高（11人），仅国会黑人同盟（Congressional Black Caucus）就有6名成员被误判，其中包括著名的民权活动家众议院议员约翰·刘易斯（D-Ga）。

测试表明，对于皮肤较黑的人和女性，人脸识别通常不太准确。虽然对于整个国会来说，错误率是5.2%，但 对于非白人的国会议员，错误率达到39% 。

有色人种被错误匹配的比例显著过高。近40%的错误匹配来自有色人种，尽管他们只占国会议员的20%。

ACLU强调，整个测试只花费了12.33美元。他们使用的是亚马逊提供给所有用户的面部识别系统，任何人都可以用它来扫描人脸图像，进行匹配。

ACLU希望此结果促使国会加入抵制行列，呼吁执法部门停止使用亚马逊人脸识别系统。

在今年早些时候，已有亚马逊员工、股东、近70个民权组织组成的联盟、400多名学术界人士，以及超过15万名公众呼吁亚马逊，甚至上书亚马逊CEO贝索斯，停止向政府和执法部门提供人脸识别监控！

亚马逊回应：ACLU使用方法不对，这锅我们不背！

亚马逊今天在官方博客发表了一篇文章《关于机器学习准确率的思考》，署名Matt Wood 博士。

简单说，亚马逊认为ACLU一开始并没有正确地使用这个工具，因此才造成上述看似荒诞的误判。

事实上，美国公民自由联盟（ACLU）是在默认的80%置信度阈值设置下使用Rekognition软件，而不是亚马逊为执法机构推荐的95%以上的置信度水平。

鉴于ACLU并没有公开其实验设置细节，亚马逊自己做了一个测试。他们使用 850,000 张学界通用的人脸和所有美国国会议员的图片，将识别阈值调到99%以后，误判率为0%。

此外，ACLU使用的罪犯照片也可能模糊不清，导致识别出错。

亚马逊发言人通过电子邮件回应道：