奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

栏目: IT技术 · 发布时间: 4年前

内容简介:LeCun被炮轰麻木不仁…这大概就是美国特色科研吧还记那只被众网友玩坏的「最强马赛克修复AI」PLUSE吗?前两天我们报道了杜克大学发布在CVPR 2020的这项成果,还放出了一大波效果实测。

LeCun被炮轰麻木不仁…这大概就是美国特色科研吧

贾浩楠 发自 凹非寺

量子位 报道 | 公众号 QbitAI

还记那只被众网友玩坏的「最强马赛克修复AI」PLUSE吗?

前两天我们报道了杜克大学发布在CVPR 2020的这项成果,还放出了一大波效果实测。

其中一张 奥观海同志 复原图引起了读者 SilverCasque 的注意:

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

他留言说「还原的全是白人的脸,黑拳警告」。

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

没想到这位读者神预测,现在,PLUSE果然因此惹出了大麻烦。

就连深度学习巨头LeCun出来为这项技术辩解,也被国外网友和同行炮轰。

PLUSE:不允许你不白

PLUSE一经推出就引起了极大的关注,但是,网友实际使用PLUSE,却发现了一个很严重的问题:PLUSE无法准确还原有色人种图像。

如果只是还原失败,弄出一个不人不鬼的东西,最多只是技术问题。

但麻烦的是,PLUSE不仅还原出了完整的人脸,还是一张五官端正漂亮的 白人 脸。

这在如今高喊「黑命贵」的美国,无疑是一股扎眼的“逆流”。

有网友就拿奥巴马的低像素照片反复测试,结果无一不是白人男性,更加坐实了PLUSE的罪名。

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

随后,知名机器学习博主Robert Osazuwa Ness拿不同有色人种的低像素照片去测试,这其中有他自己、有美国著名国会议员Alexandria-Ocasio Cortez,和华裔女星刘玉玲。

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

看到 模特皮肤不够白,PLUSE还十分执着地给他安上了一头金发 …….真的是「不允许你不白」。

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

Alexandria-Ocasio Cortez是美国有史以来最年轻的国会议员,拉丁裔,也被强行洗成白人。

对于亚裔,PLUSE更不客气,你甚至看不出一点人物原本真实的特征。

比如博主Robert Osazuwa Ness自己的妻子:

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

华裔女星刘玉玲:

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

总之,在外国网友的测试中,PLUSE无一例外的把少数族裔强行洗白,似乎在有意纠正人们的肤色和五官特征。

网友对此反映自然很激烈,有人认为这是一种带有种族歧视的、非常危险的技术;

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

这一种观点引起了较多共鸣,还有人紧跟着晒出了其他「种族偏见」的AI算法,比如这位一个将照片变成文艺复兴风格的算法也将别人强行洗白:

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

有人干脆给PLUSE起了个新外号:「白人雷达」

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

但是也有一部分网友认为,算法本身是没有所谓「种族歧视」的,问题出在了用来训练算法的数据集上。

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

PLUSE的核心StyleGan是在FFHQ上训练的,有网友认为尽管它的人种多样性好于严重偏向白人的CELEB-A,但仍然不够。

有网友截取了一部分FFHQ的人脸数据集:

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

确实够白的……但有人同时指出,除了数据集的偏差,还有一种可能是模型的崩溃失效,算法“偷懒”,仅仅把人像漂白,而不是为不同种族和面部特征建模。

但也有人认为,即使用相同数据集训练StyleGan也能生成非白人结果,问题还是出在算法上。

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

网友对PLUSE的口诛笔伐目前还没有得到论文原作者的回应。

但另一位机器学习元老却首先发声了。

LeCun也中枪,到底冤不冤?

深度学习巨头LeCun对于网友对PLUSE几乎一边倒的抨击进行了回应:

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

他认为,机器学习系统带有偏见是因为数据带有偏见。假如在塞内加尔采集的数据上训练,输出肯定都是黑人。

随后他还补充道,相比于这种纯学术论文,这个问题应该是工程师更加关注的,实际部署中这种偏见会有严重的后果,盯着几个学者讨伐没有什么意义。

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

此话一出,顿时引起了同行的炮轰,外媒报道,一个可问责AI研究者Deborah Raji控诉LeCun:

对LeCun的言论十分震惊,这反应出了 行业领军人物的麻木不仁 (lack of awearness)。不明白像LeCun这样处在如此关键位置的人,为什么会认为学术研究对工程部署没有影响。社会的偏见不可能靠一个「正确」的数据集去解决。

LeCun对这样的指责颇有些无奈,他对外媒说:

我从来没说过学术研究无法在应用中确立规范。我之前也在Facebook建立领导过致力于AI技术公平性的工作组。

奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中

其实,稍聪明的读者都能明白,LeCun的意思是说,论文只是提供了解决问题的思路,实际应用中的问题复杂的多,这才是应该关注的。

借由一篇论文的结果炮轰研究人员,以此标榜自己的政治正确、贩卖观点,这一点是LeCun不愿意看到的。

技术本身是无罪的,国外炮轰PLUSE这一事件超出了技术本身,甚至也早就超出了科学伦理的范围,这大概就是美利坚特色科研吧。

你怎么看?

参考链接

https://www.theverge.com/21298762/face-depixelizer-ai-machine-learning-tool-pulse-stylegan-obama-bias

版权所有,未经授权不得以任何形式转载及使用,违者必究。


以上所述就是小编给大家介绍的《奥巴马竟被「去马赛克AI」洗白,CVPR新研究惹上种族歧视大麻烦,LeCun也被卷入其中》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

人工智能

人工智能

S. Russell、P. Norvig / 清华大学出版社 / 2006-5-1 / 128.00元

本书被全世界89个国家的900多所大学用作教材。 本书以详尽和丰富的资料,从理性智能体的角度,全面阐述了人工智能领域的核心内容,并深入介绍了各个主要的研究方向。全书分为8大部分:第一部分“人工智能”,第二部分“问题求解”,第三部分“知识与推理”,第四部分“规划”,第五部分“不确定知识与推理”,第六部分“学习”,第七部分“通信、感知与行动”,第八部分“结论”。本书既详细介绍了人工智能的基本概念......一起来看看 《人工智能》 这本书的介绍吧!

在线进制转换器
在线进制转换器

各进制数互转换器

HTML 编码/解码
HTML 编码/解码

HTML 编码/解码

RGB CMYK 转换工具
RGB CMYK 转换工具

RGB CMYK 互转工具