MIT 使用 Reddit 训练的 AI 现在只想到死亡和谋杀

栏目: IT资讯 · 发布时间: 6年前

内容简介:MIT研究人员故意创建Norman来证明用于训练AI的数据可以显著影响其行为。研究人员解释称:“Norman遭受了长时间暴露在Reddit最黑暗的角落,并代表了一个案例研究——当有偏差的数据用于机器学习算法时,人工智能可...

MIT研究人员故意创建Norman来证明用于训练AI的数据可以显著影响其行为。研究人员解释称:“Norman遭受了长时间暴露在Reddit最黑暗的角落,并代表了一个案例研究——当有偏差的数据用于机器学习算法时,人工智能可能会出错。”

MIT 使用 Reddit 训练的 AI 现在只想到死亡和谋杀

“Norman是一个人工智能,被训练执行图像字幕,这是一种流行的深度学习方法,用于生成图像的文字描述。我们从一个臭名昭著的subreddit训练Norman关于图像标题的内容,专门用于记录和观察令人不安的死亡现实。然后,我们将Norman的反应与专门用于罗夏墨迹的标准图像字幕神经网络(在MSCOCO数据集上训练)进行了比较; 一个用于检测潜在的思维障碍的测试。”

结果是令人不安的。

另一方面,这并不令人感到意外。大约两年前,微软的“Tay”AI聊天机器人在上线短短一天后就成为暗黑系种族主义者。

来源:cnbeta


【声明】文章转载自:开源中国社区 [http://www.oschina.net]


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

构建之法(第二版)

构建之法(第二版)

邹欣 / 人民邮电出版社 / 2015-7 / 59

软件工程牵涉的范围很广, 同时也是一般院校的同学反映比较空洞乏味的课程。 但是软件工程的技术对于投身IT 产业的学生来说是非常重要的。作者邹欣有长达20年的一线软件开发经验,他利用业余时间在数所高校进行了长达6年的软件工程教学实践,总结出了在16周的时间内让同学们通过 “做中学 (Learning By Doing)” 掌握实用的软件工程技术的教学计划,并得到高校师生的积极反馈。在此基础上,作者对......一起来看看 《构建之法(第二版)》 这本书的介绍吧!

图片转BASE64编码
图片转BASE64编码

在线图片转Base64编码工具

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具

RGB HSV 转换
RGB HSV 转换

RGB HSV 互转工具