告密者：AI

文 | 无锈钵

来源 | 财经无忌（公众号ID：caijwj）

继996之后，老板又有了新的赶你走的方式。

前不久，美国的老牌电商巨头亚马逊爆出一则新闻：他们构建了一个人工智能系统，可以实时追踪公司仓储物流中心里的每一名员工，用来监督他们干了多少活。

更重要的是，如果系统判定你长时间不认真工作，它可以自动生成警告，或者把你直接解雇。

亚马逊的发言人表示：仅2017年8月至2018年9月这一年的时间里，在他们位于巴尔的摩市的某个物流中心里，就有300名被判定“低效”的员工离职。

不过，他们也解释称，员工是可以通过申诉来要回他们的工作的，而且对于这些由AI作出的解雇决定，公司内部的高管也可以直接予以驳回。

对此，钵叔的好朋友韦哥有一个问题：

这些摄像头在贵公司算是什么职务级别的？

事件发生后，不少员工都在社交媒体上吐槽亚马逊，有些工人抱怨说，自从有了这套系统以后，自己仿佛“被当成了机器人”，很多时候工作中甚至“连厕所也不敢上”。

01  

说这话的人，肯定没经历过学生时代教室里被安装摄像头的恐惧。

他们以为自己在工作中受到了监控，事实上，这种温和的“注视”早在他们的学生时代就已经有了。

所以今年的3月初，广州的广雅中学被爆出花费巨款采购供学生佩戴的电子手环时，面对外界蜂拥而至的质疑，他们还觉得很委屈：北京、上海，都有很多的高校在用，而且效果很好。

你钵叔查了一下， 事实真的是这样。

2017年5月，北京中关村第一小学以458.6万元购买了2500个智能手环。

去年，贵州有十一所中小学在试验一种全新的“智能校服”，这种校服不仅可以定位学生的位置，还支持人脸识别，学生之间互换衣服会直接触发警报。

韩国的编剧们不会想到，自己苦心发明的“把外套给体育课上受伤的女生披上并将其背到医务室”这样百试不爽的玛丽苏情节，会栽在大中华的一款校服上。

这款校服的供应商还表示，他们会再接再厉，争取未来在这款校服上实现更多的功能，比如：家长可以通过APP实时查看学生在校园内的消费记录，甚至可以看到自己家孩子这段时间体重的变化情况。

对此，你钵叔的好朋友韦哥发出了直击人心的拷问：

就不能花点钱买个电子秤吗？

拷问归拷问，事实上，对于这些校园内频繁出现的监控系统，最多也只能停留在讨论和谴责的阶段，因为在现阶段，这些行为还都是合乎规定的。

02

早在2018年的时候，国家标准化管理委员会就曾公布了《智慧校园总体框架》，里面明确规定，感知系统属于学校可以安装的基础设施，其中包括：

物理环境感知、活动情景感知、设备感知、人员身份感知等等。

在此基础上，海康威视和杭州第十一中学联合试行了一套更为强大的“智慧课堂行为管理系统”。

这套系统可以实时捕捉学生的面部表情动作，并将其归类为害怕、高兴、难过、愤怒等7种表情，这些表情和学生的课堂动作会被一并记录下来，并给以ABC三个等级的评分。

如果评分低了，老师还会在下课找你聊聊。

想到老师温柔的注视着你，耐心地询问在这节课的拖堂时间里，你的脸上会什么会出现愤怒表情的场景，你钵叔就不由得感到毛骨悚然。

另一方面，对于外界的质询，这所学校的校长表示，媒体的误读把他们妖魔化了，智慧校园系统在很多方面带来的便利，是无可替代的。

比如借书，比如食堂刷卡吃饭。

他还表示：“学校绝对无意窃取学生的个人隐私，并且这些数据最终都会被上传到本地服务器，不会有任何泄密的可能”。

03

在这一系列的事件中，比起《1984》之类的反乌托邦比喻更有趣的，是一桩桩生意的数字。

资料显示，参与智慧校园标准制定的那批人里，有很多都是企业代表，包括做高清监控的深圳锐取；做智慧校园的北京同方艾威康科技和北京康邦科技等等。

而为杭十一中量身定制“智慧课堂行为管理系统”的海康威视。数据显示，该公司2017 年市值已经达到了 3600 亿，甚至超过了索尼。

一份源自 IHS 报告表明，在全球视频监控市场上，海康威视拥有着22.6%的份额，位居世界第一。

在此基础上，智慧校园只是他们近些年关注的项目，而此前，他们涉及AI领域的智能业务还有很多，包括闯红灯人脸识别系统、地铁机场里的智能安检分析器材，以及：和公安、法院系统合作的，智慧型监狱系统。

2018年的财报显示，海康威视全年实现营业收入498.37亿元，同比增长18.93%；净利润113.53亿元，同比增长20.64%。

另一边，这些派发给学校学生的智能手环、监控摄像头等均造价不菲。

在广州广雅中学的那份采购协议里，3500个电子手环最终花费了484万元，平均到每个学生的头上有将近1300元。

这笔钱到底谁出，也是一个问题。

当然，钱的问题之外，关于隐私权利的种种讨论也仍在热火朝天的进行着，毕竟，科学技术是一把双刃剑这种观点，早在上个世纪就已经成为全人类的共识了。

今年两会上，百度总裁李彦宏曾经表示，“要让AI在正确的轨道上运行”，在这一原则之上，他相信，“AI技术一定会造福人类的”。

造不造福人类先不用说，历史告诉我们，所有那些造福全人类的东西，最开始都只造福了一小部分人。

（完）

*本文仅代表作者个人观点

往期推荐

深度|蔚来的“危险游戏”

▲点击图片观看

社交网站上的照片，也许已经被用来训练人工智能

▲点击图片观看

剖析20世纪未来出行 这些畅想21世纪能成吗？

▲点击图片观看

- 加入社群吧 -

网易智能AI社群（AI芯片、医疗AI、金融AI、电商AI、自动驾驶、教育AI、AIoT、机器人等12个社群）火热招募中，对AI感兴趣的小伙伴，添加智能菌微信 kaiwu_club，说明身份即可加入。