不久前，亚马逊律师与美国全国劳资关系委员会有关某案件的通信被国外媒体The Verge曝光。文件表明亚马逊的AI系统可以跟踪每名员工的工作效率，该系统甚至可以追踪“空闲时间作业”，亚马逊将之称为TOT。如果一名员工长时间没有扫描包裹，该系统就会自动生成警告指令，并最终解雇这名员工，整个过程没有任何人类管理人员的参与。由于未能达成公司的生产力指标，过去两年内，仅一个亚马逊仓库就解雇过300人，而大部分的解雇操作都是通过AI系统完成的。为了不使自己被公司解雇，达到公司需要的生产效率，一些员工不得不放弃自己的厕所休息时间。亚马逊的工人有时会反对公司此种非人性化待遇。去年，明尼苏达州仓库的东非移民工人组织了一场抗议公司的活动，并称他们没有足够的休息时间，其中包括祷告时间。对于此种情况，亚马逊则继续宣传公司对于员工的关怀，指出他们的每小时工资回报以及产假等诸多福利政策。然而文件早已表明诸多福利政策只有在达到生产力标准之后才会生效，亚马逊的福利政策对员工而言不过是天方夜谭。
无独有偶，今年3月，南京市建邺区工作的部分环卫工人陆续接到了公司配发的一款智能手环，并被要求在上班期间佩戴。手环除了具备定位功能外，只要环卫工人上班期间在原地停留 20 分钟，手环就会自动发出“加油”的语音，提示环卫工人继续工作。这样“监控”员工的工作无疑涉嫌侵犯他人隐私、不尊重劳动者个体。
AI系统理论上可以提高员工的工作效率，但此前美国教授梅奥的实验证明，社会心理因素才是决定员工工作积极性的第一因素。AI系统提供的数据只能反映局部事实，并不能代表全部。劳动者对于工作的高度认同更有益于增加工作效率。亚马逊严格的生产机制让员工承受了巨大的压力，高强度的工作再加上无情的AI智能监控很有可能使员工的效率下降。由人类所创造的人工智能应当为员工服务，成为员工的好帮手，而非给员工带来屈辱。
亚马逊等事件从表面上看来是资本家对于工人的剥削，资本家似乎拥有整个事件的主导权，但它表达了一个事实：在人与人工智能的关系中，人工智能是人的主宰，人工智能处于主人的地位，而人处于一个奴仆的地位。在公众看来AI系统监控员工的行为侵犯了员工的隐私，但这只是冰山一角。人工智能监控员工需要大量的数据，事件涉及到数据的滥用和数据侵权问题，实质是人与技术的自由关系问题。人工智能是当今技术的代表，其依赖的基础是数据，人与技术的自由问题也就是人与数据的自由问题。亚马逊公司的做法体现了数据主义的观点。数据主义主张数据至上，一切都应成为数据，一切都要交由算法来处理。随着大数据时代的到来，数据的自由与人的自由成为一对矛盾，数据的自由要求数据尽可能产生和使用更多的信息，想尽办法连接各种能连接到的系统，这就必然侵犯人的隐私以及对人的生活进行操控。数据权力的扩大以及生产率的提高是以牺牲个人数据保护权利为前提的。
AI智能监控的重要核心是数据和算法，人工智能代替人类进行员工解雇表明数据和算法已然不仅仅是一种工具，它在悄无声息的改变我们的生活方式和生活习惯。与大数据杀熟现象相似，杀熟是消费者在不知道的情况下自主权被侵犯，尽管消费者可能也会做一些保护自己权利的举动。如今我们也是在没有意识到的情况下被数据决定生活，数据决定我们该做什么，该怎么做，做到什么标准。各种事情的决定权已经开始从人类手中转移到依靠数据和算法的人工智能上。长久以往，大数据与算法将把我们的世界变为数据巨机器。在这个数据巨机器中，我们听从数据的指导，遵从数据的命令。我们将意识不到自我被数据所统治，尽情享受数据所带来的各种便利，从而变成数据巨机器中的一个螺丝钉。人将丧失追求自由的能力，成为数据的孩子。在此之下，人的尊严荡然无存。
从根本上来看，这看似人与数据、人与人工智能的关系，实质上是基于数据和人工智能的人与人之间的关系，反映了一部人对另一部分人的剥夺和不尊重。人工智能嵌入人类生活、侵犯人类权利的事件应当引起我们充分的重视。为避免成为人工智能的奴隶，成为数据的奴隶，应当做以下几方面的努力：
一、破除数据至上的价值观，目前数据的发展已经催生了新的观念和意识形态，唯数据至上的观念正在侵蚀着人类社会，人类应当始终把数据当做工具，而非全能的上帝。
二、重塑人本主义价值观，人工智能与数据始终是冰冷的机器，应当增强人与人的社会关系，防止机器取代人的社会身份。人工智能的无限滥用会成为限制甚至绑架人类的工具。人工智能毕竟是无意识的，用于监控并解雇人类不仅是侵犯人权，而且也减少了世界的温度。
三、增加人工智能算法的透明性，员工以及每一个数据的生产者都有自身数据被如何使用的知情权。算法的透明不能仅停留在被数据生产者知晓的层次上，还应包括被数据生产者所理解。不被公众所理解的算法不应投入生活使用。
四、从技术架构实现人文关怀，无论是人工智能产品还是人工智能系统都应包含隐私保护设计，人工智能技术的应用应当首先考虑人的价值，将人类价值镶嵌在系统的算法之中。
当今时代是人与人工智能共存的时代，人类社会的发展离不开人工智能的支撑，在人与人工智能的关系中应始终保持人的主导性地位，合理控制人工智能的使用范围，建构健康的人与人工智能、人与数据的关系。
（本文作者李伦 宋强, 为玛娜基金会数据伦理课题组研究员）
