个人已经习惯了侵入性数据收集和处理做法的存在，这些做法对企业有利，但最终对个人几乎没有价值。但是，如果员工可以把人工智能引擎转过来，用它来保护自己不受不公平雇主的伤害，那会怎么样呢?这是东北大学一个新的人工智能项目的关键点。
东北大学(Northeastern)助理教授、公民人工智能实验室(Civic AI Lab)主任赛夫 萨维奇(Saiph Savage)正在领导开发一款“智能助推”（intelligent nudging）应用程序，帮助员工（特别是众包中的员工角色）避免不公平的评论。
萨维奇说:“只要有一个差评就可能导致员工被解雇。但问题是，很多时候可能是根据员工无法控制的事情来评估他们。”
例如，优步司机可能会因为意外的交通拥堵而迟到接乘客。或者，数据标签员可能提交了不完整的工作，因为在他们的审查过程中，电脑崩溃了。在这两种情况下，员工都没有做错任何事，但通常情况下，他/她还是会受到指责。
通过对自然语言处理系统的研究，萨维奇知道有一个潜在的解决方案。“我们所做的就是训练机器学习模型，让它能够检测出一个人、一个客户或一个经理何时在写一份关于员工的评估报告，这些评估报告考虑的是员工工作范围之外的事情。可以敦促雇主、老板、经理或客户重新考虑他们的评估，这样他们就能更公平地对待员工。”
该系统基于一个深度学习模型，该模型根据特定处分平台的书面服务条款进行培训。这些服务术语定义了员工职责。通过排除过程和一些NLP推理，当书面审查的内容超出服务条款中定义的责任时，系统能够识别实例。当出现这种情况时，系统会弹出警告并向评价作者提出建议。
“这只是一个小小的推动。”萨维奇最近获得了美国国家科学基金会(NSF)的30万美元拨款，用于研究以人类为中心的人工智能，以赋予个人（特别是临时雇员）权力。以帮助管理者开始反思他们如何撰写关于员工评价。
萨维奇的团队将这个系统作为浏览器插件，允许任何人使用，她说：“如果你是一个担心对员工不公平的客户，你可以下载我们的工具，并开始使用它们，在GitHub上有它们。我们的想法是，通过这种方式，开发者也可以使用工具，开始构建自己的东西。”
萨维奇表示，该模型还可以用来检测评论中存在的偏见。萨维奇被提名为《麻省理工学院技术评论》(MIT Technology review)的35岁及以下的创新者。
萨维奇一直在与数据标签公司Toloka、西弗吉尼亚大学和墨西哥国立自治大学(UNAM)合作，帮助培训农村员工成为数据标签员。智能助推应用程序的想法部分源于这项工作。
“我们一直在努力为员工提供数据透明度。目前很多众包平台存在信息不对称，客户可能有很多关于员工的信息，所以我认为，重新思考如何让每个人都能接触到不同利益相关者的信息，这样他们就能做出正确的决策，这很重要。”
这种信息不对称的一个例子是，网约车公司在赚大钱的诱惑下激励司机继续工作。在现实中，司机们很少有机会拿到那样的报酬，只是他们不知道而已。
在设计工作流程时为员工提供更公平的互动，我们还可以做得更多。如果信息是有利可图的，公司很难放弃信息优势。但是，如果有足够多的人了解到这一情况，有朝一日情况可能会改变。
