导读：一位匿名读者引用了《注册报》的一篇报道。神经网络仅通过观察一个人的身体X光片就能正确地猜出他的种族，而研究人员却不知道它是如何判断的。有一些生物特征可以为一个人的种族提供线索，比如他们的眼睛或皮肤的颜色。但在这一切之下，人类很难分辨。根据一...
一位匿名读者引用了《注册报》的一篇报道。神经网络仅通过观察一个人的身体X光片就能正确地猜出他的种族，而研究人员却不知道它是如何判断的。有一些生物特征可以为一个人的种族提供线索，比如他们的眼睛或皮肤的颜色。但在这一切之下，人类很难分辨。根据一项尚未经过同行评审的研究，人工智能算法的情况并非如此。一个研究小组在身体不同部位的X光片上训练了五个不同的模型，包括胸部和手部，然后根据病人的种族给每张图片贴上标签。然后对机器学习系统进行了测试，看它们能在多大程度上预测一个人的种族，而这只是他们的医疗扫描。它们的准确性令人惊讶。根据该论文，表现最差的系统在80%的时间里能够预测出正确的答案，而最好的系统能够做到99%。
"我们证明医疗人工智能系统可以很容易地学会识别医疗图像中的种族身份，而且这种能力极难隔离或缓解，"该团队警告说[PDF]。"我们强烈建议所有参与医学图像分析的开发者、监管者和用户在考虑使用深度学习模型时要极其谨慎。在X射线和CT成像数据的设置中，患者的种族身份很容易仅从图像数据中学习，可推广到新的环境中，并可能提供一个直接的机制来延续甚至恶化当前医疗实践中存在的种族差异。"
