央视“315”晚会将人脸识别的商场应用推向了风口浪尖。近日，张家港市场监管局通报称，发现辖区内一家名创优品门店装有“315”晚会曝光的非法采集顾客人脸信息的“万店掌”监控。执法人员发现，店长手机APP中的人脸识别功能仍在使用。3月22日，名创优品工作人员表示，将第一时间整改下架人脸识别监控系统。
如何看待人脸识别在商尝小区等场所应用引发的争议？在数字化转型过程中，如何保持隐私保护与产业发展的平衡？近日举行的上海交通大学计算法学与AI伦理研究中心研讨会上，解放日报上观新闻记者采访了学术界、政府智库和产业界的三位专家。
人脸识别监管可采取备案制
上海交通大学中国法与社会研究院院长季卫东、上海市科学学研究所科技与社会研究室主任王迎春指出，人脸属于生物识别信息，具有不可篡改性，在信息采集、传输、存储等管理链上的任何一个环节出现问题，造成的社会危害往往很难逆转。而且与指纹、虹膜等生物识别信息不同，人脸识别是无感采集，就像“315”晚会曝光的场景那样，顾客在不知情的情况下就被采集了人脸。随后，“万店掌”能识别顾客的性别和年龄段，并根据人脸数据比对，将顾客打上“新顾客第一次到店”“熟客，第11次到店”“会员”等标签。“人脸信息的采集必须遵循知情同意原则，所以商场将人脸识别用于精准营销，是非法采集行为。”季卫东教授说。
如果被采集者知情并同意，企业是否就不受约束了呢？绝非如此。两位专家表示，人脸数据的传输、储存、运用等环节如果出现信息泄露等问题，潜在的社会危害会很大，如引发利用人脸数据伪造证件的新型犯罪。
对此，王迎春建议国家和地方政府采取人脸识别备案制，并尽早发布人脸数据管理平台标准。“生物医药领域的临床试验采取备案制，一旦出现问题，政府就能追溯调查。对于人脸识别的商业应用，我们也可采取备案制这种监管模式。”王迎春解释说。
人脸数据管理平台标准对政府监管也很重要，有了国家、行业或地方标准，就能更科学、严格地评估数据库和云平台的安全性，企业必须达标，才能获得储存人脸数据的资质。“在人脸识别监管方面，上海可先行探索，比如参照医疗大数据由申康中心管理的做法，将大多数企业采集的人脸数据交由一个可信平台进行统一管理。”
在季卫东看来，上海可在成立市大数据中心的基础上建设“数据银行”。这是一类构建在高速分布式存储网络上的数据中心，作为中立的信托结构，对各类数据进行脱敏和存储。“个人可以将自己的数据存到‘数据银行’，银行支付给个人利息，并将脱敏数据提供给企业有偿使用。”建设“数据银行”，有利于在确保数据安全可信的情况下，实现数字经济的利益分配公平，让数据所有人获得经济回报。
企业自律应遵循三个原则
除了加强政府监管，企业自律对人脸识别的安全应用也很重要。商汤科技智能产业研究院院长、上海交通大学计算法学与AI伦理研究中心联袂主任田丰认为，人工智能企业应遵循“透明、负责、友好”三个原则。“透明，就是要充分保证人脸信息被采集者的知情权，采集前必须获得授权，采集后应有健全的保护机制，防止数据泄露。”田丰解释，“负责，是指产品开发的所有步骤必须可靠、可追溯，还要有风险防范措施。友好，指人工智能的算法、应用开发和使用都是善意的，把满足人民对美好生活的向往作为科技创新的落脚点。”
企业的健康发展也离不开政府的科学管理。田丰建议政府对数据实施分级分类管理，对生物特征、个人医疗健康等隐私性很强的数据严加保护；对与个人隐私关联度较低的产业数据，可在脱敏后有条件地开放，释放其产业创新价值。
“在人脸识别应用的一些争议问题上，可由第三方机构开展用户调研，了解公众对各种人脸识别应用场景的具体需求，以及支持、反对比例。”田丰说。例如在小区门禁使用人脸识别这个问题上，居民的态度到底如何？可开展调研。
在邯郸一个小区，居民通过人脸识别经过出入口。新华社发
相关法律制定要保持平衡
季卫东的观点与田丰有些相仿。他认为，在相关法律制定上，要防止数据权利和隐私保护措施的过激化、僵硬化。“这方面的法律制定应保持规制与产业发展的平衡，并划出清晰的伦理底线和法律底线。”个人信息保护固然重要，但也要兼顾大数据、人工智能、互联网等产业的发展。“现在是人工智能的寒武纪，新的智能物种在大量涌现。为了新兴产业发展，我们要‘硬法’和‘软法’结合，在严格遵守法律原则和规则的基础上，因势利导、综合治理，促使企业加强内部管理和伦理培训。”
据了解，全国人大法工委去年10月公开就《中华人民共和国个人信息保护法（草案）》征求意见。草案对处理包括人脸等生物特征在内的敏感个人信息作出规定：只有在具有特定目的和充分必要性的前提下，方可处理敏感个人信息，并要求“向个人告知处理敏感个人信息的必要性以及对个人的影响”。
“以人为本的数字化转型应遵循三个原则：效率、温度、舒适。”王迎春说，“在追求创新效率的同时，政府和企业要考虑老年人、残疾人等弱势群体的体验，让数字化转型有温度。还要考虑转型的舒适度，防止人脸识别等技术对个人隐私的侵犯。”在他看来，温度、舒适与效率并不矛盾，可信安全人工智能孕育着巨大的蓝海市场，有待广大企业开发以人为本的技术解决方案。
