“高质量的城市数字化转型一定要有高质量的AI系统。”近日，上海计算机软件技术开发中心人工智能治理研究所执行所长陈敏刚接受澎湃新闻专访时表示，“这也是未来我们做人工智能技术要求和测试评估标准与规范最重要的目标。”
上海计算机软件技术开发中心人工智能治理研究所执行所长陈敏刚
上海计算机软件技术开发中心于1984年由原国家科委批准成立，是国家863软件专业孵化器(上海)基地、上海市软件行业协会和上海软件园管理办公室的技术支撑单位，下设的人工智能治理研究所于今年初成立。
今年5月，陈敏刚研究员团队参与的“人物视觉理解技术及应用”项目获得了2020年上海市科技进步特等奖，该项目与“健康码”人脸识别及远程核身紧密相关。
在该项目中，陈敏刚团队主要进行人脸识别系统测试评估、对抗攻击方法研究等工作。（对抗攻击指人通过戴着帽子或脸上贴特殊标签欺骗人脸识别系统，使其无法辨认。）陈敏刚表示，他们关注人脸识别系统的准确率、推断时间能否满足应用需求，以及人脸识别系统的安全性、数据隐私安全等。
在2021世界人工智能大会“共话标准，驱动产业”标准化分论坛上，陈敏刚参与了“人工智能标准赋能城市数字化转型”的圆桌讨论。澎湃新闻记者了解到陈敏刚也是疫情期间广泛应用的智能人体测温设备的标准研制团队主要成员，因此，围绕此项标准与城市数字化转型对陈敏刚进行了专访。
人体温度检测与识别系统的标准
陈敏刚向澎湃新闻记者介绍了测温标准的主要内容。他表示，智能的人体温度检测与识别系统的标准主要包括功能指标和性能指标。
功能指标主要内容为：第一，视频图像采集的要求。因为红外热成像在采集的时要避免人脸图像过曝光，过曝光则可能导致红外成像与可见光采集的内容不一致。第二，目标检测的要求。人体智能测温不仅要检测出人脸，还要检测出额头。由于人体不同部位的温度不一致，统一以额头区域的温度作为基准。第三，视频图像的内容分析。比如温度分析，将异常的体温或者体温异常的人员准确地检出。
此外，功能指标还包括身份分析功能、图像和体温的显示功能、数据分析、数据存储和查询功能、体温异常的报警功能等。
“实际上，当时我们还做了是否戴口罩、是否遮挡额头的检测。因为刚做这个标准的时候，戴口罩会影响人脸识别。” 陈敏刚表示，现在戴口罩已经不影响人脸识别了。
性能指标，则关注人体温度的测量精度和速度等。实际上，目前智能人体测温设备存在测温误差，需要黑体进行误差校正。标准规定的温度误差不超过±0.4℃，测温时间则不大于1秒。此外，还有存储的性能指标，如系统需支持三周之内的检索、其框定人脸的图像要达到一定分辨率等。
“很多场景中有多个人同时通过设备。这时，就有多目标的性能要求。例如，最大并行的检测人数。比如规定画面中有6个人通过时至少要检测出5个人的体温。”陈敏刚介绍称，“我们还设计了一些评价方法，涉及如何测试、检测这项功能和性能等。”
最终，这项标准的制定工作在半年内完成，谈及标准制定过程中的主要困难时，陈敏刚表示主要有两个方面。
“原来的测温都是用传统的测温设备，而这次要把AI和测温技术结合。当时这个要求对我们来讲挑战很大，因为我是做AI技术的，并不是很懂传统测温的情况，我们也不清楚指标的设定。” 陈敏刚表示，“最大的挑战还是时间。我们平时做一个标准大概要1到2年，而这个要求我们在一两周内完成初稿，让我们倍感压力。”
陈敏刚回顾当时的情景，他们在接到任务后连夜对传统红外热成像的测温设备开展研究，了解其指标要求。
“我们现在指标要求是±0.4度误差。这个误差的设置我们当时讨论了很久。” 陈敏刚表示，“在疫情期间，各家都在做测温产品，我们也实地看了很多设备，让标准的制定与测温系统设备的研制同步进行。这也涉及了大量的沟通。”
人工智能与城市数字化转型
“首先，城市数字化转型到底要转哪些内容？上海今年年初有一个全面推进上海城市数字化转型的意见，明确指出了数字化转型的内容：推动经济、生活、治理数字化转型。”陈敏刚表示，数字化转型的核心不是数字化，而是转型。他认为转型的核心技术是人工智能，“李强书记也提到要推动人工智能技术全领域、全场景、全方位落地应用。”
陈敏刚表示，人工智能应用场景广泛。他向记者举出交通、医疗和城市治理等方面的例子。
“未来的智慧交通，能否让每一个交通灯成为智能体、让所有交通灯成为多智能体？” 陈敏刚表示，所谓多智能体是指它们之间可以相互影响和协调。“目前，很多路口的红绿灯时长是固定的。比如纵向车较多的情况下，横纵都是1分钟的通行时间。高峰时能否让纵向变成1分30秒的通行和30秒的等待？这样就能很大程度缓解交通压力。”
陈敏刚又举了一个智慧交通的例子，利用人工智能技术还可以实现黄浦江上的船只违停预警。当AI系统发现有船只驶离了正确航向、开往违停区域时，进行一些预测性的警告，或跟相关管理部门联动。
他认为AI在医疗场景中能广泛应用。比如，现在优质医生资源紧缺，如果让AI赋能社区医院，让社区医院用AI进行患者初筛，再用数据共享等方式进行分级诊疗，就能减少三甲医院医生在简单筛查上的精力消耗。
关于城市治理相关的应用，陈敏刚举了一个例子：市民热线电话可通过语音识别，记录和统计用户及其所反映的内容。
“那么就知道用户关注了什么问题，方案是否落实等。让AI自动回答问题、做问题记录与分类、进行统计分析，就能为整个城市的智慧化管理提供更精确的信息。”
陈敏刚指出，高质量的城市数字化转型一定要有高质量的AI系统。
比如，未来养老院的陪护机器人，它不仅能陪伴聊天，还能监测老人摔倒等异常行为。遇到老人摔倒时，它可以帮扶老人，并及时通知护工、甚至拨打120等。
“如果它对老人摔倒的检测精度不够，比如100次老人摔倒只检测到70次，这肯定不行。AI系统的质量如何保证？这就需要它满足技术要求、通过测试评估。”陈敏刚说，“我的观点是，高质量的城市数字化转型需要高质量的AI。这也是未来我们做人工智能技术要求和测试评估标准与规范最重要的目标。”
陈敏刚表示，人工智能治理分为三个层级，他们在三个层级上都开展了相应的工作。
第一层级是可信人工智能的技术，包括鲁棒性、透明性、可解释性、公平性以及人工智能系统和算法的质量和测试。第二层级是人工智能的监管，主要包括分类监管框架和造假鉴别等，涵盖人脸识别等AI系统的分类监管，以及换脸、语音合成等AI生成内容的造假鉴别。第三层包括 AI的法律、伦理、风险评估、社会影响分析等。
“我们未来希望用数据驱动的方式判断AI应用的社会影响，比如大家对它的评价是正面多还是负面多、什么人群可能给出正面评价、政府应该鼓励还是限制使用等。我觉得，未来这方面有大量人工智能社会实验与治理相关的研究需要开展。”
陈敏刚表示，目前，上海软件中心人工智能治理研究所已开展了对抗样本生成与防御、可解释性、公平性、人工智能系统质量与测评相关技术与工具研发，并布局了人工智能算法、人工智能测试评估、工业智能、健康智能等方向的研究与服务，为上海城市数字化转型保驾护航。
