目前,国际上尚少见规则和技术双轮互动的治理体系性平台。最新亮相的“蒲公英”OpenEGLab,目标是打造系统、实用的人工智能伦理与治理基础设施,探索“规则-技术-场景-评测”一体协同的人工智能治理体系。蒲公英代表着希望、温暖与友谊,蒲公英人工智能治理开放平台秉持促进跨学科研究、多元主体共建共享的理念,让蒲公英的种子飞的更远。国家新一代人工智能治理专业委员会主任薛澜教授说道:“希望业界同仁能在平台上持续积淀治理创新成果和工具,促进人工智能治理理念的落地,服务提升人工智能治理效率,共促人工智能可信、可持续发展。”
此次平台共发布了包括规则集、治理图谱、风险展示、评测框架和行业方案在内的五大亮点。规则集致力于构建全球治理知识库,目前已收录约1500条标注规则文件,包括伦理原则、政策战略、法律法规和标准等。治理图谱脱胎于平台收录的全球AI治理标注规则集,旨在打造人工智能治理全景图像,呈现各地治理情况,支撑研判国际治理动向和趋势。规则集标签全部开放,用户可根据需求自主构建、自由探索各种“蒲公英”式的治理图谱。风险展示的目标是打开人工智能模型价值影响“黑箱”,通过互动方式,帮助用户理解AI模型的基本结构、鲁棒性、安全性、隐私性等。平台目前支持36种常见视觉和语言模型的交互分析,致力于推动探索规则和技术紧密结合、互相促进的人工智能治理研究。评测框架则旨在对常用人工智能模型进行多维度评测。结合业界研究,该平台提出“人工智能六维评测体系”,用于综合评估一个人工智能模型的基础属性。目前,平台提供10个常用人工智能模型的初步评测结果。最后,行业方案致力于推动人工智能治理在典型应用场景的落地。在自动驾驶领域,平台广泛收集国内关于自动驾驶的重要法律文件,从全流程角度,对研发、测试、道路行驶各个环节设计的数据类型、相关利益人、处理原则、法律基准进行梳理,形成《自动驾驶数据合规评估指南》和自动驾驶数据合规评估平台。在医疗领域,平台聚焦人工智能医疗影像中的伦理问题,尝试提出对策建议,推动人工智能医疗影像从伦理原则到实质性落地。
蒲公英人工智能治理开放平台1.0诚邀各方共建共享,将AI治理的理念播向世界。