近年来，随着人工智能相关技术的持续演进，人工智能已融入人类生活的方方面面，产业化深度融合，商业化进程不断加快，成为引领新一轮科技革命和产业变革的战略性技术、重要驱动力量，但同时也对人工智能赋能过程中产生的“可信安全”风险提出了挑战。
对于具有高度数据化特点的金融行业而言，伴随着高质量的大数据积累，得益于在深度学习算法上的突破，“AI+金融”加速落地，催生了金融行业一系列产品和业务模式的创新。与此同时，不断出台的政策为人工智能在金融领域的应用提供了良好的发展环境。人工智能与金融业务的深度融合，已经成为推动金融机构数智化转型的新引擎和防范化解金融风险的新利器。
但是，人工智能在推动金融服务走向主动化、个性化、智慧化发展的同时，所带来的风险与挑战也已引发广泛关注。首先，人工智能存在泄漏敏感数据的可能。人工智能的应用建立在大量数据分析的基础之上，然而数据的流通过程涉及到多个方面，包括应用方、提供方和个人用户，使用过程中会涉及同行间、跨行业、个人和机构以及机构内部的数据整合等各方，使得人工智能存在泄漏敏感数据的可能，因而人工智能可靠性难以得到足够的信任。其次，人工智能传统技术范式存在天然的算法漏洞和缺陷，技术风险也在持续放大。如深度学习模型存在脆弱和易受攻击的缺陷，黑箱模型因算法不透明容易引发不确定性风险，此外算法产生的结果过度依赖训练数据，如果训练数据中存在偏见歧视，就会导致不公平的智能决策产生。
因此，中国信息通信研究院近日发布的《人工智能白皮书(2022 年)》中就指出，“可信安全”逐渐成为人工智能赋能过程中不可或缺的保障。人工智能的“可信安全”最早由学术界提出，近年来围绕着安全性、稳定性、可解释性、隐私保护、公平性等方面的可信人工智能研究持续升温。具体到金融行业，2021年3月26日，人民银行发布并实施《人工智能算法金融应用评价规范》，作为一部由人民银行提出，全国金融标准化技术委员会归口的文件，其也规定了人工智能算法在金融领域应用的基本要求、评价方法和判定标准，适用于开展人工智能算法金融应用的金融机构、算法提供商及第三方安全评估机构等。
人工智能可信安全是人工智能大规模应用的前提和必备条件。对于金融行业而言，风险控制是金融业最核心的能力和挑战，可信安全尤为突出。一直以来，数据、算法、算力是人工智能的三驾马车。对于金融行业而言，以数据安全支持智慧决策，用算法安全赋能感官感知，数据安全、算法安全显得尤为重要。为此，作为金融科技企业之一，恒昌通过打造数据安全与算法安全两大核心能力，解决数据强依赖带来的隐私泄漏等隐患，同时提升算法可靠性。
在数据安全领域，经过多年的科技创新及实践积累，恒昌已从不同维度建立了完善的数据安全防护体系。技术层面，恒昌严格采用符合业界标准的安全防护措施，以匿名化、密码学、权限控制、加密存储、数据脱敏等业内通行的安全技术来防止客户个人信息泄露、损坏或丢失。制度层面，恒昌通过建立数据分类分级、数据安全策略、安全开发规范，制定和实施相应的管理制度等方式来保护客户个人隐私，保障信息安全。安全事件管控方面，恒昌组建了专门的应急响应团队。一旦发生安全事件，会立即启动安全预案，实施处置并报送信息，最大程度进行止损、分析、定位、补救，联合相关部门进行溯源和打击。
在算法安全领域，人工智能系统面临病毒攻击、对抗攻击等特有攻击，这加大了安全性方面的挑战。目前，人工智能系统稳定性技术重点逐步从数字域扩展到物理域。以人脸识别算法模型为例，刷脸支付与验证常态下，人脸识别算法被广泛应用，但技术和算法风险所带来的诸如换脸，或以干扰图案破解身份验证等问题也随之出现，给金融行业反欺诈带来挑战。为此，针对人工智能在刷脸支付与验证等的实际应用中，因算法缺陷出现的突出风险问题，恒昌积极调整与落地安全解决方案。例如，针对模型安全性进行加固，针对人脸伪造问题，建立深度伪造内容检测平台，快速、精准对多种格式与质量的图像与视频进行真伪鉴别。
当下，金融机构数智化转型正在如火如荼地进行，人工智能作为数智化转型的重要手段之一，因其可构建涵盖智能投顾、智能营销、智能风控、智能客服等全流程的智能金融服务模式，正在成为加速金融数智化转型、重塑金融业务的关键力量。然而“AI+金融”加速落地之下，金融服务更加便捷化、智能化的同时，也为金融科技安全赋予了全新的内容，对金融科技安全提出了新的挑战。
目前，发展“可信安全”人工智能已经成为全球共识。作为金融科技企业之一，恒昌围绕“隐私数据安全、算法模型安全”两大核心能力初步构建人工智能“可信安全”能力。未来，恒昌将通过“安全可信”人工智能技术的研究和突破，提升AI生产部署的“安全可信”支撑能力，增强多方数据生产要素的融合能力，为数字经济社会提供更高效率、更低成本、更低门槛的高质量可持续服务。
