一份由欧洲刑警组织(Europol)、联合国区域犯罪与司法研究院(UNICRI)及安全厂商趋势科技共同制作研究报告,披露歹徒如何利用人工智能(AI)技术犯罪,并预测未来可能的发展。报告点出今日及未来一些可能运用AI技术的网络攻击,并提供相关建议给执法人员、政策制定单位及其他机构知道该如何降低这类风险。
Europol网络犯罪中心主任Edvardas ileris表示,AI为世界提升效率、自动化与自主性。然而随着大众对AI遭到滥用的疑虑不断升高,也应探讨AI技术的一些发展潜力;这份报告不仅有助于我们预测AI可能会如何遭到滥用,也有助于大众主动防范并降低这些威胁,如此才能真正释放AI的潜力,让AI系统发挥正面影响力。
结论指出,AI既是网络犯罪集团的攻击手法,也是攻击目标。虽然Deepfake是目前最为人熟知的AI攻击手法,但也警告人们未来需要新的过滤技术来防范假消息攻击与网络勒索的风险,并防范专门以AI资料为目标的攻击。
报告指出,AI可能遭歹徒利用的方式包括“制造难辨真伪的大规模社交工程攻击”、“开发文件内容识别恶意程序以提升攻击效率”、“躲避图片识别与语音生物识别技术”、“勒索病毒攻击,利用人工智能筛选攻击目标并躲避侦测”、“资料污染,发掘侦测规则的盲点”。
UNICRI人工智能与机器人中心主任Irakli Beridze指出,随着AI应用程序开始对真实世界发挥重大影响,很显然地,它将成为人们未来的一项技术基矗然而,如同AI对人类社会的贡献具体而真实一样,其遭到歹徒不肖滥用的威胁也同样存在。
除此之外,这份报告也示警,歹徒正在开发一些AI系统提升恶意程序的成效,并干扰恶意程序防护与脸部识别系统的运行。
(首图来源:趋势科技)