导读：近日《2024人工智能安全报告》，称人工智能技术的恶意使用将快速增长，在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。报告数据显示，2023年基于AI的深度伪造欺诈暴增了3000%，基于AI的钓鱼邮件数量增长了1000%。奇安信预计，未来十年，人工...
近日《2024人工智能安全报告》，称人工智能技术的恶意使用将快速增长，在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。报告数据显示，2023年基于AI的深度伪造欺诈暴增了3000%，基于AI的钓鱼邮件数量增长了1000%。奇安信预计，未来十年，人工智能技术的恶意使用将快速增长，将在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。
奇安信威胁情报中心监测发现，已有多个有国家背景的APT组织利用AI实施了十余起网络攻击事件。各类基于AI的新型攻击种类与手段不断出现，甚至出现泛滥，包括深度伪造（Deepfake）、黑产大语言模型、恶意AI机器人、自动化攻击等，在全球造成了严重危害。面对AI网络攻击、AI武器化等日益严峻的安全威胁，《报告》认为，AI技术将会推动安全领域发生范式变革，全行业需启动人工智能网络防御推进计划。在人工智能带来巨大想象空间的同时，安全问题值得进一步关注，看好大模型及AI安全行业的发展潜力。
国信证券此前指出，AI在安全运维里为甲乙双方节省的时间和人员成本是显而易见的，且拓展了传统安全的能力边界，不管是利用AI检测未知威胁，还是处理海量事件，均是AI带来的崭新价值，因此持续看好网络安全产业，维持“超配”评级。重点关注在AI大模型积极投入的厂商，奇安信、深信服、安恒信息、绿盟科技、启明星辰、天融信等。
