Gartner：AI狂飙下存在安全暗礁，中国AI优先网络安全治理预测

近期，Gartner发布了《预测2026：中国AI优先型网络安全前沿治理》报告，该报告围绕AI使用治理、AI应用安全防护及AI驱动型威胁防御等关键领域，为中国企业的首席信息官（CIO）及其网络安全团队提供了四项具有前瞻性的洞察。

AI四大困境，让不确定性加剧

Gartner高级研究总监陈延全表示，AI早已不再是单纯的效率工具，而是重塑企业安全格局的核心变量。当下，生成式AI在中国爆发式增长，企业争相布局AI以抢占先机、降本增效。然而，高速增长背后风险暗流汹涌：员工滥用公共AI泄露敏感数据、深度伪造突破传统防线、IT与OT仓促融合引发物理安全隐患、网络安全人才缺口严重……

其一，员工效率焦虑催生失控的“影子AI”。职场高强度压力下，员工普遍秉持 “效率优先、安全靠边” 心态，擅自使用公共生成式AI处理核心工作，客户数据、源代码、战略文档、商业合同等敏感信息被随意上传至第三方平台，企业不知情、不可控，影子AI已渗透办公全场景，成为数据泄漏最大隐患。

其二，深度伪造技术产业化，攻击成本趋近于零。音视频伪造无需专业团队，开源工具一键生成、批量制作，成本低至几元。企业高管公开素材沦为伪造原料，攻击者可生成逼真的“高管视频转账指令”，肉眼难辨真伪，传统安全培训在深度伪造面前彻底失效。

其三，IT与OT仓促融合，物理AI风险直逼关键命脉。制造业数字化转型加速，智能制造、智能电网、智慧交通等领域IT与OT边界模糊，网络攻击可穿透至物理系统。AI感知数据被篡改、决策逻辑被劫持，极易引发设备故障、生产线瘫痪、公共事故，甚至人身伤害，风险远超传统网络安全事件。

其四，网络安全人才缺口超200万，复合型人才尤为稀缺。安全团队本就人手紧张，面对AI带来的海量告警、复杂工具、新型攻击，陷入超负荷运转，AI反而放大了人才短缺危机。

四大预测，明确安全风险边界

基于对上述不确定性因素的深入洞察，Gartner就中国企业人工智能安全战略的重塑提出四项预测，明确了人工智能时代安全防御的核心发展方向。

预测一：2028 年，AI价值 80% 来自能力扩张，而非裁减人员

人才缺口决定“AI裁员”不现实。当前安全团队面临告警积压、合规滞后、人手不足，AI的核心价值是填补人力缺口、增强现有能力，而非取代员工。AI可自动化处理重复告警、分解任务、分类数据，让人员从机械工作中解放，聚焦威胁分析、战略规划和业务防护。未来两年，AI将成为安全团队的“能力放大器”，企业需摒弃“AI降本即裁员”的错误认知，将AI投资从“削减人力”转向“增强团队、补齐短板”。

预测二：2028年，80%企业遭遇影子AI失控，数据泄露成为CISO核心优先级

Gartner调查显示，70%的企业发现员工违规使用公共AI工具，52%发现员工私下用AI处理核心数据。敏感数据无管控流向第三方，泄漏风险激增。预计到2028年，超80%中国企业将面临影子AI泛滥问题，AI数据泄露控制将与勒索软件防御及合规管理并列，成为CISO三大优先事项。

预测三：2029年，50%社会工程攻击由深度伪造驱动，传统培训全面失效

移动社交与办公应用是职场沟通核心，也成为深度伪造攻击“重灾区”。未来深度伪造将升级为社会工程攻击主流，涵盖伪造会议、语音、视频等形式，攻击者可实时生成虚拟高管参会并下达指令。传统安全培训主要面对基础防钓鱼，面对逼真伪造音视频时易失效，企业必须重构身份验证与安全意识培训体系。

预测四：2029年，30%部署物理AI的企业遭遇重大物理安全事故

物理AI连接数字与现实，广泛应用于能源、交通、制造等领域，通过传感器感知、AI决策和执行器完成物理动作。其错误不可逆，被攻击将导致设备停机、生产中断、公共事故甚至人身伤害。中国关键基础设施AI部署加速，放大风险，预计到2029年，超30%部署物理AI的企业将经历物理中断，使其安全成为监管红线与企业生死线。

平衡创新与安全，穿越AI安全风暴

面对四大趋势，企业不必被动应对，Gartner 给出务实、能落地、兼顾创新与安全的治理策略，搭建弹性防御体系。

首先，优先购置嵌入式自动化安全工具，处理告警降噪、分类分流、任务拆解等常规事务，迅速提升效率；关键操作严格执行“人在回路”，AI仅做分析推荐，隔离服务器、修改防火墙规则等高风险举动必须人工确认、留痕、可审计；重塑AI投资表述，聚焦能力提升指标，传达“AI是增强工具”的理念；升级SOC工作流程，引入智能体编排强化SOAR框架，简化跨工具操作，提高处置效能。

其次，制定生成式 AI 使用政策，严禁将敏感数据上传至未授权的公共AI；开展场景化培训，模拟数据泄漏风险，纠正员工“效率优先”的观念；审计网络出口、终端与API流量，识别未授权的AI访问，量化数据流向；把静态DLP升级为上下文感知DLP，部署专用AI控制技术，拦截提示词中的敏感内容；提供企业授权的AI工具，优先选择数据本地化、零训练、可审计的平台，引导安全使用。

然后，审计协作平台原生的反伪造能力，若缺失则用终端工具补充，限制未验证通话的高权限操作；开展场景化培训，模拟虚假音视频攻击，增强员工的警惕性；重构高风险工作流程，执行先验证、后信任的原则，强制进行多因素认证，拒绝单一音视频验证；将深度伪造纳入红队演练，针对高风险部门模拟攻击，完善跨媒体验证流程。

最后，构建零信任网络物理安全框架，隔离关键系统，认证AI智能体，防范横向渗透；分阶段部署，从高频低风险任务开始，验证安全后扩展至高风险场景；关键操作强制人机协作，明确干预流程、上报途径；对物理AI模型、软件进行全流程安全测试；部署AI通信监控工具，监测多代理行为，隔离异常系统或集群。

总结来看，企业AI安全治理的最大误区是陷入“全面禁止”或“全面放任”的极端。有效治理需摒弃一刀切，构建分级管控、弹性防御、持续迭代的体系。安全并非阻碍创新，而是护航创新。企业不应放弃AI红利，也不应忽视安全底线。只有正视风险、提前布局、分级治理、人机协同，才能安全前行，让AI成为高质量发展的核心引擎。