AI智能体遭恶意“投毒” 专家解读网络安全防护新方法

近日，国家计算机病毒应急处理中心联合多部门发布的《网络空间安全态势分析报告（2026）》等多份报告提出，目前全球网络空间安全事件呈现“规模高位、烈度上升、节奏加快”的特征，尤其是由人工智能所带来的安全风险暴露面持续扩大，给传统网络安全防护体系带来冲击与挑战。

依托新上线的国家计算机病毒协同分析平台，国家计算机病毒应急处理中心和计算机病毒防治技术国家工程实验室，于今年4月份在“龙虾”智能体系统相关技能仓库中，发现多个包含恶意代码的仿冒技能包，这也是国内最早发现我国境内“龙虾”智能体仓库存在被恶意“投毒”的案例。

国家计算机病毒应急处理中心高级工程师 杜振华：发现8个恶意技能包被植入恶意提示词，在技能包被加载和运行的时候，会在后台下载恶意程序，窃取用户本地计算机上的敏感信息，甚至可以被攻击者远程控制，把用户的计算机当作跳板，对公司的内网或者用户的其他设备进行进一步攻击。普通用户如果没有专业的知识背景或者技术背景，安全鉴别会比较困难。

专家介绍，针对以“龙虾”等智能体为恶意“投毒”目标的攻击，仅仅是当前人工智能安全风险的“冰山一角”。从4月首次发现至今，不到半年时间，相关网络风险事件，已快速呈现出一种智能体辅助编写恶意程序，甚至自主发起网络攻击的演变趋势。对此，专家表示，传统体系已难以适应新的对抗要求，必须推动防护能力全链条的人工智能化升级。

中国工程院院士 邬江兴：我们创造了“群体共事”方法，借鉴陪审团制度。一个大模型很厉害，但它在规则遵守方面可能不如几个小模型严格，用小模型作为“法官”“陪审员”，大模型提出结论，看是不是能够获得小模型的共识。如果有共识，这个大模型结论比较靠谱，大大降低决策风险。