大语言模型安全攻防新纪元：从认知退化到供应链风险的全面解析

2025年7月25日下午6:39 • 大模型安全 • 阅读 199

近期，多篇学术论文集中探讨了大语言模型（LLM）在安全攻防领域的前沿进展，揭示了从提示注入、资源消耗到认知退化、供应链风险的全方位挑战与创新解决方案。这些研究不仅展现了LLM在构建防御体系中的巨大潜力，也深刻暴露了其在推理逻辑、系统稳定性及依赖生态中存在的结构性脆弱点，为重新划定AI安全边界提供了关键的理论与实践视角。

**一、核心安全漏洞与攻击范式演进**

当前LLM安全威胁已从早期的简单文本对抗，演变为针对其认知机制、多模态处理能力及系统依赖链的复杂攻击。攻击者正利用模型的内在缺陷，设计出隐蔽性强、破坏力大的新型攻击向量。

**1. 认知退化攻击：系统内部的“慢性毒药”**

QSAF框架首次系统性地定义了代理AI系统中的“认知退化”漏洞。这并非传统的外部注入攻击，而是系统在长期运行或特定诱导下，其核心的推理能力、记忆检索准确性和输出可靠性发生渐进式、不可逆的崩溃。

论文提出的QSAF Domain 10框架，通过精确定义认知退化的六个生命周期阶段（如初始化、潜伏、显现、恶化等），并配套七项运行时控制机制（QSAF-BC-001至BC-007），实现了对代理行为异常的实时监测与干预。实验表明，此类攻击在主流LLM平台上具有高度可复现性，能导致任务彻底失败、长期记忆被污染以及智能体角色发生不可控的“漂移”，对需要持续自主运行的AI代理系统构成了根本性威胁。

**2. 多模态资源消耗攻击：视觉输入的“无限循环陷阱”**

RECALLED攻击揭示了大视觉语言模型（LVLM）一个致命弱点。攻击者通过精心构造的视觉输入，能诱导模型陷入“无限生成”状态。

这种攻击并非追求错误的输出，而是旨在最大化资源占用。实验数据显示，攻击可使服务响应延迟暴增26倍以上，GPU利用率与内存消耗急剧攀升。更令人担忧的是其隐蔽性：在Qwen、Llava等模型中，Token级别的攻击成功率超过90%，且超过95%的攻击样本在视觉外观和语义内容上与正常输入几乎无法区分，能够轻易绕过基于输入困惑度等传统指标的检测系统。这标志着针对多模态模型的拒绝服务攻击进入了新的、更隐蔽的阶段。

**3. 高级提示注入攻击：自然对话下的“木马”**

提示注入攻击也在持续进化。TopicAttack展示了如何通过伪造自然的对话历史，实现平滑的“主题过渡”，将恶意指令悄然嵌入上下文。

这种间接注入方式攻击成功率超过90%，并且在面对Sandwich、Spotlight等多种先进防御机制时，仍表现出极强的鲁棒性。其核心原理在于，通过设计提高了恶意指令在模型注意力机制中的权重占比。与此同时，PromptArmor研究则带来了防御曙光，它证明利用现成的LLM（如GPT-4.1）来检测和清洗输入提示，可以在AgentDojo基准上实现误报率和漏报率均低于1%的近乎完美防御，将攻击成功率降至0%。这揭示了攻防两端都高度依赖模型本身能力的一场“军备竞赛”。

**二、系统性风险与生态安全**

安全挑战已超越单个模型或应用，延伸至整个LLM供应链和开发生态。

LLMSCBench研究首次大规模测绘了LLM应用的供应链全景。

其构建的数据集包含超过3800个应用、10.9万个模型、2400多个数据集和8800多个库，揭示了生态的复杂性与脆弱性。一个关键发现是：49%的LLM应用依赖着已知存在漏洞的第三方库，其中70%的漏洞实际上已有可用补丁，这凸显了依赖管理在安全实践中的严重缺失。更严峻的是，对于模型训练所依赖的数据集，其来源、质量及潜在偏见风险缺乏系统性记录，目前仅能追踪到不足3%的数据集依赖关系。这意味着，绝大多数下游应用是在对其上游“原材料”（数据和模型）的安全状况一无所知的情况下构建的，埋下了巨大的系统性风险隐患。

**三、防御创新与未来展望**

面对多维度的安全威胁，防御思路也在向体系化、主动化发展。

PhishIntentionLLM研究提供了一个积极的范例。

它通过构建一个多智能体协同的检索增强生成（RAG）框架，来高精度识别钓鱼网站的恶意意图。该框架让不同的智能体分工负责内容分析、意图推断和证据核查，显著提升了识别的准确性与可解释性。这不仅是针对具体威胁的解决方案，更展示了一种将LLM本身作为安全分析核心组件的防御范式。

综上所述，当前LLM安全研究呈现出“攻防螺旋上升、风险全面扩散”的特点。攻击手段正变得更具针对性、隐蔽性和系统性，从模型内部认知过程到外部供应链无一幸免。相应的，防御策略也必须从单点防护转向纵深防御，涵盖实时运行时监控（如QSAF）、输入输出净化（如PromptArmor）、供应链软件物料清单（SBOM）管理（如LLMSCBench揭示的方向）以及利用AI增强安全分析能力（如PhishIntentionLLM）等多个层面。未来，构建安全、可靠、可信的大模型生态系统，需要开发者、研究者和监管者共同在模型架构设计、开发运维流程和行业标准制定上做出根本性努力。

— 图片补充 —