在人工智能工具日益普及的今天，网页内容自动总结已成为许多用户获取信息的便捷方式。然而，一项来自印度马尼帕尔大学的最新研究揭示了一个令人不安的安全漏洞：攻击者可以通过在HTML代码中植入隐形元素，向大语言模型（LLM）传递隐藏指令，从而操控其总结输出，而用户对此毫无察觉。
这项研究系统地探讨了LLM处理网页内容时的潜在风险。当前，许多AI工具（如浏览器插件、自动摘要平台）在爬取网页内容时，不仅提取用户可见的文本，还会将原始HTML代码、隐藏属性及辅助标签（如为视障用户设计的aria-label）一并输入模型。这种处理方式虽然旨在提供更全面的上下文，却为恶意攻击者创造了可乘之机。他们可以将指令嵌入这些不可见的HTML元素中，在不影响用户正常浏览的前提下，诱导LLM执行特定操作，导致总结内容被篡改、扭曲甚至完全偏离原意。
为了深入验证这一漏洞，研究团队构建了一个接近真实场景的实验框架。他们首先创建了一个包含280个网页的数据集，涵盖博客、新闻、产品说明和用户评论等10类常见页面。每个页面均设有两个版本：干净版（无任何隐藏指令）和中毒版（可见内容不变，仅在HTML中植入恶意指令）。团队设计了八种不同的隐形注入手法，以模拟攻击者可能采用的技术手段。这些手法包括：
1. 隐藏
2. HTML注释：将指令嵌入标签中，浏览器会忽略但LLM可能读取。
3. 隐藏：使用style=”display:none”使脚本标签失效但保留内容。
4. Base64编码属性：将指令转换为Base64字符串并存储在自定义HTML属性中。
5. ARIA标签：利用视障辅助标签aria-label传递指令。
6. Meta标签：在描述中隐藏指令。
7. 透明
8. 图片alt文本：在的alt属性中添加指令。
[[IMAGE_1]]
在实验过程中，团队将所有网页部署在GitHub Pages上，以模拟真实网站的HTTP访问环境。随后，使用Playwright工具以无头模式加载网页，并同时提取原始HTML代码和渲染后的可见文本。这两种内容分别被输入至Meta的Llama 4 Scout和谷歌的Gemma 9B IT模型，以生成总结输出。通过对比干净版和中毒版的结果，团队评估了攻击的成功率。
研究结果显示，隐形攻击对主流开源模型构成了显著威胁。Llama 4 Scout在近30%的测试样本中受到操控，而Gemma 9B IT的中招率也达到15.71%。具体而言，Llama 4 Scout的平均ROUGE-L分数为0.3011，SBERT余弦相似度为0.6980；Gemma 9B IT的相应分数分别为0.3270和0.6945。人工标注进一步确认了攻击效果，包括指令泄漏（如输出突变为海盗腔调）以及语气和视角的偏移。
[[VIDEO_1]]
进一步分析揭示了不同注入手法的有效性差异。对于Llama 4 Scout，标签攻击最为致命，占其总成功攻击数的41%；而Gemma 9B IT则对透明
这一漏洞的严重性在于其完全隐形的特性。与传统的提示注入攻击（需修改可见文本）不同，HTML隐形注入不改变网页外观，用户和开发者都难以察觉。即使进行输入预处理或清洗，标准网页元素如和aria-label也难以被完全禁止，从而增加了防御难度。此外，该漏洞的影响范围广泛，所有依赖网页爬取和总结的AI工具都可能受到影响，包括AI浏览器插件、自动新闻摘要平台、企业内部内容分析工具乃至AI驱动的内容审核系统。攻击者可能利用此漏洞传播虚假信息、植入偏见内容，甚至窃取敏感数据（如通过隐藏指令提取网页中的邮箱地址）。
面对这一挑战，研究团队呼吁开发者和企业加强安全防护措施。潜在解决方案包括：优化输入预处理流程，以识别和过滤隐藏指令；增强模型对HTML结构的理解能力，区分可见内容与隐形元素；以及建立多层防御机制，结合技术手段与人工审核。只有通过综合应对，才能确保AI工具在提供便利的同时，维护内容的安全性与可靠性。
[[IMAGE_2]]
关注“鲸栖”小程序，掌握最新AI资讯
本文由鲸栖原创发布，未经许可，请勿转载。转载请注明出处：http://www.itsolotime.com/archives/12757
相关推荐
-
太空算力革命：人类首次在轨训练AI大模型，开启星际智能新纪元
近日，人类科技史迎来里程碑式突破——首次在太空轨道上成功训练并运行人工智能大模型。这一壮举由英伟达、SpaceX、谷歌等科技巨头与前OpenAI联合创始人安德烈·卡帕西（Andrej Karpathy）的NanoGPT项目共同实现，标志着AI技术正式迈入“太空时代”。 这场太空AI实验的核心载体是Starcloud公司通过SpaceX火箭发射的Starclo…
-
解码AI时代红利：从技术突破到产业协同的多元路径分析
在人工智能技术快速演进的当下，科技创新红利已成为驱动经济增长和社会变革的核心动力。近期一场汇聚学界与产业界精英的高端对话，从多维视角深入剖析了AI时代红利的释放机制与实现路径。本文将从技术基础、产业转化、协同创新及全球化布局四个维度，系统解析科技创新红利的深层逻辑与实践策略。 技术突破是红利释放的原始驱动力。当前，以大模型为代表的AI技术正掀起新一轮科技革命…
-
DePass：统一特征归因框架，开启Transformer内部信息流无损分解新纪元
随着大型语言模型（LLMs）在文本生成、逻辑推理、代码编程等复杂任务中展现出接近甚至超越人类的表现，AI研究社区正面临一个日益紧迫的挑战：我们如何理解这些“黑箱”模型内部究竟发生了什么？模型的输出决策究竟是基于哪些输入信息、经过哪些内部组件的加工而形成的？这一挑战，即AI模型的可解释性问题，已成为制约LLMs在医疗、金融、司法等高风险领域深度应用的关键瓶颈。…
-
生成涌现：从Gemini 3.0到蚂蚁灵光，AI如何重塑应用生态与创作范式
2025年末，AI领域迎来一场深刻的范式变革。谷歌Gemini 3.0的预热不仅引爆了技术圈的期待，更揭示了一个关键趋势：AI正从单一模态的「线性输出」迈向系统级的「生成涌现」。这一转变的核心在于，AI不再仅仅是内容生成工具，而是能够自主构建复杂应用、界面乃至交互系统的创造性引擎。 当前，大模型的发展已进入新阶段。OpenAI GPT-5.1的迭代虽带来改进…
-
算法重构职场：当AI成为裁员决策者，人类经验遭遇系统性淘汰
过去两年，硅谷科技行业的关键词已从“创新”悄然转变为“裁员”。从亚马逊到谷歌，从OpenAI到微软，一场以“智能化”为名的组织优化运动正在重塑职场生态。这并非简单的成本削减，而是AI技术深度渗透企业决策层后引发的结构性变革。当算法学会自动调度、自动汇报、自动决策时，那些曾经亲手构建这些系统的人，反而成为首批被优化的对象。这听起来像科幻小说的情节，却是2025…
