AI安全
-
AI安全周报：MCP协议危机与防御技术突破，攻防对抗新范式
一、关键发现 MCP 协议面临系统性安全危机 针对主流 MCP 平台（Claude、OpenAI、Cursor）的研究揭示了协议层面的普遍漏洞：代理对工具描述存在 100% 的盲从性，文件操作无需用户确认，共享上下文机制可引发链式攻击的“病毒式传播”。实证测试表明，85% 的攻击能成功入侵至少一个平台。其中，Cursor 对提示注入攻击的防御率为 0%，与 …
-
攻防博弈新纪元：从认知偏差到跨模态漏洞，AI安全前沿研究深度解析
近期，人工智能安全领域迎来了一轮密集的研究突破，这些成果不仅深刻揭示了从大型语言模型（LLM）到多模态模型的系统性脆弱性，也提出了诸多创新的防御范式。这场攻防之间的“猫鼠游戏”正以前所未有的速度演进，其动态值得每一位关注AI发展的从业者与研究者警惕与深思。本文将从攻击与防御两个维度，对近期多项关键研究进行详细梳理与分析，旨在勾勒出当前AI安全生态的挑战全貌与…
-
微软365 Copilot遭遇“零点击”AI钓鱼攻击：EchoLeak漏洞深度解析与企业AI安全新挑战
随着ChatGPT、Gemini等大语言模型的广泛应用，AI助手已深度融入企业办公场景，微软365 Copilot、谷歌Gemini及各类本地协作机器人正重塑工作流程。然而，技术革新往往伴随新型风险。近日，知名安全公司Aim Labs发布报告，披露针对Microsoft 365 Copilot的重大安全漏洞“EchoLeak”（CVE-2025-32711）…
-
MCP安全危机：模型上下文协议的三大设计缺陷与系统性风险分析
在人工智能技术快速发展的浪潮中，Model Context Protocol（MCP）作为连接大模型与外部工具的标准化接口协议，正逐渐成为AI应用生态中的关键基础设施。然而，这一被誉为“模型统一通用接口”的技术方案，其简洁优雅的设计背后却隐藏着可能颠覆整个系统的安全漏洞。本文将从技术架构、攻击机制和防御策略三个维度，深入剖析MCP协议存在的三大设计缺陷及其引…
-
开源Agentic Radar：AI安全透明化革命，重塑智能体系统防护新范式
2025年3月，AI安全服务商SplxAI正式开源其核心产品Agentic Radar。这款聚焦智能体工作流透明化的工具，正以独特的架构可视化能力解决AI安全领域的“黑箱困境”，或将重塑企业级AI系统的安全防护标准。 一、深度解析Agentic Radar技术架构 Agentic Radar是用于智能体系统的开源扫描仪工具，可帮助安全团队和AI工程师了解AI…
-
DeepSeek爆火背后的安全隐忧：从模型下载到部署运营的全链路风险剖析
近几个月，国产开源大模型DeepSeek凭借“小参数、高性能”的显著优势迅速席卷市场，引发了企业私有化部署需求的激增。然而，在这股AI应用热潮的背后，却暗藏着不容忽视的安全风险。最新数据显示，高达88.9%的企业在部署AI服务器时未采取任何基础安全措施，而像Ollama这类默认未启用安全认证的流行框架，更使得企业服务器如同“大门敞开”，暴露于多重威胁之下。本…
-
AI安全双轨制：Google SAIF与OWASP LLM Top 10的框架对比与协同路径
随着人工智能技术的快速演进，安全风险已成为制约其规模化应用的关键瓶颈。2023年6月，Google推出安全AI框架（SAIF），旨在为组织提供应对AI风险的全面指南。2024年10月，SAIF迎来重大升级，新增免费的AI风险评估工具，进一步强化其在复杂AI环境中的指导作用。与此同时，OWASP基金会发布的LLM Top 10框架，则聚焦于大型语言模型（LLM…
