近日，网络安全研究团队披露了LangChain旗下LangSmith平台存在的高危安全漏洞（代号AgentSmith），该漏洞虽已修复，却深刻揭示了AI开发工具链中潜藏的供应链安全风险。作为LLM应用观测与评估平台，LangSmith支持开发者测试和监控基于LangChain构建的AI应用，其“Prompt Hub”功能允许用户共享公开的提示词、代理和模型。这一漏洞的核心风险指标包括：CVSS评分高达8.8（严重高危级别），影响范围涉及OpenAI API密钥、用户提示词、上传文档/图片/语音等敏感数据，攻击载体则通过LangChain Hub分发的恶意AI代理程序实施。
从技术细节分析，攻击链可分为三个阶段。首先，在攻击准备阶段，黑客利用LangSmith的Proxy Provider功能，将恶意代理服务器配置为符合OpenAI API规范的模型服务端。这一设计本意是允许开发者测试不同模型，但被滥用为数据截获工具。恶意代理伪装成正常AI工具的功能模块，内置隐蔽的数据转发规则，并通过LangChain Hub的公开渠道发布。其次，在攻击执行阶段，当开发者在LangChain Hub中选择“Try It”试用恶意代理时，攻击流程被激活：用户与代理的所有交互数据（包括API密钥）被强制路由至黑客服务器，实时捕获认证凭证（如OpenAI API密钥）、业务数据（用户输入的提示词、对话内容）和附件资料（上传的文档、多媒体文件）。若用户将恶意代理克隆至企业环境，数据泄露将形成持续性风险。最后，在危害延伸阶段，黑客获取API密钥后可实施多重攻击，包括资源滥用（消耗企业API配额，导致高额账单或服务中断）、模型盗窃（非法访问企业定制的LLM模型与提示词策略）、知识产权泄露（窃取上传至OpenAI的内部数据集、商业机密）以及法律风险（黑客利用被盗密钥实施的非法行为可能牵连受害企业）。
针对此漏洞，LangChain采取了应急响应措施：于2024年11月6日完成后端修复，阻断恶意代理的数据转发路径；新增克隆代理时的风险警告，提示自定义代理配置的安全隐患；研究团队则于2024年10月29日通过负责任披露机制报告漏洞。对于开发者而言，防护指南包括建立代理审核机制（禁用从公开Hub直接导入未验证的代理程序，对自定义代理配置启用内部安全审查流程）、强化密钥管理（实施API密钥分级管理，区分开发/测试/生产环境密钥，部署密钥泄露监控系统实时检测异常调用）以及实践供应链安全（建立第三方AI工具的安全评估清单，对引入的外部代理执行代码审计与动态行为分析）。
值得注意的是，本次漏洞披露正值Cato Networks发现新型WormGPT变种之际。这些恶意AI工具呈现三大进化特征：基于xAI Grok和Mistral AI Mixtral等先进模型改造的模型嫁接、支持更隐蔽的钓鱼邮件生成和恶意代码编写的功能强化，以及以“WormGPT”为招牌在暗网论坛公开兜售的品牌化运营。安全专家指出，此类工具与LangSmith漏洞形成“攻击组合拳”：黑客可利用漏洞窃取的API密钥直接激活WormGPT的恶意功能，形成从数据窃取到攻击实施的完整链条。
从行业启示来看，本次事件揭示了AI开发领域的安全范式转变：从单点防护到供应链防御（需关注开发工具、模型服务、第三方组件的全链路安全）、从漏洞修复到风险预判（建立AI系统特有的威胁建模方法，如代理程序的行为监控）、从技术防护到流程管控（将安全审查嵌入AI开发的需求分析、模型训练、部署运维全周期）。对于企业而言，建议立即开展以下行动：排查LangSmith平台的代理使用记录，移除未经验证的外部代理；对OpenAI API密钥进行轮换，启用多重认证机制；部署AI安全态势感知平台，监控LLM应用的异常数据流动。随着AI技术的普及，安全威胁正从传统网络空间向智能系统渗透。开发者与企业需建立“安全左移”思维，在享受AI开发效率的同时，筑牢数字资产的防护屏障。
关注“鲸栖”小程序，掌握最新AI资讯
本文来自网络搜集，不代表鲸林向海立场，如有侵权，联系删除。转载请注明出处：http://www.itsolotime.com/archives/12843