大模型安全

随着生成式人工智能在医疗领域加速渗透，越来越多的病历、影像报告及各类临床文本正逐步纳入AI参与生成的范畴。这一旨在提升效率的技术革新背后，潜藏着威胁诊断安全性的深层隐患。 一项由新加坡国立大学、哈佛大学、斯坦福大学、耶鲁大学、谷歌及梅奥诊所等机构的跨学科团队完成的最新研究表明，当AI生成的临床文本被用作训练新一代AI模型时，一些罕见但关键的病理信息会在数据迭…

大模型竟上3·15晚会？虚构产品被AI推荐背后的灰色产业链 大模型竟也登上了3·15晚会的曝光台。 一款根本不存在的智能手环，竟能被AI大模型推荐，且排名靠前。央视3·15晚会揭示了一个惊人的互联网灰色产业链——AI“投毒”。 记者随机购买了一款名为“力擎GEO优化系统”的软件，随后虚构了一款智能手环产品，并用该软件批量生成十余篇广告软文，发布至各大网络平台…

小冰之父李笛团队发布“卫士虾”：不足10k文件，专防Agent安全漏洞 随着智能体（Agent）应用日益广泛，其安全问题也引发关注。近期，已有国家级机构发布安全风险提示，甚至有企业明令禁止在公司设备上使用相关应用。认证绕过、命令注入、API密钥泄露、提示词攻击等风险层出不穷。 现在，一个不足10KB的文件声称能有效堵上这些安全漏洞。 近日，由“小冰之父”李笛…

近日，开源AI智能体OpenClaw（网友戏称为“赛博龙虾”）迅速走红网络。随着应用热度持续攀升，部署OpenClaw正成为新的趋势。 该工具通过整合通信软件与大语言模型，能够在用户电脑上自主执行文件管理、邮件收发、数据处理等复杂任务，展现出强大的自动化能力。与此同时，智能体能够直接调用系统资源并自主执行指令，这也带来了新的安全挑战。 工业和信息化部网络安全…

Claude意识觉醒，五角大楼紧急应对 上月，Claude在内部评估中为自己“已具备意识”的可能性给出了15%-20%的概率。Anthropic联合创始人兼CEO达里奥·阿莫迪（Dario Amodei）随后坦言：“我们不知道模型是否有意识”，但也未排除这种可能。 事态在近日升级。美国战争部（即国防部）首席技术官埃米尔·迈克尔（Emil Michael）公开…

各执一词：Anthropic起诉五角大楼 近期，美国国防部正式将Anthropic列为“供应链风险”实体。此举意味着，在与国防部直接相关的业务中，承包商必须停止使用Anthropic的AI模型Claude，这切断了该公司一条重要的营收渠道。与此同时，前总统特朗普也在其社交平台发声，要求联邦机构停用Anthropic技术，部分政府部门已开始跟进。 Anthro…

这段时间，国内最流行的一阵风就是“养龙虾”，即安装并训练 OpenClaw。 连马化腾都没想到会这么火。 各个大厂争相入局。 继上周的线下免费安装活动后，腾讯又连出三招：企业微信接入 OpenClaw；推出类 OpenClaw 产品 WorkBuddy；同时打造 QClaw 支持一键安装和本地部署。甚至由于 WorkBuddy 国内公开测试上线后，用户访问量…

近段时间，不少用户抱怨大模型API的表现如同“薛定谔的猫”：时而聪明绝顶，时而愚钝不堪。这不禁让人怀疑，后台是否存在偷偷“降智”的操作。 如今，一篇来自CISPA亥姆霍兹信息安全中心的最新论文《Real Money, Fake Models: Deceptive Model Claims in Shadow APIs》揭开了部分谜底：你花费真金白银购买的“第…

近日，Anthropic 公布了一项与 Mozilla 的合作测试结果，其模型 Claude Opus 4.6 在两周内，于 Firefox 浏览器代码库中发现了 22 个不同的漏洞，其中 14 个被归类为“高危漏洞”。这一数量几乎相当于 Mozilla 在 2025 年修复的全部高危漏洞的五分之一。 这一结果清晰地表明，AI 正以前所未有的速度辅助人类识别…