大模型漏洞
-
AI“投毒”黑产曝光：虚构产品竟被大模型推荐，GEO灰色产业链如何操控信息？
大模型竟上3·15晚会？虚构产品被AI推荐背后的灰色产业链 大模型竟也登上了3·15晚会的曝光台。 一款根本不存在的智能手环，竟能被AI大模型推荐，且排名靠前。央视3·15晚会揭示了一个惊人的互联网灰色产业链——AI“投毒”。 记者随机购买了一款名为“力擎GEO优化系统”的软件，随后虚构了一款智能手环产品，并用该软件批量生成十余篇广告软文，发布至各大网络平台…
-
隐形攻击：HTML代码中的隐藏指令如何操控大模型网页总结
在人工智能工具日益普及的今天，网页内容自动总结已成为许多用户获取信息的便捷方式。然而，一项来自印度马尼帕尔大学的最新研究揭示了一个令人不安的安全漏洞：攻击者可以通过在HTML代码中植入隐形元素，向大语言模型（LLM）传递隐藏指令，从而操控其总结输出，而用户对此毫无察觉。 这项研究系统地探讨了LLM处理网页内容时的潜在风险。当前，许多AI工具（如浏览器插件、自…
