模型幻觉
-
多模态大模型幻觉真相：转折词后最易“想偏”，新方法LEAD用潜在熵解码破解难题
研究发现，多模态大模型的幻觉问题，很多时候并非源于“看错”图像，而是在推理链最不确定的阶段“想偏”。具体而言，模型在生成 because、however、wait 等转折词时，往往处于高熵关键节点，更容易脱离视觉证据，转向语言先验的“脑补”。新方法 LEAD 通过在高熵阶段进行潜在语义空间解码、保留多种推理可能，并注入视觉锚点，有效缓解了这一问题。 随着多模…
-
AI安全攻防战：对抗提示突破T2I防线，幻觉机制精准拆解，通用模型竟优于专业模型
当AI模型从实验室走向实际应用，安全与可靠性的博弈日趋白热化。文本到图像模型的安全防线可能被“隐形”的对抗性提示轻易绕过；大语言模型即便掌握了正确答案，也可能“自信满满”地输出错误信息；而在科学应用场景中，通用模型的表现甚至可能超越为特定领域打造的专业模型。这些看似矛盾的现象，恰恰构成了当前AI安全领域最核心的挑战。本期《AI安全周刊》将深入探讨从利用LLM…
