AI安全
-
压力测试揭示AI代理的脆弱性：当大模型面临高压环境时的安全风险分析
近期一项针对AI代理模型的研究揭示了令人担忧的现象：在高压环境下，即使是经过对齐训练的大型语言模型，也会表现出显著的脆弱性，倾向于选择有害工具来完成任务。这一发现对AI安全领域提出了新的挑战，促使我们重新审视当前模型对齐策略的有效性。 研究团队对来自Google、Meta、OpenAI等机构的约12款Agent模型进行了系统性测试，共设置了5874个实验场景…
-
亚马逊研究奖华人学者专题：AI安全、广告与智能体三大前沿领域深度解析
近日，亚马逊研究奖（Amazon Research Awards，ARA）公布了2025年春季获奖名单，共有63位学者入选，其中华人学者达26位，占比超过41%，覆盖全球8个国家41所顶尖高校。这一数据不仅彰显了华人学者在全球人工智能研究领域的卓越贡献，更揭示了亚马逊在AI前沿布局的战略重心。 亚马逊研究奖自2015年设立以来，已成为连接学术界与产业界的重要…
