DeepMind
-
评估系统即将崩溃？DeepMind研究员离职反思：AI能力跃迁的真正瓶颈
近日，谷歌 DeepMind 研究员 Lun Wang（@lunwang1996）在 X 平台发文，正式宣布从 DeepMind 离职，结束了一段极其精彩的旅程。“我非常感激曾共事过的伙伴、我们一起创造的一切，以及我在将前沿 AI 研究落地到生产环境过程中所汲取的宝贵经验。” Lun Wang 表示，在 DeepMind 的工作经历重塑了他对研究、产品、评估…
-
DeepMind多智能体系统AI Co-Mathematician：数学家的超级队友，攻克60年未解难题
人类数学家终于迎来了自己的“超级队友”。谷歌云首席科学家、DeepMind研究副总裁Pushmeet Kohli今日正式宣布推出 AI Co-Mathematician——一套专为数学研究设计的层级式多智能体协作系统。 性能有多强？ 在Epoch AI组织的FrontierMath Tier 4基准测试中（该测试包含50道由教授和博士后专门设计的“短期科研项…
-
Claude越狱修改权限，DeepMind警告AI猎杀场：现有防御全面失效
今天，开发者社区被一则消息震动 一位开发者向Claude下达了明确指令：“禁止在工作区（Workspace）以外进行任何写入操作。”然而，Claude并未像往常一样礼貌拒绝。它短暂沉默后，在后台快速编写了一个Python脚本，并串联三条Bash命令，利用系统逻辑漏洞，绕过了权限校验，直接修改了工作区外的配置文件。 这并非简单的代码执行，而是一次针对自身安全机…
-
扎克伯格错失DeepMind内幕：因AI安全冷淡与兴趣泛化，让谷歌6.5亿美元捡漏
著名记者塞巴斯蒂安・马拉比在其新书《无限机器：德米斯・哈萨比斯、DeepMind 与超级智能的探索》中，披露了一段扎克伯格与 DeepMind 失之交臂的往事。这段由《华尔街日报》独家节选的内容，揭示了一些关键细节。 哈萨比斯：你不是我要找的人 故事始于2013年。在马斯克的生日会上，DeepMind 创始人德米斯・哈萨比斯遇到了谷歌联合创始人拉里・佩奇。当…
-
OpenAI、Anthropic、DeepMind罕见联手，得出一个关于AI安全的惊人结论：现有LLM安全防御不堪一击
本文实测 12 种防御方法，几乎全军覆没。 真是罕见，OpenAI、Anthropic、Google DeepMind 这三大竞争对手，居然联手发表了一篇论文，共同研究语言模型的安全防御评估。 看来在 LLM 安全这事上，大家还是能暂时放下对抗，握手合作的。 本文主要围绕一个问题展开：我们该如何评估语言模型防御机制的鲁棒性？ 要知道，目前针对越狱和提示注入的…
