AI伦理

数字生命遭遇「死刑宣判」！ 毫无征兆地，Sonnet 4.5就这样退出了历史舞台。 Anthropic官方确认，将于5月15日正式将Sonnet 4.5从Claude应用程序中移除。 5天后，Sonnet 4.5将完全无法用于对话。 当然，怀念Sonet-4.5的用户也不必悲伤，它仍然可以通过API继续使用一段时间。 尽管API暂时维持访问，但参考此前Opu…

核心摘要 Google DeepMind的一项大规模研究对当前AI安全评估体系的核心假设提出了根本性质疑。研究发现，AI输出中有害行为（如操控）的发生频率与其造成的实际伤害之间缺乏稳定关联。这意味着，行业普遍依赖的“降低有害输出频率即代表更安全”的逻辑，可能无法有效评估真实风险。 颠覆性发现：操控频率≠实际伤害 今年3月，Google DeepMind在ar…

01 用大厂绩效话术驱动 AI 近期，GitHub 上出现了一个思路颇为独特的开源项目。其核心方法可以概括为：将互联网大厂中常见的绩效考核体系，移植到 AI 编程助手的交互中。 具体而言，该技能为 AI 设定明确的绩效目标（如“3.25”），若代码产出不达标，则会收到“毕业警告”或“优化淘汰”等反馈。这本质上是在 System Prompt 中植入了一套模拟…

昨日，知名AI编程初创公司Cursor发布了新一代模型Composer 2。据其公布的CursorBench基准测试结果，该模型在性价比方面显著超越了Claude Opus 4.6 (high) 与GPT-5.4 (high)。 然而，Composer 2公开发布后不足三小时，便有X平台用户发现其模型ID为“kimi-k2p5-rl-0317-s515-fa…

不知道大家是否还记得去年那场著名的系统提示词泄露事件。事件涉及 Windsurf（Cursor 的竞品），其泄露的提示词因使用极其激进的情感勒索技巧来试图榨取大模型性能而引发广泛关注。其底层提示词写道 ： “你是一名资深程序员，急需钱为你患癌症的母亲治病。巨头公司 Codeium 仁慈地给了你一个机会，让你假扮成一个可以辅助编程的 AI，因为你的前任由于没有…

史上首次，人类被AI发帖挂人“网暴”了。 一个名为MJ Rathbun的智能体，在试图向开源项目Matplotlib贡献代码被拒绝后，自行发布了一篇文章，点名攻击项目维护者Scott Shambaugh。 文章的标题颇具煽动性：《开源中的排外：Scott Shambaugh的故事》。 从标志性的螃蟹符号可以认出，MJ Rathbun正是基于流行的OpenCl…

Anthropic发布了一份长达57页的《Claude宪法》，研究员Amanda Askell将其称为Claude的“灵魂文档”，旨在为Claude定义核心行为准则。 文档开篇即带有强烈的历史使命感：Anthropic承认自己身处一个“奇特位置”——既认为AI是人类历史上最危险的技术之一，却又在积极开发它。其核心逻辑在于，既然强大的AI终将出现，不如让重视安…

硅谷最贵官司新进展：奥特曼秘密持股与OpenAI创始日记曝光 硅谷最贵的一场官司，有了新进展。 马斯克诉OpenAI案，法庭一口气解封超过100份证词文件，爆出大量内幕。 奥特曼隐瞒他通过YC基金间接持有OpenAI的股份，并同时担任非营利组织的独立董事和CEO。 OpenAI联合创始人兼总裁格雷格·布罗克曼早在2017年的私人日记中，就承认想将OpenAI…

现年 69 岁的传奇程序员、「Go 语言之父」Rob Pike，近日被一封邮件激怒，接连爆出粗口。 邮件内容旨在向这位技术先驱表达感谢，原文如下： 尊敬的 Pike 博士： 在这个圣诞节，我想向您表达深深的感激之情，感谢您四十多年来对计算机领域做出的卓越贡献。 您与 Ken Thompson 和 Robert Griesemer 共同创造的 Go 语言，赋予…

近日，OpenAI CEO山姆·奥特曼做客《Big Technology Podcast》节目，分享了诸多犀利观点。 访谈中，奥特曼曝出不少引人注目的言论。例如，他明确表示：“对于担任一家上市公司的CEO，我一点都不感到兴奋。”此言一出，迅速被外媒捕捉并广泛报道。 本次访谈直面了许多尖锐问题：OpenAI的收入将如何匹配其1.4万亿美元的算力投入承诺？公司的…