当AI学会“自我进化”：DeepSeek V4的野心与一场无声的科研革命

AI领域正在发生一件比模型参数竞赛更本质的事：模型不再被“训练完就定型”，而是开始学会“持续学习”和“自我迭代”。

这不是科幻。DeepSeek研究员陈德里（Deli Chen）与AI合作的最新论文，将这一趋势推到了聚光灯下。这篇论文本身就是一个活生生的实验样本——它的实际作者是DeepSeek V4 Pro和GPT-Image-2，而人类只承担了1%的工作量。

但真正令人震动的，不是“AI写了论文”这个噱头，而是论文揭示的底层逻辑：未来的AI系统，将不再是一组冻结参数的静态模型，而是一个能够持续吸收新知识、自主反思错误、并在不遗忘旧能力的前提下自我进化的动态系统。

为什么“持续学习”与“自我改进”必须合二为一？

传统研究中，这两个方向被割裂对待：

• 持续学习：模型如何顺序适应新任务或新数据，而不遗忘旧任务？
• 自我改进：模型如何自主增强自身能力，无需人类反复标注？

但论文的核心判断是：它们面对的是同一个底层问题——模型如何在接收新信息后更新自己，同时不破坏已经掌握的能力？

更直白地说：未来的AI训练管线，必然会将外部数据流和模型自生成训练信号结合起来，形成紧密耦合的反馈循环。 这意味着：

• 模型不再只是“喂数据-训练-部署”的线性流程
• 而是进入“部署-反馈-自我修正-再次部署”的持续循环

这不是锦上添花，而是通往AGI的必经之路。

DeepSeek V4的“硬核武器”：如何让万亿参数模型学会自我迭代？

如果持续学习是目标，那么DeepSeek V4的架构就是实现它的引擎。这里的关键突破，不是简单的参数堆叠，而是对“如何学习”这一元问题的重新设计。

1. 混合注意力机制：让模型“边看边忘”的同时“记住关键”

DeepSeek V4的核心创新之一是混合注意力架构，它结合了两种注意力机制：

• 压缩稀疏注意力（CSA）：快速扫描长文本，只关注关键信息，大幅降低计算量
• 重度压缩注意力（HCA）：对重要信息进行深度编码，确保核心知识不被遗忘

在1M上下文推理中，V4仅需V3.2约27%的FLOPs和10%的KV缓存。这意味着模型可以处理整本书或整个代码仓库，而不会因上下文窗口被填满而崩溃。

2. mHC架构：锁死万亿级模型的训练稳定性

当模型参数达到1.6T（Pro版）时，深层网络中的信号传播极易退化或发散。V4的流形约束超连接（mHC） 架构，通过强化残差连接，确保了万亿级模型在极深层网络中的稳定性。这就像给一个庞大的神经网络加上了“脊柱”和“神经系统”，让它既能伸展，又不会散架。

3. Muon优化器：让自我改进的循环“不偏离轨道”

自我改进最危险的风险是什么？模型会不断强化自己已有的模式，陷入“自我确认”的循环，而不一定更接近真实目标。

Muon优化器的设计，核心就是解决这个问题。它确保模型在自我迭代时，不会因过度自信而“飘离”真实信号。论文中明确提到：没有可靠的锚定信号（如验证器、人类偏好数据、问题结构本身），自我改进的循环最终必然会退化。

从“写论文”到“设计实验”：DeliAutoResearch SKILL的进化启示

这篇论文最有趣的部分，不是内容本身，而是它如何被生产出来。

陈德里搭建的自主科研智能体框架DeliAutoResearch SKILL，经历了两次迭代：

• 第一版：生成论文需要大量人工介入，交互轮数高，但总token消耗低
• 第二版（生成这篇论文的版本）：人工介入大幅减少，模型自主设计并运行实验，总token消耗显著上升

这背后的信号非常关键：

人工介入变少，系统自己想和做的部分变多。对一个自动科研工作流来说，这恰恰是走向更高自主性的标志。

更值得注意的是，这次模拟同行评审分数达到了8分（上一版为6分）。虽然不是人类评审，但分数提升表明：模型不仅学会了“写”，还学会了“写得更好”。

陈德里坦言，如果完全由自己亲自撰写，论文质量或许更高，但产出速度会大幅下降。他的核心目标不是打磨单篇论文，而是持续迭代DeliAutoResearch SKILL本身。因此，他选择保留论文中略显粗糙的部分，作为系统继续进化的反馈样本。

这是一条非常聪明的策略： 将当前系统的“不完美”视为下一轮迭代的训练数据，而不是掩盖它。

六个必须面对的“死穴”：持续学习的真正挑战

论文在最后提出了六个开放挑战，每一个都是通往AGI路上的“死穴”。我挑几个最关键的来说：

1. 大模型规模能否解决灾难性遗忘？

直觉上，更大的模型应该更不容易遗忘。但论文的结论是：规模不是根治方案。 随着任务持续增加，即使大模型也会遇到容量、干扰和对齐漂移问题。未来需要研究的是：是否存在可预测的Scaling Law，能够告诉我们模型规模如何影响稳定性-可塑性权衡？

2. 自我改进的理论极限

模型能否无限自我提升？ 这是最核心的理论问题。论文认为：在缺少外部验证器的语言任务中，模型很容易陷入自我确认——它会不断强化自己已经相信的模式，而不一定更接近真实目标。

这就像一个人反复阅读自己写的日记，却从不接触新信息——他只会越来越确信自己是对的，但不会变得更聪明。

3. 安全的持续对齐

模型持续学习时，安全边界也必须持续保持。但问题在于：任何更新都可能削弱原有对齐能力。 论文认为，未来需要“可证明安全”的持续对齐机制：模型变得更强的同时，安全约束不能被遗忘或绕过。

4. 与Agent框架的结合

智能体会在长期任务中积累经验：工具调用结果、失败教训、用户偏好、环境反馈。关键问题是：什么时候把短期经验写入长期记忆？什么时候应该更新参数？哪些经验只是偶然事件，哪些经验代表稳定规律？

论文认为，未来需要层级记忆架构，让Agent同时拥有短期情节记忆和长期参数知识，也需要多智能体持续学习机制，让多个Agent共享并整合经验。

结语：不只是训练得更大，而是学会“如何学习”

这篇论文（以及它背后的实验）传递了一个清晰的信号：AI的下一个战场，不是更大的参数规模，而是更聪明的学习方式。

DeepSeek V4的架构突破，以及DeliAutoResearch SKILL的迭代实验，共同指向一个方向：未来的AI系统，将不再是被动接收数据的“存储设备”，而是主动探索、自我反思、持续进化的“学习生物”。

对于开发者、研究者，甚至每一个使用AI产品的人来说，这意味着：

• 不要只看模型今天的表现，要看它“学习如何学习”的能力
• 不要只关心参数数量，要关心模型能否在不遗忘旧知识的前提下吸收新知识
• 不要只依赖模型的一次输出，要建立“反馈-修正-再输出”的工作流

因为真正改变世界的AI，不是那个“训练一次就定型”的模型，而是那个“越用越聪明，且永远不会忘记自己是谁”的系统。

你觉得，AI学会“自我进化”，是通往AGI的捷径，还是打开了潘多拉的盒子？欢迎在评论区分享你的看法。