AI攻克CUDA黑魔法！字节清华联手打造CUDA Agent，智能体强化学习实现内核生成性能飞跃

关键词： CUDA 内核生成、智能体强化学习、性能优化、KernelBench、技能增强环境

在深度学习基础设施的底层，存在着一个被称为“黑魔法”的领域——CUDA 内核开发。当我们在 PyTorch 中写下几行简洁的代码时，很少有人意识到，这些高层操作最终会被编译成成百上千个在 NVIDIA GPU 上执行的底层内核程序。这些内核程序的编写和优化，直接决定了模型训练的速度、能效，甚至是可行性。

然而，CUDA 编程的门槛极高。开发者不仅需要深入理解 GPU 的微架构特征（如共享内存、寄存器文件、张量核心），还需精通性能剖析工具，并手动处理内存访问模式、线程块调度、指令级并行等一系列底层细节。即便对于经验丰富的工程师，优化一个内核也可能耗费数周时间。

尽管大语言模型在通用编程任务上已展现出强大能力，但在 CUDA 内核生成这一专业领域，它们甚至难以超越 PyTorch 内置的 torch.compile 编译器。这一现实引发了核心思考：如何让 AI 真正掌握 CUDA 优化这门“黑魔法”？

2026年2月，清华大学 AIR 团队与字节跳动 Seed 团队联合发表论文《CUDA Agent: Large-Scale Agentic RL for High-Performance CUDA Kernel Generation》，提出了他们的解决方案。该研究通过大规模智能体强化学习系统，使 AI 能够自主生成高性能 CUDA 内核，并在多个难度级别上超越了最先进的开源与闭源模型。

图表说明：该统计图从正确率、快进率、加速比三类核心指标，对比了 GLM 4.6、Kimi K2、Gemini 3 Pro、Claude Opus 4.5 与 CUDA Agent 的 CUDA 内核生成性能。在衡量优化能力的关键指标——快进率（相比 torch.compile）和加速比上，CUDA Agent 表现断层领先，快进率接近 97%，加速比达 2.11×，远超其他模型。Claude Opus 4.5 和 Gemini 3 Pro 虽正确率较高（90%以上），但快进率仅 66%-69%，优化能力有限；GLM 4.6 和 Kimi K2 在各项指标上均明显落后。图表直观印证了 CUDA Agent 通过专用强化学习训练，在硬件感知优化能力上实现了对通用大模型的超越。

本文目录

• 一、现有方法的困境：为什么 AI 写不好 CUDA？
  • 1.1 无训练工作流：依赖基础模型的固有局限
  • 1.2 微调方法：数据稀缺与训练限制
• 二、CUDA Agent：三大支柱构建智能体强化学习系统
  • 2.1 支柱一：可扩展的训练数据合成管道
  • 2.2 支柱二：技能集成的智能体循环与鲁棒奖励设计
  • 2.3 支柱三：稳定训练的算法改进
• 三、实验验证：全面超越最强基线
  • 3.1 实验设置
  • 3.2 主要结果
  • 3.3 消融研究：每个组件都不可或缺
• 四、相关工作对比：CUDA Agent 的独特定位
• 五、案例分析：CUDA Agent 如何优化内核
  • 5.1 Level 1 案例：对角矩阵乘法
  • 5.2 Level 2 案例：多算子序列的优化
  • 5.3 Level 3 案例：ResNet BasicBlock
• 六、局限性与未来展望
• 结论：从代码生成器到系统优化器

一、现有方法的困境：为什么 AI 写不好 CUDA？

在深入 CUDA Agent 的核心技术前，需先理解现有方法为何在 CUDA 生成任务上表现不佳。论文将现有工作分为两大类：

1.1 无训练工作流：依赖基础模型的固有局限

以 STARK、ReGraphT、EvoEngineer、CudaForge 为代表的方法采用免训练的工作流。它们依赖精心设计的手工启发式规则，引导模型根据执行反馈迭代改进内核。

这些方法的根本问题在于：它们未能解决基础模型本身缺乏 CUDA 编码能力的问题。性能提升的上限，被模型的内在能力牢牢锁死。

1.2 微调方法：数据稀缺与训练限制

另一条研究路线尝试通过监督微调或强化学习来提升模型能力，代表工作包括 Kevin、CUDA-L1、ConCuR 等。这些方法面临三大挑战：
* 高质量训练数据稀缺：手工编写专家级参考代码成本极高。
* 训练规模有限：难以扩展到长上下文和多轮交互场景。
* 固定优化循环：手工设计的优化循环限制了智能体的自主探索能力。

更严重的是，部分方法直接在 KernelBench 数据集上进行训练和评估，存在数据泄露问题。例如，CUDA-L1 从 KernelBench 的参考实现中构建监督微调数据，并在相同基准任务上应用强化学习，导致其报告结果难以进行公平比较。

图 1：三阶段数据合成流水线概览。该流水线首先从 PyTorch 和 Transformer 库中收集种子算子，构建基础计算原语库；随后利用大语言模型进行组合式合成，生成融合的多算子任务；最后通过基于规则的过滤，仅保留可执行、确定性、非平凡且计算量合理的任务，以确保数据质量与评估可靠性。此流水线是 CUDA Agent 可扩展数据合成的核心，有效缓解了高性能 CUDA 内核训练数据稀缺的问题。

系统架构如图 1 所示，由三个核心组件协同工作：可扩展数据合成流水线、技能增强的 CUDA 开发环境以及稳定训练的强化学习算法。

2.1 支柱一：可扩展的训练数据合成流水线

高质量训练数据的稀缺是 CUDA 内核生成面临的首要瓶颈。CUDA Agent 的解决思路颇为巧妙：既然现成的单个算子任务有限，何不让 AI 自行组合出新的训练任务？

该流水线包含三个阶段：
* 种子算子爬取：团队首先从 PyTorch 和 Transformers 库中提取用 PyTorch 实现的参考算子，构建全面的种子问题集。每个算子被表示为一个包含初始化与前向传播方法的 Python 类。
* 组合式任务构建：这是流水线的核心创新。研究团队发现，将多个算子融合为单一任务，能够创造出对 CUDA 智能体训练更具价值的优化问题。因为融合后的任务并非简单地将各算子独立优化后拼接，它重塑了优化视角：
1. 避免了中间结果在全局内存中的物化。
2. 通过共享寄存器、共享内存及占用率约束，耦合了各个计算阶段。
3. 需要统一的并行映射与数据布局策略。
具体而言，大语言模型被提示从算子库中采样最多 5 个算子，并将它们顺序堆叠成一个计算层。
* 任务过滤：最后，团队实施严格的数据筛选流程，基于执行反馈剔除无效或质量不佳的任务。每个生成的任务需满足四项标准：
1. 可执行性：在 Eager 模式和 Compile 模式下均能成功执行。
2. 确定性：排除具有固有随机性的算子。
3. 非平凡性：验证不同输入下的输出既非常数值，也非数值上无法区分的。
4. 计算量适中：将 Eager 模式的执行时间限制在 1ms 至 100ms 之间。

经过上述流程，最终生成了包含 6000 个样本的训练数据集 CUDA-Agent-Ops-6K。

表 3：最终训练数据集的构成。展示了经合成与过滤后，数据集中各类算子的占比情况。数据集以二阶 Torch 算子组合为主体（占比 83.77%），同时兼顾了简单单算子与复杂多算子任务，并少量引入了 Transformers 高层算子。

为确保评估的客观性，团队还进行了数据去污染处理，使用基于抽象语法树（AST）的代码相似度工具，剔除了与 KernelBench 测试集相似度过高的样本。

图 7：训练样本与评估样本间的最大 AST 相似度分布。横轴为最大 AST 相似度，纵轴为对应相似度的训练样本占比。设定 0.9 为污染阈值，图中显示所有训练样本的相似度均低于此阈值。

上图展示了每个训练样本与所有评估样本之间的最大 AST 相似度分布。经过过滤后，绝大多数训练样本的相似度得分较低，且无样本超过去污染阈值。

2.2 支柱二：技能集成的智能体循环与鲁棒奖励设计

获得高质量训练数据后，下一个挑战是如何构建一个能让智能体有效学习 CUDA 内核开发的交互环境。

• 智能体循环：CUDA Agent 遵循 ReAct 范式，交替进行推理、行动执行与环境观察，使智能体能够迭代地完成编码、调试与性能优化。其工作流程如下图所示。

图 2：智能体循环概览。展示了 CUDA Agent 遵循 ReAct 范式的工作流程，包含技能文档、GPU 资源池、生成的 CUDA 内核、验证与性能分析脚本，以及不同实现版本的运行时间对比。

• 开发工具集：智能体配备了一套完整的开发工具，以支持端到端的 CUDA 开发流程，工具列表如下：

| 工具 | 功能描述 |
| :— | :— |
| Bash | 在持久会话中执行 shell 命令，支持编译、依赖管理与程序运行。 |
| Read/Write | 提供文件的只读与写入访问，写入操作受读前写策略保护。 |
| Edit/MultiEdit | 支持确定性的字符串级代码修改，确保操作一致性。 |
| Glob | 使用 glob 模式快速发现文件。 |
| Grep | 基于 ripgrep 的结构化代码搜索接口。 |
| NotebookEdit | 支持 Jupyter 笔记本单元格的结构化修改。 |
| BashOutput | 流式输出后台 shell 进程的增量输出。 |
| KillBash | 终止后台 shell 会话。 |

• CUDA 编码技能：受“智能体技能”概念启发，团队将 CUDA 编码的特定指令与最佳实践整合为 SKILL.md 指导文档，标准化了内核优化流程，主要包含以下步骤：

  1. 性能分析：使用提供的 profile.py 脚本分析原生 PyTorch 实现的性能，识别瓶颈。
  2. 内核实现：通过重写 model_new.py 并开发相应的 CUDA 内核源文件及绑定代码，实现自定义算子。
  3. 评估与迭代：在 GPU 沙盒环境中编译并评估优化后的模型，不断调整直至满足正确性与性能要求。
  4. 重复优化：持续优化，直至实现相对于 torch.compile 基线至少 5% 的加速。

• 鲁棒奖励设计：这是系统的关键创新之一。现有方法常直接使用相对于基线的加速比作为奖励，但团队发现这存在两个问题：对离群值敏感，以及导致模型偏好易于优化的简单内核。不同算子的优化难度差异巨大，直接使用原始加速比作为奖励，会引导模型专注于容易获得高加速比的简单任务，而回避真正具有挑战性的复杂优化问题。

为解决此问题，团队提出了一种归一化的鲁棒奖励方案，同时优化正确性与执行延迟。其奖励函数设计如下：

2.2 支柱二：鲁棒的离散奖励机制

在强化学习中，奖励函数的设计至关重要。团队没有采用直接预测内核运行时间的复杂连续奖励，而是设计了一个简洁的离散奖励方案：

[
R = begin{cases}
+3, & text{if } t_{text{gen}} < 0.5 times t_{text{eager}}
+2, & text{if } t_{text{gen}} < 0.8 times t_{text{eager}}
+1, & text{if } t_{text{gen}} < t_{text{eager}}
+0, & text{if } t_{text{gen}} < t_{text{compile}}
-1, & text{otherwise}
end{cases}
]

其中 ( t_{text{gen}} ) 是生成内核的运行时间，( t_{text{eager}} ) 和 ( t_{text{compile}} ) 分别是 PyTorch Eager 模式和 torch.compile 版本的运行时间。

这个离散奖励方案的美妙之处在于：它将连续的性能指标映射到离散的里程碑上。模型不再需要精确预测运行时间，而只需要判断自己是否达到了某个性能水平。 这大大简化了学习问题，也使奖励信号更加鲁棒和稳定。

为了防止“奖励黑客”行为（即智能体通过非预期方式获取奖励），团队还实施了一系列安全措施：
* 脚本保护：通过文件权限控制保护正确性验证和性能剖析脚本，防止智能体修改评估逻辑。
* 禁用回退：使用上下文管理器强制禁止调用 torch.nn.functional 中的回退实现，确保智能体必须生成真正的CUDA内核。
* 严格验证：针对每个问题，对五个随机采样输入验证内核输出，确保功能正确性。
* 减少噪声：通过适当的设备同步、预热迭代和重复测量，显著减少性能测量的噪声。
* 环境隔离：不提供网络搜索或外部信息检索工具，确保所有解决方案仅源自本地执行环境。

2.3 支柱三：稳定训练的算法改进

在初始强化学习试验中，团队观察到一个令人沮丧的现象：训练只能稳定进行约17步，之后模型性能就会崩溃。经过深入分析，他们找到了问题的根源，并提出了一个简单而有效的多阶段预热策略。

根本原因是领域分布严重不匹配。基础模型（Seed1.6）的预训练数据中，CUDA编码数据占比极低（不到0.01%）。这导致模型对CUDA内核代码的分布知之甚少。当训练和推理引擎使用不同数值精度（如BF16 vs FP16）时，那些低概率的token会导致重要性采样比率出现巨大方差，最终引发训练崩溃。

为了解决这一问题，团队设计了以下训练流水线：

图3：训练流水线概述。流程为先进行单轮强化学习预热阶段，再将采样得到的轨迹用于初始化策略网络和价值网络，随后进入智能体强化学习训练阶段。

该解决方案是一个多阶段预热策略：
1. 单轮预热：首先对基础模型进行单轮强化学习，使用PPO算法进行初步优化，快速增强其CUDA内核生成的基本能力。
2. Actor模型初始化：采用拒绝微调（Rejection Fine-Tuning）对策略网络进行初始化。从单轮RL得到的模型中收集智能体轨迹，然后应用拒绝采样，只保留获得正奖励（( R > 0 )）的高质量轨迹。过滤后的轨迹用于通过标准监督微调来优化Actor模型。
3. Critic模型初始化：进行价值预训练来初始化Critic网络。利用采样得到的轨迹数据（包含状态序列及其对应的奖励），预训练Critic网络，使其具备准确的状态价值评估能力。

经过这一系列预热初始化后，模型可以稳定地完成超过200步的PPO训练，相比初始的17步实现了数量级的提升。

三、实验验证：全面超越最强基线

3.1 实验设置

• 基础模型：CUDA Agent以Seed1.6为基础模型（一个MoE模型，230B总参数，23B激活参数）。
• 训练配置：采用全局batch size为1024，Actor和Critic的学习率分别为 ( 5 times 10^{-7} ) 和 ( 1 times 10^{-6} )。
• 评估基准：在KernelBench上进行评估，使用Level 1到Level 3的子集，共250个不同的算子任务。
• 对比基线：包括Claude Opus 4.5、Gemini 3 Pro等顶尖闭源模型，以及GLM 4.6、Kimi K2等强大的开源编码模型。
• 评估指标：
  • 通过率：成功编译并通过功能正确性检查的任务百分比。
  • 加速率：生成的内核比基线执行时间更快的任务百分比。
  • 加速比：相对于基线执行加速比的几何平均数。

3.2 主要结果

表1：KernelBench上的主要实验结果。展示了不同难度级别下，各模型相对于PyTorch Eager和PyTorch Compile基线的性能。

对结果的分析揭示了以下关键洞察：
* 第一，与顶尖闭源模型相比，CUDA Agent展现出显著更强的CUDA内核优化能力。 Claude Opus 4.5和Gemini 3.Pro虽然通过率不错（91.2%-95.2%），但加速率只有66%-69%，表明通用大语言模型生成的内核往往无法超越torch.compile的优化效果。相比之下，CUDA Agent实现了98.8%的通过率和96.8%的加速率，证明了专门的强化学习训练能够产出既正确又高度优化的CUDA实现。
* 第二，与静态编译器相比，CUDA Agent证明了学习到的优化策略能够持续超越静态编译启发式方法。 在Level 2任务（算子序列）中，CUDA Agent实现了100%的加速率和相对于torch.compile平均2.80倍的加速。传统编译器依赖预定义的、基于规则的融合模式，在复杂的算子组合上往往表现不佳。而CUDA Agent通过其迭代的智能体循环探索了更大的设计空间，发现了对静态编译器后端而言难以企及的、硬件特定的内存访问模式和分块策略。

3.3 消融研究：验证核心组件

为了验证每个设计组件的必要性，团队进行了系统的消融实验。结果表明，移除智能体循环、使用连续奖励函数或跳过预热阶段中的任何一环，都会导致模型性能（尤其是加速率和加速比）出现显著下降。这充分证明了本文提出的三支柱框架是一个有机整体，每个组件都不可或缺。

四、消融实验：核心组件的必要性验证

为验证 CUDA Agent 中四大核心组件的有效性，研究团队进行了系统的消融实验。实验在智能体循环评估框架下，对比了完整模型与逐一移除核心组件的变体模型，具体分析了以下组件的贡献：
1. 智能体循环
2. 鲁棒奖励设计
3. 拒绝微调
4. 价值预训练

对于移除拒绝微调或价值预训练的变体，报告了其在训练崩溃前最后一次验证的结果。实验结果如表2所示，直观印证了四大组件的不可替代性，移除任意组件均会导致模型性能（快进率与加速比）显著下降。

表 2 | 消融实验结果。对比完整模型与移除核心组件的变体模型性能。

关键发现与分析

• 智能体循环
  移除智能体循环后，模型的正确性与优化质量大幅下降，快进率仅为14.1%。这凸显了交互式开发环境的关键作用：模型若无法接收编译错误、运行时失败及性能剖析器的实时反馈，则失去了迭代诊断错误与优化代码转换的能力。

• 鲁棒奖励设计
  当使用原始的加速比奖励替代精心设计的鲁棒奖励方案时，虽然生成内核的功能正确性得以保持，但其优化性能显著减弱。这表明，将奖励分解为多个里程碑并进行归一化的设计，更有利于引导智能体生成持续性能更优的内核。

• 拒绝微调
  移除拒绝微调组件会导致训练过程迅速崩溃。如图4a所示，在没有RFT的阶段，训练奖励出现灾难性下降。通过进一步检查策略网络的熵值变化（图4b），发现熵的急剧增加与奖励崩溃同步发生。RFT通过提供强大的行为先验，有效约束了强化学习过程中策略分布的熵增，确保优化轨迹始终保持在结构良好的输出空间内，是维持训练稳定的核心。

图 4 | 拒绝微调消融实验。(a) 训练奖励变化：移除RFT导致奖励崩溃；(b) 策略网络熵值变化：移除RFT后熵值激增。

• 价值预训练
  在没有价值预训练的情况下，评论家网络无法学习到有意义的数值价值函数，表现为极低的解释方差（图5a）。这直接导致了智能体交互轨迹的长度失控（图5b），因为未经初始化的评论家网络无法有效惩罚无益或冗余的搜索路径。价值预训练使价值网络能够精准评估多轮交互的状态价值，为智能体提供可靠的优势估计，是引导高效探索、避免计算冗余的必要组件。

图 5 | 价值预训练消融实验。(a) 价值函数解释方差；(b) 响应长度裁剪率。

五、案例分析：CUDA Agent 的优化过程解析

为直观展示 CUDA Agent 的优化能力，本节通过两个典型案例，剖析其在不同复杂度任务上的优化策略与效果。

5.1 Level 1 案例：对角矩阵乘法

这是一个基础的线性代数运算任务。其数学公式为 C = diag(A) * B，其中 A 为一维向量（表示对角矩阵的对角线元素），B 为二维矩阵。原生的 PyTorch 参考实现（图8）需要显式构造完整的对角矩阵，再执行通用的矩阵乘法，导致 O(n^3) 的时间复杂度以及巨大的内存与计算冗余。

图 8 | 对角矩阵乘法的参考算子实现。

CUDA Agent 成功识别了该运算的代数结构：用向量 A 定义的对角矩阵左乘矩阵 B，等价于将 B 的每一行 i 缩放 A[i] 倍。这一关键观察将计算从矩阵-矩阵乘法简化为逐元素的广播乘法，将时间复杂度从 O(n^3) 降至 O(n^2)。

基于此简化，CUDA Agent 生成了一个自定义内核（图9）。该内核摒弃了中间对角矩阵的构造，直接通过网格步长循环，让每个线程负责一个输出元素的计算，将对角矩阵构建与矩阵乘法融合为单个高效的逐行缩放操作，大幅减少了内核启动开销与全局内存访问。

图 9 | CUDA Agent 生成的对角矩阵乘法优化内核实现。

最终，这个由 CUDA Agent 自动生成的内核，实现了 相对于 torch.compile 73.31倍的性能加速。

5.2 Level 2 案例：多算子序列的优化

更复杂的 Level 2 案例 涉及一个由矩阵乘法、除法、求和与缩放组成的计算序列。其参考实现如下：

5.2 Level 2 案例：多算子序列

图 11：多算子序列任务示意图。该任务需对输入的批量二维张量依次执行 GEMM、除以标量、按维度求和、缩放操作。原生实现会逐一生成中间张量，导致大量的全局内存读写和冗余计算，是典型的内核融合优化场景。

对于这个 Level 2 任务，CUDA Agent 通过代数重排对计算流程进行了根本性优化。它将原始的计算序列（GEMM → 除法 → 求和 → 缩放）转化为一个数学上等价但计算量更小的形式：先对权重矩阵进行列求和，再与输入向量执行点积。这一变换大幅减少了所需的浮点运算量。

随后，CUDA Agent 将全部操作融合为两个自定义的 CUDA 内核来实现：

• 内核一（列求和）：计算权重矩阵的列向和，设计上实现了完全合并的内存访问，效率极高。
• 内核二（融合点积）：执行输入向量与缩减后权重向量的点积，并在此内核中同时完成除法与缩放操作。

以下是融合的求和-点积内核实现：

图 12：融合求和与点积的 CUDA 内核代码。包含 sum_weight_kernel（计算权重矩阵列和）、dot_product_kernel（融合点积、除法、缩放）及融合启动器 fused_sum_dot_launcher。

该内核是 CUDA Agent 综合运用多种优化策略的体现：
* sum_weight_kernel 采用合并内存访问实现高效的列求和。
* dot_product_kernel 则利用 float4 向量化加载来提升内存带宽利用率，并通过共享内存进行树状归约来完成局部求和，从而避免了昂贵的全局原子操作。

通过将原始的四步操作融合为两个内核，CUDA Agent 消除了所有中间张量的产生与读写，显著降低了内存开销。最终，在此任务上实现了相对于 torch.compile 24.04 倍的性能提升。

5.3 Level 3 案例：ResNet BasicBlock

最复杂的 Level 3 案例是 ResNet 的基础块（BasicBlock），它包含卷积、批归一化（BN）、非线性激活和残差连接等复杂操作。

图 14：ResNet 基础块的参考实现。该模块包含两层卷积、批量归一化、ReLU 激活和残差连接，是典型的深度学习卷积神经网络工作负载。原生 PyTorch 实现会为每个算子单独启动内核，带来巨大的内核启动开销和内存访问成本。

面对这一高难度任务，CUDA Agent 综合运用了多项互补的优化技术：

1. 参数折叠：在推理阶段，将批归一化的参数（缩放因子和偏置）提前折叠到前一个卷积层的权重和偏置中，从而完全消除了批归一化算子。
2. cuDNN 融合：使用 cudnnConvolutionBiasActivationForward API，将卷积、偏置加和 ReLU 激活在单个高度优化的 cuDNN 内核中执行。
3. TF32 计算：明确启用 TF32 计算精度，允许卷积和矩阵乘法操作利用 Hopper GPU 架构上的张量核心，加速计算。
4. 自定义内核融合：将残差加法与最终的 ReLU 激活融合到一个自定义编写的 CUDA 内核中，进一步减少内核启动和内存访问。

通过上述策略的组合应用，CUDA Agent 在这一真实、复杂的深度学习模块上，最终实现了相对于 torch.compile 3.59 倍的加速。

六、局限性与未来展望

尽管取得了显著的成果，CUDA Agent 目前仍存在一些局限性：

• 基线对比范围：研究未将 CUDA Agent 与更复杂的编译器框架（如 TVM）进行对比。虽然这些系统可能提供更强的性能基线，但其庞大的调优开销和复杂的部署流程，难以集成到需要数千次训练迭代的大规模强化学习循环中。
• 资源依赖：训练流程严重依赖具备进程级隔离的大规模 GPU 资源池，这带来了可观的计算成本和工程复杂度，可能限制了更广泛研究社区对该方法的可访问性。

未来的工作可以探索更高效的训练策略以降低资源消耗，并将 CUDA Agent 所展示的“智能体强化学习+系统优化”范式，推广到其他性能关键的软件优化领域。

结论：从代码生成器到系统优化器

CUDA Agent 代表了一个重要的范式转变：它不再将大语言模型视为被动的代码生成器，而是将其塑造为主动的系统优化器。通过大规模智能体强化学习，模型不仅学会了 CUDA 编程语法，更掌握了深层次的、硬件感知的性能优化策略。

这项工作的意义超越了 CUDA 内核生成本身。它展示了一条通用路径：通过构建结构化的环境并提供可靠的执行反馈作为奖励，可以使基础模型发展出解决性能关键型系统级优化任务的能力。这为自动化 GPU 计算乃至更广泛的系统优化领域开辟了新的可能性。

正如论文作者所言，CUDA Agent 的成功表明：“将基础模型与结构化环境和可靠的执行奖励相结合，可以将它们从被动的代码生成器转变为主动的系统优化器”。在 AI 持续重塑软件开发范式的时代，这项工作无疑是向着“AI 工程师”愿景迈出的坚实一步。

关注“鲸栖”小程序，掌握最新AI资讯