文章核心观点 - 明尼苏达大学团队提出名为CudaForge的多智能体框架，旨在解决利用大语言模型生成优化CUDA Kernel时面临的高成本、性能不佳及缺乏硬件反馈等问题 [2] - 该方法模拟人类专家工作流程，通过Coder和Judge双智能体分工协作，结合迭代式优化与显式硬件反馈，以低成本高效生成可靠CUDA代码 [3][6][7] - 实验结果显示，CudaForge在KernelBench基准测试中取得领先的正确率和性能，同时显著降低了时间和经济成本 [4][18][26] 技术框架与设计 - 采用Coder–Judge双智能体架构，Coder负责根据任务描述和反馈生成候选Kernel，Judge则利用Kernel本身、硬件反馈及运行时信息进行评估 [7][8] - 框架采用迭代式优化流程，通过多轮迭代逐步纠错与提速，在复杂任务中能获得更稳定的优化效果 [9][14] - 关键创新在于显式引入硬件反馈，Judge使用NCU工具获取性能指标并结合GPU规格，精确定位瓶颈并提供可执行的优化指导 [8][15] 性能评估结果 - 在KernelBench Levels 1-3上，CudaForge达到97.6%的正确率，平均加速比为1.677倍，75分位加速比为1.592倍，Fast1比例为70.8% [18][19] - 与无需训练的Kevin-32B模型在H200上对比，CudaForge在Level 1–2上表现更优，在Level 3上也取得出色性能 [20][22] - 消融实验表明，CudaForge不依赖特定基础模型，在不同LLM组合下均能保持高性能，例如O3/GPT-5组合的Fast1比例达到96% [28][29][30] 成本与效率分析 - CudaForge生成一个优化Kernel在单张RTX6000上平均仅需26.5分钟，API调用成本约0.3美元，显著低于Agentic Baseline方法的60分钟和5美元成本 [4][26] - 性能随API成本与计算时间增加呈单调提升趋势，在每任务耗费不超过0.15美元和10分钟时已能超越基线方法，展示出色的性能-成本平衡能力 [24] 通用性与鲁棒性 - 框架在多种GPU架构上均保持高正确率和强性能，包括RTX 6000、RTX 4090、A100等，证明其良好的硬件通用性 [31][32][33] - 在不同大模型实例化下框架有效性得以保持，表明其性能提升主要源于工作流机制，并能直接受益于更强的基础模型 [29][30]