会议概况 - NeurIPS 2025会议共收到21575份有效投稿，最终接收5290篇，整体录用率为24.52% [4] - 今年共有4篇论文获得最佳论文奖，另有3篇论文获得最佳论文亚军 [1] 最佳论文奖 - 论文1：Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond) - 研究核心为解决大语言模型生成内容同质化问题，提出了Infinity-Chat数据集，包含26K条真实世界开放式用户查询 [7] - 提出了首个用于刻画语言模型面对开放式提示的综合分类体系，包含6个顶层类别和17个子类别 [7] - 基于该数据集的研究揭示了语言模型在开放式生成中存在显著的“人工蜂群思维”效应，包括模型内重复和模型间同质化 [8][14] - 该数据集包含31,250条人工标注，每个样本由25位独立标注者参与 [9] - 论文2：Gated Attention for Large Language Models: Non-linearity, Sparsity, and Attention-Sink-Free - 论文首次系统性分析了门控机制对大语言模型的有效性，证明其通过增强注意力机制的非线性和提供输入相关的稀疏性来提升性能 [13] - 研究显示，在SDPA之后进行门控取得了最佳效果，在15B MoE模型上提升了测试集PPL和MMLU性能 [17] - 门控机制实现了更低的最终训练损失，并大幅增强了训练稳定性，有效缓解了损失尖峰，允许使用更高学习率 [17] - 该技术已成功应用于Qwen3-Next模型，显著提升了模型性能与鲁棒性 [13][18] - 论文3：1000 Layer Networks for Self-Supervised RL: Scaling Depth Can Enable New Goal-Reaching Capabilities - 论文证明将网络深度增加到1024层可显著提升自监督强化学习性能，在模拟任务上性能提升了2倍至50倍 [20] - 该方法在无监督的目标条件设定下进行，智能体从零开始探索，增加模型深度不仅提升了成功率，还改变了学到的行为 [20] - 论文4：Why Diffusion Models Don't Memorize: The Role of Implicit Dynamical Regularization in Training - 研究揭示了扩散模型训练动力学中的隐式正则化机制，识别出模型开始生成高质量样本的时间点t_g和出现记忆化的时间点t_m [22] - 关键发现是t_m随训练集大小N线性增长，而t_g基本不变，随着数据集变大，会出现一个越来越宽的泛化训练时间窗口 [22] 最佳论文亚军 - 论文1：Reinforcement Learning with Verifiable Rewards is Insufficient for Novel Reasoning in LLMs - 论文给出了关键否定性结论，挑战了“带可验证奖励的强化学习能够激发LLM全新推理能力”这一广泛接受的假设 [28] - 论文2：Optimal Mistake Bounds for Transductive Online Learning - 该研究解决了传导式在线学习领域一个长达30年的公开难题，精确刻画了最优错误上界为Ω(√d)，并给出了与之匹配的O(√d)上界 [32] - 论文3：Superposition Yields Robust Neural Scaling - 论文论证表征叠加是支配神经网络缩放定律的主要机制，超越了现象性描述，为缩放定律提供了机制性解释 [35] 时间检验奖 - 任少卿、何恺明、Ross Girshick、孙剑2015年合著论文《Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks》获奖 [2][38] - 该论文是计算机视觉领域里程碑工作，奠定了现代目标检测框架的核心范式，截至现在已被引用超过56,700次 [38][42] - 论文实现了第一个完全可学习的两阶段目标检测pipeline，取代了selective search和手工设计候选框的方法 [43] Sejnowski-Hinton奖 - 获奖论文为2016年发表的《Random synaptic feedback weights support error backpropagation for deep learning》 [45] - 该论文提出了著名的反馈对齐机制，证明多层网络可在无需对称反馈权重下有效学习，推动了生物可行学习规则的研究方向 [48]