文章核心观点 - 一篇由社交媒体讨论引发的学术研究论文，挑战了计算机视觉领域的传统观念，即预训练视觉编码器的全局语义分类性能（如ImageNet-1K准确率）是驱动生成模型质量的关键因素[7][23] - 研究结论表明，视觉表征的空间结构信息（即图像局部区域或补丁tokens之间的相互关系）才是决定生成性能的主要驱动力，更好的全局语义信息并不等于更好的生成效果[23] - 基于此发现，研究团队对现有的表征对齐框架进行了简单改进，提出了仅需3行代码即可实现、能持续提升性能的iREPA方法[3][32] 研究背景与起源 - 该研究的灵感源于4个多月前，研究员谢赛宁与网友在社交媒体上关于自监督学习模型应用重点的一场辩论[2] - 辩论核心是：为稠密任务（如REPA、VLM）设计的模型，其性能应更依赖于捕捉图像局部细节信息的patch tokens，而非仅用于全局分类的[CLS]token[8] - 谢赛宁最初持反对意见，但被网友提供的论据（如SigLIPv2和PE-core在REPA任务上优于DINOv2的例子）说服，并最终促成了跨团队合作研究[13][17] 核心研究发现 - 通过大规模定量分析验证，覆盖了**27种不同的视觉编码器**（包括DINOv2、v3、Perceptual Encoders等）及**3种模型规模**（B、L、XL）[26] - 研究发现，**线性检测准确率仅约20%的视觉编码器，在生成任务上可以超过准确率>80%的编码器**，颠覆了“更大更强编码器带来更好生成效果”的传统观念[23] - 生成效果更好的表征，其**空间自相似性**指标更强，即图像内部不同区域token之间的关注关系更明确[25] - 研究甚至发现，像**SIFT、HOG这样的经典空间特征提取方法**，也能带来与现代大规模视觉编码器（如PE-G）相竞争的提升，进一步凸显了空间结构信息的基础重要性[28] 方法论与模型改进 - 研究基于对表征对齐（REPA）框架的分析，提出了改进版本**iREPA**[30] - iREPA的核心改进包括两点：1) 将REPA中标准的MLP投影层替换为一个简单的卷积层；2) 为外部表征引入一个空间规范化层[31] - 这些修改旨在**保留并强化输入表征中的空间结构信息**，从而显著提升性能[32] - iREPA的实现极为简洁，**仅需3行代码**即可添加到任何表示对齐方法中，并且在REPA、REPA-E、Meanflow及JiT等多种训练方案中都能实现持续更快的收敛[3][32]