闻乐 发自 凹非寺 量子位 | 公众号 QbitAI 备受Meta审核规定"折磨"，依旧猛发论文！ 表示可能要辞职的LeCun带着最新研究来了，仍然和三位FAIR同事合作。 Yann LeCun团队新论文发现了自监督模型 JEPAs （联合嵌入预测架构）的隐藏技能—— 学会了数据的"密度" 。 这里的"数据密度"可以理解成数据的常见程度：密度高的样本是更典型、更常见的数据，密度低的是少见的、甚至异常的数据。 JEPAs原本被视为 仅擅长特征提取 的模型，这次LeCun团队发现该模型在训练过程中悄悄掌握了感知数据常见程度的能力。 这就意味着，只要JEPAs训练成功了， 不用额外做什么，就能用它来判断一个样本的常见程度 。 打破了学界长期以来"JEPAs仅学特征、与数据密度无关"的认知。 核心发现：反坍缩能精准学习数据密度 要理解这一新发现的突破，首先来说一下JEPAs。 △ 源自《A Path Towards Autono mous Machine Intelligence》图12 JEPAs作为LeCun团队近年重点推进的自监督学习框架，核心优势在于 无需人工标注 ，模型就能自主从海量数据中学习特征规律，学完 ...