Workflow
密度法则(Densing Law)
icon
搜索文档
从「密度法则」来看Scaling Law撞墙、模型密度的上限、豆包手机之后端侧想象力......|DeepTalk回顾
锦秋集· 2025-12-15 04:09
「Jinqiu DeepTalk」 用一场深度分享带你找到下一个 buzz 信号。 " Scaling Law 撞墙了。 " 当 Ilya Sutskever 提出这一判断时,它提示着我们,要开始思考模型的"可持续发展"问题了。 过去几年,模型能力几乎与规模同步增长,"更大"似乎就是"更强"。但这种依赖海量数据和算力投入的演进方 式,已逐渐逼近可持续性发展的边界。 这也引出一个更基础的问题: 在数据增速放缓、 算力 成本攀升的背景下,下一阶段的模型突破将从何而来? 如果「 摩尔定律」 曾定义信息时代的技术演进节奏,那么在智能时代,我们或许需要一个反映"知识压缩效 率"与"智能密度"的新衡量方式。 发 表 于 Nature Machine Intelligence 的 《 Densing Law of LLMs 》 提 出 了 新 的 答 案 —— " 密 度 法 则"(Densing Law) 。 上周六的 DeepTalk线上闭门交流活动 ,我们很高兴邀请到该 论文一作、清华大学计算机系博士后、面壁 MiniCPM(小钢炮)文本模型研发负责人 肖朝军博士 ,首次公开解读他和团队的最新工作: 《密度法则: 大 ...
面壁李大海谈端侧模型竞争:元年开启,巨头涌入印证前景无限可能
环球网· 2025-08-15 07:48
行业趋势与战略判断 - 公司CEO提出2025年将迎来"端侧元年" 标志着机遇大门开启但市场格局尚在成形初期[1] - 端侧模型优势及"端云协同"成为行业共识 越来越多大模型厂商开始关注端侧领域[1] - 行业呈现多元化发展态势 除公司外阿里通义千问 腾讯混元开源多款小尺寸模型 OpenAI首次开源两款模型包括尺寸较小的GPT-oss-20B[1] 公司竞争定位与战略 - 公司认为压力并非来自友商竞争 更多创业公司和巨头涌入印证了赛道正确性与前景无限可能[1] - 公司核心压力在于将技术优势转化为商业优势 需要极致追求技术与用户价值的平衡[1] - 公司确立"高效"为核心竞争力 追求"同等性能我最小 同等参数我最强"的端侧模型方案[1] 技术突破与行业贡献 - 研究团队发现并提出描述大模型知识密度的"密度法则(Densing Law)" 在大模型规模法则遇到挑战时开辟新的认知视角[1] - 2024年初面壁小钢炮MiniCPM端侧模型诞生 以2.4B参数能力超越Mistral 7B模型实现以小博大[2] - 系列端侧模型累计下载量超过1300万 与高通 NVIDIA MTK Intel 华为 瑞芯微电子等国内外主流芯片厂商方案全面适配[2] 商业化进展与落地应用 - MiniCPM模型作为"端侧大脑"核心在汽车 手机 PC 家居等终端领域成功落地[2] - 在智能化汽车的新一代人机交互(AI座舱)方面形成特色优势[2] - 2024年7月下旬公司进行新一轮组织升级 专门成立一级组织"汽车业务线"通过压强式突破推动MiniCPM模型广泛上车[2]