谷歌发布Gemma 3家族新模型 - 公司在“大模型”领域发布Gemini 3 Pro和Flash后，继续在端侧“小模型”发力，于近期发布了两项与端侧相关的新技术 [1] - 新发布的两个模型均属于Gemma 3家族，分别是T5Gemma 2和FunctionGemma，两者均为“小模型”但专攻方向不同 [3] T5Gemma 2：架构创新与性能 - T5Gemma 2是一个底层架构创新，是首个开源的多模态长上下文编码器-解码器模型，其最小规模为270M–270M参数 [1] - 公司开源了T5Gemma 2的三种预训练模型规模：270M–270M、1B–1B以及4B–4B [5] - 该模型采用编码器-解码器架构，与当前主流的仅解码器架构不同，代表了AI技术领域的“另一条路” [4][14] - 在多个基准测试中，T5Gemma 2展现出强大的多模态性能，超越了公司自己的Gemma 3模型 [8] - 在代码、推理和多语言等任务的通用能力上，T5Gemma 2整体上优于对应规模的Gemma 3模型 [9] - 相较于Gemma 3和第一代T5Gemma，T5Gemma 2在生成长上下文内容的质量上有显著提升 [9] - 在预训练阶段的性能可能超过对应体量的Gemma 3模型，而在后训练阶段则取得了显著更优的表现 [11] 编码器-解码器架构的回归与优势 - 在GPT、Llama、Gemini、DeepSeek等仅解码器架构主导的时代，T5Gemma 2是对经典Transformer中编码器-解码器路线的回归与现代化改造 [14][15][16][17][18][19][20] - 编码器-解码器架构采用“先读懂再动笔”的机制，能强迫模型先消化输入再生成输出，这种机制天生更严谨，有助于减少“幻觉”问题 [32] - 该架构在多模态处理方面具有天然优势，编码器可以作为处理图像信号的“眼睛”，比强行塞给仅解码器模型处理更顺畅 [33][34] - 在手机等端侧算力有限的环境中，编码器-解码器架构往往能用更少的参数达到与大型仅解码器模型相当的效果，效率更高 [35] - 公司并未从零训练T5Gemma 2，而是采用“模型适配”技术，利用已训练的Gemma 2或Gemma 3解码器模型作为种子，将其权重映射到新结构中，大幅降低了计算成本 [36] FunctionGemma：功能与场景创新 - FunctionGemma是一个专为函数调用优化的模型，参数规模为2.7亿，可在手机、浏览器及其他设备上运行 [1] - 该模型是对模型“技能”的专项训练，类似于剥离大模型的知识类能力，只保留针对性的函数调用功能 [7] - FunctionGemma旨在解决大模型落地痛点，让模型“不仅要能聊，还要能干活”，能够输出结构化数据去调用外部API或工具 [37][40] - 该模型为AI智能体设计，擅长多步骤推理和执行任务，且极致轻量化，可直接运行在手机等低功耗边缘设备上，作为系统的“控制中枢” [40] - 它是一个专门设计的“神经路由器”，旨在解决云端大模型在延迟、隐私和成本上的固有缺陷 [42] - 模型专注于函数调用这一特定任务的极致优化，通过小型化和专业化，将智能下沉至网络边缘 [44] - 其270M参数规模在当今时代显得微不足道，但证明了在特定领域，小模型通过高质量数据微调可达到甚至超越大模型的表现 [44] - 模型剔除了大量通用世界知识，专注于解析JSON、匹配函数签名和处理参数类型等技能 [45] 端侧部署与移动端战略 - FunctionGemma专为在移动设备上运行而设计，其270M参数在FP16精度下的权重大小约为540MB，仅占现代Android旗舰机总内存的5%-7%，可在后台常驻 [46][48] - 通过Int8量化，模型大小可降至约270MB；通过Int4量化，可降至约135MB，使其能在入门级甚至嵌入式设备上流畅运行 [49][50][51] - 公司发布该“小”模型背后，隐藏着对未来AI计算架构的深刻思考及在移动操作系统控制权争夺中的防御性布局 [52] - 在移动互联网向意图驱动发展的下一阶段，FunctionGemma试图让AI成为通用的用户界面，用户可直接表达意图而非点击图标打开应用 [53][54][55] - 通过让模型直接学习应用的API定义，开发者只需暴露工具，FunctionGemma就能理解并操作这些工具 [56] - 公司通过开源FunctionGemma，意在制定一套AI与应用交互的标准协议，如果所有Android开发者都按其格式定义工具，Android系统将成为强大的智能体平台，加深公司护城河 [57][58] 应用验证与行业影响 - 公司提供了两个参考实现来验证FunctionGemma的能力，展示了其在游戏和系统控制领域的潜力 [59] - 在系统控制场景中，经微调的FunctionGemma在将自然语言指令转换为Android系统意图的任务上，准确率达到85%，远超未微调基座模型的58% [60][61] - 在名为“Tiny Garden”的游戏Demo中，FunctionGemma展示了任务分解能力，可将一句语音指令拆解为一系列函数调用，且整个过程完全离线，无需联网 [62] - 对于开发者，FunctionGemma提供了低成本、高隐私的方案，将智能体能力集成到普通应用中，无需昂贵服务器开销 [64] - 对于手机厂商，270M的参数量是完美的“甜点”，既能利用现有NPU硬件，又不会过度挤占系统资源，为打造“AI原生操作系统”提供了理想基础 [64] - 对于公司自身，这是在AI时代捍卫Android生态控制权的关键一步 [64]

部委动态 - 工信部修订印发《产业技术基础公共服务平台管理办法》，明确服务平台申报单位应明确服务行业领域及范围，重点行业包括装备、石化化工、钢铁、有色、建材、轻工、纺织、食品、医药、新一代信息技术、生物技术、新能源、新材料、新能源汽车、人工智能、元宇宙、脑机接口等，服务范围涵盖计量检测、标准验证与检测、质量可靠性试验检测、认证认可、产业信息、知识产权、技术成果转化等，该办法自2025年12月5日起施行 [1] - 国家发展改革委、国家数据局等多部门联合发布关于加强数据要素学科专业建设和数字人才队伍建设的意见，旨在建立数据领域学科专业设置调整机制和人才培养模式，激活数据要素赋能新质生产力的创新引擎作用，促进教育链、人才链与产业链、创新链融合发展 [1] - 生态环境部印发《产品碳足迹因子数据库建设工作指引》，以指导社会主体探索数据研制或数据库开发，支撑产品碳足迹管理体系构建 [1] - 工信部就《元宇宙产业综合标准化体系建设指南（2026版）》公开征求意见，目标到2028年制定国家标准和行业标准20项以上，到2030年制定50项以上，以初步构建并完善支撑元宇宙产业创新发展的标准体系 [1] 地方行动 - 山东省在“十五五”规划建议中提出，推动深海空天、具身智能、生物制造、脑机接口、量子科技、元宇宙、氢能等成为新的经济增长点，并支持济南、青岛建设未来产业先导区 [1] - 江苏省元宇宙标准化技术委员会在南京成立，将重点承担元宇宙标准化路线规划、发展策略制定及前沿标准前期研究等顶层设计工作 [1] - 上海市2025年度关键技术研发计划“元宇宙”专项对15个项目予以立项，市科委资助总额4600万元，其中2025年拨款1840万元 [2] 成员单位动态 - 博瑞传播拟以6649.02万元受让每经科技51%股权，交易完成后将成为其控股股东，旨在联手每经传媒打造智能传播头部企业 [2] - 智谱正式开源其工业级语音合成模型GLM-TTS，该系统仅需3秒语音样本即可复刻人声，支持多情感表达，推动AI语音技术走向产业深度融合 [2] 行业动态 - 北京GPU公司摩尔线程于12月5日在科创板上市，成为“国产GPU第一股”，发行7000万股新股，占发行后总股本14.89%，每股发行价114.28元，开盘价650.00元/股，较发行价大涨468.78%，总市值达3055亿元，为2024年以来科创板最大规模IPO [2][3] - 谷歌宣布向Google翻译引入Gemini模型能力，推出可通过耳机进行的实时语音翻译Beta版，并提升文本翻译的语境理解能力，同时通过Google Labs推出一款名为“Disco”的实验性AI浏览器 [3] 院士观点 - 中国工程院外籍院士张亚勤提出，新一轮人工智能是信息智能、物理智能和生物智能的融合，并预测基础大模型最终将不超过10个 [3] - 中国工程院院士谭建荣强调，在重视大模型的同时不应忽略小模型，指出大模型的根基在于“小模型”和建模能力，并预判行业将转向“面向行业、面向产品”的小模型与智能体 [3][4] 行业洞察 - 图灵奖得主Yann LeCun认为，硅谷对不断“堆大”大型语言模型的痴迷是一条死路，并指出当前AI智能水平有限，他正将学术声誉押注于构建“世界模型”这一不同技术路线 [4] - 斯坦福大学教授李飞飞在访谈中深度解读，认为空间智能是通往通用人工智能的关键技术，并回顾其构建的ImageNet项目如何成为AI领域的大数据拐点 [4] 技术与应用 - 工业和信息化部正式公布我国首批L3级有条件自动驾驶车型准入许可，两款车型将在重庆、北京指定区域开展上路试点，标志着L3级自动驾驶从测试迈入商业化应用的关键一步 [4] - 数学家陶哲轩与团队在多种AI工具辅助下，仅用48小时便解决了尘封50年的数学难题Erdős1026 [4]

新浪科技讯 12月9日下午消息，今日举办的EVOLVE 2025中关村科金大模型与智能体产业创新峰会上， 中国工程院院士谭建荣分享指出："我们要重视大模型，但也千万不能忽视小模型，没有小模型只有大 模型，人工智能想要落地也很困难。" 谭建荣指出，人工智能模型、算力、算法三大要素之外，知识工程也是实现人工智能的核心关键技术之 一。其中，知识可以分为定性、定量两类，而模型就是定量的知识，大模型需要花费算力对不同数据进 行训练，最终产生知识，因此，大数据、大模型的背后，也需要用到大的算力作为支撑。（文猛） 新浪科技讯 12月9日下午消息，今日举办的EVOLVE 2025中关村科金大模型与智能体产业创新峰会上， 中国工程院院士谭建荣分享指出："我们要重视大模型，但也千万不能忽视小模型，没有小模型只有大 模型，人工智能想要落地也很困难。" 谭建荣指出，人工智能模型、算力、算法三大要素之外，知识工程也是实现人工智能的核心关键技术之 一。其中，知识可以分为定性、定量两类，而模型就是定量的知识，大模型需要花费算力对不同数据进 行训练，最终产生知识，因此，大数据、大模型的背后，也需要用到大的算力作为支撑。（文猛） 责任编辑：杨 ...

文章核心观点 - 英伟达团队开发的4B小模型NVARC在ARC-AGI 2竞赛中以27.64%的成绩超越GPT-5 Pro的18.3%，登顶榜首，其单任务成本仅约20美分，远低于GPT-5 Pro的超过7美元，展现出小模型在特定领域通过方法创新实现高性能与高性价比的潜力 [1][2][4] 竞赛成绩与成本优势 - NVARC在ARC-AGI 2公开榜的成绩为27.64%，显著高于GPT-5 Pro的18.3% [2] - NVARC每任务成本仅约20美分，大约是GPT-5 Pro单任务成本（超过7美元）的1/36，成本优势巨大 [4] 技术路径：零预训练与合成数据 - NVARC采用零预训练深度学习方法，不依赖大规模通用数据集进行前期预训练，规避了预训练模型的领域偏见和数据依赖问题 [5] - 团队将复杂推理移至离线的合成数据管道，通过大规模合成高质量数据来训练较小的模型 [9][10] - 具体方法包括利用GPT-OSS-120B等大型模型大规模制作高质量的合成谜题，并将简单谜题混合生成更复杂的新谜题 [14][15] - 通过分阶段独立验证的复杂推理管线，团队建立了一个包含超过320万增强样本的合成数据集，其中每个样本最多有7对输入/输出 [17][18] - 合成数据集的构建详情如下表所示，最终NVARC full部分包含约178.6万个样本，占总样本数（约325.5万）的54.9% [19] 模型架构与训练方法 - 模型核心推理模块基于改进版ARChitects方法，选用小参数模型Qwen3-4B，并通过对话式模板简化谜题理解 [19] - 训练时借助NeMo RL框架和Megatron后端进行监督微调 [20] - 针对ARC-AGI 2“每个任务都是全新规则”的特点，引入了针对每个问题进行测试时微调（TTFT）的LoRA微调技术，让模型在解题前快速适应 [21] - 对ARChitects方法的改进包括在解码阶段对DFS算法进行批处理优化，修复结果非确定性问题，并统一了8种数据增强操作来评估候选解 [22][23] 方法论的启示与行业意义 - 在特定领域任务中，经过针对性优化的小模型性能不逊色于大模型，并具备成本、速度、适配性与领域聚焦的优势 [25] - 将正确的方法用在正确的地方，可以实现更大的价值，这提示行业关注方法创新而非单纯追求模型参数规模 [25]

公司发展历程 - 2014年公司创始人王俊桦抓住电商兴起机遇，以“小小的蚊子，大大的梦想”为定位创立蚊子会 [2] - 2016年公司敏锐转向主播孵化领域，在淘宝平台排名前十的主播中有三位出自该公司 [3] - 2019年公司从主播孵化转向服务品牌，为宝洁、玛氏、百威等国际品牌提供本土化服务 [4] - 2021年公司升级为万同集团，旗下包含蚊子会、万同公关、一莎品牌咨询等多个分支 [4] 业务模式与战略转型 - 公司初期坚持“授人以鱼不如授人以渔”，手把手教授商家经营店铺 [3] - 转型品牌服务基于懂中国市场、了解年轻消费者喜好、扎根电商和直播行业的优势 [4] - 公司将国际品牌的“Big idea”转化为抖音、小红书等平台用户听得懂的“人话” [4] 行业洞察与管理理念 - 公司提出大数据会撒谎而小数据才真实的观点，认为小数据能揭示用户画像关键细节 [7] - 在大模型时代，公司主张根据不同行业和企业需求选择小模型以优化垂直大模型 [7] - 公司对新技术秉持开放而审慎的态度，敢于接受但不盲目跟风，已探索投资虚拟主播技术 [7] 成功要素与区域优势 - 公司将信心与人才视为在浙江茁壮成长的关键支柱 [7] - 信心来源于每天可见的成功故事、企业间关于科技与AI的交流以及政府的大力支持 [7] - 公司认为在浙江以外地区难以招募到所需人才，因此坚持扎根浙江 [7]

AI智能体创业机遇 - AI创业的真正机遇不在于追求更大模型，而在于开发更聪明的智能体应用[1] - 智能体通过将任务分解为子任务并制定战略计划，模拟高级人类推理[4] - 当前AI智能体市场规模约为51亿美元，预计到2032年将增至691亿美元，7年增长约17倍[4] 智能体技术优势 - 智能体利用多组提示词加知识库，联动外部工具如搜索引擎和代码执行[4] - 智能体具备自我批评能力，通过反复迭代的自我纠正提升输出质量和可靠性[4] - 智能体的优势在于专业化，通过多个小型廉价模型协同工作超越昂贵标准模型[8] 边缘计算与小模型 - 小模型市场将从2022年的9.3亿美元增长到2032年的54.5亿美元[13] - 边缘计算市场预计在2028年达到3780亿美元[13] - 边缘计算实现零延迟、零云成本和极致隐私保护，适用于医疗检测和工业质检等场景[15][16] 行业应用方向 - 创业公司应专注于自动化文档处理、优化能源消耗、提高医疗诊断准确性和简化制造流程等可衡量成果[12] - 在制造业中，可通过多模态模型即时识别微小缺陷[15] - 在零售业中，可开发导购机器人替代推销人员，实现精准营销[15] 竞争优势构建 - 创业企业的真正护城河不在于技术本身，而在于提供可信任感[19][20] - 监管机构要求可解释和透明的模型，竞争优势来自值得信赖的AI应用[22][23] - 创业者不需要教育客户技术先进性，而要说服客户信任开发的AI系统[21] 军民两用市场 - AI在军事领域的应用已成为关键创新领域，包括自主无人机、威胁检测和预测性维护等[26] - 企业家应调查军民两用技术，构建适用于民用和国防部门的基础技术[26][27] - 全球政府投资正在涌入，为初创公司创造了成熟的生态系统[26]

企业AI转型现状 - 企业在制定AI转型路线图方面仍处于早期阶段，超过50位技术业务领袖参与峰会[1] - 73%的参与者认为其组织在AI应用旅程中进展不一，仅18%的系统进入生产系统，9%处于早期试点[4] - 目前约80%的客户仍处于优化现有业务流程的阶段，约20%更愿意进行实验[2] AI投资回报率衡量 - 投资回报率在整个企业范围内仍是一个移动的目标，业务领袖选择定义自己的关键指标[2] - 遗留系统预计将获得最大收益，但也面临最大的启用挑战[2] - 创建无缝AI驱动客户体验的最大障碍包括不明确的投资回报率，占比33%[4] 数据就绪度与治理 - 数据就绪度是企业能否充分利用AI效益的主要制约因素[1] - 总时间中只有10%-20%用于训练模型，其余时间专注于数据准备[2] - 数据编目是AI响应可解释性的核心，也是企业在准备AI过程中的常见盲点[2] 技术架构与模型偏好 - 与大型语言模型相比，对小型语言模型的偏好有所增加，以实现完全控制模型运行位置并提高效率[3] - 多云成为企业的首选策略，业务领袖倾向于采用最佳品种方法[3] - 打包软件在未来架构中能发挥作用，许多组织尚未准备好或缺乏专业知识采取DIY方法[1] 应用场景与部署重点 - 低风险和重复性的工作负载是率先利用AI的领域，最常见应用是AI搜索和分析[3] - 尽管公司专注于面向客户的项目，但后台功能仍有成熟的颠覆空间[3] - 70%的参与者将平衡AI创新与安全列为首要解决方案优先事项[4] 监管与运营挑战 - 监管和治理政策仍是关注焦点，被视为整个企业采用AI速度的障碍[1][3] - 从安全角度来看，焦点集中在改进灾难恢复政策以及减少影子AI上[3] - 许多领袖认为在代理流程中保持人工参与至关重要，需要进行合理性检查[2]

小模型市场增长与规模 - 全球小语言模型市场规模预计从2025年9.3亿美元增至2032年54.5亿美元，年复合增长率28.7% [4] - 68%的企业已部署小模型，超过45%的企业实现成本优化与准确率双提升 [4] - 国内厂商小模型发布占比从2023年23%提升至2025年56%以上，成为增长最快细分赛道 [5] 小模型技术优势与特性 - DeepSeek-R1采用专家混合技术，仅激活部分网络，显著降低推理资源占用 [1] - 小模型实现本地化部署，如1.7B模型可运行于家用路由器8GB内存，无需高端GPU [3] - 相比大模型，小模型推理成本下降90%以上，响应时间从2-3秒缩短至500毫秒内 [12] 企业应用场景与案例 - 深圳福田区部署70名AI数智员工，处理240个政务场景，公文格式修正准确率超95%，审核时间缩短90% [1] - 金融与法律领域因专用训练和高解释性更倾向采用小模型，如保险理赔使用3B模型实现零人工干预 [15][19] - 边缘计算场景中，小模型部署于工厂端与手机端，实现低延迟与低带宽消耗，如SlimLM系列在Galaxy S24运行 [15] 厂商动态与产品发布 - 2025年多家厂商发布小于10B参数模型，包括阿里Qwen3系列(0.6B/1.7B/4B/8B)、腾讯Hunyuan-Tiny系列(0.5B/1.8B/4B/7B)和华为PanGu7B [6] - 厂商提供全栈解决方案，如阿里Qwen-Agent提供模块化插件，腾讯混元Lite降低部署门槛 [24] - 开源社区推动行业化适配，如DeepSeek医疗问答模型和MiniCPM教育场景集成 [24] 小模型与大模型的协同架构 - 企业采用混合架构，小模型处理流程化任务(如OCR字段提取)，大模型处理复杂场景(如欺诈识别) [19][20] - 1B-3B模型用于移动端与边缘设备，7B-9B模型成为中大型企业私有化部署主力，30B+模型仅用于特定复杂场景 [21][22] - 研究显示40%-70%的Agent调用可通过小模型完成，MetaGPT等开源项目已验证此趋势 [13] 实施挑战与工程门槛 - 小模型泛化能力较弱，依赖高质量数据，金融行业原始语料清洗后可用率不足10% [16] - 系统集成要求高，需对接知识库与API，检索模块不准会导致回答偏差 [16] - 企业存在沉没成本顾虑，2024年LLM托管云基础设施投资达570亿美元，是API市场规模的10倍 [17]

公司融资与估值增长 - 公司完成5轮融资 最新B轮融资额达1.89亿欧元[6] - 2024年3月完成2500万欧元A轮融资 估值1.08亿美元[6] - 一年后估值飙升至5亿美元 涨幅达5倍[6][8] - 成为西班牙最大AI初创公司之一[6][10] 核心技术CompactifAI - 采用量子物理张量网络方法压缩模型 体积减少80%-95%[6][13][14] - 准确率仅下降2-3个百分点[14] - 压缩后模型推理速度提升4-12倍[17] - 推理成本降低50%-80%[17] - 支持在PC、手机、汽车等终端设备运行[6][17] 产品应用案例 - SuperFly模型压缩自1.35亿参数SmolLM2 仅剩9400万参数[6][15] - ChickBrain模型压缩自18B参数Llama3 降至3.2B参数[6][15] - Llama 4 Scout Slim在AWS调用成本降至每百万tokens 0.10美元[17] - 相比原版每百万tokens节省30%费用[17] 商业模式 - 通过AWS API提供压缩模型服务[17] - 提供企业级私有部署许可[17] - 通过服务提供商交付定制化压缩模型[17] - 主要客户为大型互联网企业AI团队[18] 行业竞争格局 - Meta发布13亿参数LLaMA微型模型[22] - Google推出2亿-7亿参数Gemma模型[22] - 微软Phi系列14亿参数模型在专业任务超越大模型[22] - 初创公司Neural Magic、Deci等聚焦模型效率优化[22][23] - 与苹果、三星、Sony等硬件巨头洽谈终端设备合作[22] 技术壁垒与挑战 - 方法基于量子多体系统数学技巧 具强泛化性[11][14] - 需将大模型基础算子抽象为通用压缩工作流[14] - 端侧模型需适配不同设备的计算资源与能耗[23] - 当前技术依赖现有模型压缩 非自主训练小模型[24]

公司背景与融资情况 - Multiverse Computing成立于2019年 最初聚焦量子计算软件解决金融领域投资组合优化和风险管理问题[5] - 公司完成5轮融资 2024年3月A轮融资2500万欧元 一年多后B轮融资达1.89亿欧元 估值从1.08亿美元涨至5亿美元 一年增长5倍 成为西班牙最大AI初创公司之一[2][4][6] - 团队40%成员拥有博士学位 核心成员横跨金融 量子物理与科技创业三大领域 CEO恩里克拥有数学 计算机 医学博士与MBA背景 曾任西班牙Unnim银行副CEO[5] 技术突破与产品发布 - 核心技术CompactifAI采用量子物理张量网络方法 能将大模型体积压缩80-95% 准确率仅下降2-3个百分点[8][11] - 2025年8月发布两款超小模型：SuperFly（苍蝇脑）基于1.35亿参数SmolLM模型压缩至9400万参数 ChickBrain（小鸡脑）将Llama 3.1 8B模型压缩至3.2B参数（压缩率60%）[12][13] - 压缩后模型推理速度提升4-12倍 推理成本降低50-80% 在AWS云服务上每百万tokens处理费用从0.14美元降至0.10美元 节省30%成本[16][18] 商业应用与合作伙伴 - 提供三种商业服务模式：AWS API访问 私有部署许可以及通过服务提供商交付压缩模型[16] - 主要客户为大型互联网和软件企业AI团队 应用于客服聊天机器人 代码自动补全和文本分析等场景[17] - 与苹果 三星 Sony HP等硬件巨头洽谈合作 计划将超小模型嵌入下一代终端设备 契合苹果轻量化本地模型战略[19] 行业竞争与市场定位 - 2024年起科技巨头纷纷布局小模型：Meta发布13亿参数LLaMA微型模型 Google推出2亿-7亿参数Gemma 微软Phi系列用14亿参数模型在数学编码任务超越50倍体积大模型[19] - AI推理优化成为创投圈新竞技场 初创公司Neural Magic Deci OctoML等聚焦模型加速和自动选型赛道[20] - 公司技术壁垒面临挑战 端侧模型需要配合设备计算资源 能耗和发热等工程化问题 且极度依赖原有模型能力[21][23] 技术原理与性能表现 - CompactifAI采用张量网络方法 通过张量分解和矩阵低秩近似重构参数逻辑 实现高维压缩并保留几乎所有信息[8][10] - 压缩后模型可在PC 手机 汽车等设备运行 将原需8张A100 GPU运行的LLM压缩至1-2张GPU甚至CPU上实时推理[16][18] - 已发布多个压缩模型版本包括Llama 4 70B精简版Llama 4 Scout Slim以及Llama 3系列和Mistral小模型精简版[11]