Model as a Service
搜索文档
硅基流动联创胡健:企业级MaaS预集成100+大模型,国产芯“更好用”了
新浪科技· 2025-09-23 02:50
责任编辑:江钰涵 当前,企业在AI大模型规模化落地过程中,普遍面临模型适配难、推理性能与成本难以平衡、服务可 靠性要求高、输出质量不稳定以及安全合规压力大等核心痛点。 针对前述难题,硅基流动企业级MaaS平台预集成了100+主流开源与闭源大模型,提供多种算力卡推理 加速包,开箱即用、一键部署。依托硅基流动公有云能力,新模型1-3天即可完成适配并同步至企业私 有环境,极大缩短上线周期。 其次,选好模型,AI应用就成功了一半。通过智能路由、自研推理框架及动态扩缩容,硅基流动实现 了高性能与低成本的统一。支持上下文感知、KV Cache感知、LoRA感知等路由策略;依托算子优化、 显存管理、量化加速等底层技术提升吞吐、降低延迟;支持基于实时指标的弹性伸缩,支持缩容至0, 显著提升资源利用率。 此外,该MaaS平台还通过内置模型测评与优化工具链,支持自定义测评集和测评结果比对,辅助模型 选型与Prompt优化。提供一键调优与Multi-LoRA推理,简化部署、节省资源等服务。(文猛) 新浪科技讯 9月23日上午消息,硅基流动近日推出企业级MaaS(Model as a Service)平台,宣布提供从 异构算力纳管、 ...
一年完成两轮融资,硅基流动商业化拓展提速
21世纪经济报道· 2025-09-19 10:43
公司业务与定位 - 硅基流动是一家成立于2023年8月的AI基础设施创业公司,聚焦于大模型推理市场,提供一站式大模型云服务平台 [1] - 公司核心产品为企业级MaaS平台,提供从异构算力纳管、模型训练、推理部署到场景应用的全链路闭环解决方案 [1] - 平台预集成100+主流开源与闭源大模型,提供多种算力卡推理加速包,新模型1-3天即可完成适配并同步至企业私有环境 [4] - 通过智能路由、自研推理框架及动态扩缩容实现高性能与低成本的统一,并提供多租户数据隔离等安全措施 [5] 技术优势与市场机遇 - 硅基流动自研大模型推理引擎,覆盖英伟达、AMD、昇腾、沐曦、摩尔线程等主流芯片厂商,是唯一一家能在国产各种芯片上实现规模化推理的公司 [6] - 受益于DeepSeek异军突起带来的国产化红利,公司平台首发上线基于华为云昇腾云算力的满血版DeepSeek R1/V3模型 [2] - 中国企业级大模型的日均Token消耗量在2025年上半年达到10.2万亿,较2024年下半年激增363% [7] 客户拓展与商业化 - 平台拥有超700万用户,日均生成上千亿Token,注册企业用户有一万多家 [2] - 公司重点服务两类客户:腰部互联网企业和大型央国企,央国企客户对国产芯片支持有刚需 [6] - 已形成标杆案例,如某头部能源央企采用大小模型双轮驱动模式推进AI应用落地并完成国产化算力部署 [7] - 收费方式以项目制收费和Token消耗计费为主,未来Token费用可能大幅降低并出现分级收费制度 [7] 资本支持与发展态势 - 公司在2025年完成两轮融资:2月完成数亿元pre-A轮融资,6月完成数亿元人民币A轮融资由阿里云领投 [3] - 融资支持下商业化拓展提速,尤其是企业级MaaS平台业务 [3] - 公司创办之初便引入美团作为战略股东 [1]