Model as a Service

搜索文档
硅基流动联创胡健:企业级MaaS预集成100+大模型,国产芯“更好用”了
新浪科技· 2025-09-23 02:50
责任编辑:江钰涵 当前,企业在AI大模型规模化落地过程中,普遍面临模型适配难、推理性能与成本难以平衡、服务可 靠性要求高、输出质量不稳定以及安全合规压力大等核心痛点。 针对前述难题,硅基流动企业级MaaS平台预集成了100+主流开源与闭源大模型,提供多种算力卡推理 加速包,开箱即用、一键部署。依托硅基流动公有云能力,新模型1-3天即可完成适配并同步至企业私 有环境,极大缩短上线周期。 其次,选好模型,AI应用就成功了一半。通过智能路由、自研推理框架及动态扩缩容,硅基流动实现 了高性能与低成本的统一。支持上下文感知、KV Cache感知、LoRA感知等路由策略;依托算子优化、 显存管理、量化加速等底层技术提升吞吐、降低延迟;支持基于实时指标的弹性伸缩,支持缩容至0, 显著提升资源利用率。 此外,该MaaS平台还通过内置模型测评与优化工具链,支持自定义测评集和测评结果比对,辅助模型 选型与Prompt优化。提供一键调优与Multi-LoRA推理,简化部署、节省资源等服务。(文猛) 新浪科技讯 9月23日上午消息,硅基流动近日推出企业级MaaS(Model as a Service)平台,宣布提供从 异构算力纳管、 ...
一年完成两轮融资,硅基流动商业化拓展提速
21世纪经济报道· 2025-09-19 10:43
2025年,AI大模型开始加速赋能千行百业,走向与业务的深度融合与价值创造。一些创业公司正捕捉 其中机遇,基于对企业多样化AI场景需求与核心痛点的深入洞察,推出产品服务帮助企业落地AI大模 型。 近日,硅基流动正式推出企业级MaaS(Model as a Service)平台,为企业提供从异构算力纳管、模型训 练、推理部署到场景应用的全链路闭环解决方案,助力电力、能源、制造、金融、互联网等行业客户实 现大模型规模化落地。 据了解,硅基流动成立于2023年8月,是袁进辉二次创业成立的公司。此前,他曾创办一流科技被王慧 文成立的光年之外收购,后来王慧文因健康原因退出,美团则以20.65亿元全资收购了光年之外。 硅基流动在创办之初便引入美团作为战略股东。同时,相比于当时主要做大模型预训练市场的一流科 技,硅基流动更聚焦于大模型推理市场。后者核心产品为一站式大模型云服务平台,基于自研推理引 擎,实现大模型高效推理加速,提供高效能、低成本的多品类AI模型服务。 值得一提的是,今年春节期间,DeepSeek横空出世点燃全球市场热情,但接连遇到服务器被攻击和官 网无法打开等问题。硅基流动大模型云服务平台首发上线了基于华为云 ...