Workflow
大模型私有化部署
icon
搜索文档
Qwen 3赋能!亚信科技(1675.HK)联合阿里云推出“AI大模型一体机”,重构政企智能转型的四位一体新范式
格隆汇· 2025-05-09 01:17
阿里通义千问Qwen3模型发布 - 阿里通义千问推出最新大型语言模型Qwen3系列 旗舰模型Qwen3-235B-A22B在代码、数学和通用能力等基准测试中表现优异 与DeepSeek-R1、Grok-3等顶尖模型竞争[1] - Qwen3参数量仅为DeepSeek-R1的1/3 成本大幅降低 仅需4张H20显卡即可实现满血版部署 显存占用仅为性能相近模型的三分之一[1] - 天风证券报告指出AI产业竞争进入体系化阶段 需要端到端解决方案而不仅是行业大模型 包含上层应用、训练数据、底层算力等全链条能力[1] 亚信科技AI大模型一体机解决方案 - 亚信科技是阿里云生态链中唯一同时被纳入软件与硬件推荐的核心标的 与阿里云联合推出"AI大模型一体机"解决方案 采用"算力+平台+应用+服务"四位一体模式[2] - 该一体机实现算法与国产芯片高度适配 支持单机16卡轻量级部署 可支持全精度DeepSeek-R1 671b满血版大模型 BF16精度下实现8K+ Tokens输入 解析延迟低至50毫秒[3] - 兼容主流LLM开发框架 可适配满血版和蒸馏版Deepseek、Qwen等多种模型 无需额外转换编译即可快速部署[4] - 植入了行业大模型与应用模板 覆盖电力、石油石化、政府等八大应用场景 将标杆案例经验标准化复用[6][8] 技术优势与行业落地 - 亚信科技已发布1个通用AI平台、3款行业大模型和8大认知增强工具 覆盖从研发到应用全生命周期 该体系已在多个场景验证并完成迭代升级[5] - 2024年在运营商行业落地大模型项目超100个 其他垂直行业超30个 作为阿里云政企行业大模型创新中心单位 在政务、光伏等行业建设近百个项目[6] - 通过知识蒸馏技术将成功实践转化为即插即用AI模板 形成覆盖八大应用场景的特色应用模板[6] 市场前景与价值转化 - 分析师预计大模型私有化部署需求将持续增长 2025-2027年一体机需求量将达15万、39万、72万台 对应市场空间1236亿、2937亿、5208亿元[12] - 该解决方案实现"零门槛"部署 将传统需数周的部署流程缩短为数小时 通过智能切割与动态调度使硬件利用率大幅提升[9] - 提供全生命周期安全防护 通过物理隔离本地化部署模式满足金融、政务等敏感行业的数据安全要求[10][12]
星环科技(688031):加强回款管理 大模型相关业务落地
新浪财经· 2025-04-29 02:40
财务表现 - 24年全年营业收入3.71亿元,同比下滑24.31%,归母净利润-3.43亿元,同比缩窄19.16%,扣非归母净利润-3.80亿元,同比缩窄13.42%,经营性净现金流-3.27亿元,同比改善10.63% [1] - 24Q4单季度营业收入1.62亿元,同比下滑39.58%,归母净利润-0.51亿元,同比扩大159.09%,扣非归母净利润-0.63亿元,同比扩大67.29% [1] - 25Q1单季度营业收入0.64亿元,同比增长2.59%,归母净利润-0.84亿元,同比缩窄5.74%,扣非归母净利润-0.88亿元,同比缩窄6.00% [1] - 25Q1在相对高基数上实现收入同比增长,体现延后订单逐步验收及需求回暖 [1] 订单与客户结构 - 24年新增订单客户数和客单价均有增加,高于300万元的高价值客户数目明显增加 [2] - 老客户复购产生的收入占主营业务收入的78.83%,老客户保持高粘性 [2] - 24年全年及25Q1毛利率同比下降,考虑为验收产品结构季度间差异 [2] 经营效率 - 24年销售回款约4.6亿元,同比增长11.56%,24Q4经营性净现金流同比增长18.81%,25Q1经营性净现金流同比增长46.96% [2] - 24年销售/管理费用同比下降约13.25%/8.53%,降本增效下25Q1利润缩亏幅度高于收入增速 [2] AI业务发展 - DeepSeek凭借低成本、高性能、开源、国产化等特质,受益于政府及金融行业私有化部署浪潮 [3] - 公司云+端+私有化三位一体部署的DeepSeek全场景解决方案将全面受益于私有化部署趋势 [3] - 24年大模型相关业务斩获近5,000万元订单,落地招商证券、东证期货、中国人寿等标杆案例 [3] - 与宏碁合作的AIPC搭载公司无涯·问知系统,已协助A星人专业版全面接入DeepSeek [3] 行业地位与展望 - 公司AI数据工程基因纯粹,拳头产品TDH在政府、金融等领域市占率领先 [4] - 作为私有化部署大模型核心MaaS服务商,将深度受益于大模型私有化部署浪潮 [4] - 预计25-27年收入为5.23/6.93/9.18亿元 [4]
天融信:将携手华为发布重量级新品
金融界· 2025-03-24 07:57
公司与华为合作动态 - 天融信与华为将于3月24日联合发布重量级新品 围绕智算和安全开展合作 [1] - 双方合作涵盖漏洞挖掘、云安全、商用密码、兼容性认证等技术及产品领域 [1] - 2018年加入华为安全商业联盟 2020-2022年连续三年在鲲鹏计算平台安全漏洞奖励计划贡献排名第一 [1] - 2023年联合发布鲲鹏架构超融合一体机 成为openHiTLS社区首批初创会员 阿尔法实验室获华为终端安全年度优秀合作伙伴 [1] - 2024年签署合作备忘录 推进VPN、数据防泄漏、EDR等产品鸿蒙化落地 [1] 智算一体机业务进展 - 天融信智算一体机已获得客户极大兴趣 多客户加入购买队列 [2] - 公司将智算一体机作为重点战略产品 已进行营销策略和团队部署 [2] - 产品结合天融信网络安全技术优势与华为硬件、云计算及AI框架能力 [2] - 产品具备"高性能算力+场景化方案+主动防御"一体化特性 [2] - 目标市场为政府、金融、能源等关键行业 满足数智化转型中对高效算力和安全合规的双重需求 [2] 行业市场前景 - 申万宏源证券认为一体机是存在较大预期差的方向 [2] - 大模型私有化部署推动一体机市场高景气度 [2] - 政府端落地大模型成为趋势 国资成为更具购买力的需求方 [2] - 预计一体机将形成更陡峭的景气增长曲线 [2]
特别策划丨大模型上岗三甲医院,给每个医生都配个 “病历质控助手”
晚点LatePost· 2024-06-27 10:54
病历内涵质控的痛点与现状 - 病历内涵质控是对病历内容的质量控制,涉及诊疗全过程的完整性和逻辑性,信息量大且关键[5][6] - 传统人工质控依赖专家团队抽查,费时费力且难以覆盖全部病历[6][7] - 质控难点在于逻辑抽象,需深厚临床经验,普通人难以胜任[6] 医疗大模型的解决方案 - 大模型擅长处理繁琐、量大的信息,与病历质控需求高度匹配[7] - 惠每科技医疗大模型已在多家三甲医院应用,实现实时纠错与提醒[9][10] - 系统对接HIS、PACS、EMR等医院信息系统,通过NLP和术语标准化构建患者画像[11] - 模型基于用户反馈持续优化,采用RAG技术和医学知识库增强专业性[22][24] 实际应用效果 - 某三甲医院甲级病历率从75%提升至95%[13] - 病历平均问题数10个月内从7.42个降至3.28个,降幅55.79%[17] - 某省级医院主要诊断编码正确率从78%升至97%,手术记录完整率从92%升至99%[19] 技术架构与安全性 - 采用私有化部署确保数据不出医院,保障患者隐私[21][24] - 基于ChatGLM等基座模型,结合SFT和RLHF技术微调[22][24] - 英特尔至强CPU Max系列提供硬件支持,HBM2e内存带宽达DDR5的4倍[29][30] - OpenVINO和IPEX-LLM优化后,模型首词时延降低1.92倍,平均时延缩短3.81倍[32] 行业落地优势 - 私有化部署适应医院病历格式差异和隐私要求,成为刚需[28] - 至强平台利用现有IT设施,部署周期仅需3.5个月,成本效益显著[29][34] - 方案可扩展至智能导诊、辅助诊断等医疗AI场景[38]