模型推理效率
搜索文档
中外专家共探AI技术前沿与产业赋能
新浪财经· 2025-11-21 07:23
论坛概况 - 第五届智能计算创新论坛在浙江杭州举行,由浙江之江实验室与《科学》/美国科学促进会共同举办 [1] - 论坛主题为“计算依靠智能、计算为了智能”,旨在搭建智能计算领域国际学术交流平台 [1] - 论坛吸引中外专家探讨人工智能技术前沿发展及其在天文、地学、生命科学、材料等领域的赋能作用 [1] 科学基础模型发展 - 科学基础模型构建的关键是将不同类型科学数据token化并置于同一空间进行训练与推理,以应对跨学科复杂问题 [2] - 基础模型的学习范式经历模仿学习、强化学习和自主学习三个阶段,目前已从模仿学习过渡到强化学习 [2] - 基础模型的应用正从对话转向任务处理,模型推理效率成为大规模部署AI应用程序的关键因素 [2] 模型效率与产业协同 - 基础模型能力提升所消耗的token数量呈指数增长,token消耗量可能成为AI时代衡量经济运行的新指标 [3] - 提升模型推理效率需通过产业上下游联合优化、协同设计模型芯片,并推动系统与架构联合创新 [3] - 模型推理效率越高,产生token的成本越低 [3] 智能系统应用与协作 - 在动态、不可预测环境中,能够有效响应变化的机器人变得愈发重要 [4] - 中国在智能制造等领域展现出领先实力,为观察智能体协作及新技术应用提供了绝佳试验场 [4] - 各国科学家应建立合作网络,携手合作以创造更多可能 [4]
阶跃星辰姜大昕:下一代智能硬件,比拼的不是硬件而是智能
新浪科技· 2025-09-12 02:14
行业趋势与核心观点 - 大模型应用已从聊天时代进入做事时代 [1] - 未来智能终端的特点是会做事、总在场、有记忆、能进化 [1] - 下一代智能硬件比拼的核心是智能而非硬件 [1] - 数字世界智能体的有效工作时间将越来越长 衡量模型智能的标准是其自主有效工作时长 [1] - 智能体将从经验学习走向自我进化 仅依靠有限且有偏见的人类数据无法超越人类智能 智能体需从自身与环境的交互中学习 [1] 技术发展关键要素 - 模型推理效率是决定AI大规模落地应用的关键要素 [1] - 提升推理效率需要产业上下游联合优化 进行系统与模型的协同设计 [1] - 当前挑战在于如何进一步增强模型的推理能力并提升其泛化性 [1] 公司动态与产品性能 - 阶跃星辰与多个国产算力芯片厂商合作 [1] - 其Step3国产卡在32K上下文长度下的推理效率最高可达DeepSeek R1的3倍 [1] 未来应用场景 - 智能体将不仅存在于数字世界 还将走向物理世界 [1]