行业核心观点 - 人工智能的“敏捷治理”成为行业共识，强调治理需与技术发展同步，事前预埋治理逻辑，而非事后补救 [3][4] - 构建“安全可信、创新共生、包容普惠”的人工智能发展新生态是行业倡议的共同目标 [5][7] 治理理念与框架 - “敏捷治理”的核心是“边发展边治理”，确保治理节奏与发展步伐同频同步 [4] - 治理应注重事前预埋逻辑，例如在生成式数据中结合显式与隐式标识，防止篡改，立法与技术部门需提前介入 [3] - 人工智能技术的应用必须建立在明确规范之上，先立规矩再谈开发，尤其在敏感场景 [4] 技术治理的具体实践 - 在数据源头进行严格筛选，以规避安全风险，并针对模型“幻觉”现象进行研究优化 [5] - 构建多层次安全防护体系：包括源头数据防护、生成内容清晰标注（如京东直播中对AI生成内容进行标注）、以及敏感内容持续监测 [5] - 将人工智能安全治理贯穿于技术研发到落地应用的全流程，包括模型安全保障和外部安全屏障，并针对不同产品特性搭建独立的安全保障体系 [5] 应用场景与挑战 - 人工智能在如校园等敏感场景的落地面临挑战，各部门对数据安全高度敏感，需从后台场景起步，重点推进数据治理，明确管理规则与利用路径 [4] - 技术的应用需考虑用户接受度，例如师生反对用技术进行全方位监测，因此需先建立规范 [4] - 当前基础设施完备，但人工智能技术的落地应用仍存在较大空白，需探索适合场景的技术 [4] 行业活动与倡议 - 大湾区科学论坛人工智能分论坛以“AI & Governance”为主题，围绕前沿技术发展、创新与治理等话题展开讨论 [7] - 论坛发布了“共建可信共生人工智能未来倡议书”，旨在凝聚发展共识 [5][7]