广州开发区、黄埔区将打造一个AI时代的"虚拟开发区"，深化产业数字化和数字产业化的协同发展。9 月11日，该区举行2025人工智能创新生态大会，正式对外发布了该区在全国首创建设的可信AI先进赋 能平台"湾区智城"，为"虚拟开发区"提供坚实的数字底座。 黄埔区内企业众多，规上企业数量稳居全市第一，各大产业集群每日产生海量数据。据悉，"湾区智 城"定位为面向黄埔区内企业的普惠AI赋能平台，企业借助该平台可享受更低的算力成本、更可信的数 据支撑，还可安全自由地开发和交易AI智能体和数据产品。 而黄埔区也将通过"湾区智城"平台，有效沉淀运用各大产业链上的数据资源，突破数据的应用和流通壁 垒，进一步引导和聚集区内新型产业，并立足黄埔打造辐射大湾区的 AI 产业共性平台。 可信AI先进赋能平台"湾区智城"正式发布。 企业可获AI定制方案 还能"边用边赚" AI智能体正以惊人的速度进化，不少中小企业也因此陷入"AI焦虑"，既担心错失技术红利，又烦恼成本 投入大、研发门槛高等问题。千行百业的大模型井喷，数据噪声、语料投毒、模型幻觉等新型风险也相 应产生。 黄埔区顺势而为，由科学城集团旗下数科集团在全国首创建设可信AI先进赋能 ...

政策落地意义 - 政策是应对AIGC技术应用风险的及时且必要的监管举措 强制内容标识为AI生成内容贴上电子身份证 赋予公众知情权与选择权 成为防范风险和构建行业信任的第一道防线[3] - 政策标志着AIGC治理从行业自律迈向国家监管的成熟升级 形成行业标准先行探索与国家办法兜底规范的多层次治理体系[3] - 标识推动责任溯源与技术向善 确立谁生成谁发布谁负责的责任追溯机制 倒逼AI服务提供者与应用者审慎对待内容输出与传播[5] 核心防范目标 - 防范欺诈与虚假信息传播 AIGC技术能批量生成高度逼真内容 强制标识如同电子水印帮助公众辨别真伪[7] - 明确版权与内容归属 标注来源可有效厘清权利边界减少法律纠纷 保护原创生态[7] - 防止互联网数据污染 强制标注为数据构建隔离带 避免低质量AI生成内容被回收训练导致模型性能退化的恶性循环[7] 政策影响 - 引导内容创作从拼速度拼数量转向拼质量拼可信度 推动行业摆脱低水平同质竞争[8] - 净化训练数据池为技术迭代筑牢根基 在新闻金融医疗教育等高信任度领域为AI规模化应用提供准入许可[8] - 总体呈积极正向 不是给技术踩刹车而是为其铺轨和校准方向 让AI在健康轨道上发展[8] 长效治理配套 - 强化责任追溯技术支撑 需配合数字水印区块链等隐形技术确保AI内容从生成到传播可追踪溯源[11] - 从源头把控数据质量 行业需共建干净数据推动数据使用标准化[11] - 构建人加AI协同审核机制 形成机器初筛加人工重点核查模式 建立风险预警共享机制[11] - 加强公众AI素养教育 通过科普培训中小学教育及科普读物出版帮助公众正确认识AI能力边界[11] 国际监管对比 - 美国偏向行业自律加事后监管 联邦层面无统一强制标识法规 仅加州等州要求潜在标注并提供检测工具[15] - 欧盟采取风险分级严格监管 通过人工智能法案对生成式AI要求不可删除水印与训练数据版权披露[15] - 日本态度谨慎保守 依赖现有法律与指导方针 未出台新立法 企业应用AIGC时对数据安全与隐私顾虑较高[15] - 韩国通过人工智能发展与信任基础建设等基本法 试图在技术发展与信任监管间寻找平衡[15] - 中国路径特色鲜明 采用办法加国标组合拳 显式加隐式标识双轨并行 注重源头与过程管理 明确服务提供者与平台的共同责任[16] 企业影响与机遇 - 企业需应对技术改造成本 需在产品与流程中嵌入标识功能产生额外投入[17] - 企业需承担全流程管理责任 不仅自身生成内容要标识 使用第三方AI工具或分发内容时也需核验[17] - 企业面临违规风险提升 未按要求标识或冒充真人创作将面临明确处罚[17] - 可信AI成为核心竞争力 合规且内容优质的AI产品将更获用户信任建立品牌优势[20] - 合规技术赛道崛起 数字水印AI内容检测工具合规解决方案等需求激增形成新产业增长点[20] - 高质量内容价值凸显 低质AI内容被过滤后优质创意内容市场价值将进一步提升[20] 社会长期影响 - 对内容创作者行业将迎来洗牌 纯AI洗稿粗制滥造模式难以为继 创作者核心价值回归真知灼见独特视角与情感连接[26] - 对媒体行业是一场信任保卫战 权威媒体公信力优势进一步凸显 推动行业脱离流量导向回归内容质量本质[26] - 对社会信息生态强制标识如同为互联网修筑堤坝 防止虚假信息污染认知空间 守护公众对信息的基本信任[26]

产品核心突破 - 模型代号为Gemini 2.5 Flash Image-preview 精准解决AI图像生成三大痛点：角色不一致、修改需重绘、风格混乱 [3] - 实现多图无缝融合与角色一致性 支持IP系列插画和产品营销图生成 [6] - 通过自然语言对话式编辑调用世界知识库 支持精细化修改和手绘草图完善 [6] - 具备低延迟高响应特性 单张图片生成成本约0.039美元（0.2元人民币） [7] 产业生态整合 - Adobe旗下Firefly和Express深度集成该模型 赋能数百万设计师与营销人员工作流 [11][13] - 云端算力需求激增 推动Google Cloud等云服务商增长 [14] - 模型即服务（MaaS）商业模式巩固 催生API经济生态 [14] - 所有生成图片嵌入SynthID数字水印 保障版权溯源与合规性 [15][17] 行业影响与投资方向 - 广告营销、影视游戏、电商等行业将迎来AI降本增效 成本结构需重估 [19] - AI工具采纳率成为企业估值新因子 类似研发投入占比指标 [19] - 算力需求利好AI芯片（如NVIDIA）、光模块及数据中心产业链 [20] - SaaS平台通过整合顶尖模型提升用户粘性与ARPU值 [20] - 头部科技公司竞争聚焦模型性能、生态构建与商业化落地 [21] - 数据安全与版权保护技术投入成为风险评估核心要素 [22]

行业趋势 - 全球AI行业正从技术探索转向价值深耕阶段 焦点从技术突破转向实际应用[2] - 当前大模型产品同质化严重 市场趋近饱和[2] - 通用大模型市场格局已近收敛 但行业应用正迎来爆发 新技术突破仍可能带来变量[2] 公司战略 - 无限光年2025年实施双领域布局：横向以启智平台形成可复用AI基础设施 纵向深耕金融与科学智能两大核心领域[3] - 公司提出"灰盒大模型"理念 融合大语言模型概率预测与符号推理逻辑推理 破解AI幻觉问题[2] - 构建"双引擎技术体系" 将神经符号计算与大模型有机融合 形成精准计算-可控推理-透明决策闭环[9] 金融领域应用 - 指数动态定制方案将成分股覆盖从600只拓展至2600只 调仓周期从季度压缩至分钟级实时响应[4] - AI投研助手5分钟内完成单份财报全维度分析 效率较人工提升超90% 覆盖A股5364家上市公司且财务指标计算零误差[10] - 智能信贷分析整合多源信息实现自动化风控 提升中小银行普惠金融服务质效[10] - 金融专业培训通过智能化体系大幅提高员工知识掌握率[4] 科学智能应用 - 联合推出星河启智科学智能开放平台 聚焦科研者核心诉求[5] - 专为平台打造启智Lab算力服务平台 采用智能容错 动态部署 GPU/CPU融合技术[5] - 创新CPU/GPU融合调度 将分子生成研究流程从8小时压缩至1分钟 效率提升99.7%[6] - 平台已完成昇腾 沐曦等国产化芯片适配[7] 可信AI技术 - 透明化推理机制使AI决策过程清晰可见 增强用户信任[8] - 强化学系框架INF-Aspire支持双引擎高效调度 确保系统稳定运行[9] - 智能体应用在科学智能领域自动分解科研任务 在金融场景通过多智能体分工协作实现合规可控决策流程[12] 发展理念 - AI竞争不是算力或参数比拼 而是价值创造能力较量[12] - 技术需完成从能用到敢用再到好用的三重跨越[5] - 关键看能否解决真实场景问题 而非概念包装[12]

行业趋势 - 人工智能产业正经历从技术崇拜到价值回归的本质转变 可信性成为变革的核心枢纽 [1] - 行业重点从通用大模型转向垂直领域模型和智能体开发 [3] - 技术发展需完成从能用 到敢用 再到好用的三重跨越 尤其在科研 金融 医疗等开放域场景 [7] 竞争格局 - 大部分赛道马太效应和先发优势不明显 个别细分领域可能存在 [5] - 未来竞争核心是价值创造能力而非算力或参数比拼 [1] - 技术没有绝对壁垒 真正的优势在于创新速度 [4] 产品战略 - 垂类大模型发展核心在于差异化的产品价值 需解决用户痛点 [4] - 产品市场匹配(PMF)成为下一阶段重点 需要行业深耕 [5] - 优秀合作伙伴能提升产品表现 行业积累形成优势 [4] 技术架构 - 可信AI架构包含三层: RAG检索增强生成层 强化学习奖励函数层 神经符号计算与深度学习融合层 [6] - 开放域场景需要结合行业知识定义奖励函数 解决真实场景问题 [6] - 2023年下半年强化学习应用后 大模型幻觉问题得到改善 [6] 展会规模 - 2025世界人工智能大会展出800余家企业 3000余项前沿展品 规模创历届之最 [1] - 展品涵盖40余款大模型 50余款AI终端产品 60余款智能机器人以及100余款全球首发或中国首秀新品 [1]

活动背景与主题 - 威客引力主办的「WAIC UP! 之夜」活动于2025年7月27日在世界人工智能大会期间举办 主题为“AI有什么大不了” 聚焦技术、文明与人类未来的思辨 [1] - 活动旨在探讨AI技术普及背景下人类价值的核心命题 超越“岗位替代”或“奇点临近”的常规讨论框架 [4] - 2025年全球AI领域呈现中国大模型崛起、具身智能爆发、应用狂飙等趋势 AI技术正重塑世界格局 [3] 技术发展与创作变革 - AI技术实现创作领域的“平权革命” 例如虚拟偶像Yuri的案例显示AI降低创作门槛 强调创意（idea）价值高于工具本身 [8][10] - AI被定义为“创作维度的拓展者” 例如导演Junie通过AI放大十年创作积累 实现人机协同的混合心流状态 [10] - 技术面临被资本“规驯”的危机 需警惕在降本增效浪潮中丧失创作本质 [10] 人类价值与AI局限性 - AI擅长“三生万物”的扩展性创作 但人类核心价值在于“道生一”的原始创造能力 例如矿工诗人的生命体验构成算法无法复制的“人文孤本” [12][14] - 情感连接、真实体验与陪伴成长是AI无法取代的人类特质 杰弗里·辛顿指出AI将寻求更多控制权 但人类需守护本质特质 [14][18] - 人类行为数据成为训练AI的语料 碳硅共生时代需保持提出新问题的能力 [17] 教育与社会转型挑战 - AI导致90%工作去中心化 大学文凭加速贬值 教育需从“能力培养”转向“愿力激发” 回归生命影响生命的本质 [17] - 沟通能力、审美判断和共情力成为核心竞争力 跨学科素养构建完整知识体系 [17] - 高学历高薪岗位面临30%-50%替代风险 农业机械化淘汰体力劳动 AI将淘汰低阶脑力劳动 催生深度决策新职业 [31] 技术实践与行业应用 - 大模型面临Scaling Law局限性及决策不可解释性难题 上海交通大学团队提出“等效与或交互”理论 实现神经网络稀疏符号化解释 提升军事、法律、医疗等高敏感领域可信度 [25] - Hugging Face工程师强调开源对透明性的关键作用 通过opt-out机制保障被遗忘权 防止生成引擎优化（GEO）技术操控模型输出 [27] - 天文学领域通过“公众科学”游戏化（如星系迷宫分类天体）和AI协同智能（active learning机制）处理年增量相当于全球互联网流量的数据 [33] 人文与技术平衡 - 建筑师提出AI时代需守护情感空间 防止“一键生成”设计侵蚀集体记忆 重寻技术与人文的十字路口 [29] - 辩论环节聚焦专业技能与综合素质之争 专业技能派主张细分领域深度（如法律、蛋白质结构研究） 综合素养派强调跨界思维与审美力不可量化 [22][23] - 需构建性能与可信度兼备的AI生态系统 推动从“更大”模型转向“更深”和“更懂”的智能形态 [25] 技术展望与行业活动 - 场外设置知乎学术酒吧、AI春晚互动区、通义体验区等10余个主题区域 覆盖技术趋势、行业洞察与人文思考 [36] - 活动通过数字艺术、人机共创旋律及公益项目体现科技温度 形成开放智性交流平台 [36] - 杰弗里·辛顿比喻人类与AI关系如饲养小虎崽 需找到永久保护自身的方法 [36]

行业趋势 - 2023年WAIC大会将"幻觉"列为首个热议话题，反映AI可靠性问题已成为全球技术焦点[1][12] - 行业进入Agent元年与具身智能量产元年，大模型落地应用呈现爆发态势[11] - 国际学界与产业界罕见联手推进AI安全研究，OpenAI、谷歌、Anthropic等40余家机构联合发布CoT监测论文[9][21] 技术突破 - 讯飞星火X1升级版在幻觉治理取得突破：事实性幻觉率降至9.52%（对比GPT-4的14.23%），忠实性幻觉率仅2.39%[7][30] - 采用多路径采样验证+事实性约束强化学习技术，实现慢思考模式下幻觉率显著低于主流模型[29] - 强化学习框架创新：通过"评语模型+细粒度反馈"解决奖励稀疏问题，数学推理步骤准确率提升至90.16%[27] 模型性能 - 综合能力对标国际一流模型，数学能力突破140分（高考数学一卷），最后难题完整解答率100%[31] - 多语言覆盖130+语种，语音同传模型实现语种免切换技术，实时响应与专业术语处理领先行业[32][37] - 医疗大模型在三甲医院双盲测试中，心血管内科诊断合理率达91.2%，超越主治医师水平[40][41] 产业应用 - 教育场景实现全链路升级：数学步骤批改F1值83.4%（较竞品提升20.7个百分点），英语口语学习可用率92.3%[39] - 代码大模型赋能100+企业，项目级代码理解使研发效率提升超50%，集成16000+工具构建Agent平台[42][43] - 技术落地形成闭环：从数据反写引擎（降低70%标注成本）到医疗/教育/工业全场景渗透[28][44][47] 学术观点 - 诺奖得主Hinton提出人类与AI认知同源论，指出数字化大脑在知识传递效率上远超生物大脑[3][15][16] - 郑南宁院士强调幻觉成因在于统计相关性驱动缺乏因果推理，导致多轮对话中系统性误导风险[18] - 技术演进双路径：短期需攻克幻觉等可靠性难题，长期需建立可持续的信任机制[25]

核心观点 - AI决策的可靠性与安全性是实际部署的核心挑战，提升模型可解释性是迫切需求[1] - 当前解释方法（如Shapley Value等）在多模态任务或大规模模型中存在局限性[1] - 提出视觉精度搜索(VPS)方法，可提高模型可理解性并解释预测错误原因[2][9] - 该方法在CVPR 2025获Highlight Paper(387/13008, 2.98%)[2] 背景挑战 - 多模态预训练技术使物体级基础模型(如Grounding DINO)应用广泛但解释复杂[8] - 现有方法面临两大挑战：基于梯度的方法定位不精确，基于扰动的方法噪声多[8] 方法创新 - 将归因问题建模为基于子模子集选择的搜索问题[12] - 设计线索分数(S_clue)评估区域定位识别能力[15] - 引入协作分数(S_colla)衡量子区域协同贡献[16] - 结合两者构建子模函数F(S,b_target,c)[17] - 使用贪心搜索算法生成显著图[18] 实验结果 - 在MS COCO目标检测任务中超越D-RISE方法：Insertion提升23.7%，Deletion提升6.7%，平均最高分提升10.6%[22] - 在RefCOCO指代表达理解任务中：Insertion提升20.1%，Deletion提升22.1%，平均最高分提升4.4%[22] - 在LVIS V1零样本检测任务中：Insertion提升31.6%，Deletion提升4.2%，平均最高分提升15.9%[22] - 显著图质量优于ODAM(弥散状)和D-RISE(嘈杂)，能清晰突出重要子区域[22] 错误解释能力 - 能解释视觉定位任务中的决策错误(如图5展示干扰区域)[25] - 能解释目标检测中的分类错误(如图6显示背景干扰区域)[27] - 能解释漏检错误原因(如图7显示相似物体混淆和环境因素影响)[30] 应用前景 - 可应用于模型训练提升决策合理性[32] - 可用于推理时监控决策进行安全防护[32] - 可通过可解释发现关键缺陷以最小代价修复模型[32]

AI技术安全现状与挑战 - AI技术应用潜力巨大但安全问题突出，如AI换脸诈骗、大模型失控等事件引发社会关注[1] - 当前AI安全主要面临四大风险：数据隐私风险、安全攻击门槛降低、生成式内容滥用、AI内生安全不足[3] - AI内生安全不足可能导致"AI幻觉"、决策误导等问题，在医疗、金融等领域影响尤为显著[3] 数据安全防护策略 - 全生命周期数据保护是核心策略，覆盖模型引入、训练、微调及智能体开发运行各环节[4] - 具体措施包括训练数据敏感信息扫描、开源模型供应链漏洞检测、智能体安全攻击测试等[5] - 当前防护盲区集中在供应链生态风险和多智能体协作风险，智能体开发低代码化加剧安全挑战[6] 企业风险应对建议 - 企业需建立长期安全部署，加强内部制度流程建设，而非依赖短期安全产品[8] - 重点关注三类风险：AI服务安全水位不均、企业内数据流转失控、新型大模型攻击[8] - 初期应强化模型数据引入审查及AI服务开放前测试，降低供应链风险影响[9] 平台治理与行业标准 - 平台方需承担智能体开发一线管控责任，但跨平台治理需政府监管介入[7] - 行业标准是构建安全生态的基础框架，可统一技术规范、降低中小企业安全门槛[17] - 蚂蚁集团已参与制定80余项AI安全国际国内标准，2024年将发布智能体安全新信息[17] 技术创新与安全平衡 - AI安全与创新发展相互促进，需动态更新安全策略并利用AI技术升级防御[16] - 风险控制需精细化，结合用户意图判断风险而非简单拦截，提升隐私保护技术[9] - 服务引导策略优于强制拦截，可通过官方入口引导满足用户需求[10] 蚂蚁集团实践案例 - 推出"蚁天鉴"大模型安全解决方案，包含安全检测平台和风险防御平台[11] - 检测平台采用对抗学习实现"以攻促防"，防御平台覆盖模型全生命周期[11] - 方案已应用于数十家外部机构，保护医疗、金融、政务等领域大模型安全[12] 数据安全战略定位 - 大模型数据安全兼具技术保障和战略竞争力双重属性[13] - 全球数据安全法规竞争激烈，AI安全治理框架成为各国争夺话语权领域[14] - 新加坡和中国相继发布AI治理框架，强调数据在生成式AI中的核心作用[14] AI安全未来趋势 - 安全能力嵌入AI基础设施实现"出厂即安全"，降低应用环节投入[15] - 发展特定安全技术如数字水印，解决中小企业应用风险[15] - 需建立多层次AI安全治理体系，关注数据透明度、深度伪造防范等[15]

公司发展历程 - 2008年以2500元启动资金在中关村10平米隔断房创业，开发"虫洞"语音助手，初期语义理解准确率仅30%[2][4] - 2010年获得微软创投加速器支持，语义理解准确率提升至80%，用户量从几千增至3800万[6] - 2014年转型为开放AI对话平台，推出图灵机器人，服务60万开发者，累计响应1462亿次对话[2][7] - 2015年发布全球首个人工智能级操作系统Turing OS[11] - 2018年进军工业机器人领域，开发自主IPC控制系统，精度达0.02毫米[11][12] - 2025年工业机器人累计出货超3万台，应用于新能源、半导体等行业[13] 技术突破 - 建立150亿条中文对话语料库，中文语义理解准确率达90%，达到人类6-7岁认知水平[9][10] - 开发基于Linux的IPC控制系统，在宝钢冷轧产线实现效率提升20%[11][12] - 2024年推出"可信AI平台"，采用联邦学习技术，银行风控准确率提升至92%[23] - 开发"AI能力中台"，模块化输出NLP、CV等技术，服务2万家中小企业覆盖20多个行业[24] 市场拓展 - 2016年获奥飞娱乐5000万元投资，估值达10亿元[15] - 采取"行业解决方案"策略快速变现，如为北京协和医院开发智能导诊系统，准确率95%，日均服务超万人次[17] - 2025年进军东南亚市场，在印尼、越南设分支机构，泰国超市库存管理系统提升周转率30%，马来西亚500所学校采用AI教育助手[17][18] 产品策略 - 推出"基础版"和"专业版"双产品线，平衡消费级市场与企业客户需求[20] - 开发"AI反诈助手"拦截诈骗信息超10亿条，推出"乡村振兴AI平台"服务农民[21] - 计划投入1亿元开发老年人AI陪伴机器人[22] 行业地位 - 中国AI创业者在技术与市场夹缝中突围的典型案例[2][25] - 在高端工业机器人市场打破ABB、发那科等外资垄断[11] - 目标成为东南亚"AI基础设施提供商"[18]