"比如，当前具身智能已从生产阶段进入到现实生活中，随着机器人逐步进入家庭，相关安全问题亟待 重视。"卢卫还提到，信任是安全治理的桥梁纽带，为人工智能发展凝聚社会共识。 12月18日，由南方都市报社、南都数字经济治理研究中心主办的"第九届啄木鸟数据治理论坛"在京举 行，主题聚焦 "AI安全边界：技术、信任与治理新秩序"。中国网络空间安全协会副理事长、人工智能 安全治理专业委员会主任卢卫为论坛致辞。他表示，AI治理应坚持"分类分级"，比如对自动驾驶、智慧 医疗等高风险场景严格监管，对低风险应用则留出一定创新空间。 中国网络空间安全协会副理事长卢卫致辞。 随着大模型应用场景渗透到社会的每一个角落，曾经高居云端的AI智能已步入"寻常百姓家"，越来越多 的普通人开始使用和掌控它。与此同时，新应用的不断涌现，也给网络生态治理带来全新挑战。卢卫认 为，建立健全面向未来的人工智能安全治理生态，需要依靠技术创新筑牢防线、依靠信任夯实凝聚共 识、依靠制度完善保驾护航，让技术、信任、制度三者形成合力。 首先，技术是安全治理的基础支撑，为人工智能发展筑牢安全底线。卢卫表示，人工智能技术日新月 异，发展离不开技术的创新和迭代，安全最终 ...

论坛背景与核心议题 - 第九届南都啄木鸟数据治理论坛将于12月18日在北京举行，主题聚焦“AI安全边界：技术、信任与治理新秩序” [1] - 论坛背景源于2025年AI技术（如DeepSeek、人形机器人、AI眼镜/手机）快速迭代与普及，同时AI造假、版权纠纷、未成年人沉迷等安全风险与治理挑战日益凸显 [1] 论坛核心发布内容 - 论坛上将重磅发布一份4万余字的最新研究成果——《生成式AI落地应用：透明度测评与案例分析报告》 [3] - 该报告聚焦AI造假、AI版权纠纷、AI情感依赖等公众关心议题，基于上百起真实案例分析当前治理痛点并提出建议 [3] - 报告回测了15款大模型产品，从数据及个人信息处理、知识产权、内容安全、交互设计等方面进行透明度测评 [3] - 发布机构南都数字经济治理研究中心已连续7年发布AI年度观察报告，今年是连续第3年发布生成式AI观察报告 [3] 论坛参与嘉宾与环节设置 - 论坛将邀请十余位重磅嘉宾，包括法律专家、互联网法院法官、高校学者、网络安全技术专家、标准起草者、律师及行业协会代表 [4] - 论坛特别设计了互动环节，邀请网络安全专家进行物理AI安全展示，揭示具身智能、AI眼镜的安全风险与挑战 [5] - 现场设有抽奖环节，参会者有机会获得惊喜礼品 [5]

文章核心观点 - 中国人工智能发展正经历从“技术狂飙”向“系统构建”的深刻转型，核心是构建以善治为锚、以场景为舟、以人才为帆的系统性生态 [1] - 发展路径强调兼顾效率与伦理、创新与安全，实现产业升级与人才培养的协同 [1] 人工智能治理 - 提出以“上善若水”哲学思想为基础的治理愿景，核心是解决“人机对齐”难题，确保AI目标行为与人类价值观一致 [2] - 倡导“以人为本、智能向善、敏捷治理、伦理先行”的治理理念，并创新提出“文化对齐”的三层结构：价值对齐、制度对齐、哲学对齐 [2] - 强调国家必须掌握数据、模型、应用与算力四大“AI主权”，以降低对外依赖风险 [3] - 尝试以东方智慧走出一条兼顾边界与包容的第三条道路，既要“道法自然”顺应大势，也要“知止不殆”明确底线 [3] - AI革命将带来“两次解耦”：能力解耦（数字助手赋能个体）与劳动解耦（体力脑力劳动非必需），需建立兼具前瞻性与包容性的治理体系 [3] 产业落地与效率革命 - 2025年是中国AI大年，目标为2027年率先实现六大重点领域深度融合，2035年全面步入智能经济与智能社会 [4] - 中国AI正经历“三大效率革命”：模型效率（用10%成本训练接近顶级性能的模型）、算力效率（池化技术提升资源利用率60%—90%）、数据效率（湖仓一体等推动数据主动理解） [4] - 2025年，中国开源模型全球月下载量占比超63%，远超美国；国产芯片与国产模型深度适配，形成自主生态 [4] - 企业实践中，AI在广告创意、客服问答、医疗辅助等场景显著提效，例如广告业务增收30%，汽车客服准确率从35%提升至84% [5] - 提出“分布式存算”创新模式，让每一个创新主体都能低成本参与数字经济发展，保护原创者利益并助力中小企业 [5] 人才培养与组织变革 - 启动“创新领航企业家提升工程”，直击企业家存在的政策迷茫、创新乏力、转型紧迫三重焦虑 [6] - 工程将组织企业家进入中央党校沉浸式学习，以企业真实问题为导向，提供“研究+实践+陪跑”服务，聚焦AI场景实战 [6] - 当前AI人才缺口不仅是技术型，更是认知型，需让企业家掌握AI技术，未来企业或设“智能资源部”统筹实体与数字员工 [6] - AI转型的实质是“对人和机器智能在生产关系中的重新设计”，对员工的替代不可避免，需关注如何保障劳动者权益及重构教育体系 [5] - 人才培养需与产业升级同步，通过“AI+”行动催生更多初创企业与新职业，形成人才与产业的良性循环 [7]

公司与战略合作方 - 金融壹账通与意大利忠利保险集团在新加坡举行高层战略交流会，旨在探讨客户经营、数字化转型及人工智能应用方面的合作 [1] - 交流会系统介绍了平安集团综合金融模式的发展历程和客户经营体系，包括寿险渠道改革、车生态建设、多渠道协同等实践 [1] - 公司展示了通过“保险+生态”构建长期客户触点，形成以客户为中心的可持续增长模式 [1] 科技与创新实践 - 公司重点介绍了平安在人工智能、统一数据治理、集中化运营、智能风控、AI客服与理赔自动化等领域的规模化实践 [1] - 2025年前三季度，平安产险实现车代渠道89%的一分钟智能出单，非车理赔实现端到端自动化 [1] - 平安寿险“111极速赔”中闪赔占比达58%，AI坐席服务量达12.92亿次，覆盖集团80%客服业务 [1] - 公司已构建面向保险全流程的AI能力体系，包括智能核保、智能理赔、图像识别、智能风控与模型治理 [1] 全球市场拓展与技术输出 - 近年来，金融壹账通在东南亚、中东、南非等市场推动银行核心系统、保险核心系统、车生态能力、eKYC与反欺诈能力的输出 [2] - 技术输出旨在为不同市场提升运营效率、风险管理能力和客户体验，逐步形成可复制、可扩展的全球服务能力 [2] 行业趋势与合作前景 - 双方认为保险行业正迈向智能化和高质量增长，围绕客户价值、AI创新、数字化运营的交流将为跨区域合作带来更大可能性 [2] - 公司表示将继续深化与国际同业沟通，积极探索在客户经营、技术创新及AI治理等领域的合作，共同推动全球保险行业数字化发展 [2]

报告核心观点 - 人工智能治理体系的成熟度正成为国家和地区经济及地缘政治竞争优势的关键来源，预计未来10年拥有先进治理体系的地区将获得不成比例的优势[1] - 香港的AI发展策略聚焦于以金融为主导的务实路径，旨在巩固其作为国际金融枢纽和区域AI领导者的地位，并发挥连接内地与海外的“超级联系人”作用[1][2] 人工智能竞争力评估 - 评估AI竞争力需超越运算能力、研发产出及创投等传统指标，风险评估框架及监管配套同样重要[1] - 治理效果与制度能力存在差异，治理体系成熟的地方能更好地安全应用AI、维持公众信任并吸引投资[1] - 治理领导能力与金融业成熟度关联日益紧密，金融监管越强的地区（如香港、新加坡、欧盟、英国、美国及阿联酋）其AI治理越先进[1] 香港人工智能发展战略 - 香港AI策略目标包括与内地产业接轨，保持作为东西方桥梁的角色，并深化与粤港澳大湾区的融合以加快AI研发商业化[1] - 香港最强优势之一是在AI金融领域或监管科技处于领先地位，其金融生态系统被视为负责任及可信的AI融合的全球典范[2] - 香港计划利用AI巩固在金融服务、生物医学、物流方面的领先地位，措施包括发展智慧城市解决方案、扩大AI研发的公私营合作、培育人才及构建AI治理能力[2] 未来发展展望 - 国家“十五六”规划强调加强人工智能与产业发展、文化建设、民生保障、社会治理相结合，抢占产业应用制高点，为内地AI产业带来更多发展空间[2] - 香港将于2024年10月发表有关在金融市场负责任地应用人工智能的政策宣言，进一步强化其“超级联系人”的角色[2]

文章核心观点 - 世界互联网大会数字研修院举办的“2025全球互联网人才卓越计划研修班”旨在应对全球数字经济深化发展的系统性课题，聚焦于人才培养、技术治理和数字社会未来 [2] - 研修班形成了关于数字技术与可持续发展深度融合、人工智能治理、数据流通平衡、国际合作以及人才创新驱动五大全球性价值共识 [7][8][9][10][11][12] - 全球数字经济的发展趋势正从规模经济转向普惠经济，其未来方向取决于对智能体体系、数据监管和AI普惠等新问题的解决 [13] 课程设置与参与情况 - 研修班设置了《中国绿色发展和国际合作》《数字经济中的投资和企业发展》等课程，涵盖数字经济、可持续发展及AI治理等领域 [2] - 课程邀请了国际组织与行业领军专家分享多元实战案例与前沿观点 [2] - 来自巴基斯坦、塔吉克斯坦等30多个国家和地区的政府官员参与开班仪式和讲座 [2] 数字技术与可持续发展 - 数字技术不仅是经济增长引擎，更是推动全球可持续发展目标实现的关键力量 [8] - 中国在绿色发展方面的成果，如森林覆盖率提升、PM2.5浓度下降，离不开数字技术在环境监测、能源管理等方面的深度应用 [8] - 欧盟政策核心已将数字技术与绿色复苏紧密结合，未来城市治理、产业升级与能源转型需智慧化与绿色化双轨并行 [8] 人工智能治理与安全 - 人工智能正在重塑网络安全、数据流通与产业效率，“AI对抗AI、AI管理AI”将成为未来趋势 [9] - AI智能体在安全运维、数据分类等领域展现出超越人类的效率，但也带来模型越狱、数据泄露等新型风险 [9] - 人工智能治理迫在眉睫，需建立涵盖模型安全、数据隐私、伦理审查的“安全可控的AI生产力”体系 [9] 数据流通与可信基础设施 - 数据价值释放必须在安全与合规框架下进行，需从静态防护转向“动态数据安全”理念 [10] - 通过隐私计算、数据脱敏等技术实现数据可用不可见，可信数据空间是未来基础设施 [10] - 数据基础设施的互联互通与互操作性是弥合数字鸿沟的前提 [10] 国际合作与普惠发展 - 单靠任何国家或企业无法应对全球挑战，数字经济发展趋势已从规模经济转向普惠经济 [11] - 开源模型提高了发展中国家AI可及性，智能体让中小企业获得过去只有大企业才能享有的能力 [11] - 数字合作是必选项，需各国政府、企业与民间社会共同参与数字基础设施建设与治理机制设计 [11][12] 人才与创新驱动 - 中国数字经济成功源于“投资—融合—创新”三位一体发展逻辑，头部数字企业在研发强度与专利数量上跻身全球第一梯队 [5][12] - 研发投入、创业生态与风险投资的良性互动是关键，华为、阿里巴巴、腾讯等企业是高强度研发与人才集聚的例证 [5][12] - 数字时代领导者需具备专业能力、同理心、勇气与执行力，以引领组织在快速变化中保持战略定力 [12]

AI产业应用加速渗透 - 蚂蚁集团演示基于医疗大模型的AI健康管家AQ，可智能解读血压计、血糖仪数据并支持异常预警[2] - 蚂蚁集团将原数字医疗健康事业部升级为健康事业群，加速推动医疗健康业务成为战略支柱板块[2] - 四川大学华西医院院长表示预问诊、AI初步筛查将优化传统诊疗流程，完全自主手术机器人等前沿方向将逐步探索[2] - 万联易达集团展示万联摩尔AI大模型，通过产业数据问答、价格趋势预测等功能协助钢铁企业实现价格趋势预测、指导生产计划、优化供应链决策[4] - 万联摩尔AI大模型基于产业生态沉淀的可信数据底座构建产业知识动态图谱，并对铁矿石价格变动、产量、发货量及上下游行业数据进行关联分析[4] 人机交互与物理世界融合 - 斯坦福大学教授李飞飞认为空间智能（理解、导航并与三维世界交互的底层能力）是实现机器真正智能的关键突破[5] - 群核科技资深副总裁预判具身智能机器人将先进入任务明确的工业环境，再逐步接触非标任务及与人类共存[5] - 工业领域机器人形态以实用性为主，不一定是双足人形，轮式机器人更受制造企业青睐[6] - 群核科技推出云原生工业AI孪生平台SpatialTwin，基于云原生技术实现本地化零部署[6] - 夸克AI眼镜搭载夸克AI能力和阿里通义大模型，集成导航、支付、翻译等基础功能，支持信息提醒、购物比价等场景化应用，预计11月底正式发布[7] 数据需求与AI治理挑战 - 国家数据局披露截至2025年6月底日均Token消耗量已突破30万亿[8] - 国家数据局局长强调高质量数据集建设对推动人工智能+过程发挥关键作用，数据要素低成本、高性能、高安全流通更为迫切[8] - 蚂蚁集团副总裁指出大模型应用存在严峻可靠性不足问题，主要因自然语言模糊性及专业问题复杂度远超模型可靠性规模门槛[8] - 未来数据要素流通领域将迎来数模一体的范式变革，各行业正搭建行业知识库和数据集，AI Agent成为2025年AI应用趋势[10] - 清华大学智能产业研究院院长张亚勤指出AI能力越强风险越高，深度伪造、虚假信息、AI幻觉带来很大问题，整治AI不实信息泛滥是当务之急[11] - AI产生的不实信息作为新训练数据进入模型会导致指数级泛滥，需从技术、人机交互及政策方面解决[11]

事件概述 - 广州番禺一小区业主群因一张AI生成的“流浪汉闯入家门”图片引发恐慌，后证实为一名12岁孩子使用AI工具制作的整蛊行为[2][3] - 类似AI整蛊事件在安徽铜陵等地亦有发生，有案例导致警方连夜出警，被批评为浪费公共资源[3] - 该整蛊风潮起源于海外社交媒体，并在国内短视频平台传播，配套提供AI制作教程，用户可一键生成同款图片或视频[5] 技术应用与传播 - 用户只需在AI生图工具中上传一张家中照片并输入简单指令，几秒内即可生成高度逼真的“流浪汉闯入家中”画面，并可进一步生成视频[5] - 截至10月底，海外社交媒体TikTok上“homelessmanprank”标签下已累积超过1600段视频，最高一条获赞8万余次[5] - 国内部分短视频平台在相关视频下方直接接入生图工具入口，用户可一键跳转并选择同款模板进行制作[5] 社会影响与公共资源占用 - 此类AI整蛊图片和视频已在全球多国引发大量虚假报警，美国马萨诸塞州塞勒姆警方指出其导致多起911误报，斥之为愚蠢且危险[6] - 英国多地警方将此类虚假报警定性为危险且浪费宝贵资源[7] - 美国马里兰州一名女子因使用AI伪造“家中有入侵者”图片引发报警，导致8辆警车出动，该女子随后被逮捕并移送法院[7] 法律风险与行业警示 - 法律界人士指出，明知可能引发误判报警仍故意制作AI图片，属于间接故意，可能被认定为谎报警情，依据《治安管理处罚法》可处5至10日拘留及500元罚款[8] - 若伪造内容被进一步转发并造成社会恐慌，行为人可能需承担刑事责任，此前浙江嘉兴一男子因利用AI伪造寻人启事被依法行政拘留[8] - 有法律专家认为此类事件是AI技术滥用与治理滞后共同作用的产物，反映出公众对AI社会影响认知不足的问题[9]

AI失控风险认知 - AI完全失控的概率在10%到20%之间，风险真实存在，其后果可能不可逆转[2] - 企业间与国家间的激烈竞争正推动AI系统加速演进，但此过程往往缺乏对潜在后果的充分考量[2] - 尽管存在认为担忧被夸大的观点，但AI失控已非科幻想象，而是一个需要高度重视的真实风险[2] 当前治理挑战 - 监管政策制定程序复杂，难以跟上技术迭代速度，例如GPT-4发布后不到半年即有多款对标模型上线，但相关法律与管控机制仍未落地[3] - 现有监管更多依赖企业自主约束，在竞争激烈的背景下，企业可能优先追求能力突破而弱化风险防控[3] - 全球协同治理出现“赤字”，例如61国签署AI声明时英美两国拒签，且美国放宽了对人工智能发展的监管[3] 技术安全防护短板 - 人工智能发展存在巨大不确定性，难以预测失控的临界点[4] - 当前模型运行的技术基础设施缺乏足够安全保障，如网络安全防护不足、物理安全措施薄弱[4] - 现有AI安全防护技术（如端点检测、防火墙）面对具有战略欺骗能力和快速演化特性的高级AI系统可能完全失效[4] 构建治理框架的建议 - 应坚持敏捷治理理念，尽快出台政策并根据实践反馈迭代完善，治理措施上突出柔性原则，引导为主，惩罚为辅[6] - 需完善硬法与软法体系，优化对大模型的风险评估与分级管理，加强对敏感数据的分类保护，并明确研发者、提供者、使用者的权利与义务[7] - 应加强可解释性研究以理解AI内在机制，推动安全防御从被动补救转向主动免疫，构建覆盖全生命周期的安全运营框架[7] 全球协作的必要性 - 应对失控风险必须依靠全球协作，但当前最前沿的AI公司之间仍缺乏有效交流[8] - 应加强双边尤其是中美对话机制，并落实联合国体系内已达成协议的人工智能治理机制[8]

OpenAI公司治理与历史事件 - OpenAI前首席科学家Ilya Sutskever在法律证词中指称Sam Altman存在"持续撒谎与误导模式"，包括挑拨高管关系及隐瞒关键信息，导致董事会对其他"彻底失去信任" [2] - 2023年罢免Sam Altman期间，OpenAI董事会曾讨论与竞争对手Anthropic合并的极端方案，并考虑由Anthropic创始人Dario Amodei接任CEO [2] - 案件中的"Brockman备忘录"被法院强制要求提交，该事件核心被描述为受托治理与信任结构的彻底断裂，而非单纯的AI理念冲突 [2] AI算力基础设施瓶颈 - 微软首席执行官萨提亚・纳德拉表示，AI算力扩张面临的新瓶颈是电力短缺和数据中心物理空间不足，而非算力过剩 [2] - 由于供电和空间限制，微软有大量AI芯片滞留在库存中，无法通电运行 [2] 人工智能对劳动力市场的影响 - 计算机科学家杰弗里・辛顿警告，科技巨头从AI投资中获利的主要方式之一是通过用更廉价的技术替代人工劳动力 [2] - 杰弗里・辛顿认为大型企业正押注AI将大规模取代工作岗位，因为巨大的利润蕴藏于此 [2] 主要科技公司AI产品进展 - 谷歌首席执行官桑达尔・皮查伊确认，下一代人工智能模型Gemini 3将于2025年发布 [2]