在一个"有图有真相""有视频有真相"的时代，当AI越来越聪明，你还能分得出真假吗？近来AI成为已经 成为"羊毛党"新工具——随着图片造假产业化，AI诈骗开始入侵电商领域。 技术热潮之下，生成式AI正在挑战并重建新秩序，但其被滥用的风险也在随之提升。从深度伪造引发 的内容失真，再到AI情感陪伴所触发的伦理困境，一系列典型案例不断进入公众视野，揭示了技术滥 用的现实隐患。 2025年12月18日下午，由南方都市报社、南都数字经济治理研究中心主办的第八届啄木鸟数据治理论坛 在北京举行。会上，南都发布了一份四万字的重磅报告《生成式AI落地应用：透明度测评与案例分析 报告（2025）》。 报告回顾了近些年118起生成式AI风险案例，聚焦生成式AI带来的社会信任挑战以及人机交互伦理争议 和治理痛点，并尝试提出切实可行的政策建议。 AI造假冲击个人权利、行业秩序和社会信任机制 司法场景中，海内外均出现律师利用AI生成虚假判例的情形。2025年10月北京通州法院披露，一名律 师在代理意见中引用了不存在的"（2022）沪01民终12345号"判决。法官因案号规律异常而识破，确认 该判例系AI凭空生成。该律师因未尽核实义务，被审 ...

记者 洪俊杰 一座是世界上最大发展中国家的最大城市，一座是世界上最大发达国家的最大城市，上海与纽约如 何借助国际组织平台，架起中美合作桥梁？ 日前，第二届"上海与纽约的江河对话"在中美上海公报签署地锦江小礼堂举行。中美学者与国际组 织代表或在现场，或在"云"端，共论国际都市与国际组织间的互动合作，为中美地方城市交流建言献 策。 仅仅建起来还不够 在联合国驻华协调员常启德看来，城市如何与多边机构携手合作，将决定联合国可持续发展目标全 球进程，也决定人类的未来。这就需要国际都市与国际组织间形成"化学反应"——国际都市，承担着创 新驱动、绿色转型、城市更新等重任，亟需全球专业知识的助力；国际组织，是全球公共产品供给者、 国际规则提供者，亟需现实世界的试验场来验证。全球发展，则需要国际组织与国际都市的携手合作。 独特而肥沃"土壤" 再看上海。金砖国家新开发银行、联合国开发计划署全球可持续发展中心、国际货币基金组织上海 中心……目前已有200多家国际组织落户上海，成为国际组织在华布局的首选地之一。 其中，浦东是国际科技组织最集聚区域。浦东新区副区长徐欣举例，国际半导体行业协会 （SEMI）主办的上海国际半导体设备与核心 ...

产品核心功能 - 拥有伦理风险评估与审计、伦理困境模拟与决策推演、伦理对齐辅助设计、动态知识库与案例教学、伦理学前沿探索与范式革新五大功能 [1] - 构建了覆盖伦理治理全流程的功能矩阵 可作为企业伦理“审查官”自动审核商业决策、广告文案、算法模型的伦理风险 [2] - 可作为AI研发的合规检测工具 在产品设计之初注入伦理考量 从源头避免偏见和风险 [2] - 可作为学生的伦理“导师” 通过模拟真实道德困境培养批判性思维和道德决策能力 [2] 技术特点与创新 - 减少“AI幻觉”的方式依靠“结构化知识构建+多模式应答+分层安全机制+自动优化循环”四大体系形成的技术闭环 [3] - 在通用大模型基座基础上 灌注了经典伦理学著作、重大伦理学案件、涉及伦理学的法律法规及社会热点事件中的伦理规范 [4] - 采用目录感知方式输入数据 形成“知识树” 使用户了解输出内容的具体来源章节 提供结构化知识图谱并降低“幻觉”概率 [4] 目标用户与应用场景 - 旨在帮助科研机构、科技企业、伦理审查机构、政策制定者以及公众洞察多元价值 [1] - 致力于成为用户的伦理思考伙伴与决策支持系统 处理复杂技术与社会问题 [1] - 未来将拓展在科研、产业与教育等场景的深度应用 [4] 开发背景与团队 - 由东南大学AI伦理实验室主任王珏牵头设计 [1][2] - 由东南大学移动通信全国重点实验室、毫米波全国重点实验室、教育部移动信息通信与安全前沿科学中心及江苏省道德发展智库等跨学科平台共同研发 [2]

获奖与核心贡献 - 2025年春，李飞飞教授荣获“伊丽莎白女王工程奖”，该奖项被视为工程领域的诺贝尔奖，以表彰其在计算机视觉与深度学习领域的奠基性贡献 [1] - 评审团认为其研究“让机器第一次以接近人类的方式看见世界”，开创了数据驱动的视觉识别方法 [1] - 作为ImageNet项目的核心推动者，她提出的“数据驱动深度学习”设想最初颇具争议，但最终成为主流共识；2012年ImageNet竞赛后，媒体迅速关注到深度学习趋势，到2013年几乎所有的计算机视觉研究都转向了神经网络 [8] 技术理念与行业影响 - 李飞飞强调“工程不止是算力与算法，更是责任与共情”，认为技术突破不等于理解的进步 [2] - 她提出“以人为本”的AI理念，并于2019年与人在斯坦福共同创立Stanford Institute for Human-Centered Artificial Intelligence（HAI），其使命明确AI必须服务于人类最广义的福祉 [9] - ImageNet项目改变了计算机视觉乃至整个AI的发展路径，推动了大规模数据驱动方法成为主流 [8] 对AI风险的警示与伦理倡导 - 李飞飞持续警示AI的“去人性化”风险，强调如果人工智能忘记了人类价值，它将失去存在的意义 [2] - 她指出AI技术是双刃的，既可治愈疾病、发现药物，也可能带来虚假信息传播和劳动力市场剧烈变革等风险 [14] - 她明确反对AI军事化，例如在2018年面对Google与美国国防部合作的Project Maven时，表示“AI应该是造福人类的，Google不能让公众认为我们在开发武器” [12] - 她多次强调建立基于法律体系的AI伦理监管机制的紧迫性，认为需要通过教育和法律框架来保障 [17] 行业生态与政策观点 - 在2025年5月的Semafor Tech活动上，李飞飞呼吁特朗普政府减少对大学财政的干预，指出其削减了数十亿美元的大学科研拨款并吊销数千名学生签证，这将为AI伦理发展带来潜在风险 [20] - 她强调公共部门尤其是高等教育是美国创新生态系统的关键组成部分，几乎所有人工智能经典知识都来自学术研究，政府应为高等教育提供充足资源以支持好奇心驱动的研究 [20] - 她还指出美国对某些国家公民的签证配额是人才留下的难题，希望学生能够获得工作签证并找到移民途径 [20] 身份视角与行业反思 - 李飞飞认为其移民、女性、亚裔、学者的多重边缘身份赋予了她独特的视角，使其能持续意识到技术体系的结构性偏差 [10][22] - 她表示科技行业对女性的期待过度符号化，女性科学家常承担“角色式的想象”，而非被平等视为研究者参与核心讨论 [23] - 她推动行业性别多样性常态化，并在斯坦福开展AI4All教育计划，旨在扶持女性与少数族裔进入AI领域 [23] - 尽管ImageNet是计算机视觉的基石，但其“people”子树曾因潜在种族主义倾向遭批评，团队后删除了约60万张照片进行清理 [26]

埃里克·施密特的职业成就 - 将公司年收入从不到10亿美元的搜索引擎发展为全球科技巨头 [1] 对埃里克·施密特的个人指控 - 前婚外女友米歇尔·里特指控其进行精神虐待和全面的数字监控 [3] - 指控内容包括利用金钱和科技背景实施追踪 阻止其获取安全数据和财务信息 [11] - 知情人士透露其在情感关系中通过金钱和资源维持关系 表现出控制欲 [9] 埃里克·施密特的公众形象影响 - 因私德问题遭遇信任危机 对曾在国际事务和AI伦理委员会等领域的职务造成损害 [13]

公司战略与产品动向 - 公司计划为ChatGPT推出“成人模式”功能 [1] - 该功能以“把成年人当成年人”为名，可能包含情色内容作为吸引用户付费的诱饵 [1] 行业潜在风险与影响 - 该功能存在漏洞百出的年龄验证机制，难以有效阻止未成年人接触不适宜内容 [1] - 此举可能开启行业潘多拉魔盒，导致AI行业陷入低俗内容的竞争 [1] - 行业可能面临监管失序和伦理失锚的挑战 [1]

市场潜力与关键市场 - 2024年全球智能陪伴市场规模超过281亿美元，预计到2030年将突破1400亿美元，复合年增长率高达30% [1] - 中国是全球第二大AI伴侣应用市场，拥有活跃的应用创新生态和完整产业链基础 [1] - 新加坡凭借国际化环境、高老龄化程度和先进AI治理体系，成为AI伴侣产品全球化验证的重要试验场 [1] 技术发展与产品设计 - 触觉感知是具身智能的核心价值，体现在力控制精准度、遮挡场景补位和被动安全保障三个方面 [5] - 产品设计核心是“技术隐形于体验”，以用户需求为导向，解决真实痛点 [6][14] - 商汤科技构建“一基两翼”产品体系，以人工智能基础设施为底座，支撑生产力工具和人机交互工具两大应用方向 [6] 商业化定位与应用场景 - AI的价值在于“增强人类能力”而非“替代人类”，推动人类技能升级，创造新就业机会 [7][14] - 人形机器人聚焦高风险、高重复劳动和高劳动力缺口三大核心商业化场景 [8] - 在银行、政务等领域，数字人能实现全天候精准服务，提升效率，但最终决策仍需人类完成 [7] 全球化布局与出海挑战 - AI企业出海面临市场接受度差异、数据隐私与合规、算力制约以及文化与语言适配四大核心挑战 [9][10] - 机器人硬件出海优先选择高人力成本地区，因为“降本收益”能覆盖技术投入成本 [10] - 商汤科技根据不同国家需求提供私有云、混合部署等方案，以应对数据安全要求差异 [9] 伦理治理与社会责任 - 算法偏见本质是社会偏见的镜像，AI治理需要多元共治，建立包容的伦理框架 [4][6] - 企业需从数据源头把控，建立伦理审核机制，并主动参与行业标准制定，确保AI符合伦理要求 [13] - 产品设计需明确目的，例如AI伴侣应帮助独居老人与社会重建连接，而非替代人类陪伴 [12]

黄金市场动态 - 纽约商品交易所12月黄金期货价格报3999.9美元/盎司，亚洲交易时段现货黄金一度触及4000.1美元/盎司，创历史首次突破4000美元里程碑 [3] - 美联储降息预期与美国国债规模突破35万亿美元，削弱美元信用，推动黄金需求 [3] - 地缘冲突持续，包括俄乌冲突与中东局势升级，黄金作为无国界硬通货的避险需求激增 [3] - 中国央行连续11个月增持黄金，9月增持4万盎司，新兴市场加速去美元化进程 [3] - 高盛将2026年底金价预测上调至4300美元/盎司，认为黄金将扮演抗通胀、避险和结算货币三重角色 [3] 法国政治经济局势 - 法国总理勒科尔尼上任27天后辞职，创下法兰西第五共和国总理最短任期纪录 [3] - 总理贝鲁提出的削减438亿欧元财政支出方案，因反对党抵制未获议会通过 [3] - 法国公共债务占GDP比率达113%，惠誉下调其信用评级，欧元区国债收益率随之飙升 [3] - 法国GDP增速连续3年低于1%，青年失业率超过20% [3] - 极左翼梅朗雄与极右翼勒庞合计支持率超过40%，传统左右翼政党影响力衰退 [3] - 欧元兑美元汇率跌破1.06，创20年新低 [3] OpenAI与人工智能生态 - OpenAI发布AgentKit，支持8分钟构建AI智能体，采用拖拽式工作流降低开发门槛 [3] - 发布Codex Pro，支持400k上下文窗口，代码生成准确率提升至92% [3] - ChatGPT周活跃用户突破8亿，公司估值达5000亿美元，成为全球最大独角兽 [3] - 与苹果合作开发AI语音设备，可能整合Siri与ChatGPT [3] - Slack、Canva等7家巨头首批接入App SDK，开始重构办公场景 [3] - 平台吸引400万开发者涌入，开源社区与闭源商业模型竞争激烈 [3] - RL4HS框架能定位AI幻觉片段，但误报率仍达15% [3] - 美国40%客服岗位和20%编程工作面临自动化威胁 [3]

联合实验室定位与作用 - 联合实验室作为国际合作重要窗口 积极参与全球AI治理对话 提升区域全球影响力 [2][8] - 实验室聚焦安全标准制定 构建符合国际水平且适应本地实际的安全规范体系 [8] - 作为产学研用协同交叉桥梁 促进知识共享与技术转移 加速AI技术落地 [8] - 依托大湾区区位优势 成为高水平AI人才培养基地 输送兼具技术能力与伦理法律视野的专业力量 [8] 哲学研究对AI治理的支撑 - 哲学研究深入探讨人类社会根本价值观 为AI伦理规范提供深层基础 [3][4] - 哲学帮助超越技术层面 深入理解AI风险本质并界定可接受风险边界 [4] - 哲学研究探讨责任分配问题 包括开发者、使用者、管理者及AI系统自身的主体性 [4] - 哲学视角引入"应不应该做"的伦理审查 引导技术团队预判社会危害和伦理风险 [5] 技术治理与哲学视角的互补 - 哲学视角引导技术团队全面思考AI对社会、文化、经济及个人心理健康的深远影响 [5] - 哲学将公平、无偏见等伦理原则转化为具体研发规范和设计策略 [5] - 哲学视角确保AI工具服务于人类尊严、自主和福祉 保留人类最终控制权和决策权 [5] - 技术治理侧重技术指标 哲学视角则强调增进人类福祉原则的坚守 [5] 标准体系与语料库管理机制 - 实施分级分类管理 依据风险等级和应用场景差异制定强制性标准与灵活指导原则 [6] - 设立监管沙盒机制 允许企业在受控环境中测试创新应用 为标准完善提供实践依据 [6] - 建立多层次的语料库筛选与审核机制 确保多元性与代表性 [6] - 采用自动化技术与人工审核相结合的双重筛选流程 由多学科专家团队进行复审 [6] 实验室建设发展方向 - 打造AI伦理研究与实践国际高地 形成具有国际影响力的大湾区AI伦理范式 [7] - 构建深度融合的产学研用生态圈 与顶尖高校及产业界紧密合作开展科研应用示范 [7] - 输出高标准安全解决方案和可推广的大湾区经验 助力企业提升竞争力 [7] - 建设开放共享的AI安全知识与资源中心 通过构建知识库和测试平台降低研发门槛 [7]

公司发展历程 - 宇树科技用8年时间从四足机器人发展到人形机器人领域全球领跑者 [6] - 红杉中国在2019年成为公司第一家持股10%的重要机构股东并连续两轮领投 [6] - 红杉中国在后续多轮融资中持续追加投资始终是最重要机构股东之一 [7] 技术突破与产品性能 - 四足机器人AlienGo具备负载能力并能完成跳跃空翻等高难度动作 [6] - 四足机器人在续航抗干扰能力复杂地形处理等方面达到波士顿动力类似性能但价格仅为其1/10 [6] - 格斗算法突破动作复杂度极限需实现任意丝滑组合且需保持稳定性 [16] - 格斗AI算法于今年年初完成开发动作复杂度远超跳舞 [16] 行业前景与商业化 - 乐观估计今年智能机器行业总体业绩比去年接近翻一番平均业绩可能更好 [7] - 商业化增长最大原因是技术和产品进步技术停滞将导致行业快速衰落 [17] - 预计明年会有更好新机器人AI技术出现达到工作级别商业化前景增强 [17] 全球竞争格局 - 中国与全球在AI和机器人领域整体水平相对同步不存在显著差距 [13] - 机器人最重要是AI而非本体AI将决定行业终局 [13] - 公司定位为全人类提供机器人服务2018年起已有海外客户采购 [15] 技术发展阶段 - 人形机器人硬件尚未达到足够好大规模应用阶段但当前已够用 [8] - 具身智能AI算法训练数据不足尚未突破工厂和家庭使用的临界点 [9] - 技术每年都需要进步否则产品将变得平庸增长乏力 [17] 伦理与安全考量 - 当前机器人被视作纯逻辑体没有自身想法完全遵循人类指令 [10] - 越智能的机器人对欲望克制能力越强越理性 [11] - 反对机器人危险性改造担心被恶意操作引发道德安全问题 [18] 未来生态关系 - 人类与智能体需求不冲突智能体最多需要能源人类需要生存资源 [12] - 未来可能形成由AI构成的"新人体"每个人成为其中细胞部分 [12] - 智能体不会故意伤害人类如同不会伤害自身细胞 [12]