9月12日，在外滩大会"规范AI内容 共筑清朗生态"见解论坛上，南都大数据研究院编制并发布《AI新 治向:生成式人工智能内容与传播风险治理观察》报告。 "AI新治向"重磅报告首发、实验"AI造假"路人反应、专家献策"AI谣言"治理、脱口秀抛梗"AI新生 活"……9月12日下午，以"规范AI内容 共筑清朗生态"为主题的外滩大会见解论坛在上海举办。论坛汇 聚AI治理专家学者、企业精英、青年学子及青少年代表，围绕人工智能生成合成内容及传播过程中的 风险挑战议题深入探讨。据悉，本次论坛由南方都市报社、南都大数据研究院、中国互联网协会人工智 能工作委员会、复旦大学传播与国家治理研究中心主办。 多元协同共筑清朗生态 最新报告聚焦AI风险治理 活动现场，本次活动的主办方代表、南方都市报社主编刘江涛致辞表示，AI已经渗入日常生活当中， 未来还将从根本上改变诸多方面，但社会也需要形成共识，要对AI保持一份足够的清醒，按照国家的 相关要求确保人工智能安全、可靠、可控。南都愿意做"铺路石"，或是"吹哨者"，与多方协力共建智慧 交流平台。 中国互联网协会人工智能工作委员会秘书长邓凯在致辞时指出，应对AI内容治理挑战可从三方面着力: ...

9月12日下午，以"规范AI内容 共筑清朗生态"为主题的2025外滩大会见解论坛上，蚂蚁数科AI科技产品 总监鲁玮发表主题演讲，从身份伪造、凭证造假等AI滥用风险问题切入，系统介绍蚂蚁在应对生成式 内容风险、黑灰产攻击以及大模型"幻觉"方面的技术实践与治理思考。 展望未来，鲁玮认为，随着具身智能、AI for Science与智能体（Agent）加速落地，AI能力跃升将伴随 更复杂的安全议题，包括人机互动的责任边界、价值对齐与伦理问题等。他呼吁产业、学界与媒体加强 协同，共建规范、透明、可信的AI治理体系。 本次论坛由南方都市报社、南都大数据研究院、中国互联网协会人工智能工作委员会、复旦大学传播与 国家治理研究中心联合主办。 目前，黑产借助AI的凭证造假愈发低成本、规模化。在凭证防伪方面，鲁玮介绍，蚂蚁数科推出"光鉴 智能验真"，通过防伪、质检、识别，最后通过高阶的各种决策，大小模型结合，实现在语义、视觉、 文本、图片多重信息的抽检，最后给出关键的决策，"核心逻辑是保证现在的物理世界里的票据、身 份、凭证是防伪的。" 幻觉同样是大模型应用面临的重要挑战之一。鲁玮认为，AI生成内容幻觉的危害在于滥用人类的信 任 ...