Workflow
DeepFake
icon
搜索文档
谷歌AI研究员,潜入梵蒂冈游说教皇:AGI将带来末日
36氪· 2025-12-02 09:05
文章核心观点 - 谷歌AI研究员约翰-克拉克·莱文组建了一个由三十多位学者、科学家及神职人员组成的网络,旨在推动梵蒂冈正视通用人工智能(AGI)可能带来的极端破坏性风险,并将其视为物种级别的挑战,而非普通的AI伦理问题 [5][7][17] - 莱文认为,梵蒂冈因其全球14亿天主教徒的软实力、外交中立性以及现任教皇利奥十四世的技术背景,成为继中美之后影响AGI治理的关键力量,但其行动速度可能跟不上科技公司的研发进度 [8][10][11][13] - 尽管莱文通过活动在梵蒂冈内部发现了对AGI风险未被低估的关注度,并获得了面见教皇的机会,但最终因官僚程序未能与教皇进行实质性交流,不过他认为梵蒂冈对AGI议题的开放程度超出预期 [26][27][29][32] 关键人物:约翰-克拉克·莱文 - 莱文是谷歌AI领域远见者雷·库兹韦尔的研究负责人,负责预测通往超级智能(ASI)的路线图,并专注于生命科学应用 [3] - 他拥有哈佛大学肯尼迪学院硕士学位和剑桥大学博士学位,是宏观战略咨询公司Greenmantle的人工智能高级顾问,为政府、非政府组织及财富500强企业提供AI技术政策咨询 [3][4] - 过去十年,他在哈佛和剑桥深入研究AI影响,并在美国海军战争学院、兰德公司等数十家机构演讲,评论文章见于《华尔街日报》、《华盛顿邮报》等知名媒体 [4] AGI的风险认知与分歧 - AGI是一个充满分歧的概念,技术圈子对其何时降临或是否会降临从未达成共识,但其指向的风险是实实在在的 [10] - 潜在风险包括极端的贫富分化、地缘动荡、核战争与瘟疫级别的灾难 [10] - 莱文警告,那种极其严峻的灭顶之灾可能就在几年之后,如果等到百分之百确信才行动就太晚了 [9] 梵蒂冈的战略地位与立场 - 梵蒂冈领土、军力和经济微不足道,但拥有全球14亿天主教徒及庞大的外交与文化网络,是国际事务中罕见的中立力量,握有独特的调解筹码 [11] - 现任教皇利奥十四世是历史上首位美国籍教皇,更易与美国顶尖AI实验室对话,且拥有数学学位,据称相当精通技术,比历任教皇更能理解代码逻辑 [13] - 梵蒂冈并不排斥AI,前任教皇方济各曾因AI生成图引发全球对DeepFake的讨论,现任教皇已将AI视为任期核心议题,并正在准备一份关于AI的最高级别指导文件(通谕) [14][16] 莱文的核心诉求与策略 - 莱文的核心诉求是希望梵蒂冈承认AGI的可能性,并像处理气候变化那样,启动正式的、专门针对AGI的科学咨询,而非将其混在普通AI伦理议题中 [14][16] - 他认为教廷目前关注通用AI伦理存在巨大盲区,就像研究工业革命时只盯着珍妮纺纱机而无法理解随后的社会巨变 [16] - 策略上,莱文搭建“AI复仇者联盟”网络,并通过在罗马“建设者AI论坛”组织周边活动来渗透梵蒂冈圈子,活动反响热烈,显示神职人员中对末日技术的关注被低估 [7][20][26] 游说行动的过程与结果 - 莱文最终获得了教皇接见的入场券,并计划在几秒内通过一封一页纸的信件直接向教皇陈述诉求,赞扬其作为并敦促启动AGI专项咨询 [27] - 但由于梵蒂冈古老的官僚程序,接见团体被临时合并,个人交流环节取消,信件按外交礼节交给了教皇的一位秘书,而非教皇本人 [27][29] - 莱文对收到实质性回复不抱太大希望,但他指出,每一个在梵蒂冈直接交流过的人都非常乐意接受其信息,那扇门是开着的,开放程度可能超出了硅谷的预期 [29][32]
“换脸热舞”公主爆火,社媒狂欢背后的AI危局
虎嗅· 2025-07-08 05:39
AI生成内容的热潮 - TikTok上出现大量以佳子公主为主角的AI生成视频,包括泳装和热舞等内容,部分视频播放量突破70万 [2][3] - Pinterest上出现未标注"AI生成"的佳子公主泳装写真,并被制作成表情包快速传播 [3][9] - 生成AI技术(如Deepfake)门槛降低,普通用户可通过TikTok的"AI Parody"功能或免费App(如PhotoDirector、Reface)轻松制作逼真换脸视频 [7][8] 平台与传播机制 - TikTok算法精准推送佳子公主的Deepfake视频,并借助"AI Alive"功能将静态照片转为动态视频,加速传播 [8] - 部分账号通过AI生成名人视频吸粉并盈利,包括订阅制、广告分成及NFT变现 [8][9] - TikTok虽要求AI生成内容标注"仅限娱乐",但多数视频未遵守规则,用户难以辨别真伪 [8] 监管与应对挑战 - 宫内厅对AI生成内容反应滞后,仅表态"必要时与警方及平台合作",但未提出具体措施 [4][12] - 日本法律对Deepfake缺乏针对性立法,而英国等国家已开始将部分AI工具列为非法 [13] - 宫内厅计划加强皇室成员行程保护及与平台协商删除违规内容,但全球性传播使治理难度加大 [12][14] 技术与行业影响 - Deepfake技术通过分析目标人物特征实现场景"嫁接",技术门槛低至"人人可当导演" [7] - AI生成内容已从娱乐向恶意滥用蔓延,日本一年内报告100多起"性的Deepfake"案件 [11] - 行业面临肖像权、隐私权及内容真实性挑战,监管与技术发展速度不匹配 [11][12]