Workflow
SynthID
icon
搜索文档
AI图像水印失守,开源工具5分钟内抹除所有水印
36氪· 2025-08-14 09:02
技术突破 - 全新去水印技术UnMarker可在5分钟内去除几乎所有AI图像水印 显著降低水印技术可靠性 [1][3] - 该技术通过修改图像频谱幅度而非像素值实现通用化水印去除 对HiDDeN水印实现100%去除率 对SynthID水印达到79%去除率 [9][10] - 消费级显卡即可本地部署 大幅降低技术使用门槛 [3][11] 技术原理 - AI图像水印主要嵌入在频谱幅度特征中 因其对裁剪模糊压缩等操作具备鲁棒性 [4][6] - UnMarker通过扰乱整个图像的频谱信息破坏水印编码 而非定位特定水印位置 [9] - 技术实施会导致图像轻微质量损失 通过裁剪可优化效果 [10] 行业影响 - 水印技术被欧盟《人工智能法案》要求作为AI图像识别方案 但UnMarker的出现使其可靠性受到挑战 [13] - 人类识别AI图像平均成功率仅62% 水印技术原本被寄予防伪厚望 [13] - 包括StegaStamp和Tree-Ring Watermarks等新型水印技术也面临威胁 UnMarker对其达到60%去除率 [10] 技术性能 - 实验显示UnMarker可移除57%至100%的可检测水印 具体效果因水印方法而异 [9] - 原部署需要40GB显存的Nvidia A100 GPU 经优化后可适配消费级显卡 [11] - 项目已在GitHub开源 推动技术普及 [3]
AI图像水印失守!开源工具5分钟内抹除所有水印
量子位· 2025-08-14 04:08
AI图像水印技术现状 - 当前主流AI图像水印技术采用隐性水印方式,通过修改频谱幅度嵌入水印,对裁剪、模糊等操作具有鲁棒性[8][10][13] - 谷歌SynthID将水印嵌入图像低频部分(如平滑区域),而高频部分(如细节纹理)因变化剧烈不适合作为载体[15][16][17] - 微软研究显示人类识别AI图像成功率仅62%,凸显水印技术的必要性[33][34] UnMarker技术突破 - 新型去水印工具UnMarker可在5分钟内破解几乎所有AI图像水印,包括完全破解HiDDeN和79%破解SynthID[1][2][27] - 采用频谱攻击策略:直接修改全图频谱幅度而非定位水印位置,实现57%-100%的水印去除率[22][23][25][26] - 支持消费级显卡(如RTX 5090)本地部署,大幅降低使用门槛[5][30][31] 技术原理与效果 - 隐性水印依赖频谱幅度分布模式相似性,而频谱相位因图像差异大不适合作为载体[9][11][13] - 去水印过程会轻微改变图像质量(如头发细节),但裁剪可优化效果[18][29] - 对StegaStamp等新型水印仍能去除60%,展现强通用性[21][28] 行业影响 - 欧盟《人工智能法案》推动的水印技术因UnMarker出现面临可靠性挑战[35][36] - 现有水印检测器需定制化开发,而UnMarker实现通用"通吃"方案[20][21] - 开源发布加速技术扩散,可能重塑AI内容认证体系[5][6]
电商上演「魔法对轰」:卖家用AI假图骗下单,买家拿AI烂水果骗退款
36氪· 2025-08-05 08:54
由于水果这种东西不方便退货验证(即使当时没坏,退回去也得坏了,而且运费很高),商家只能硬着头皮退钱。 AI 作图,不止卖家在用,买家也在用。 最近,不少网友晒出了一个令人啼笑皆非的操作:为了从卖家那里占到一点便宜,一些买家会故意声称商品有瑕疵,并要求退款。但其实,瑕疵图是他们 自己用 AI 做的,比如把好的榴莲做成腐烂掉的榴莲。 还有些商品虽然可以退货验证,但由于客单价比较低,退货流程比较繁琐,一来二去还不如退钱成本低。所以这类商家在收到瑕疵反馈的时候,一般也会 选择退钱或赔偿部分金额了事。 不过,商家也留了一手,会要求买家把瑕疵品剪坏,从而确保其失去使用价值。但就是留的这手,现在也被 AI 破解了。 我们从电商卖家口中了解到,其实这种骗术由来已久。大概在十年前,就有买家通过 PS 等工具在正常商品的照片上 P 上瑕疵。但以普通用户的 P 图水 平,如果卖家放大图片仔细去看,大部分时候还是能是看出来的。但现在 AI 做的图,鉴别起来就没有那么容易了。 这看起来有点像一场「魔法打败魔法」的闹剧,因为如今的购物平台上,商家滥用 AI 的情况也屡见不鲜,导致大量买家收到货后发现「货不对板」。 商家们利用 AI 进行 ...
电商上演「魔法对轰」:卖家用AI假图骗下单,买家拿AI烂水果骗退款
机器之心· 2025-08-05 08:41
AI作图在电商买卖双方的滥用现象 - 买家利用AI生成虚假瑕疵图要求退款 尤其针对水果等不便退货验证的商品[2] - 低客单价商品因退货流程繁琐 商家常选择退款而非验证 但要求买家剪坏瑕疵品的措施也被AI破解[6] - 骗术从十年前PS升级至AI作图 鉴别难度大幅提升 形成买卖双方互相欺骗的闹剧[8] 商家滥用AI的多种形式 - 生成不存在的产品图或过度美化普通商品[10] - 使用虚拟模特节省成本 无法真实反映上身效果[10] - 批量伪造买家秀和图文好评制造虚假口碑[10] 当前解决方案的局限性 - 要求回传视频仍可被AI视频生成工具伪造[11] - 多角度拍照利用AI多视图一致性弱点 但仅是临时补丁[13] - App内拍摄限制可被两台手机互拍的物理外挂绕过[15] 潜在技术解决路径 - 构建包含拆箱/剪裁/瑕疵展示等关键步骤的全过程证据链[16] - 尝试用AI鉴别AI 但现有工具准确率不稳定[16] - 数字水印和内容溯源技术如C2PA标准/SynthID工具可嵌入不可见数字身份证[19][21] 行业发展趋势 - AI生成与检测技术持续迭代 形成算法攻防战[23] - 平台探索时间戳/地理位置等原始信息权重提升 淘宝已公告治理AI假图[24] - 大数据信用模型与第三方鉴定服务结合成为风控手段[26] - 建立统一可追溯的数字内容标准被视为终极解决方案[26][27]
「人类飞机上吵架看呆袋鼠」刷屏全网,7000万人被AI耍了
机器之心· 2025-06-16 09:10
AI生成内容的真实性挑战 - 一段AI生成的袋鼠登机视频在X平台获得7460万次观看 Instagram点赞量达1104万次 因动物行为逼真引发广泛传播[4][5] - 视频存在多处AI痕迹 包括登机牌文字乱码 人物使用虚构语言 空乘胸牌无名 乘客戒指突然出现等细节漏洞[5][7][9] - 视频来源账号InfiniteUnreality专门制作超现实AI动物内容 如飞机座椅上的河马 登机长颈鹿等[13][16] 用户误判AI内容的原因 - 谷歌Veo3等技术已实现高清自然影像生成 包括眨眼 头部微动作协调及逼真音效 大幅提升欺骗性[18] - 创作者虽标注AI标签但采用隐蔽符号(∞) 多数用户难以识别 二次传播者常省略AI声明[19][21] - 用户玩梗行为加剧误导 如评论"袋鼠日常"等调侃形成真实性印象叠加 少数质疑声被淹没[24] 真实内容被反向误认为AI的案例 - 博主将12年前Tim Minchin真实演唱会视频伪称为Veo3生成 提示词详细描述哥特钢琴家场景[28][29] - 类似操作包括用Vitas真实影像假冒AI生成 显示当前真伪判断已进入双向混淆阶段[32] AI内容鉴伪技术发展 - 谷歌推出SynthID工具 通过数字水印识别Gemini Imagen等自家AI生成内容 抗裁剪/转格式干扰[35][36] - 该技术局限在于仅适用于谷歌系模型 对ChatGPT Midjourney等第三方AI内容无效 且恶意编辑可能破坏水印[37][38]
Google's SynthID is the latest tool for catching AI-made content. what is AI 'watermarking,' and does it work?
TechXplore· 2025-06-03 13:43
谷歌SynthID工具 - 谷歌推出SynthID Detector工具 可检测AI生成的文本、图像、视频或音频内容 但当前仅通过候补名单向"早期测试者"开放 [1] - SynthID主要适用于谷歌AI服务生成的内容 如Gemini文本、Veo视频、Imagen图像或Lyria音频 无法检测ChatGPT等非谷歌AI生成内容 [2] - 该工具通过识别谷歌AI产品输出的数字水标来检测AI内容 而非直接区分AI与人类创作 [3] 数字水印技术 - 数字水印是嵌入在媒体内容中的机器可读元素 用于追踪内容来源和作者身份 在创意作品确权和应对媒体虚假信息方面有应用 [4] - SynthID将不可见水印嵌入AI模型输出 其他工具可通过水印识别经SynthID处理的AI内容 [5] - 包括Meta在内的多家公司开发了类似水印工具 但均为"模型特定"方案 缺乏统一标准 [5][6] AI检测技术现状 - 现有检测方法还包括元数据分析(如Content Credentials工具) 但元数据易在社交媒体上传或格式转换时丢失 [8] - 部分工具依赖视觉不一致等法医线索 或人工判断方法(如计算AI生成图像的手指数量) 这些方法可能随AI性能提升而失效 [9] - 检测工具对纯AI生成内容效果较好 但对AI编辑人类创作的内容准确率显著下降 存在误判风险 [10] 应用场景与挑战 - AI检测工具在保险理赔验证、新闻事实核查、招聘真实性评估、约会诈骗识别及紧急响应决策等领域具有应用价值 [12][13] - 实时音频视频AI检测工具成为迫切研发方向 静态水印技术已不足以应对实时真实性挑战 [14] - 任何场景下都无法完全依赖单一工具进行真实性判断 需结合工具局限性和上下文知识进行综合评估 [15]
UPDATE -- NVIDIA, Alphabet and Google Collaborate on the Future of Agentic and Physical AI
Globenewswire· 2025-03-19 03:39
文章核心观点 NVIDIA、Alphabet和Google宣布新合作计划,推进人工智能发展,使人工智能工具更普及,加速实体人工智能开发,变革医疗、制造和能源等行业[1] 分组总结 合作总体情况 - 工程师和研究人员紧密合作,利用AI和模拟技术开发机器人、重塑药物发现、优化能源网格等,相关团队将在NVIDIA GTC全球人工智能会议上讨论合作里程碑 [2] - Google和NVIDIA高层对双方合作表示肯定和期待 [4] 开发负责任的人工智能和开放模型 - Google DeepMind和NVIDIA通过内容透明度建立对生成式AI的信任 [5] - NVIDIA将成为Google DeepMind的SynthID首个外部用户,该技术可嵌入数字水印,保护输出内容完整性 [6] - 双方合作优化Gemma模型,使其在NVIDIA GPU上运行,Gemma 3的推出是开放创新的重大进步 [7] - 合作将扩展到通过Vertex AI在NVIDIA加速计算上优化基于Gemini的工作负载 [8] 智能机器人时代 - Intrinsic与NVIDIA合作,为Intrinsic Flowstate构建更深入直观的开发者工作流程,支持通用机器人抓取能力,还将分享早期OpenUSD框架流式连接 [10] - NVIDIA、Google DeepMind与迪士尼研究合作开发开源物理引擎Newton,可使MuJoCo加速机器人机器学习工作负载超70倍 [11] 创新应用于现实挑战 - Isomorphic Labs利用AI重塑药物发现,在Google Cloud上搭建药物设计引擎,借助NVIDIA GPU开发先进AI模型 [12] - Tapestry与NVIDIA探索提高电网模拟速度和准确性的方法,聚焦新能源整合和电网扩容挑战,评估潜在解决方案 [13][14] 下一代人工智能优化基础设施 - Google Cloud将率先提供NVIDIA Blackwell GPU的最新实例,包括NVIDIA GB300 NVL72和NVIDIA RTX PRO 6000 Blackwell Server Edition [15] - Blackwell Ultra包括GB300 NVL72和HGX™ B300 NVL16系统,GB300 NVL72 AI性能比GB200 NVL72高1.5倍,为AI工厂带来的收入机会比NVIDIA Hopper™高50倍 [16] - Google Cloud成为首家提供基于NVIDIA B200和GB200实例的云服务提供商,A4已全面可用,A4X即将推出 [17] - Google Cloud和NVIDIA合作优化JAX和MaxText等开源框架,使其在NVIDIA GPU上高效运行 [18]
NVIDIA, Alphabet and Google Collaborate on the Future of Agentic and Physical AI
Globenewswire· 2025-03-18 19:27
文章核心观点 NVIDIA、Alphabet和Google宣布新合作计划,推进人工智能发展,使人工智能工具普及化,加速实体人工智能开发,变革医疗、制造和能源等行业 [1][20] 分组1:合作总体情况 - 工程师和研究人员紧密合作,利用AI和模拟技术开发机器人、重塑药物发现、优化能源网格等 [2] - Google Cloud将率先采用NVIDIA GB300 NVL72和NVIDIA RTX PRO™ 6000 Blackwell Server Edition GPU [3] - NVIDIA将率先采用Google DeepMind的SynthID技术 [3] 分组2:开发负责任的人工智能和开放模型 - Google DeepMind和NVIDIA通过内容透明度建立对生成式AI的信任 [5] - NVIDIA将成为SynthID的首个外部用户,保护知识产权 [6] - 双方合作优化Gemma模型,使其在NVIDIA GPUs上运行 [7] - 合作将扩展到通过Vertex AI优化基于Gemini的工作负载 [8] 分组3:智能机器人时代 - Intrinsic与NVIDIA合作,为Intrinsic Flowstate构建开发者工作流程,支持通用机器人抓取能力 [10] - Intrinsic将分享与NVIDIA Omniverse的OpenUSD框架流连接 [10] - NVIDIA、Google DeepMind与迪士尼研究合作开发开源物理引擎Newton [11] 分组4:将创新应用于现实挑战 - Isomorphic Labs利用AI重塑药物发现,借助Google Cloud和NVIDIA GPUs开发药物设计引擎 [12] - Tapestry与NVIDIA探索提高电网模拟速度和准确性的方法 [13] - 双方合作应对能源基础设施挑战,确保电网稳定性 [14] 分组5:下一代人工智能优化基础设施 - Google Cloud将率先提供NVIDIA Blackwell GPUs的最新实例 [15] - NVIDIA GB300 NVL72比NVIDIA GB200 NVL72的AI性能高1.5倍 [16] - Google Cloud和NVIDIA合作优化JAX和MaxText等开源框架 [18]