Workflow
深度伪造
icon
搜索文档
巴菲特罕见发声:网传视频是人工智能伪造
搜狐财经· 2025-11-08 01:04
公司声明 - 伯克希尔-哈撒韦公司紧急澄清优兔平台上传播的关于巴菲特的评论视频是人工智能伪造的欺诈性视频 [1] - 视频配有伪造图像或人工智能生成的图像 模仿者声音单调 并非巴菲特本人声音 [1] - 巴菲特担心这类欺诈性视频正在成为一种蔓延的病毒 可能误导不熟悉他的人 [1] - 自5月伯克希尔股东大会以来 巴菲特很少公开发表评论 [1] 行业趋势 - 利用生成式人工智能制造的虚假图片、音频和视频信息等深度伪造内容正在快速传播 [3] - 深度伪造内容被用来骚扰他人、诈骗金钱 甚至干扰选举 [3] - 如何预防和阻止深度伪造内容误导大众 已成为各国政府和科技巨头面临的难题 [3] 监管动态 - 美国目前在联邦层面没有旨在控制人工智能风险的法规 [3] - 上个月加州州长纽森签署一项监管人工智能聊天机器人的法案 要求运营商提供关键保护措施 [3] - 法案要求确保聊天机器人不与未成年人或其他弱势群体谈论自杀等话题 [3]
巴菲特也“中招” 伯克希尔公司紧急澄清!发生了什么?
每日经济新闻· 2025-11-08 00:15
伯克希尔-哈撒韦公司声明 - 公司于11月6日发表声明,澄清优兔平台上传播的几段巴菲特评论视频是使用人工智能伪造的"欺诈性视频",并非本人录制 [1][2] - 视频配有伪造图像或人工智能生成的图像,模仿者声音单调,与巴菲特本人声音明显不符 [1] - 自5月伯克希尔股东大会以来,巴菲特很少公开发表评论,此类视频可能误导不熟悉巴菲特的人 [1][4] 人工智能深度伪造的行业现象 - 利用生成式人工智能制造的虚假图片、音频和视频等"深度伪造"内容正在快速传播,被用于骚扰、诈骗金钱甚至干扰选举 [4] - 业内分析指出,预防和阻止"深度伪造"内容误导大众已成为各国政府和科技巨头面临的难题 [4] - 美国目前在联邦层面没有旨在控制人工智能风险的法规,加州已签署监管人工智能聊天机器人的法案,要求提供关键保护措施 [4] 其他名人AI仿冒案例 - 中国工程院院士张伯礼曾遭遇AI伪造视频,为其从未使用和研究过的美白护肤品做虚假宣传 [5] - 演员温峥嵘遭遇AI盗播带货,发现AI仿冒自己的直播间,在质问后竟被拉黑 [5] - 抖音集团副总裁李亮确认平台上存在一些利用AI仿冒名人带货的短视频内容,并指出这是行业性技术难题,平台已开展专项治理 [5] 中国对AI技术滥用的监管 - 中央网信办于今年6月启动"清朗·整治AI技术滥用"专项行动第二阶段工作,重点整治7类突出问题,包括利用AI假冒他人实施侵权行为 [6] - 中国已有多部法律法规对AI内容规范做出要求,如《生成式人工智能服务管理暂行办法》和《互联网信息服务深度合成管理规定》 [6] - 《人工智能生成合成内容标识办法》于9月1日起施行,对标注进行清晰指引,禁止恶意删除、篡改、伪造标识 [6]
金融壹账通亮相香港科技周2025 展示业内领先的金融数字化解决方案
环球网· 2025-11-07 03:22
活动概况 - 香港金融科技周与创业节于11月3日至7日举行 恰逢十周年庆典 吸引超过100个经济体的37000名与会者 800余名演讲嘉宾及700多家参展机构 [1] - 金融壹账通作为FinTech Partners参与 通过主题演讲和设置展位展示AI驱动的金融机构数字化转型解决方案 [1] 公司技术展示与演讲 - 公司香港CEO金新明博士在China-Global Innovation Forum发表主旨演讲 解析深度伪造技术框架 指出传统检测方法不足 强调采取先进主动安全措施的迫切性 [1] - 公司展示的反欺诈策略平台涵盖超过25个数字模块 可对AI伪造图像进行深度剖析 高效辨识对抗性换脸和伪造视频等复杂攻击 [2] - 该平台在抗深度伪造环节综合防御率高达99% [2] - 展位重点介绍了数字化银行和保险解决方案 包括AI财富管理 信贷系统 营销活动管理等产品 AI驱动的深度伪造检测和电子身份验证解决方案受到多位嘉宾浓厚兴趣 [2] 市场地位与客户基础 - 公司作为平安集团对外金融科技输出的唯一窗口 依托集团强大技术基础 [2] - 公司支持香港政府的"iAM Smart"计划 并为香港超过60%的银行提供解决方案 其增强型eKYC平台和AIGC深度伪造检测技术等创新方案获得客户青睐与支持 [2] 行业趋势与公司愿景 - 金融行业数字化进程将持续加速 安全是行业基石 [2] - 公司致力于与合作伙伴共同打造更安全 更智能的金融生态系统 [2]
OpenAI承诺加强AI视频安全监管 严控Sora深度伪造风险
环球网资讯· 2025-10-21 04:05
合作声明与核心目标 - OpenAI与美国演员工会(SAG-AFTRA)共同发布联合声明,宣布建立深度合作机制,重点防范其AI视频生成工具Sora可能引发的深度伪造(Deepfake)滥用问题 [1][3] Sora技术能力与潜在风险 - Sora作为文本到视频生成模型,具备“1分钟长视频生成”、“物理规律模拟”、“多镜头叙事”等能力,自曝光以来引发全球关注 [3] - 其强大的内容生成能力带来深度伪造风险,不法分子可能利用该技术伪造名人影像、篡改历史事件或制造虚假新闻,对个人名誉、社会信任甚至国家安全构成威胁 [3] OpenAI的具体合作措施 - 在Sora后续版本中实施严格的“选择加入”(Opt-In)政策,所有艺术家、表演者及普通用户需明确授权后,其声音、肖像方可被用于AI生成内容 [3] - 建立快速响应机制,对涉嫌侵权的生成内容进行下架处理,并配合执法部门追溯源头 [3] - 向合作方开放部分技术细节,鼓励第三方机构开发深度伪造检测工具,目前已有斯坦福大学、MIT等高校参与相关研究,试图通过算法识别AI生成内容的微小瑕疵 [3]
权重股B站、快手大涨,“AI应用ETF”——线上消费ETF基金(159793)涨超1.5%
搜狐财经· 2025-10-21 02:09
OpenAI Sora监管动态 - OpenAI与演员布莱恩·克兰斯顿及美国演员工会等表演者工会合作,以防范其AI视频生成应用Sora的深度伪造内容[1] 中证沪港深线上消费主题指数表现 - 截至2025年10月21日09:48,中证沪港深线上消费主题指数(931481)强势上涨1.47%[1] - 指数成分股哔哩哔哩-W(09626)上涨6.88%,快手-W(01024)上涨3.04%,阿里巴巴-W(09988)上涨3.03%,心动公司(02400)与京东健康(06618)等个股跟涨[1] - 线上消费ETF基金(159793)上涨1.60%,最新价报1.08元[1] - 拉长时间看,截至2025年10月20日,线上消费ETF基金近3月累计上涨10.95%[1] 线上消费ETF基金及指数构成 - 线上消费ETF基金紧密跟踪中证沪港深线上消费主题指数[1] - 中证沪港深线上消费主题指数从内地与香港市场中选取50只主营业务涉及线上购物、数字娱乐、在线教育以及远程医疗等领域的上市公司证券作为指数样本[1] - 截至2025年9月30日,指数前十大权重股合计占比55.76%[2] - 前十大权重股包括阿里巴巴-W(权重9.25%)、腾讯控股(权重9.65%)、快手-W(权重6.05%)、美团-W(权重8.37%)、京东健康(权重3.98%)、巨人网络(权重2.53%)、哔哩哔哩-W(权重3.52%)、科大讯飞(权重3.88%)、恺英网络(权重2.61%)、昆仑万维[2] 指数成分股具体涨跌与权重 - 哔哩哔哩-W(09626)涨跌幅6.88%,权重3.52%[4] - 快手-W(01024)涨跌幅3.04%,权重6.05%[4] - 阿里巴巴-W(09988)涨跌幅3.03%,权重9.25%[4] - 腾讯控股(00700)涨跌幅1.35%,权重9.65%[4] - 美团-W(03690)涨跌幅1.60%,权重8.37%[4] - 京东健康(06618)涨跌幅2.61%,权重3.98%[4] - 科大讯飞(002230)涨跌幅2.14%,权重3.88%[4] - 金山软件(03888)涨跌幅1.58%,权重2.78%[4] - 恺英网络(002517)涨跌幅0.08%,权重2.61%[4] - 巨人网络(002558)涨跌幅1.69%,权重2.53%[4]
向“AI残渣”宣战!马斯克称Grok将能识别AI生成视频并追溯来源
智通财经网· 2025-10-13 03:28
公司技术动态 - xAI公司开发的聊天机器人Grok将推出新功能,能够识别AI生成视频并追踪其网络来源 [1] - Grok新功能可直接在视频比特流中分析AI生成特征,识别压缩或生成过程中留下的肉眼不可见的微妙痕迹 [1] - Grok能够分析视频比特流中的人工智能特征,并进一步搜索互联网以评估其来源 [2] 行业技术趋势与挑战 - 随着OpenAI的Sora App爆红,AI视频生成技术正在重塑互联网生态 [1] - OpenAI的Sora 2具备自然光影一致性、音画同步和多人物逻辑连贯性,使AI合成视频与真实拍摄几乎无法区分 [1] - AI伪造视频的传播速度已超越事实查证机制,引发了从名人造谣到政治操纵的广泛社会担忧 [1] - 大量生成、未经验证的AI影像正充斥网络,被批评者称为"AI Slop"(AI残渣) [1] - 任何个人都可能被生成做出或说出恶劣言行的虚假视频,且这些视频与真实录像几乎无法区分 [2]
硬刚Sora 2,马斯克发视频大模型,免费可玩,前英伟达何宜晖参与
36氪· 2025-10-08 05:52
公司产品发布与定位 - xAI发布最新视频生成模型Imagine v0 9并免费向所有用户开放 [1] - 此次发布被视为对OpenAI一周前发布旗舰视频和音频生成模型Sora 2的直接回应 [1] - Imagine v0 9集成到Grok中 可根据文字生成图片再创建视频或将用户上传图片变成视频 [5] 产品性能与技术特点 - Imagine v0 9的视频生成时间不到20秒 用户可通过语音优先界面创建视频、图像和文本 [1] - 模型在视觉质量、动作、音频生成方面相比初代版本有所升级 [1] - 模型突破原生音频+视频生成界限 支持开箱即用创建类似电影效果的视频 [5] - 主要升级点包括运动控制使动作丝滑、支持添加动态相机效果如智能焦点转移、支持添加自然对话或生成表现力歌声 [5] - Imagine v0 9生成的视频时长在6秒左右 而Sora 2支持15秒视频生成 [3] 市场竞争与产品对比 - Imagine v0 9生成速度在20秒以内 Sora 2生成视频可能需要一两分钟 [3] - Imagine v0 9已免费开放 Sora 2采用邀请制允许部分用户使用 [3] - 对比测试显示Imagine v0 9存在提示词理解错误、视频画面与音频不符、无法说中文等情况 [3][6][7] - 在特定提示词测试中 Imagine v0 9生成的视频音频未包含关键元素如“喊叫” 或出现无视重力的动作 [6] 技术团队与人才动向 - 此次发布是马斯克今年7月挖走英伟达高级算法工程师何宜晖后 其在xAI参与的第一个项目 [3] - 何宜晖曾参与英伟达世界基础模型Cosmos研发 拥有卡内基梅隆大学计算机视觉硕士学位 [3] 产品可用性与潜在风险 - Imagine v0 9的Web端目前无法正常工作 移动端可体验但会出现连接失败情况 [4] - 模型的自定义语音功能允许用户上传公众人物照片及说话内容生成视频 技术成熟后可能带来深度伪造风险 [8] - 在测试中 该功能生成的声音与名人本人略有区别 且未提示深度伪造风险 [7]
东西问·北京文化论坛|邱章红:新技术浪潮如何重塑全球电影行业?
中国新闻网· 2025-09-28 13:32
技术对电影行业的影响 - 电影行业与技术密不可分 电影史就是一部技术革新史 每一次重大技术突破都深刻改变其形态、语言、观感体验及产业[4] - 新技术浪潮带来五方面深远影响:制作效率提升与成本优化 AI工具和虚拟制作技术显著缩短制作周期 创意潜能释放与创作民主化 AI技术降低高质量影视内容制作门槛 让更多创作者实现创意 IP运营与商业模式革新 原始IP以前所未有的速度和广度衍生各种形态内容 形成更强大的生态壁垒和更灵活的商业模式 人机协同成为新常态 人类创意、审美和情感洞察力与AI执行效率更紧密结合 行业竞争格局重塑 拥抱技术、善用"AI+IP"的公司有望获得巨大优势 或导致行业洗牌加速[5] - 中国电影人积极拥抱技术革新 从《流浪地球》系列宏大的科幻场景到《长安三万里》数字技术与国风美学的完美结合 证明技术正助力讲述更精彩的中国故事 推动中国电影走向更广阔的世界舞台[5] 人类在电影行业的不可替代性 - 人类不可替代性源于反思能力 优秀电影作品能引发深刻反思 人类创作始于"为什么" 或是想要表达的观点、探讨的问题、分享的感受[7] - 人类具有审美能力 AI可提供无数滤镜和风格 但最终哪个"更好""更对味"需要人类基于美学修养和创作意图决断[7] - 人类想象力是在"上限之上" 表现"从0到1"的原创力 AI想象力是在"上限之下" 擅长基于现有语料数据的"组合创新" 但难以实现真正的"元创新" 包括提出前所未有的概念、全新叙事范式或美学风格[7] - 人类具有领导力 电影是集体艺术的巅峰 导演核心工作不仅是做出个人艺术选择 更是激发整个团队创造力 引导向共同愿景 这种基于情感、信任和愿景的领导力是人类独有的[8] 人机协同关系 - 人与智能体将进入"共存共创"状态 智能体可注重剧本写作、图像生成与音乐创作、想象力、策划和创意等能力的训练 人类应注重原始创意、对智能体生成内容方向的约束和控制、对智能体生成结果审美判断等能力的培养[8] 电影行业新型伦理框架 - 新伦理框架需从创作、经济、社会和生态伦理四个维度构建 创作伦理方面 AI生成剧本、音乐、角色形象或镜头的著作权归属如何界定 经济伦理方面 AI大幅提高生产效率产生的利润增量应如何分配 社会伦理方面 当历史人物、新闻事件被逼真篡改和重新演绎时 社会如何信任影像作为历史记录的价值 生态伦理方面 训练大型AI模型需要巨大算力 消耗大量能源和水资源 产生可观碳足迹 如何确保可持续发展[10] - 电影是重要文化载体和大众情感记忆组成部分 行业须主动联合立法者、技术专家、伦理学家和公众 共同构建伦理"护栏" 确保技术在赋能艺术的同时不致脱轨 守护人类文化的丰富、真实与尊严[10] 技术对艺术教育的影响 - 技术浪潮重塑艺术教育的根基、路径和目标 传统"画架+画笔画一生"或"一台摄像机拍天下"的教育模式已无法应对新时代挑战[11] - 艺术教育需进行系统性变革 核心目标是培养手握利器、心怀慈悲的新一代创作者 精通技术 关注技术为何服务[11] - 艺术教育者需进化 更像是思维的启蒙者、项目的策动者和伦理的守护者 不必是所有技术专家 但必须是激发学生好奇心、引导跨学科整合、主持伦理辩论的"大师"[11] 技术工具破解文化差异壁垒 - 短剧已成为中国文化出海第一大主力 出海面临语言层面挑战 语言翻译准确性与审美传达失真 字幕与语音同步问题 文化层面挑战 价值观差异引发误读或抵触 文化符号存在本土性与"不可译性" 形式层面挑战 "快餐式"叙事结构与海外主流内容偏好冲突[13] - 破解文化差异壁垒需克服剧本叙事障碍与伦理适配问题 通过智能化创作平台对原始剧本进行语义解构、价值提炼及跨文化重写 构建基于地理围栏的动态文化禁忌数据库 基于GPS/IP定位匹配本地化规则 实现内容审核的本地化精准管控[13] - 需系统性解决文化适配、合规与正向引导等问题 才能更好面向全球市场[13]
报告:2025年全球网络安全人才缺口升至480万
中国新闻网· 2025-09-16 13:43
全球网络安全人才供需状况 - 2025年全球网络安全人才缺口升至480万,同比增长19% [1] - 美国网络安全在线岗位需求51.4万个,实际填补率不足三分之二 [1] - 截至2024年底中国持证在岗网络安全人员约32万 [1] 中国网络安全行业人才特征 - 行业头部集中效应明显,A股上市安全公司人均年薪24万元人民币,高出非上市企业50% [1] - 中小机构面临招聘难和留人更难的问题 [1] - 从业人员学历以本科为主占比56.3%,硕士占比三年提升3.5个百分点至13.2% [1] 网络安全教育发展现状 - 全国792所普通高校开设网络安全专业,占高校总数27.1% [2] - 其中65.9%的高校在2025年新增AI安全课程,较去年跃升15个百分点 [2] - 91.3%院校建成实训室,但充足的实习实训项目仅占52.4% [2] 行业技术趋势与人才能力要求 - 深度伪造、量子加密等前沿场景对研究型人才的刚性需求逐步加大 [1] - AI技术应用能力成为网络安全人才竞争的核心 [2] - 行业建议个人构建技术穿透力、合规领导力、战略洞察力三维能力,完成向智能防御架构师的跃迁 [2]
当AI大模型遇见人格权:海量数据训练下的侵权风险
北京日报客户端· 2025-09-06 00:54
人工智能发展现状 - 人工智能成为新一轮科技革命和产业变革的重要驱动力量 深刻改变生产方式、生活方式和社会治理模式 [1] - 人工智能大模型发展需要海量数据作为训练素材 其中蕴含个人信息权益侵害风险 [1] 已公开个人信息处理规范 - 人工智能大模型训练数据多来源于已公开数据 涉及大量已公开个人信息 [1] - 《个人信息保护法》第27条规定处理已公开个人信息需符合"合理范围"要求 若对个人权益有重大影响应取得同意 [1] - 生成式人工智能采用海量来源不明信息 难以适用知情同意规则 法律上弱化保护侧重利用 [1] 敏感个人信息保护机制 - 人工智能技术增强数据分析能力 对海量碎片化信息集中处理威胁敏感个人信息安全 [2] - 《个人信息保护法》对敏感个人信息采取严格保护措施 训练阶段需进行匿名化处理 [2] - ChatGPT曾出现技术漏洞导致用户信息泄露 需引入动态匿名化视角实施流程规制 [2] 运营阶段风险管控 - 生成式人工智能自动生成能力对个人隐私保护形成挑战 输出端需防止敏感信息泄露 [3] - 人工智能可能产出恶意虚假内容 若学习过程存在偏差可能构成诽谤或侮辱 [3] - 泄露的敏感信息可能被用于欺诈行为 导致信息主体被歧视和污名化 [3] 人格标识保护升级 - 人工智能技术可广泛收集个人声音等人格标识 进行深度伪造制作音视频 [3][4] - 韩国2024年深度伪造性剥削事件涉及未成年人 斯嘉丽·约翰逊指控OpenAI非法使用其声音 [4] - 任何人的声音都可能被侵害 需严格禁止通过深度伪造侵害人格权益 [4] 虚拟数字人权益界定 - 虚拟数字人行业进入高速成长期 商业化路径得到验证 量产成为可能 [5] - "中之人"扮演型虚拟数字人通过动作捕捉技术全面收集真人数据 定制虚拟形象 [5] - 侵权判定采取可识别性标准 分析训练过程与真人素材使用方式 [5] 新型人格权益保护 - 虚拟数字人成为真人"虚拟分身" 投射的人格权益可能超出肖像权范围 [6] - 使用真实个人信息训练AI陪伴者 构成对姓名权、肖像权及一般人格权的侵害 [6] - 虚拟形象是姓名、肖像、性格特征等综合而成的整体形象 需作为新型人格权益保护 [6]