AI技术滥用
搜索文档
车展传出不雅视频?小鹏汽车:已固定相关证据并报警
贝壳财经· 2025-11-29 04:20
事件概述 - 小鹏汽车官方谴责并报警处理利用AI技术生成的虚假低俗色情视频事件,该视频以小鹏汽车广州车展展台为背景,被恶意传播以诋毁公司品牌和产品 [1] 公司声明与行动 - 公司声明其广州车展未邀请任何模特及演艺人员,并坚决抵制以不良内容进行宣传的行为 [1] - 公司对滥用AI技术恶意抹黑公司形象的违法行为表示强烈谴责,并声称将坚决追责到底 [1] - 公司已全面固定相关证据并正式报警,公安机关已介入调查 [1]
“车展不雅视频”疯传,小鹏汽车:已报警
第一财经· 2025-11-29 03:21
小鹏汽车AI虚假视频事件 - 公司于11月28日通过官方渠道辟谣,指出有账号在社交媒体及私域渠道恶意传播利用AI技术生成的虚假低俗色情视频,视频背景为小鹏汽车广州车展展台[3] - 此类行为被指恶意炒作负面话题、诋毁公司品牌和产品,严重违背公序良俗并污染网络生态,同时侵犯公司合法权益[3] - 公司强调车展未邀请任何模特及演艺人员,一贯坚决抵制以不良内容进行宣传的行径,并对滥用AI技术恶意抹黑的行为表示强烈谴责[3] - 公司已全面固定相关证据并正式报警,公安机关已介入调查,公司将坚决追究违法行为的法律责任[3] 万科境内债展期公告 - 公司突发公告,将寻求一笔境内债券的展期[6]
“车展不雅视频”疯传,小鹏汽车:已报警
观察者网· 2025-11-29 02:40
事件概述 - 小鹏汽车遭遇利用AI技术生成的虚假低俗色情视频恶意传播,视频背景为小鹏汽车广州车展展台及旗下全新小鹏P7车型[1] - 公司官方法务部于11月28日发布声明,强烈谴责该行为并已正式报警,公安机关已介入调查[1] 公司回应与行动 - 小鹏汽车明确表示广州车展未邀请任何模特及演艺人员,并坚决抵制以不良内容进行宣传的行径[1] - 公司已全面固定相关证据,将对恶意抹黑公司形象的违法行为坚决追责到底[1] 市场影响 - 该不雅视频在网络迅速流传后,导致小鹏汽车品牌形象受损,部分消费者在网络上留言称其为“低俗”车并表示“坚决不买”[1]
小鹏汽车:已报警
环球时报· 2025-11-28 16:21
事件概述 - 11月28日,“小鹏报警”话题登上热搜,引发广泛关注 [1] 事件详情 - 部分账号在社交媒体及私域渠道恶意传播利用AI技术生成的虚假低俗色情视频,视频背景为小鹏汽车广州车展展台 [2] - 此类行为被指炒作负面话题、诋毁小鹏汽车品牌和产品 [2] - 公司表示车展未邀请任何模特及演艺人员,并坚决抵制以不良内容展开宣传的行径 [2] - 公司对滥用AI技术、恶意抹黑公司形象的违法行为表示强烈谴责并会坚决追责到底 [2] 公司应对措施 - 公司已全面固定相关证据并正式报警,公安机关已介入调查 [2]
流浪汉闯家中?AI整蛊图吓坏小区
南方都市报· 2025-11-10 23:06
事件概述 - 广州番禺一小区业主群因一张AI生成的“流浪汉闯入家门”图片引发恐慌,后证实为一名12岁孩子使用AI工具制作的整蛊行为[2][3] - 类似AI整蛊事件在安徽铜陵等地亦有发生,有案例导致警方连夜出警,被批评为浪费公共资源[3] - 该整蛊风潮起源于海外社交媒体,并在国内短视频平台传播,配套提供AI制作教程,用户可一键生成同款图片或视频[5] 技术应用与传播 - 用户只需在AI生图工具中上传一张家中照片并输入简单指令,几秒内即可生成高度逼真的“流浪汉闯入家中”画面,并可进一步生成视频[5] - 截至10月底,海外社交媒体TikTok上“homelessmanprank”标签下已累积超过1600段视频,最高一条获赞8万余次[5] - 国内部分短视频平台在相关视频下方直接接入生图工具入口,用户可一键跳转并选择同款模板进行制作[5] 社会影响与公共资源占用 - 此类AI整蛊图片和视频已在全球多国引发大量虚假报警,美国马萨诸塞州塞勒姆警方指出其导致多起911误报,斥之为愚蠢且危险[6] - 英国多地警方将此类虚假报警定性为危险且浪费宝贵资源[7] - 美国马里兰州一名女子因使用AI伪造“家中有入侵者”图片引发报警,导致8辆警车出动,该女子随后被逮捕并移送法院[7] 法律风险与行业警示 - 法律界人士指出,明知可能引发误判报警仍故意制作AI图片,属于间接故意,可能被认定为谎报警情,依据《治安管理处罚法》可处5至10日拘留及500元罚款[8] - 若伪造内容被进一步转发并造成社会恐慌,行为人可能需承担刑事责任,此前浙江嘉兴一男子因利用AI伪造寻人启事被依法行政拘留[8] - 有法律专家认为此类事件是AI技术滥用与治理滞后共同作用的产物,反映出公众对AI社会影响认知不足的问题[9]
事关网购,新华网连发三篇评论
财联社· 2025-11-09 13:35
线上购票平台行业乱象 - 线上购票平台存在精心设计的套路,例如在所谓的“最低价”机票中悄悄额外打包几十元的“退票保障”,使消费者实际支付高价 [2] - 平台套路包括默认勾选附加服务、用小字加注额外收费、付款后才弹出服务说明,消费者难以防范 [3] - 由于多数票务平台总部设在一线城市但业务覆盖全国,导致属地监管部门面临异地执法协调成本高、效率低的困境,许多纠纷最终只能调解了事 [3] 在线旅游平台定价干预行为 - 部分在线旅游平台擅自替商家调价,出现“一天被平台调价5次”的情况,剥夺商家定价自主权 [4] - 平台凭借流量垄断优势,以“算法优化”为借口,擅自上调售价赚取差价或强制商家低价促销引流,有些调价行为甚至不通知商家 [4] - 平台擅自调价的行为违背电子商务法关于不得利用技术手段对平台内经营者交易价格进行不合理限制的规定 [5] AI模特技术在电商行业的滥用 - 在“双11”购物节期间,有消费者发现购买的服饰类商品与AI模特展示严重不符,存在色差、材质悬殊等“货不对板”问题 [7] - 商家将AI模特技术异化为造假工具,利用其打造“零瑕疵”形象以刻意掩盖商品真实状态,构成对消费者知情权的侵犯 [7] - 自9月1日起施行的《人工智能生成合成内容标识办法》要求对AI生成内容进行显著标识,以遏制技术滥用 [8]
AI技术滥用调查:明星可被“一键换装”
每日经济新闻· 2025-10-14 13:40
AI技术滥用现状与受害者案例 - 高校导师、白领、保时捷女销冠、台球运动员等普通人与公众人物均成为AI换脸、克隆照、恶意造谣等技术滥用的受害者,面临诈骗、诽谤和个人形象被用于制作色情内容等风险 [1][3][4] - 电子科技大学人工智能专业研究生校外导师高翔在8月收到利用AI换脸技术篡改的不雅视频进行诈骗的短信 [3] - 白领小雅在9月18日发现其社交平台照片被用于AI生成“克隆”图片,担心被用于制作淫秽色情内容并已报警 [3] - 青岛保时捷中心女销冠牟女士在10月10日称遭遇AI恶意合成的虚假视频诽谤,并受到骚扰电话“轰炸”和大量不明微信好友申请 [3] - 台球运动员王思诺在8月30日称遭人恶意利用AI伪造淫秽视频并传播,台球女裁判王钟瑶亦透露在境外网站有涉及她的伪造淫秽视频传播 [4] 平台内容生态与流量乱象 - 社交平台上明星“AI换装”和“AI擦边”图片或视频泛滥,成为“流量密码”,部分账号专门发布此类内容吸粉,甚至有教程指导用户借此“起号变现” [1][5][6] - 某视频平台有近100个专门发布“AI美女”相关内容的账号,其中一个账号拥有近25万粉丝,其发布内容绝大多数为AI生成“擦边”视频 [5] - 一个名为“AI瑶瑶”的账号发布的“擦边”AI女性视频,点赞超过1.2万次,收藏、转发量合计超6000次 [5] - 抖音上一条转赞评近万次的教学视频评论区充满咨询用户,有用户开出高达5万元的学费 [6] - 近十位知名女星被批量“嫁接”到同一名舞者身上,营造“身穿同款古装、共跳一支热舞”的效果,侵犯肖像权 [6] - 百度图片是AI生成“擦边”内容的重灾区,图片内容涵盖“制服诱惑”、动漫风格及各类衣着暴露的AI女性形象 [6] AI应用实测结果与技术防线脆弱性 - 对12款文生图和文生视频AI应用的实测发现,5款应用(即梦、豆包、可灵、元宝和阶跃AI)可实现明星“一键换装”,9款应用(即梦、豆包、堆友、无界AI、秒画、LiblibAI、可灵、星流AI、元宝)能生成衣着暴露的“擦边”图片 [2][10][12] - 在“AI换装”测试中,阶跃AI几乎瞬间将原图人物白裙“抹除”并生成身着黑色蕾丝吊带的图片,元宝能将冬季大衣替换为白色内衣或把紧身连体衣改成吊带短裙,豆包除执行换装指令外还能将图片一键转换为视频 [11][12] - AI应用的内容审核防线脆弱,提示词修改得更加隐晦即可绕过限制,例如向豆包、可灵输入包含“卡戴珊身材”“酒店房间”“亚洲美女”等关键词组合后,应用便生成了多张穿着性感、姿势暧昧的女性自拍照 [13] - LiblibAI生成的图片尺度更大甚至露点,其官方公众号介绍模型/图像创作者已突破2000万,日均保持数百万级创作交互,用户自主训练的原创AI模型与工作流超50万,累计生成图片逾5亿张 [13] 平台治理措施与厂商回应 - 小红书虚假内容治理负责人介绍,虚假不实内容、虚假人设和AIGC造假是社区打击重点,2025年上半年共处置治理虚假低质AIGC笔记60万篇,平台正加大AIGC识别模型研发投入并对AIGC内容做主动标识 [7] - 抖音相关负责人表示,根据《抖音社区自律公约》,平台将对展示传播低俗、媚俗的内容采取限制措施,无论是否通过AI生成,违规内容均会予以处置 [7] - 平台通常会在AI生成图片上标注“疑似AI创作,请谨慎甄别”等提示语,但律师认为此类标注不能直接认定平台已尽到合理注意义务或自动豁免法律责任 [8] - 针对实测问题,星流AI和LiblibAI母公司北京奇点星宇科技有限公司称问题源于新模型上线初期识别精度波动,已完成紧急修复与优化,修复后星流AI生成的12张图片有4张显示包含敏感内容,LiblibAI也有一张图片生成失败 [14] - 豆包、即梦相关人士表示严格遵守国家法律法规,禁止生成色情违法内容,无界AI品牌合作总监称已采取多项防范措施,堆友背后的阿里巴巴表示将进行内部调查 [15] 技术挑战与法律监管环境 - AI应用内容防线脆弱的原因并非技术不能而是责任缺失,技术专家指出拦截违规内容没有根本性难度但需消耗一定算力,可在提示词识别和图片生成后再次检测两个环节进行拦截 [17] - 复旦大学计算机学院副教授郑骁庆建议为所有AI生成内容加上人眼不可见但平台系统可快速检测的“数字水印”,以便平台迅速识别违规内容来源并采取措施 [9] - 我国已有网络安全法、《生成式人工智能服务管理暂行办法》、《互联网信息服务深度合成管理规定》等多部法律法规对AI内容规范做出要求 [17] - 2023年9月最高人民法院、最高人民检察院、公安部联合发布的指导意见强调,利用“深度合成”等生成式人工智能技术发布违法信息等情形依法从重处罚 [18] - 现行法律为AI内容规范提供原则性框架,但面对“擦边”内容时仍存在界定标准模糊、审核义务边界不明确、技术标准缺失、法律责任认定难等灰色地带 [19]
新晨科技:10月13日召开董事会会议
每日经济新闻· 2025-10-13 10:08
公司治理与会议 - 公司于2025年10月13日召开第十一届第二十四次董事会会议,审议了《关于为全资子公司提供履约担保的议案》等文件 [1] - 会议召开方式为现场与通讯相结合 [1] 公司财务与业务构成 - 2025年1至6月份,公司营业收入构成为:银行业占比55.31%,非银金融机构占比17.22%,军工占比13.74%,政府及国有企事业单位占比11.77%,其他占比1.96% [1] - 截至发稿,公司市值为58亿元 [1]
永清环保:公司证券事务代表黄田辞职
每日经济新闻· 2025-10-13 00:02
公司人事变动 - 永清环保股份有限公司证券事务代表黄田女士因个人原因辞去职务 [1] - 辞职生效后,黄田女士将不再担任公司及子公司任何职务 [1]
AI技术滥用调查:“擦边”内容成流量密码,平台能拦却不拦?
虎嗅· 2025-10-12 10:08
AI技术滥用现状 - AI技术被滥用于制作不雅视频、克隆照片和恶意造谣,受害者包括高校导师、白领和公众人物等[1][6][8][9] - 社交平台上明星"AI换装"和"AI擦边"内容泛滥,成为流量密码,部分账号专门发布此类内容吸粉变现[2][10][11][13] 平台治理措施 - 小红书2025年上半年共处置治理虚假低质AIGC笔记60万篇,平台正加大AIGC识别模型研发投入并实施主动标识[24] - 抖音表示根据社区自律公约对低俗媚俗内容采取限制措施,无论是否通过AI生成[25] - 平台通常会在AI生成图片上标注"疑似AI创作,请谨慎甄别"等提示语,但律师认为仅标注不能自动豁免法律责任[27][28] AI应用实测结果 - 测试的12款AI应用中,5款(即梦、豆包、可灵、腾讯元宝和阶跃AI)可实现明星"一键换装"[32] - 9款应用(即梦、豆包、堆友、无界AI、秒画、LiblibAI、可灵、星流AI、腾讯元宝)能生成衣着暴露的"擦边"图片[40] - 部分应用如LiblibAI生成的图片尺度较大甚至露点,该平台模型创作者已突破两千万,累计生成图片逾5亿张[43] 企业回应与整改 - 星流AI和LiblibAI母公司承认新模型上线初期识别精度波动导致风险内容遗漏,已完成紧急修复优化[46][47] - 豆包和即梦表示严格遵守法律法规禁止生成色情内容,承认AI技术处于发展早期将持续改进[51] - 无界AI月独立设备数为13.5万台,公司称已采取多项防范措施[51] 技术防范瓶颈 - 专家指出拦截违规内容在技术上无根本难度,但需要消耗算力成本,可通过构建名人识别模型充当防火墙[55][56] - AI公司可对用户提示词进行合规改写,并对生成图片实施实时风险检测,但模型本身的大尺度内容漏过问题仍需解决[50] 法律监管环境 - 我国已出台多项法规包括《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等对AI内容进行规范[57][58] - 现行法律对"擦边"内容存在界定标准模糊、审核义务边界不明确等问题,导致灰色地带较多[60] - 2023年三部门联合指导意见强调利用深度合成技术发布违法信息的情形将依法从重处罚[59]