AI技术重塑互联网黑灰产与风控行业 - AI技术革命正深刻影响互联网安全和风控行业 未来5-10年 人类每天接触的信息将有超过50%来自AI 简单的验证码甚至人脸识别等传统防御手段不再稳妥[1] - 生成式AI正被黑灰产主动吸收 充当更聪明的大脑 用于实施如提示词攻击等新型手段 这类攻击手段新颖 门槛低 扩散快[3] - 风控行业正积极采用AI进行对抗 例如利用AI大模型进行深度行为分析和团伙挖掘 组建“AI蓝军”进行攻击演练 实现“用AI防AI”[3] 黑灰产运作模式与基础资源 - 黑灰产利润主要来自诈骗和作弊返利两类业务 诈骗团伙需要大规模社交触达筛选目标 薅羊毛团队则围绕批量刷榜 冲量 注册拉新场景展开[1] - 账号是黑灰产最关键的底座 主要通过“猫池”“卡池”获取 一台笔记本大小的“猫池”可接入约512张卡 用于自动接收验证码及批量注册等操作[2] - 设备成本显著降低 例如演示中使用的机械臂购入价格约1000元人民币 两台真机成本仅300至400元人民币 云手机的普及进一步降低了硬件投入 可实现低成本批量租用以运行脚本和模拟点击[1][2] - 网络资源方面 黑灰产青睐如“秒拨IP”（每秒切换IP地址）和“IP魔盒”（伪装全球各地流量）等“隐形衣”技术 使基础级IP防护策略难以生效[2] 内容风控流程的演进与挑战 - 传统内容审核采用“机审 + 人审”流程 但面临人工成本高 耗时长 审核员身心健康受损以及难以应对规模放大和激烈对抗等挑战[3] - 风控流程正尝试升级为“AI机器审核 + 大模型审核 Agent + 专家决策”的三角链路 旨在用大模型审核替代部分人审环节 提升对复杂风险的研判能力[4] 黑灰产具体攻击案例 - 黑灰产利用电商平台AI客服的自动发放红包或优惠券机制 通过批量复制话术和简单的提示词攻击来榨取商家优惠[3] - 现场演示了“内容农场”的运作 通过预设脚本在百度自动搜索同一词条 并使用机械臂自动操作手机在抖音进行不间断下滑 点赞 收藏和评论[1]