Workflow
移动传感器隐私保护
icon
搜索文档
AAAI 2026 Oral | 手机传感器正在泄露隐私?PATN实时守护隐私安全
机器之心· 2025-12-08 10:11
移动传感器数据隐私保护技术研究 - 移动应用通过加速度计、陀螺仪等运动传感器数据支撑关键功能,但细粒度数据存在隐私泄露风险,可被用于推断用户性别、年龄等敏感属性 [2] - 行业亟需在保持传感器数据实用性的同时有效保护用户隐私 [2] PATN隐私保护框架概述 - 西安交通大学与东京科学大学在AAAI 2026上提出了移动传感器隐私保护框架PATN [3] - 该框架基于对抗攻击思想,通过微小扰动实现隐私保护,同时不影响数据语义和时序结构 [3] - 框架旨在提供高保真、连续的隐私防护,有效抑制敏感属性推断,且不影响正常应用功能 [3] 现有方法的局限与关键问题 - 现有数据混淆和生成模型通常需缓存完整序列,难以满足实时防护需求 [7] - 大多数对抗攻击方法假设可访问完整序列并按固定时间线生成扰动,而实际攻击可能随时发生,导致扰动与攻击错位,降低防护效果 [7] - 关键问题一:实时扰动生成——如何在数据产生的瞬间生成未来方向的扰动,确保隐私防护能够零时延、连续地生效 [7] - 关键问题二:防御与攻击的时间错位——如何保证在攻击时间与防御扰动存在偏移的情况下,扰动仍能有效覆盖目标窗口 [8] PATN技术方法详解 - PATN假设可访问开源隐私推断模型及其梯度,并利用历史传感器数据预测未来扰动 [10] - 系统包含训练阶段和设备端部署两部分,通过三类损失联合优化实现隐私保护与数据保真的平衡,并在设备端实现零时延扰动生成 [10] - 扰动范围被严格限制在每个传感器维度均值或标准差的5%范围内,并参考设备自然传感器波动,使扰动保持在用户难以察觉的正常噪声水平内 [12] - 基于历史数据的扰动生成模型采用序列到序列结构,由LSTM编码器和解码器组成,仅使用过去的传感器序列预测未来序列的对抗扰动,实现零未来依赖的实时隐私保护 [12] - 历史感知top-k优化策略通过将上一轮与当前扰动拼接,并选取前k个最高对抗损失窗口进行优化,使模型重点提升在“最难防护”时间区域的攻击效果,确保扰动在时间上一致且防护能力稳定 [13] 实验性能评估 - 在MotionSense和ChildShield两个数据集上评估,隐私对抗模型采用卷积神经网络 [14][15] - 在MotionSense数据集上,PATN的ASR(攻击成功率)达到40.11%,EER(等错误率)达到41.65%,AUC为0.662,F1_Score为0.611 [14] - 在ChildShield数据集上,PATN的ASR达到44.95%,EER达到46.22%,AUC为0.549,F1_Score为0.537 [14] - PATN在实时保护性能方面明显优于DP、UAP、FGSM、PGD等传统基线方法 [15] 技术优势:迁移性与数据可用性 - 在迁移性方面,PATN展现出良好的泛化能力和时间适应性,固定输出长度生成的扰动即可有效攻击不同输入长度的黑盒模型 [17] - 面对MobileNet、Xception、FCN等结构完全不同的黑盒模型,PATN依然维持较高的攻击成功率(ASR在29.43%至36.57%之间)和EER(在36.76%至38.79%之间) [17] - 在数据可用性方面,PATN优于现有方法PrivDiffuser,在行为识别和步态检测等下游任务中,使用PATN扰动后的数据几乎不影响任务性能 [18] - 在步数检测任务中,原始数据步数为7916,PATN扰动后数据步数为7937(仅增加21步),而PrivDiffuser扰动后步数为8683(增加767步) [16] - 在行为识别任务中,原始数据的HAR-EER为5.08%,PATN扰动后数据为6.57%(仅增加1.49个百分点),而PrivDiffuser为6.92%(增加1.84个百分点) [16] 总结与未来方向 - PATN是一种基于历史数据的扰动生成框架,通过利用过去的传感器信号预测未来扰动,实现对实时数据的零延迟隐私保护,同时保持原始数据的时序与语义完整性 [19] - 未来工作将拓展PATN在黑盒模型下的适用性,并覆盖更多敏感属性 [19]