AI生成内容监管与合规 - 中国于今年9月正式施行《AI标识办法》，要求所有AI生成内容必须带有“AI制造”标签，例如在音频开头声明或使用特殊摩斯电码节奏[1] - 法规实施后48小时内对35款应用的实测显示，有2款未在图片中标识AI，4款未在交互页面标识AI，部分智能助手未按要求提示AI生成[2] - 11天后的第二轮复测发现，除百度文库的图片标识未落实外，其他应用均已修改到位，显示行业合规整改速度较快[2] AI技术滥用风险 - 未经授权使用他人声音生成AI音频已涉及违法，侵犯声音权人合法权益，流行的AI数字人直播未经许可也不可模仿知名人物[1] - AI伪造语音可被用于诈骗，有案例显示利用AI语音和换脸技术生成视频，仅用3小时就骗走2万元[1] - AI生成语音存在被用于伪装成家长诱骗儿童等严重安全隐患，凸显技术滥用的社会危害性[1] AI标识的防范作用 - 《AI标识办法》规定的标识能够帮助公众在接到可疑语音或视频时拉响警报，降低辨别成本，成为防骗利器[1] - 法规鼓励每个用户在使用AI创作时主动添加标识，共同构建更安全的AI应用环境[2]