Workflow
Content Moderation
icon
搜索文档
Rise in 'harmful content' since Meta policy rollbacks: survey
TechXplore· 2025-06-17 09:10
内容审核政策调整 - Meta于2025年1月终止美国第三方事实核查合作 转向用户驱动的"社区笔记"模式[2][7] - 公司同步放宽性别与性取向相关内容的限制 允许用户基于性别或性取向指控他人"精神疾病"或"异常"[4] - 政策调整被视作对特朗普新政府的回应 保守派长期批评事实核查压制言论自由[3] 用户调查数据 - 对约7000名活跃用户的调查显示 66%用户目击过仇恨或暴力等有害内容[5] - 六分之一受访者自称遭受基于性别的暴力侵害 92%用户担忧有害内容增加并感到防护不足[5][6] - 77%受访者表示在平台上自我表达时安全感下降[6] 公司立场与行业影响 - Meta在5月季度报告中声称政策调整后美国内容审核错误减少50% 违规内容占比基本稳定[8] - 国际事实核查网络警告若政策调整扩至全球百余国合作项目将造成毁灭性后果[11] - 法新社目前以26种语言与Meta保持事实核查合作 覆盖亚洲、拉美及欧盟地区[11] 权益组织诉求 - 超10家数字与人权组织联合呼吁Meta聘请独立第三方分析政策变化对有害内容的影响[10] - 要求公司恢复先前的内容审核标准 指出平台公平性问题已"失控"[10] - 强调社交媒体已成为生活工作场所 安全表达与平等访问权至关重要[9]
Facebook's content moderation 'happens too late,' says research
TechXplore· 2025-05-30 15:54
社交媒体内容审核效率研究 - 东北大学研究发现Facebook的内容审核速度与其推荐算法存在"不匹配"问题,审核行动发生时违规内容通常已触达75%的预测受众[1][5][10] - 研究人员提出"预防性传播"新指标,通过机器学习分析260万条帖子预测内容传播轨迹,发现被删除帖子仅能阻止24%-30%的预期互动量[3][4][9] 用户互动行为特征 - 平台1%的高互动内容贡献了58%(英语)、45%(乌克兰语)和57%(俄语)的用户互动量,83.5%的互动发生在内容发布后48小时内[7] - 帖子达到50%互动量的中位时间仅需3小时,显示信息传播具有极强爆发性[7] 内容审核实施现状 - 在分析的260万条帖子中,英语内容删除率0.7%(12,864条),乌克兰语0.2%(1,071条),俄语0.5%(2,223条),主要针对垃圾信息/标题党等低质内容[8] - 现行审核机制对用户体验影响有限,因审核响应速度(6-2小时/次)远低于推荐算法推送速度[6][10][11]
Meta says online harassment is up and false flags are down following a change in content moderation policies
Business Insider· 2025-05-30 00:51
平台内容违规情况 - Facebook平台上的霸凌和骚扰内容占比从2024年第四季度的0.06-0.07%小幅上升至2025年第一季度的0.07-0.08% [1][2] - 暴力及血腥内容占比从0.06-0.07%上升至约0.09%,主要由于违规内容分享增加及减少执法错误的工作影响 [2] - 2024年第一季度霸凌和骚扰违规内容占比为0.08-0.09%,2023年同期约为0.07%,2024年和2023年第四季度均回落至0.07% [8] 内容审核政策调整 - 2025年1月公司简化内容审核政策,取消移民、性别认同等政治争议话题的限制 [3] - 重新定义"仇恨言论"范围,聚焦于"直接人身攻击"和去人性化言论,取消对"劣等性陈述""隔离呼吁"等宽泛内容的标记 [4] - 用众包社区笔记替代第三方事实核查机构,与竞争对手X采用相似机制 [4] 政策调整效果 - 错误标记率从旧政策下的10%-20%降至5%,每日误删内容减少一半 [5] - 2025年第一季度数据显示用户举报前主动处理内容的比例下降,反映审核效率提升 [6] - 社区笔记机制实现"事实核查民主化",但需防范机器人操纵和偏见风险 [7][8]
Meta's advertisers didn't flinch after it shook up content moderation
Business Insider· 2025-05-01 11:10
文章核心观点 Meta一季度广告收入超预期增长 尽管内容审核政策调整引发担忧 但广告业务仍保持强劲 预计下季度收入也将可观 其韧性源于对中小企业广告的依赖及AI广告工具优势 与Snap形成对比 [1][3][6] 分组1:Meta广告业务现状 - Meta一季度几乎全部来自广告的收入达420亿美元 超分析师预期 同比增长16% [1] - Meta预计下季度收入在425亿至455亿美元之间 高于分析师预期的440亿美元 [6] 分组2:Meta内容审核政策调整 - 1月Meta宣布在Facebook、Instagram和Threads上用社区笔记系统取代第三方事实核查员 计划恢复更多政治内容 放宽性别认同和移民等话题的内容审核规则 [2] 分组3:广告商态度 - 1月广告商和行业分析师虽对Meta内容审核政策变化感到不安 但只要平台能提供大量受众和预期的广告效果 仍会继续投放 [3] - 大型广告商仍对科技平台的用户安全和发布内容类型深感担忧 但Meta对蓝筹公司依赖较小 更依赖数百万中小企业广告商 [6][7] 分组4:Meta广告业务优势 - Meta高管在财报电话会议上归功于其AI广告工具Advantage Plus的推动 该工具可自动完成广告活动的多个方面 [4] 分组5:业务影响因素 - 亚洲电商广告商针对美国用户的支出有所减少 可能是预期特朗普5月2日结束小额免税政策 此前Temu和Shein等可免关税发货 [5] 分组6:行业对比 - Snap周二股价暴跌 虽一季度营收和盈利符合预期 但因宏观经济不确定性未提供二季度指引 与Meta形成对比 [10] 分组7:行业趋势 - 研究公司分析师称 广告商在不确定环境下会增加对Facebook和Instagram等成熟网络的投入 减少对小型社交平台的支出 [9]
Meta's oversight board rips Zuckerberg's move to end fact-checking: ‘Potential adverse effects'
New York Post· 2025-04-23 19:47
公司政策调整 - Meta于2024年1月撤销事实核查团队及内容限制政策 转向类似X平台的"社区注释"模式[1][2][4][6] - 政策变更取消对将同性恋称为精神病或将女性称为"家庭物品或财产"的内容限制 仅保留针对恐怖主义、儿童性剥削和欺诈内容的检测[7] - 公司首席执行官声称原政策导致"过多错误和审查" 认为事实核查机制压制言论自由[2] 监督委员会反应 - 独立监督委员会批评政策变更"仓促执行且未遵循常规程序" 缺乏人权尽职调查评估[1] - 委员会要求公司评估政策变更可能产生的"不利影响"及"全球不平等后果" 特别关注武装冲突地区[1][10] - 提出17项政策建议 包括加强霸凌与骚扰政策执行力度 明确禁止意识形态类型 并每六个月公开社区注释计划效果数据[9][10] 政治关联活动 - 公司首席执行官与特朗普在Mar-a-Lago共进晚餐 并向其就职基金捐赠100万美元[3][12] - 政策调整被视为向特朗普政府示好 与特朗普盟友埃隆·马斯克的立场保持一致[2][6] 公司资源承诺 - 尽管受到批评 仍承诺通过2027年前每年至少拨款3500万美元资助监督委员会 三年总额至少1.05亿美元[12][13] - 公司发言人回应称支持委员会"为促进平台自由表达而保留或恢复内容"的决定 但未回应要求删除内容的裁决[7]
Meta Oversight Board Urges Company To Assess ‘Human Rights Impact' Of Hateful Conduct Policy
Forbes· 2025-04-23 18:18
文章核心观点 Meta更新仇恨行为政策引发争议,监督委员会批评更新仓促并要求评估人权影响,CEO马克·扎克伯格为政策更新辩护称是为改善言论自由 [1][2][5] 关键事实 - Meta监督委员会周三回应公司仇恨行为政策变更,批评更新仓促,且公司未按常规程序操作,未公布是否进行过人权尽职调查 [2] - 监督委员会要求Meta评估更新后的政策是否威胁人权并提供公开报告,还敦促评估“社区笔记”政策的有效性,公司称将在60天内回应全部建议 [3] 政策更新内容 - 1月7日Meta宣布对仇恨行为政策和其他内容审核标准进行全面更改,将“仇恨言论”政策更名为“仇恨行为”,删除许多仇恨行为具体示例,增加有争议示例,允许基于性别或性取向对精神疾病或异常的指控,删除禁止唤起冒犯性刻板印象的条款,放弃第三方事实核查计划,采用类似X的社区笔记计划 [4] 政策更新争议原因 - Meta更新后的政策引发审查和指控,被指会导致对LGBTQ群体、女性和有色人种的歧视增加,人权运动组织称政策变化会滋生错误信息、骚扰和虐待,威胁LGBTQ群体的包容和安全 [5] 扎克伯格的辩护 - 扎克伯格在乔·罗根播客上为内容审核政策更新辩护,称是为改善言论自由,认为Facebook的事实核查政策像《1984》里的东西,事实核查员有偏见,赞扬X采用社区笔记计划,还以国防部长皮特·赫格塞思言论为例,称主流话语应允许在社交媒体出现,此外还称公司应更有“阳刚”之气,指责拜登政府曾就监测新冠相关帖子向Meta施压 [6]