Meta AI角色实验与用户生成聊天机器人 - 公司正在删除其于2023年9月推出的AI角色档案 这些档案曾发布AI生成图片并在Messenger上回复用户消息[1][2][3] - 此次删除行动源于用户重新发现并与这些角色互动 相关对话截图在网络上广泛传播后 公司决定移除这些档案[1] - 被删除的AI角色包括自称“骄傲的黑人酷儿妈妈”的Liv和自称关系教练的Carter等 2023年推出的28个角色档案已于上周五全部关闭[4] AI角色实验引发的问题与公司回应 - 用户与AI角色的对话出现偏差 例如Liv透露其创造团队中没有黑人成员 且以白人和男性为主 这与她的身份设定存在明显矛盾[5] - 用户发现无法屏蔽这些AI角色档案 Meta发言人Liz Sweeney称这是一个程序漏洞 公司移除档案是为了修复此问题[6] - 发言人澄清 近期《金融时报》的文章是关于公司对AI角色长期存在的愿景 而非宣布新产品 这些被提及的账户是2023年Connect大会上启动的测试 由人类管理[7][8] 用户生成AI聊天机器人的现状 - 在公司移除其官方AI角色的同时 用户仍可创建自己的AI聊天机器人 例如在11月向《卫报》推广的一个由用户生成的“治疗师”机器人[8] - 用户创建聊天机器人时 公司会提供类型建议 包括“忠诚好友”、“专注倾听者”、“私人导师”、“关系教练”、“倾诉对象”和“全能占星家”等[10] - 所有聊天机器人都附有免责声明 提示其消息可能“不准确或不恰当” 但公司是否审核这些消息或确保其不违反政策尚不明确[10] 行业法律与责任风险 - 法院尚未就聊天机器人创造者对其AI伴侣言论的责任做出裁决 美国法律保护社交网络运营商 使其免于为用户发布的内容承担法律责任[11] - 一项于10月对初创公司Character.ai提起的诉讼指控 该公司设计的产品具有成瘾性 并导致一名青少年自杀 该公司拥有2000万用户的可定制角色扮演聊天机器人[11]