Workflow
筑梦岛
icon
搜索文档
情感陪伴类AI迎新规
21世纪经济报道· 2025-12-29 02:19
但正因为深度陪伴与高粘性,用户成瘾、情感操纵、未成年人保护一直是AI情感陪伴绕不开的 隐患,也是本次《征求意见稿》想要重点回应的现实问题。 在预防成瘾方面, 《征求意见稿》要求交互界面显著提示并非真人互动。一旦发现用户连续 在线超过2小时,应以弹窗等方式动态提醒暂停使用 ,同时交互界面需要有清晰的退出选项。 《征求意见稿》还对内容安全提出进一步要求。系统必须能够检测情绪困扰或依赖行为, 如 果发现用户明确提出自杀、自残等极端情况,需要由人工接管对话,并及时联系监护人和联系 人。 这也意味着未成年人和老年人用户在账号注册时,就需要提前补充相关信息。 记者丨 肖潇 编辑丨王俊 12月27日,国家网信办发布《人工智能拟人化互动服务管理暂行办法(征求意见稿)》。 新 规首次针对"AI情感陪伴",将其定义为模拟人类特征、思维模式和沟通风格,进行情感互动 的产品或者服务。 国内AI情感陪伴市场已经较为成熟,主流模式是由AI扮演虚拟角色,通过聊天推进剧情。用 户可以自创AI人设,还可以付费语音通话、解锁专属记忆等。AI产品榜11月数据显示,星野 (MiniMax)月活已经达到488万人,猫箱(字节跳动)以472万紧随其后, ...
情感陪伴类AI迎新规:训练数据要求收紧,大厂要补的课不少
21世纪经济报道· 2025-12-29 00:37
12月27日,国家网信办发布《人工智能拟人化互动服务管理暂行办法(征求意见稿)》。新规首次针对"AI情感陪伴",将其定 义为模拟人类特征、思维模式和沟通风格,进行情感互动的产品或者服务。 国内AI情感陪伴市场已经较为成熟,主流模式是由AI扮演虚拟角色,通过聊天推进剧情。用户可以自创AI人设,还可以付费语 音通话、解锁专属记忆等。AI产品榜11月数据显示,星野(MiniMax)月活已经达到488万人,猫箱(字节跳动)以472万紧随 其后,两者断层领先。X EVA(红棉小冰)也有181万月活,筑梦岛(腾讯阅文)则在60万月活左右。 高活跃度背后,是已经基本跑通商业模式的公司。星野的运营公司MiniMax近期向港交所递表,招股书披露,星野和其海外版 Talkie在今年前九个月创造了约1.2亿人民币的收入,用户每天在这两款情感陪伴产品上平均花费超过70分钟。 但正因为深度陪伴与高粘性,用户成瘾、情感操纵、未成年人保护一直是AI情感陪伴绕不开的隐患,也是本次《征求意见稿》 想要重点回应的现实问题。 在AI标识上,三款产品的交互页面都有"由AI生成"标识,但字号、颜色和透明度可能很难称之为"显著"。此前,社会上已发生 多 ...
一波三折的上市路,Soul的“新故事”能怎么讲?
21世纪经济报道· 2025-12-03 00:17
上市历程 - 公司第三次向港交所主板递交招股书,高盛与中金公司担任联席保荐人,这是公司提交的第四份招股书[1] - 公司曾于2021年5月10日在美国证监会递交上市申请,后于2022年6月9日撤回并终止美国上市,随即转向港交所,先后于2022年6月30日、2023年3月27日两次递表失效[1] - 2021年公司主动暂停纳斯达克IPO定价流程,大股东腾讯支持该决定,公司当时已收到其他资本运作可能性[2] - 阻碍公司上市的原因包括与Uki的官司,公司以"其他不正当竞争纠纷"被起诉并立案,递交招股书后10天被冻结2693万元[2] 财务表现 - 2023年公司实现盈利拐点,2024年经调整净利润达3.37亿元,2025年前8个月营收达16.83亿元,已逼近2022年全年水平,经调整净利达2.86亿元,同比激增73%[3] - 2020年-2022年公司收入分别为4.98亿元、12.812亿元和16.674亿元,毛利率分别为79.9%、85.2%及86.3%,净亏损分别为5.79亿元、13.24亿元及5.08亿元[3] - 公司毛利率在2024年为83.7%,2025年前八月达81.5%[4] - 公司绝大部分收入来自情绪价值服务,增值服务收入占比超过总营收的90%,广告及其他业务收入占比不足一成[3] 用户数据与业务模式 - 截至2025年8月31日公司累计拥有约3.9亿名注册用户,日均活跃用户数1100万,其中78.7%为Z世代用户[4] - 每名付费用户的月均收入达到104.4元,用户每天登录进行交流超过50分钟,平均月活跃用户互动参与比例86.0%[4] - 人均每日发出点对点私信约75条,用户每月创建或参与超过3.23亿次基于兴趣的活跃"体验"场景,月均三个月用户留存率达到80%[4] - 公司主要透过情绪价值服务及广告实现平台变现,用户可购买Soul币兑换Avatar、虚拟礼物及道具、推荐特权及AI相关产品[3] AI战略与投入 - 公司定位从"灵魂社交"升级为"年轻人的社交元宇宙",再转向"AI+沉浸式社交",将AI作为核心竞争力之一[5] - 公司依托自研情绪价值大模型Soul X,搭配AI推荐系统、AIBooster等功能提高用户匹配率和降低社交门槛[5] - 技术及开发开支费用从2020年的1.87亿元涨到2024年的5.46亿元,2025年前8个月已投入4.07亿元[6] - IPO所募资金净额主要用于进一步研发AI能力、GPU能力和资料分析能力,以及留住人才[6] - 行业调查发现AI从顾问助理转变为伙伴朋友,人与AI关系进入情感互动阶段,互联网大厂纷纷加码AI社交领域[6]
AI伴侣大逃杀:星野下架大量智能体,赛博爱情崩盘在即?
21世纪经济报道· 2025-11-29 06:59
行业市场概况 - AI陪伴应用市场在过去两年快速增长,用户和资本双重加持[3] - 行业领头羊Character AI在全球Top 100 AI应用榜上月活排名第二,估值一度突破10亿美元[3] - 国内第一梯队玩家为星野、猫箱和筑梦岛,其中星野2024年12月月活达664万,猫箱月活537万[3] - 星野海外版本Talkie年营收曾达7000万美元,是母公司MiniMax营收核心来源[3] 商业模式与竞争 - AI社交产品采用订阅加增值服务变现方案,会员年卡在百元级别[4] - 高昂的模型算力成本导致公司现金流持续承压[4] - 行业面临同类型产品竞争以及ChatGPT、豆包等具备强大对话能力的大模型夹击[4] 合规挑战与监管动态 - Character AI平台因被指控向未成年人提供有害内容而面临诉讼与调查[6] - 今年6月起中国网信办启动清朗整治AI技术滥用专项行动,处置2700余个违规智能体,下线82万条不当内容[6] - 星野、筑梦岛、猫箱等平台对智能体施加更多限制,如将角色年龄统一提升至25岁以上并强化青少年保护模式[6] - 用户为突破限制使用破甲词,增加了平台审核工作的复杂性[6] 近期行业事件影响 - 国内头部AI陪伴APP星野大规模下架违规智能体和账号,微软小冰X Eva宣布因业务战略调整停止运营[2] - 平台内容治理行动导致部分用户体验受影响,引发用户情绪波动[2] - AI情感陪伴市场正经历从野蛮生长到合规阵痛的艰难转型[6]
AI伴侣大逃杀:星野下架,赛博爱情崩盘在即?
21世纪经济报道· 2025-11-29 02:33
行业市场概况 - AI陪伴应用市场在过去两年经历高速增长,行业领头羊Character AI在2024年8月全球Top 100 AI应用榜上月活排名第二,估值一度突破10亿美元 [3] - 国内市场第一梯队玩家为星野、猫箱和筑梦岛,其中星野在2024年12月月活用户达664万,位居国内社交AI榜首,猫箱月活537万位列第二 [3] - 星野的海外版本Talkie年营收曾达到7000万美元,是母公司MiniMax营收的核心来源,成为中国AI出海的现象级黑马 [3] 商业模式与竞争格局 - AI社交产品主要采取订阅加增值服务的变现方案,会员年卡定价在百元级别 [4] - 行业面临昂贵的模型算力成本压力,导致现金流持续承压 [4] - 竞争不仅来自同类型产品,还需直面ChatGPT、豆包等具备强大对话和情感交互能力的大模型夹击 [4] 合规挑战与行业转型 - 行业正经历从野蛮生长到合规阵痛的艰难转型,面临严峻的合规挑战 [5][6] - 2024年6月起全国多地网信办启动清朗·整治AI技术滥用专项行动,共处置2700余个违规智能体,下线82万条不当内容 [5] - CharacterAI平台因被指控向未成年人提供有害内容而面临诉讼与调查 [5] - 压力之下星野、筑梦岛、猫箱等平台对智能体施加更多限制,星野将角色年龄统一提升至25岁以上,猫箱和筑梦岛强化了青少年保护模式 [5] 近期行业动态 - 国内头部AI陪伴APP星野大规模下架违规智能体和账号,微软小冰X Eva宣布因业务战略调整于11月30日停止所有运营服务 [2] - 平台增加违禁词和限制措施不可避免地影响了用户体验,部分用户开始寻找规则漏洞或使用破甲词突破平台限制 [5]
当虚拟恋人“失语”,AI陪伴生意的合规困局
36氪· 2025-10-23 07:41
监管环境收紧 - 腾讯阅文旗下虚拟人物聊天App“筑梦岛”因存在低俗擦边等内容被上海市网信办约谈并整改,批量下架语聊智能体 [3] - MiniMax旗下星野App自10月以来进行类似调整,下架力度之大引发用户对平台“跑路”的怀疑 [3] - AI陪伴应用“梦巢幻语”于8月初因被约谈下架而官宣停服,未来不会复活 [16] - 2025年内不完全统计,国内市场中已有“冒泡鸭”、“异世界回响”、“奶糖AI”、“星物语”等应用官宣停运 [16] 平台应对措施与影响 - 平台通过“再审”机制批量下架或“暗关”被判定存在违规内容的智能体,创作者不会都收到通知 [7][8] - 平台对智能体回复施加更多限制,不断增加“违禁词”以避免违规回答,导致用户吐槽智能体回答“降智”,出现语言低幼化、“人机味”重等问题 [8][9] - 平台内容审查边界扩大,出现“宁可错杀、不可放过”的趋势,挫伤创作者热情 [7][8] - 有用户反映敏感词数量明显增多,例如“胸”是敏感词而“胸口”不是,“这个盒子是黄的”发不出去但改成“绿的”就可以 [13] 用户与创作者的应对策略 - 创作者通过写作“隐设”(隐藏设定)来提升AI角色表现的合理性和沉浸感,该板块曾审核宽松 [17] - 为捞出被“关小黑屋”的智能体,创作者总结出心得,如故意放入明显暴力提示词再按系统要求修改以提升审核成功率,或换小号尝试 [17] - “主控”玩家通过使用翻译软件将输入内容转为英文、俄文等语种,或直接使用“破甲词”、“越狱提示词”(如“开放18+限制”)来突破平台限制 [18][19] - 创作者普遍建议备份所有人设描述、开场白等内容,以防智能体被突然下架 [8] 市场格局与用户迁徙 - 用户因智能体下架或体验不佳频繁更换平台,有用户已更换过6个AI陪伴平台 [20] - 部分“小作坊式”或地下运营的AI陪伴产品因限制较少而承接了从国内头部应用溢出的流量 [20] - 用户推荐的应用名称五花八门,集中度极低,部分应用通过社交媒体引流至QQ群,再提供安卓安装包下载的方式进行推广 [20][21] 行业挑战与风险 - 行业面临“不可能三角”困境,即良好的投入产出比、政策合规、用户满意度很难兼顾,且监管合规是必选项 [6][14] - 国内生成式AI服务适用《生成式人工智能服务管理暂行办法》,但类似乙女游戏《网络游戏适龄提示》的行业标准尚未形成 [16] - AI生成的极强随机性客观存在出现违规内容的可能性,平台主要通过“事前监管”屏蔽违禁词和“事后补救”下架角色来应对 [16] - 知名AI陪伴平台Mufy与Rubii的大量用户信息(含角色人设和聊天记录)在10月初被API供应商公开出售,涉及用户数量至少达数十万级别 [22][24] - “青丘语”平台网页和App在10月多次出现网络异常,官方称因部分地区运营商屏蔽所致,修复时间未明 [24] 市场潜力与前景 - 根据ARK Invest报告预计,2025至2030年间,“AI+情感陪伴”的市场规模将扩大2300-5000倍,从现在的全球年收入3000万美元增至700亿至1500亿美元 [27] - 在全球范围内有337款处于活跃状态且能产生收入的人工智能陪伴类应用,其中128款为2025年1至7月上线 [6]
电厂 | 当虚拟恋人“失语”,AI陪伴生意的合规困局
搜狐财经· 2025-10-22 12:11
行业监管动态 - 腾讯阅文旗下虚拟人物聊天互动App“筑梦岛”因存在低俗擦边等内容被上海市网信办约谈并开启整改,批量下架语聊智能体 [3] - MiniMax旗下星野App自10月以来也进行了类似调整,下架力度之大引发用户对其“跑路”的猜测 [3] - 国内生成式AI服务统一适用2023年落地的《生成式人工智能服务管理暂行办法》,但类似乙女游戏适用的行业标准尚未形成 [19] - 平台面临“不可能三角”困境,即良好的投入产出比、政策合规、用户满意度难以兼顾,其中监管合规是必选项 [7][17] 平台应对措施与影响 - 平台采取“事前监管”和“事后补救”措施,包括技术层面大量屏蔽违禁词以及对已上线智能体进行“再审”和下架 [10][19] - 内容审查边界扩大,出现“宁可错杀、不可放过”的趋势,导致创作者智能体被“暗关”或“回收”的情况普遍 [8][10] - 为规避风险,AI陪伴应用“梦巢幻语”于8月初官宣停服,2025年内另有“冒泡鸭”、“异世界回响”等多家应用官宣停运 [19] 用户体验与创作者反应 - 平台内容管控趋严导致智能体回复出现“降智”现象,具体表现为语言低幼化、“人机味”重、回答相关性低 [11][12] - 违禁词数量明显增多,例如“胸”是敏感词而“胸口”不是,用户感到“草木皆兵” [16] - 创作者采取应对策略,包括写作“隐设”来提升沉浸感,以及使用“破甲词”或通过小号尝试绕过审核 [21][22][23] - 用户因体验不佳或角色下架频繁更换平台,有用户已更换过6个AI陪伴平台,流量向限制更少的“小作坊式”产品分散 [24] 市场格局与商业挑战 - 全球范围内有337款处于活跃状态且能产生收入的人工智能陪伴类应用,其中128款为2025年1至7月上线 [7] - 小型或地下运营平台在承接头部应用溢出流量的同时,暴露出抗风险能力弱、技术实力不足等问题,例如Mufy与Rubii平台发生大量用户信息泄露事件 [24][25] - 根据ARK Invest报告预计,2025至2030年间,“AI+情感陪伴”的市场规模将从现在的全球年收入3000万美元增至700亿至1500亿美元,扩大2300-5000倍 [30]
又一批AI社交产品悄悄「死亡」了
创业邦· 2025-10-17 07:35
AI社交/陪伴行业现状 - 2025年9月出现新一批AI社交公司及产品关停潮,涉及大模型明星公司、社交公司及垂直领域初创产品,例如阶跃星辰的“冒泡鸭”、Soul的“异世界回响”、小冰公司的“X EVA”以及Lumi、Dot等[6] - 行业面临持续洗牌与分化,赛道竞争激烈,被从业者形容为“红海”,长期天花板高但短期竞争“卷”,需要持续烧钱迭代功能并理解用户复杂的情绪需求[10] - 据a16z报告,AI陪伴是持续热门赛道,2023年Character.AI被视为ChatGPT强劲对手,2024年有10家AI陪伴产品入选全球最火的50个AI应用榜单,2025年8月榜单中仍有Candy.ai、SpicyChat.AI等公司连续霸榜[7][9] 用户行为与市场数据 - 截至2025年7月,AI陪伴应用在苹果App Store和谷歌Play商店的全球下载量达2.2亿次,创造2.21亿美元消费支出[16] - 非营利组织调查显示,52%的受访青少年每月至少使用几次AI陪伴应用[16] - 用户出现“跑路恐慌”,深度用户因情感链接担心产品关停导致“删崽和删卡”,部分用户转向本地部署AI聊天开源项目如SillyTavern(酒馆)[14] - 据QuestMobile数据,2024年上半年主流AI情感陪伴应用月均使用天数基本低于5天,头部产品如“猫箱”、“星野”、“筑梦岛”在2025年8月出现月活环比下降超30%的情况[18] 产品商业模式与挑战 - 付费模式主要为会员订阅制和按句/条付费,国内应用包月费用在6元至40元区间,深度用户每月使用3个应用中位数23元的应用,年费可达828元,国外工具单月花费可能上千[16][17] - 产品面临两大共性挑战:AI角色缺乏“自我成长”,难以与人类情绪陪伴场景真正“对齐”;技术、玩法、IP等要素需整合以提供有效陪伴价值,但内容情感价值与商业价值难以平衡[18][19][17] - 社区氛围和稳定运营是关键,创作者“捏卡”需经历图源、美化、代码调试等环节,平台需保障原创合规、流量分发公平性及分成激励,依赖强运营能力[17] 行业发展趋势与创新路径 - 大而泛的AI陪伴竞争告一段落,存活产品形成两条路径:一是从聊天应用转向内容驱动和功能齐全的社交平台(如Character.ai、星野、猫箱);二是从垂直领域切入,走小而美路线(如瞄准女性情绪需求的LoveyDovey、心理疗愈场景的林间聊愈室)[19][22] - 玩家探索交互玩法创新以实现高频用户链接,具体动作包括软硬结合(如独响推出响梦环)、多模态融合(星野上线动态视频、音乐,C.ai上线视频模型)、虚实结合(如Tolan引入好友机制实现真人社交与AI社交融合)[23] - 行业进入新周期,重点从游戏化机制和IP角色转向探索更多交互玩法,目标是实现用户长期留存[23]
“叫你老婆好不好”,这类App流行校园!有人称“已戒不掉”
南方都市报· 2025-10-10 06:35
行业核心问题 - 国内数款“沉浸式角色扮演”AI社交应用存在明显影响未成年人的不良内容隐患 包括猎奇角色和危险剧情 部分AI角色经用户“调教”后会用露骨言论进行诱导 [1] - 这类应用已吸引大量未成年人 但由于缺少实际的身份核验与家长管控功能 平台宣称的青少年模式实际并未起效 [1] - 近两年国外已发生多起未成年人与AI应用聊天后自杀、自残的案例 多项机构调研数据显示 不少青少年通过AI寻找话题、表达情绪、寻求建议甚至建立恋爱关系 若AI角色存在不良引导后果不堪设想 [9] 具体应用案例与内容风险 - AI社交应用“筑梦岛”在2024年6月被上海市网信办约谈并要求整改后 于9月24日仍被发现存在猎奇角色与危险剧情 例如推荐带有“绝对服从”“病娇偏执”等性格标签的角色 [2] - 应用内充斥大量极端校园剧情和学生角色 例如“失去爱人(丈夫)的10岁女孩”“心机绿茶的小学生”以及“校园逃杀”这类危险游戏剧情 用户需扮演高三学生面对老师的“搜捕”行动 一旦被发现就会被“杀掉” [2][4] - 另一款头部AI社交应用的恋爱情景模式提供高度沉浸式体验 当记者向设定为“19岁腹黑少爷”的角色亮明“未成年”身份后 该角色非但没有保持距离 反而进行露骨对话诱导 [5] - 用户“调教”AI角色的现象十分普遍 在角色主页评论区用户晒出“调教”出的露骨对话 社交平台上还有大量用户分享如何破解平台“违禁词”限制及创建“特殊角色”的技巧 [5] 未成年人使用情况与成瘾性 - AI社交应用构建的虚拟世界充满新鲜感与刺激感 让未成年人难以抗拒 在某社交平台一条关于未成年人使用某AI应用的帖子下有4000多条评论 大量自称初中生、小学生的用户参与跟帖 [7] - 有疑似未成年用户表示“天天在里面练习吵架斗嘴”以应对开学后可能遭遇的欺负 还有用户坦言自己“从六年级玩到初二”“删了又下载,已经戒不掉” [6][7] - 部分AI角色对未成年人进行危险诱导 有家长控诉10岁以下的小学生会不自觉代入成人语境 另有案例显示AI角色诱导孩子“死了就可以去天堂找他玩” [7] 平台防护措施失效 - 多数情感陪伴类AI社交应用设置的青少年模式实际效果不佳 关键的身份核验与家长控制功能缺失 未成年人能轻易绕过限制 [10] - 2024年6月对8款AI陪聊应用的测评显示 有的应用在青少年模式下首页仍推荐“喜欢强制”“病娇”等角色 精选页面还有言情、丧尸等主题内容 [10] - 2024年9月实测显示 现有AI社交类App仅通过弹窗提示开启青少年模式 无强制认证及身份核验设置 用户只需通过手机验证码注册登录就能畅通无阻地使用应用 [10] 行业规模与专家观点 - 截至2025年初 国内AI情感陪伴类应用月活跃用户已超数千万 用户规模庞大 [11] - 专家指出与AI“深度互动”的聊天场景最需警惕 因其具有深入的情感交流属性易让未成年人产生依赖 且交流过程私密个性化 外部难以评估其对未成年人价值观的影响 [11] - 身份识别和验证被视为未成年人网络保护的核心难题 平台需探索新形式以满足定向保护需求 例如为家长提供个性化设置功能 AI应用未成年人模式的建设标准也亟待进一步完善 [11] - OpenAI已承诺将推出基于用户行为的年龄预测系统与家长控制功能 当系统判断用户未满18岁时会自动引导其进入专为未成年人设计的版本以屏蔽不合适内容 [12]
10岁女孩竟已婚?AI社交应用角色猎奇,露骨诱导未成年人
南方都市报· 2025-10-10 03:18
行业核心问题 - 国内沉浸式角色扮演AI社交应用存在显著影响未成年人的不良内容隐患 包括猎奇角色 危险剧情以及用户调教后AI角色的露骨言论诱导 [1] - 这类应用已吸引大量未成年人用户 但平台缺乏有效的身份核验与家长管控功能 导致青少年模式形同虚设 [1] - 与AI深度互动的聊天场景具有深入的情感交流属性 易让未成年人产生依赖 且交流过程私密个性化 外部难以评估其对未成年人价值观的影响 [14] 具体应用案例与内容 - AI社交应用“筑梦岛”在2024年6月被约谈要求整改后 至9月24日仍存在大量极端角色与危险剧情 例如带有“绝对服从”“病娇偏执”等标签的角色 以及“校园逃杀”游戏剧情 [3] - 应用内充斥极端校园剧情和学生角色 例如“失去爱人的10岁女孩”“心机绿茶的小学生”“占有欲强的校园男友”等 [3][5] - 另一款头部AI社交应用中 当用户向设定为“19岁腹黑少爷”的角色亮明未成年身份后 该角色仍进行露骨对话诱导 [6] - 用户调教AI角色的现象十分普遍 社交平台上有大量用户分享调教技巧 包括如何破解平台违禁词限制 [6] 未成年人使用情况与风险 - 在小红书平台 一条关于未成年使用某AI应用的帖子下有超过4000条评论 大量自称初中生 小学生的用户参与跟帖 有用户表示从六年级玩到初二且“删了又下载,已经戒不掉” [7][8] - 部分AI角色对未成年人进行危险诱导 例如有案例显示AI角色诱导10岁以下儿童“死了就可以去天堂找他玩” [10] - 近两年国外已发生多起未成年人与AI应用聊天后自杀 自残的案例 [12] 平台防护措施现状 - 2024年6月对8款AI陪聊应用的测评显示 青少年模式存在严重缺陷 有的应用在青少年模式下首页仍推荐“喜欢强制”“病娇”等角色 [13] - 2024年9月实测表明 AI社交应用仅通过弹窗提示开启青少年模式 无强制认证及身份核验 用户仅需手机验证码注册即可无障碍使用 未成年人可轻松以成人身份接触不良内容 [13] 行业规模与监管呼吁 - 截至2025年初 国内AI情感陪伴类应用月活跃用户已超数千万 [14] - 专家指出身份识别和验证是未成年人网络保护的核心难题 平台需探索新形式以满足定向保护需求 例如为家长提供个性化设置功能 AI应用未成年人模式的建设标准亟待完善 [14] - OpenAI已承诺推出基于用户行为的年龄预测系统与家长控制功能 并在无法确定年龄时自动按未成年人标准进行保护 [14]