基于大模型的客服系统

搜索文档
晓花科技吴淏:大模型存在“幻觉”等风险,应避免输出不合规或错误的信息
北京商报· 2025-08-01 10:25
公司AI客服系统转型 - 晓花互联网科技因传统机器人智能化不足 自去年起关注DeepSeek和文心一言等大模型技术 今年决定自主搭建基于大模型的客服系统 [2] - 公司采用"大模型+小模型"混合架构应对幻觉问题 小模型处理常规问题 大模型专注复杂场景 通过智能决策、问题改写、混合检索和重排序算法生成候选答案 最终推送知识库标准答案 [2] - 系统上线一个半月后日均排队量减少2000-3000次 首轮问题识别率从50%提升至70%-80% 有效降低用户等待负面情绪并减少后续客诉 [2] 大模型风险控制策略 - 大模型存在自身稳定性风险、幻觉风险和新模型上线稳定性风险 [3] - 应对幻觉风险的核心策略是使用RAG(检索增强生成)技术 将大模型语言能力限制在业务知识库范围内 通过精细化Prompt明确角色指令并提供反例 [3] - 采用经验话术精调模型以适应业务场景风格 并对输出结果进行质检 避免输出不合规或错误信息 [3]