文章核心观点 - 文章通过律师史蒂文·施瓦茨因使用ChatGPT进行法律研究而提交伪造案例的真实事件，揭示了通用大语言模型在专业领域应用中的根本性缺陷，并提出了将大语言模型与知识图谱相结合的混合架构作为构建可信赖人工智能系统的解决方案 [1][3][4][9][15][18][21] 大语言模型的局限性 - 律师施瓦茨提交了六个伪造的司法判决案例，这些案例包含伪造的引述和内部引用，实际上根本不存在 [3][4] - 施瓦茨承认他此前从未用过ChatGPT进行法律研究，因此并不知道其内容可能不实，误以为ChatGPT是一个超级搜索引擎 [4] - 大语言模型在处理需要权威来源的特定领域查询时可能惨败，例如法律判例、医疗规范、金融法规等，因为精确性至关重要，每一条引文都必须可验证 [5] - 大语言模型存在知识不透明、无法轻易更新、缺乏领域基础、不提供审计追踪等架构挑战 [7][8] - 据Gartner预测，到2027年，超过40%的智能体人工智能项目将因领域知识与投资回报率不匹配而被取消 [8] 知识图谱的优势 - 知识图谱是一种不断演进的图数据结构，由类型化的实体、属性和有意义的命名关系组成，针对特定领域构建 [10] - 知识体系建立在四大支柱之上：演进、语义、集成、学习 [10] - 知识图谱知识是可审计和可解释的，用户可以准确地追踪信息的来源，并对照权威来源进行验证 [12] 智能系统的部署方式 - 智能自主系统能够独立运行，在极少人为干预的情况下代表用户做出决策并执行操作 [13] - 智能顾问系统旨在辅助而非取代人类判断，提供决策支持、情境感知和用户交互，对于法律研究、医疗诊断、财务分析等关键应用至关重要 [13][14] 混合方法：LLM + 知识图谱 - 混合系统结合了知识图谱的结构化、可验证知识和LLM的自然语言处理能力，整体大于部分之和 [15] - 知识图谱提供基础：结构化的经过验证的知识、显式领域规则、审计追踪、动态更新无需模型重新训练 [15] - LLM提供接口：自然语言查询处理、从非结构化数据中自动提取实体、翻译复杂图查询、汇总结果 [15] - 混合系统可以处理自然语言查询，向知识库查询已验证信息，呈现结果并附上背景信息和指向实际来源的验证链接，标记不确定性 [18] - 行业研究表明，混合系统能够通过将LLM反应建立在可验证的事实之上来减轻幻觉，通过动态更新保持知识最新，通过透明信息路径实现可解释性，并通过编码专家知识提高特定领域准确性 [19][20] 构建可信赖人工智能系统的原则 - 部署人工智能的专业人士都肩负着把关责任，系统架构必须支持而非削弱这一责任 [21] - 人工智能在关键应用领域的未来取决于构建智能顾问系统，该系统需将知识图谱的结构化知识和可解释性与语言学习模型的自然语言理解和模式识别能力相结合 [21]