医疗AI应用风险 - 一名60岁男性因使用ChatGPT获取饮食建议 用溴化钠替代食盐导致严重溴中毒 出现精神症状和电解质紊乱 [1][2][15] - 患者血液溴含量高达1700 mg/L 远超正常范围0.9-7.3 mg/L 阴离子间隙低至-21 mEq/L（正常值10-20） [2][16] - 溴中毒症状包括痤疮 血管瘤 失眠 幻视幻听 神经毒性 其半衰期达9-12天 20世纪初曾导致5%-10%精神病住院案例 [7][8][9] AI技术局限性 - ChatGPT在健康咨询中存在场景错配问题 虽未编造虚假信息但未能识别用户实际应用场景 建议用溴取代氯虽化学正确但不适用于饮食领域 [23][24] - AI无法像专业医疗人员那样提供上下文指导 如解释减盐实际针对钠而非氯 正常饮食中氯离子无需特别限制 [25][26][27] - 用户自身认知偏见会放大AI风险 患者明确要求"取代氯"可能直接忽略AI回复中关于氯化钾替代的正常建议 [24] 行业影响与挑战 - 该案例凸显AI在医疗健康领域的应用风险 非专业用户依赖AI做健康决策可能导致严重后果 [22][28][30] - AI工具可能加剧知识鸿沟 使缺乏专业背景的用户面临更高风险 而非普遍提升公众健康素养 [30] - 当前AI系统仍难以替代专业人员的关键作用 特别是在需要结合临床知识和场景化判断的医学领域 [25][28]