大语言模型在银行业的可解释性挑战 - 大语言模型为银行业数字化转型注入强大动力，但其固有的不透明性使可解释性成为必须跨越的门槛，商业银行需建立透明可信的AI应用框架以实现安全合规的潜能释放[3] - LLM的决策过程呈现"黑箱"特性，在技术层面难以破解，并对算法问责与法律救济构成实质性障碍，同时其"幻觉"现象（生成错误或虚构信息）进一步侵蚀模型决策的可解释性与可信度[4] 监管法规对可解释性的刚性约束 - 金融监管机构日益强调AI模型透明度，要求银行充分披露决策依据以满足合规要求并保护消费者权益，构成LLM应用的首要外部约束[6] - 欧盟《通用数据保护条例》等法规确立自动化决策的透明度要求，国内监管部门同样要求银行在使用AI模型拒绝信贷申请时必须说明原因，以避免歧视性或不公正结果[7] - 全球监管科技政策趋同，新加坡FEAT原则、中国《人工智能算法金融应用评价规范》及欧盟《人工智能法案》均将可解释性列为核心要求，表明其已从"软性倡议"转变为"硬性要求"[8] 技术机制的可解释性障碍 - LLM基于Transformer架构包含数百亿至万亿级参数，结构极端复杂，注意力机制与模型预测特征重要性仅存在弱相关性甚至不一致性，传统解释算法计算成本过高难以有效剖析高维模型[11] - "幻觉"现象（生成看似合理但事实不符的内容）普遍存在且无根治方法，导致模型输出无法追溯至可靠输入源，错误可能源自训练语料噪声或生成过程随机性，严重阻碍对决策机制的稳定解释[12]