监管机构对生成式AI的监管指引 - 美国金融业监管局发布2026年度监管监督报告 敦促券商在使用生成式人工智能工具时保持警惕 防范幻觉风险[1] - 报告强调FINRA的规则是技术中立的 但现有的关于监督、通信、记录保存和公平交易等规则将同样适用于生成式AI工具[3] 生成式AI在券商业的主要应用 - 会员公司对生成式AI的首要用途是总结和信息提取 即使用AI工具浓缩大量文本并从非结构化文档中提取特定实体、关系或关键信息[4] - 其他应用包括问答、情感分析、语言翻译、金融建模以及合成数据生成等[4] 使用生成式AI的主要风险与应对措施 - 需防范AI幻觉风险 即AI模型生成不准确或误导性信息 例如对规则或政策的错误解读 或不准确的客户或市场数据影响决策[5] - 需警惕偏见风险 即因模型训练数据有限或错误导致输出不正确 包括因训练数据过时而导致的概念漂移[6] - 公司的网络安全政策应考虑使用生成式AI带来的风险 无论是由公司自身还是第三方供应商使用[6] - FINRA建议公司测试其生成式AI工具 重点关注隐私、完整性、可靠性和准确性 并监控提示、响应和输出以确保工具按预期工作[6] - 具体措施包括存储提示和输出日志以追责和故障排除 跟踪所使用的模型版本和时间 以及对模型输出进行验证和人工审查 包括定期检查错误和偏见[7]