作者： |
发布时间：Wed, 10 Sep 2025 00:00:00 GMT
国际清算银行：监管机构如何应对人工智能可解释性问题 
摘要
本研报探讨了金融机构日益增长的人工智能(AI)应用带来的可解释性挑战，以及监管机构如何应对这些挑战。 复杂AI模型的有限可解释性对透明度、问责制、监管合规性和消费者信任构成了重大风险。 现有模型风险管理(MRM)指南可能不足以应对先进AI模型，因此，监管机构需要加强对AI模型风险的管理，并在可解释性和模型性能之间取得平衡。
正文
AI 可解释性的挑战 
金融机构越来越多地采用人工智能(AI)技术来优化运营、风险管理和客户互动。 然而，复杂AI模型的有限可解释性，尤其是深度学习和大语言模型(LLM)，对金融机构和监管机构提出了严峻的挑战。
-
可解释性的重要性： 模型输出的可解释性对于确保透明度、问责制、监管合规性和消费者信任至关重要。
-
现有技术的局限性： 现有的可解释性技术虽然能帮助理解复杂AI模型的行为，但存在不准确、不稳定以及易产生误导性解释等问题。
模型风险管理的挑战 
有限的模型可解释性增加了管理模型风险的难度。
-
现有指南的不足： 国际标准制定机构发布了高级别的模型风险管理(MRM)要求，但只有少数国家金融监管机构发布了具体指导，且往往侧重于用于监管目的的模型。
-
第三方AI模型的挑战： 使用第三方AI模型会进一步加剧这些挑战。
监管机构的应对策略 
随着金融机构将人工智能模型应用于关键业务领域，金融监管机构有必要加强模型风险管理(MRM)实践。
-
权衡可解释性和模型性能： 在可解释性和模型性能之间取得平衡，允许使用可解释性有限但性能优越的复杂人工智能模型，但前提是引入充分的保护措施。
-
风险控制措施： 对于监管资本应用场景，可以限制复杂人工智能模型的使用范围，或者设定输出下限。
-
能力建设： 监管机构需要投入资源提升员工评估人工智能模型的能力，确保金融机构能够安全地发挥人工智能的潜力。
结论
金融监管机构需要在人工智能背景下加强模型风险管理，在可解释性和模型性能之间取得平衡，并提升自身对人工智能模型的评估能力。允许使用可解释性有限但性能优越的复杂人工智能模型，能够帮助金融机构更好地管理风险并提升客户体验，但需要引入充分的保护措施。 最终目标是确保金融机构能够在利用AI技术优势的同时，维护监管目标。
延伸阅读
研报PDF原文链接