【中國金融案例中心 原文來源:MAS 編譯:高雪馨】
金融機構越來越多地使用人工智能和數據分析(Artificial Intelligence and Data Analytics,簡稱AIDA)來提高運營效率、降低風險,並改善業務流程。然而,伴隨著AIDA的廣泛使用,可能會産生新的風險或放大原有風險。
新加坡金融監管局(Monetary Authority of Singapore,簡稱MAS)對所選定金融機構使用人工智能/機器學習(AI/ML)的情況進行了專題審查,並于2022年6月30日發布審查報告。報告重點介紹了相關金融機構爲滿足FEAT原則中的公平性目標而實施的政策和治理框架,以及這些機構在AI/ML實際使用中對公平性的治理效果。報告列出了MAS的建議、良好做法和從審查中觀察到的例證。MAS表示,金融部門的創新應以良好治理和風險管理爲基礎,並以可持續戰略爲驅動。
本解讀分爲(上)、(下)兩篇,本文爲(上)篇,主要介紹了該次審查的背景、步驟及評估的範圍與方法。
FEAT原則
2018年底,MAS與當地金融行業共同制定了公平、道德、問責和透明原則(Principles of Fairness, Ethics, Accountability and Transparency),即FEAT原則,希望能夠以負責任的方式推動AIDA的部署與發展。爲促進金融機構遵循FEAT原則,MAS與Veritas財團于2019年11月合作創建了一個名爲Veritas的框架。Veritas旨在爲金融機構提供一種可驗證的方式,將FEAT原則融入他們的AIDA解決方案中。
在未來,Veritas財團將應用透明度評估方法對保險承保用例和支付用例進行完整FEAT評估。Veritas Toolkit還將推出公平性和透明度診斷工具的新版本,以及一個增強版的FEAT評估工具,與APIX的集成還將使得金融機構和金融科技公司能夠擁有自己的Veritas Toolkit環境。在發展Veritas生態系統的過程中,該財團將研究定義規範和整理相關行業領域可以接受的實踐方法,例如拒絕推斷方法和公平度量阈值等,以支持金融機構遵守FEAT原則。
審查目標
2021年底,MAS對選定的銀行和保險公司進行了專題審查,以了解其AI/ML的使用程度以及治理框架的成熟度,促進金融機構滿足FEAT原則中公平性原則。其中,公平性原則包括合理性(F1、F2)以及精度與偏差(F3、F4):
F1:個人或群體不會因爲AIDA驅動決策而在金融體系中處于不利地位,除非這些決策是合理的。
F2:使用個人屬性作爲AIDA驅動決策的輸入因素是合理的。
F3:會定期對在AIDA驅動決策中使用的數據和模型進行審查和驗證,以確保准確性,並盡量減少偏差。
F4:會定期審查基于AIDA得到的決策,以便模型能夠按照設計和預期的方式運行。
這些原則爲AIDA模型在設計和評估時如何實現公平性提供了指導,如果不重視這些公平性要求,AIDA模型可能會爲社會帶來意想不到的損失,並放大弱勢群體在社會中的現有的劣勢。例如,即使一名女性貸款申請者的信用評分大于或等于男性,但是一個沒有考慮公平性的信用模型可能會導致向女性發放的貸款少于男性。此外,這種情況除了會對客戶造成傷害,金融中介也有聲譽受損的風險。
爲了實現這些公平性目標,金融機構可以對AIDA驅動決策的重要性進行評估,然後在其內部治理框架下進行調整。類似于風險驅動模型,金融機構管理其AIDA驅動模型的流程如下:
(1)識別在評估範圍內的AIDA驅動模型
(2)評估這些模型的風險和影響,以確定其重要性
(3)通過與模型所含風險相一致的校准方式進行公平性評估
盡管AI/ML具有巨大的潛力,但金融機構使用AI/ML模型進行決策的方式仍處于初級階段,並且會對消費者産生直接影響。因此,雖然許多金融機構正在試驗AI/ML的用例和概念驗證,但並沒有在實際決策中進行廣泛應用。
MAS預計金融機構的風險管理和內部控制將與其風險狀況和業務複雜性相適應。在AIDA的背景下,如果在決策過程中廣泛使用或計劃使用AIDA模型,金融機構應該建立健全的AIDA治理結構,並體現出該框架是否符合FEAT原則。同時,不廣泛使用此類模型的金融機構可能也會相應地調整其風險管理流程。在AIDA模型的管理方面,一些金融機構利用現有的治理結構(如風險委員會),另一些則設立專門的委員會(如AI理事會)。無論采取何種方式,相關機構或委員會都應具有管理AIDA模式的專業知識和一定的權威水平。
評估範圍
首先,金融機構需要構建框架來確定自身所使用的模型是否在公平性評估範圍內,並且需要確保該框架足夠全面,能夠考慮到所有與AIDA相關的模型。對此,金融機構可以對需要進行評估的模型給出內部定義,該定義通常包括以下方面:
(1)模型是否使用AIDA
(2)模型是否投入實際使用
(3)模型是否影響客戶、員工或金融機構
在建立FEAT原則評估框架時,金融機構要麽用這些原則覆蓋現有的框架,要麽爲它們建立單獨的框架或治理結構。然而,在審查過程中發現對一些金融機構來說,所有監管模型均不在FEAT評估範圍之內。但是,在確定模型是否在評估範圍內的一個關鍵考慮因素應該是模型是否使用AIDA,而非模型的類型。由于監管模型也可以使用AIDA,金融機構應考慮這些模型是否應納入重要性和FEAT評估範圍,並將此考慮納入其治理結構和流程。在AIDA模型使用不廣泛的金融機構中,有些機構選擇對所有模型進行重要性評估。但是如果機構使用的AIDA模型數量增加到一定程度,這種方法可能無法持續,因此有必要建立合理的範圍框架。
評估模型的重要性
對于被納入FEAT評估範圍內的模型,金融機構應綜合一系列因素對模型進行重要性評估,可考慮的因素包括且不僅限于AIDA在決策中使用的程度、AIDA模型的複雜性、AIDA驅動決策過程的自動化程度、對不同利益相關者的影響程度和影響概率、對貨幣和金融體系的影響以及對監管的影響等方面。
各個金融機構在其重要性框架中考慮的因素是不同的,有金融機構只使用兩個因素–自動化程度和影響程度。換言之,對于該機構而言,只有高度自動化和具有較大影響力的模型才會受到更高程度的評估和管理。總體來說,金融機構應綜合考慮一系列因素,並使用更靈活的標准對模型的重要性進行評估。
除了定性標准之外,一些金融機構還使用了定量參數,如在聲譽受影響情況下的負面新聞報道持續時間和産生損失的概率等。雖然在量化這些參數時仍然需要進行估計,但擁有量化標准有助于在執行和驗證評估的過程中協調不同利益相關者,從而實現更一致和全面的評估。作爲對定性標准的補充,這些定量標准還能夠在評估中提供更多視角。