《移動支付網(wǎng)》消息:3月26日,中國人民銀行發(fā)布金融行業(yè)標準《人工智能算法金融應用評價規(guī)范》(以下簡稱“《標準》”),發(fā)布之日起正式實施。
據(jù)了解,《標準》規(guī)定人工智能算法在金融領域應用的基本要求、評價算法、判定準則。適用于開展人工智能算法金融應用的金融機構、算法提供商、第三方安全評估機構等。
“無科技,不金融”已經(jīng)成為了當下金融行業(yè)發(fā)展的口號,人工智能作為信息技術的最新發(fā)展,廣泛的嵌入和應用在金融領域。風控反欺詐、營銷、身份認證等等都是人工智能廣泛應用的領域。
《標準》從安全性、可解釋性、精準性和性能方面開展AI算法評價,適用對象分為資金類場景和非資金類場景。
《標準》給出了詳細的AI算法評價方法,包括查閱報告、查看系統(tǒng)、訪談人員、系統(tǒng)測試、攻擊測試、算法測試、查看算法等。并給出了從安全性、可解釋性、精準性和性能方面等評價的具體內(nèi)容和判定準則。
AI算法安全性為算法在金融行業(yè)應用提供安全保障,是決定AI算法是否可用的基礎,只有在滿足安全性要求的前提下,才能在金融領域開展應用。AI算法安全性評價主要從目標函數(shù)安全性、算法攻擊防范能力、算法依賴庫安全性、算法可追溯性、算法內(nèi)控等方面提出基本要求、評價方法與判定準則等。
AI算法可解釋性是判斷算法是否適用的重要依據(jù),可解釋性越高,算法內(nèi)在邏輯、技術實現(xiàn)路徑、決策過程、預期目標越明晰,算法更易于被理解、匹配、應用和管理。AI算法可解釋性評價從算法建模準備、建模討程、建模應用三個階段提出基本要求、評價方法與判定準則等。
AI算法精準性和性能是計價算法應用效果及目標預朝的主要因素,一般而言精準性和性能越高算法應用效果越好。AI算法精準性和性能評價從算法建模過程、建模應用兩個階段提出基本要求、評價方法與判定準則等。
《標準》建立了人工智能金融應用算法評價框架,系統(tǒng)化地提出基本要求、評價方法和判定準則,為金融機構加強智能算法應用風險管理提供指引?!稑藴省犯戒浱峁┝私鹑谛袠I(yè)AI精準性的相關指標定義。