近年來，AI飛速發(fā)展，并作為強大的創(chuàng)新工具廣泛應用于各行各業(yè)的無數(shù)用例中。然而，巨大的責任通常需要巨大的能力。多虧了AI和ML，反欺詐技術(shù)變得愈加精確并且比以往發(fā)展地更加快速。實時的評分技術(shù)可以使商業(yè)領導立即分辨出欺詐行為。然而，AI-ML驅(qū)動決策的使用也引起了對透明度的關注。并且，當ML模型出現(xiàn)在高風險環(huán)境中時，對可解釋性的需求也就出現(xiàn)了。

隨著由機器制定的關鍵決策的數(shù)量不斷增加，可解釋性和可理解性也變得越來越重要。技術(shù)研究員Tim Miller表示：可理解性是人類能夠理解決策原因的程度。因此，發(fā)展ML模型的可解釋性是至關重要的，它有助于可信任自動化解決方案的制定。

開發(fā)人員、消費者以及領導者都應該了解防詐騙決策的意義和過程。但是參數(shù)稍微多一些的ML模型對大部分人來說是都難以理解的。然而，可解釋AI研究社區(qū)一再聲明：由于可理解性工具的發(fā)展，黑盒模型不再是黑盒。在這些工具的幫助下，用戶能夠理解并更加信任這些用來做出重要決策的ML模型。

事物的SHAP

SHAP(SHapley Additive exPlanations) 是如今最為常用的模型不可知論解釋工具之一。它從合作博弈中計算Sharply值，均勻分擔特征的影響。當我們基于表格數(shù)據(jù)并使用集成方法來打擊欺詐時，SHAP的TreeExplainer算法提供了在多項式時間里獲取的局部解釋的機會。使用這種工具，僅有近似值也是可行的。與基于神經(jīng)網(wǎng)絡的解釋相比，這是一個巨大的進展。

白盒通常是指計算欺詐程度分值的規(guī)則引擎。就本質(zhì)而言，黑盒和白盒得出的結(jié)果不同，因為黑盒是根據(jù)機器從數(shù)據(jù)中學習的內(nèi)容得出結(jié)果，而白盒是根據(jù)預定義的規(guī)則來得出分值。我們可以根據(jù)這些差異來雙向發(fā)展。例如，根據(jù)黑盒模型發(fā)現(xiàn)的欺詐環(huán)來調(diào)整規(guī)則。

黑盒測試與SHAP結(jié)合，可以幫助我們理解該模型的全局行為，并揭示該模型用于檢測欺詐活動的主要特征。同時，也可以揭示該模型中的不良偏差。例如，某個模型可能會歧視特定的人口統(tǒng)計數(shù)據(jù)。它可以通過全局模型解釋來檢測此類情況，從而防止不準確預測的出現(xiàn)。

此外，它還可以幫助我們理解模型做出的單個預測。在ML模型調(diào)試的過程中，數(shù)據(jù)科學工作者可以獨立地觀察每個預測，并以此來解釋它。它的特征貢獻可以幫助我們察覺該模型正在做什么，我們可以從這些輸入中進行進一步的開發(fā)。通過利用SHAP，最終用戶不僅可以獲得模型的基本特征，還可以了解每個特征（在哪個方向）是如何影響模型輸出欺詐概率的。

置信系數(shù)

最后，在SHAP的幫助下，通過獲取對成功模式的信任，置信可以從客戶那里獲得。一般來說，如果我們理解一個產(chǎn)品是如何運行的，那么我們就會對它更加有信心。人們不喜歡自己不理解的東西。在解釋工具的幫助下，我們可以查看黑盒，更好地理解和信任它。并且，通過理解模型，我們還可以對它進行不斷的改進。

可解釋的增強器（EBM）是使用SHAP梯度增強ML模型的一個替代方案。這是InterpretML（微軟的AI公司）的旗艦產(chǎn)品，是一個所謂的玻璃盒子。玻璃盒子這個名字來源于這樣一個事實：由于它的結(jié)構(gòu)，它的本質(zhì)是可解釋的。根據(jù)原始文檔，“EBM通常與最先進的黑盒模型一樣準確，同時還保持完全的可解釋性。雖然EBM的訓練速度比其他現(xiàn)代算法慢，但它在預測時，卻非常的緊湊和快速。”局部可解釋的模型——模型不可知解釋（LIME）也是一個可以用來進行黑盒解釋的好工具。然而，它更受非結(jié)構(gòu)化數(shù)據(jù)模型的歡迎。 

通過利用上述工具以及透明的數(shù)據(jù)點，組織可以放心地做出決策。所有的利益相關者必須知道他們的工具是如何得出最佳結(jié)果的。了解黑盒ML以及與之相結(jié)合的各種技術(shù)可以幫助組織更好地了解它們是如何得出結(jié)果，從而幫助實現(xiàn)業(yè)務目標的。

點評

對于人來類說，未知的往往是可怕的，更是不可信任的。AI-ML驅(qū)動決策的算法模型正如一個“黑盒”，我們只能了解結(jié)構(gòu)，卻無法洞察其運行原理，更無法判斷其給出結(jié)果的可靠性。尤其是在防欺詐領域這種高風險環(huán)境中，AI及ML技術(shù)的應用變得更加困難。而可解釋性工具的引入，使得“黑盒”逐漸變得透明，很大程度上打消了用戶的懷疑與擔憂，同時也為“黑盒”本身的發(fā)展創(chuàng)造了條件。