 看更多2026年月旦釋讀 | |
發佈日期：2026/08/13 |
|
人工智慧歧視與可解釋人工智慧──以人工智慧金融信貸為例
【摘要】
人工智慧歧視議題向來為人工智慧法制研究中受到高度關注的議題，我國甫通過的人工智慧基本法與金融監督管理委員會頒布的金融業運用人工智慧指引亦規定有公平性與不歧視的原則，但人工智慧決策黑盒子的特性，向來被認為係人工智慧開發者與使用者控管人工智慧歧視的阻礙。
本文嘗試由分析人工智慧歧視問題的根源出發，檢視既有文獻提出的人工智慧歧視解決方案，進而聚焦討論如何應用可解釋人工智慧技術以增加人工智慧的可解釋性，進而提出以可解釋人工智慧為基礎的人工智慧歧視解決方案，並分析推動相關解決方案可能涉及的法律配套措施。 【目次】
壹、前言
貳、人工智慧歧視與現行法制問題 參、人工智慧歧視的問題根源與解決方案 肆、人工智慧歧視與可解釋人工智慧解決方案 伍、可解釋人工智慧解決方案的法律配套措施 陸、結論 【關鍵詞】
【本文試讀】
壹、前言
在諸多人工智慧監理議題當中，人工智慧歧視由於涉及社會以及經濟平等，因此受到相當重視。類似的歧視疑慮，在人工智慧應用於金融領域特別是信貸服務時，也受到金融監理高度重視，例如美國即曾先後發生大都會人壽(MetLife)1與蘋果信用卡(Apple Card)等涉及演算法歧視的信貸爭議案件，因此包括國際金融標準制訂組織以及我國金融監督管理委員會（下稱「金管會」）對於人工智慧應用於金融服務時可能涉及的歧視議題，均投以相當的關注。
人工智慧歧視的問題來源之一，與人工智慧特殊的自主性特徵亦即決策黑盒子有關。為因應人工智慧決策黑盒子的不透明與不可解釋特性，有研究認為必須透過一定程度的人力介入要求，以降低人工智慧歧視的風險。但近年隨著可解釋人工智慧(Explainable AI, XAI)的興起與擴大應用，人工智慧歧視問題似有機會透過與可解釋人工智慧的搭配──例如實務上常應用的SHAP (SHapley Additive explanations)、LIME (Local Interpretable Model-agnostic Explanations)或反事實解釋(counterfactual explanation)──而獲得控制或緩解。 本文嘗試以人工智慧金融信貸歧視為例，分析人工智慧歧視的具體根源，並分析可解釋人工智慧可如何用以緩解人工智慧歧視問題。本文架構如下：第貳部分回顧人工智慧歧視相關規範，並著重於介紹金管會於2024年提出的金融業運用人工智慧指引（下稱「金融AI指引」）中的相關規定；第參部分分析人工智慧歧視的問題根源以及研究文獻已提出的解決方案；第肆部分分析可解釋人工智慧的內涵與功能，以及其可如何應用以管理人工智慧歧視風險；第伍部分再針對應用可解釋人工智慧管理人工智慧風險時所需的法制配套措施，提出本文的分析；第陸部分為本文的結論。隨著可解釋人工智慧的廣泛應用，人工智慧歧視的疑慮或可從「是否」可控管進展至「如何」設計制度以控管，期待透過本文的拋磚引玉，啟發更多關於可解釋人工智慧具體應用的制度討論。 須強調者為，人工智慧歧視的面向又可大別為傳統歧視與新型態歧視。傳統歧視著重於人工智慧應用可能對既有反歧視法規明定的受保護特定群體產生的歧視，例如種族、性別等；至於新型態歧視則進一步關注既有法制並未明定、但人工智慧長此發展可能對若干特定群體造成的系統性逐出效果。本文礙於篇幅與智識限制，將僅針對傳統歧視問題進行討論，合先敘明。 貳、人工智慧歧視與現行法制問題
本部分將回顧既有人工智慧法制中與人工智慧歧視議題相關的內容，並著重介紹我國金管會金融AI指引的具體內容。
一、一般人工智慧法制 國際與國內已關注人工智慧法制議題相當時日。就國際層面而言，經濟合作暨發展組織(Organisation for Economic Co-operation and Development, OECD)於2019年通過的OECD人工智慧原則中，即有將人工智慧公平性列入其五大原則中的人權與民主價值原則中，強調人工智慧運用者應於人工智慧系統的所有週期均尊重法治、人權、民主及以人為本的價值，包括不歧視、平等、公平性等面向，為此人工智慧運用者應採取相關機制與防護措施，例如保留人力代理與監督的空間。 我國於2026年1月公告的人工智慧基本法中，對於人工智慧歧視議題亦有著墨。其第4條第6款即規範人工智慧研發與應用過程中之公平與不歧視原則，亦即「人工智慧研發與應用過程中，應盡可能避免演算法產生偏差及歧視等風險，不應對特定群體造成歧視之結果」。 二、金融監理與金融業運用人工智慧指引的規範內容 於金融監理領域，若干國際金融監理標準制定組織(standard-setting bodies, SSBs)亦高度關注人工智慧金融歧視的問題。例如OECD於其2021年的研究報告中，即曾提及人工智慧、機器學習及大數據技術應用於金融服務時，可能帶來偏見與歧視的問題；又例如我國作為會員的國際證券管理機構組織(International Organization of Securities Commissions, IOSCO)亦曾於其2021年最終報告中，指出人工智慧與機器學習應用於金融服務時可能有資料品質與偏見疑慮，受到上述標準制定組織的影響，我國金管會於2024年頒布的金融AI指引，對於金融業如何管理人工智慧金融歧視風險，有更進一步的說明。該指引的核心原則二即強調金融機構應重視公平性，亦即金融機構在使用人工智慧系統之過程中，應儘可能避免演算法之偏見所造成的不公平。換言之，金融機構運用人工智慧系統產生之決策，不應對特定群體造成歧視之結果。 該指引並進一步深化「公平性」的概念，指出此係指決策需有合理性，以及準確性及儘可能避免歧視。針對「合理性」，該指引指出此係指金融機構如利用個人屬性作為人工智慧模型決策之因素之一，應有合理理由；如無合理理由，運用人工智慧系統所產生之決策則不應對特定群體有系統性之不利差別待遇（例如不得以特定宗教、種族、性別、身心障礙、性傾向、居住所、政治傾向、年齡、國籍或族群等因素，對借款人提供不合理的貸款條件）。 至於「準確性及儘可能避免歧視」，該指引則指出金融機構宜定期審查及驗證人工智慧決策模型與數據，以提升準確性及達到儘可能避免歧視的目標，另亦宜定期審查模型產生出來之決策結果，以確保模型演算後之結果符合設計之目的。 針對如何具體落實公平性，該指引並根據人工智慧系統的不同生命週期提出建議。整體而言，金融機構宜在人工智慧系統生命週期各階段注意下列事項，並評估公平性風險程度，以風險為基礎採行適當措施： 1.確立目的及辨識可能受不利影響群體：金融機構宜確認其規劃人工智慧系統之目的，並辨識運用人工智慧系統時可能受到系統性不利差別待遇之群體及可能之受影響程度，並留下書面或數位紀錄。 2.邀請專業人員參與：金融機構於必要時可邀請專業人員參與人工智慧系統的設計與執行過程。透過他們專業建議與指導，使人工智慧系統之設計與執行不歧視任何個人或群體。 3.提供救濟選項：金融機構宜在人工智慧系統加入或提供受不利影響群體可反饋意見之救濟選項，蒐集該等群體之意見或建議，以利金融機構作為後續校調之參考。 1.金融機構宜檢視擬蒐集之數據資料、其蒐集之方式及數據資料之來源，是否有可能會產生偏見，並注意這些偏見是否造成不公平或歧視。 2.金融機構宜盡量使用多元、包含各種背景與特徵且具代表性之數據資料，而非僅依賴單一類別或群體之數據，以減少對某些群體的偏見與歧視。 3.使用個人屬性（例如年齡、性別、居住所、族群、宗教、國籍等）時宜謹慎： (1)在決定蒐集或採用某個人屬性前，宜辨識該屬性之採用是否符合人工智慧系統規劃之目的。 (2)如某個人屬性之採用可能產生受不利影響群體，宜評估採用該屬性之必要性及採用替代屬性或替代作法之可能性，並將評估結果、採行之作法及理由以書面化或數位方式留存。 1.自行檢驗模型對不同群體之產出結果：金融機構如係自行或委託研發人工智慧系統，可透過測試與驗證人工智慧模型對不同群體的預測及決策，來確認其運作是公平與無偏頗的。如果發現有偏頗存在，金融機構應評估採取相應的調整與改進措施，以儘可能避免不公平或歧視。 2.提請獨立且適格之外部專業人員審查驗證：如有需要，金融機構可將人工智慧系統之產出結果提交給獨立且適格之外部專業人員進行審查及驗證，以確認人工智慧系統之決策符合合理性、準確性及儘可能避免歧視，並作出必要之修正或改善。金融機構亦宜進行盡職調查，防止可能之利益衝突。 3.留下書面或數位紀錄：為利驗證人工智慧模型符合公平性，金融機構宜將人工智慧模型設計之目的、運算邏輯等及決策程序等，以簡單易懂方式留下書面或數位紀錄，使相關利害關係人能夠了解模型之運作原理與決策方式，以利判斷人工智慧系統對各種群體之公平性，並能追溯與解釋相關結果。 1.金融機構宜定期檢視與分析人工智慧系統產出之結果是否存在歧視，並透過救濟選項蒐集之資訊，以確定人工智慧模型對不同群體是否存在不平等對待之情況。如果發現歧視問題，應及時進行調整改進。 2.金融機構宜辨識運用人工智慧系統與受系統性不利差別待遇之特定群體間是否具有關聯性，如是，金融機構宜採行降低該特定群體受影響之方式。 金管會上述指引內容雖屬行政指導性質，不具有拘束力，但其內容基本已為主要金融業同業公會納入其自律規範中。包括中華民國銀行商業同業公會全國聯合會、中華民國人壽保險商業同業公會與中華民國產物保險商業同業公會、中華民國證券商業同業公會、中華民國期貨業商業同業公會、中華民國證券投資信託暨顧問商業同業公會等，均已參考金管會金融AI指引，訂有原則性的人工智慧金融反歧視規範。 三、小結 整體而言，人工智慧法制不論國際或國內，均將人工智慧歧視議題列為其重點議題。特別是我國，雖然人工智慧基本法仍在草案階段，但金管會金融AI指引對人工智慧歧視議題已有相當著墨，不只對「公平性」的概念進一步提出「合理性」及「準確性及儘可能避免歧視」的下位要素，也嘗試以例示方式具體化受保護特定群體，甚至針對人工智慧不同開發階段提出金融機構應以風險為基礎採行的適當措施。上述指引就具體化人工智慧歧視的具體概念與因應措施而言，已有一定進展。...（本文未完） 延伸閱讀
相關書籍 more
實務講座 more
|
|
| 看更多2026年月旦釋讀 | |
