金融穩定委員會報告指出金融領域採用AI之模型、資料品質與治理風險
金融穩定委員會(Financial Stability Board, FSB)於2024年11月14日發布《人工智慧對金融穩定的影響》報告，探討人工智慧（Artificial Intelligence, AI）在金融領域的應用進展及對全球金融穩定的影響，分析相關風險並提出建議。
報告指出AI具有提升效率、加強法規遵循、提供個人化金融產品及進階資料分析等益處，但同時可能加劇某些金融部門的脆弱性（Vulnerability），進而構成金融穩定風險。報告特別提出之脆弱性包括：「第三方依賴及服務供應商集中化」、「市場相關性」、「資安風險」，以及「模型風險、資料品質和治理」。
在模型風險、資料品質與治理中，廣泛應用AI可能導致模型風險上升，因某些模型難以驗證、監控及修正，且模型的複雜性與透明性不足將增加尋找具獨立性和專業知識的驗證者的挑戰。此外，在大型語言模型（Large Language Model, LLM），大規模非結構化資料的使用及訓練資料來源的不透明性，使資料品質評估更加困難。特別是在預訓練模型（Pre-trained Model）中，金融機構對眾多資料來源的評估方式不熟悉，進一步增加管理難度。
若金融機構未建立健全的治理架構以審查AI的使用及其資料來源，模型風險與資料品質問題將難以控制。金融機構有責任應對與AI相關的模型風險和資料品質挑戰，包含對模型進行驗證、持續監控、執行結果分析和評估資料品質的預期要求。
報告呼籲各國金融主管機關加強對AI發展的監測，評估現行金融政策框架是否充分，並增強監管能力。建議可定期或不定期調查AI應用情形，並透過報告及公開揭露制度獲取相關資訊。此外，主管機關可考慮利用監督科技（SupTech）及監管科技（RegTech）等AI驅動工具強化監管效能，以應對AI在金融領域帶來的挑戰與風險。
龔柏龍
副法律研究員 編譯整理
Financial Stability Board, The Financial Stability Implications of Artificial Intelligence (2024),https://www.fsb.org/uploads/P14112024.pdf (last visited Dec. 30, 2024).
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
日本總務省公布「2010次世代寬頻整備策略」日本總務省遵照其「u化日本政策報告」（2004年12月公布）以及IT策略本部「IT新改革策略」（今年1月公布）之規劃方向，8月11日正式對外公布「2010次世代寬頻整備策略」，以2010年該國寬頻覆蓋率超過百分之九十，作為寬頻基礎建設整備之政策目標。 詳言之，依照前開策略之記載，一則希望2008年底該國所有市町村均得接取寬頻，以求消弭目前尚有部分地區根本無從接取寬頻之區域落差現象，再則預計2010年底，全國能有超過百分之九十的家庭得以接取上傳下載雙向速度均超過30Mbps之超高速寬頻。於此過程，固然原則上係由民間主導相關整備活動之進行，惟官方亦應本諸技術中立之立場，施行適切之競爭政策，規劃吸引業者投資之誘因；其中，位處偏遠、投資效益可能偏低之地區，宜藉由中央、地方、居民、業者等各界相互交流合作，並配合技術層面之進展，妥善進行。另外，宣導整備成果、開發創新應用、維繫安全環境等，均屬重要，亦應於前開寬頻整備過程一併積極推動，以利後效。
歐盟「第五洗錢防制指令」將新科技於金融體系的應用納入管制歐盟於2018年4月19日宣布通過「第五洗錢防制指令」(the Fifth Anti-Money Laundering Directive)，並於同年6月19日公布確定案文，其要求歐盟成員國必須於18個月內將該命令納入國內法律中。 歐盟在本次指令中，特別針對恐怖主義組織財政和運作方式揭示出所觀察的新趨勢，其指出某些作為替代金融體系的新技術服務越來越受歡迎，但卻不受法令所拘束，或是被豁免於相關法律適用外等不合理情事，因此「第五洗錢防制指令」為了跟上不斷進步的科技環境，乃要求法人、其他法律實體(legal entities)、信託及具有與信託類似結構或功能的法律協議(類似的法律協議) 應採取進一步措施，以確保提高金融交易的透明度，並藉此改進現有的預防框架，達到更有效地打擊資助恐怖主義行為的目的；另外歐盟亦於該指令中提醒所有採取的措施應和洗錢風險成比例。 有關「第五洗錢防制指令」主要新增及修正包含： 迎接新技術：託管錢包供應商(custodian wallet providers)和虛擬貨幣交換平臺將被視為新的義務主體而納入於洗錢防制法的範圍。另外「第五洗錢防制指令」還允許使用電子身分證明進行客戶盡職調查。 改進執法：各成員國須建立自身國家的銀行帳戶登記系統，以便執法當局能夠方便地查閱在該成員國內的所有銀行帳戶資訊。另外該登記系統須與其他成員國互相連線，並且即便在沒有提交可疑活動報告的情況下，執法當局也可以要求義務主體提供資料。 明確定義"重要政治性職務人士"：各成員國都必須發佈一份清單，列出哪些屬於 "重要的公共職能"。 針對高風險第三國為更嚴格的管制：「第五洗錢防制指令」要求涉及高風險第三國的商業關係或交易須採取強化盡職調查措施,，並允許成員國限制義務主體在高風險第三國設立分支機搆或子公司，亦禁止總部設在高風險第三國的義務主體於成員國設立分支機搆。 提高公司實質受益權的透明度：各成員國的公司實質受益權登記將放寬查詢限制，公眾無須提出任何合法權益證明即可查閱基本資訊。另外還要求企業(登記義務主體)必須針對持有資訊與在登記系統上資訊的差異提出報告。 信託的實質受益權：「第五洗錢防制指令」擴大實質受益權申報義務主體範圍，要求任何類似信託的法律安排及租稅中立性的信託均須申報；另外還擴大該實質受益權申報的查閱至任何能提出具有合法利益的人，但其並未對合法利益提出定義，而是讓各成員國自行訂定。然而「第五洗錢防制指令」指出，該合法利益的定義不應侷限在行政或法律訴訟未決的案件，而是應針對洗錢防制及反資助恐怖組織領域的預防工作為考量。 禁止匿名保險箱。 調整預付工具(prepaid instruments)需進行盡職調查的門檻(如禮品卡、旅遊卡)：價值要求從250歐元降低到150歐元。
美國國會《促進美國5G國際領導力法案》美國眾議院於2020年1月8日通過《促進美國5G國際領導力法案（Promoting United States International Leadership in 5G Act）》，指示美國國務卿未來應強化美國5G關鍵基礎設施，並在國際標準組織中爭取5G標準制定的領導地位。該法案象徵美國積極對抗中國大陸在5G網路、網際網路設備及雲端設施的控制，以維護國家安全及5G產業競爭力。目前法案還需由美國參議院通過，並經總統簽署後生效。 法案指出，國際標準制定組織（例如國際電信聯盟，第三代合作夥伴計劃3GPP和5G基礎設施協會、5GPPP公私聯盟協會）採用的標準，對於全球經濟及確保網路技術的全球連接至關重要。5G技術標準能帶來更高的智財權收入及技術出口，對未來全球無線通訊技術及標準制定產生強大影響力。中國大陸政府近來鼓勵民間企業在國際5G標準組織中發揮更大作用，企業積極參與並主導5G國際標準制定，試圖重組全球市場並主導經濟戰略性產業。中國大陸官員在國際標準制定組織中，亦擔任更多主導角色，包括建立夥伴關係、分配全球無線電頻率及衛星軌道，建立資通訊技術的國際技術標準等。中國大陸透過「中國製造2025」及「互聯網+」計畫，企圖在國際標準制定組織中稱霸，為中國大陸企業創造5G技術的不公平競爭優勢。 又為加強美國在5G國際標準制定組織中的領導地位，本法案具體列出美國未來5G技術標準與資通訊安全的三項目標：（1）美國與盟國及合作夥伴，應在第五代及下世代行動通訊系統和基礎設施的國際標準制定組織中，保持參與及主導地位。（2）美國應與盟國及夥伴合作，鼓勵並促進第五代及下世代行動通訊系統及基礎設施，發展安全的供應鏈網路。（3）維持美國與盟國及合作夥伴間電信及網路安全標準，維護美國國家戰略和安全利益。