金融穩定委員會報告指出金融領域採用AI之模型、資料品質與治理風險
金融穩定委員會(Financial Stability Board, FSB)於2024年11月14日發布《人工智慧對金融穩定的影響》報告，探討人工智慧（Artificial Intelligence, AI）在金融領域的應用進展及對全球金融穩定的影響，分析相關風險並提出建議。
報告指出AI具有提升效率、加強法規遵循、提供個人化金融產品及進階資料分析等益處，但同時可能加劇某些金融部門的脆弱性（Vulnerability），進而構成金融穩定風險。報告特別提出之脆弱性包括：「第三方依賴及服務供應商集中化」、「市場相關性」、「資安風險」，以及「模型風險、資料品質和治理」。
在模型風險、資料品質與治理中，廣泛應用AI可能導致模型風險上升，因某些模型難以驗證、監控及修正，且模型的複雜性與透明性不足將增加尋找具獨立性和專業知識的驗證者的挑戰。此外，在大型語言模型（Large Language Model, LLM），大規模非結構化資料的使用及訓練資料來源的不透明性，使資料品質評估更加困難。特別是在預訓練模型（Pre-trained Model）中，金融機構對眾多資料來源的評估方式不熟悉，進一步增加管理難度。
若金融機構未建立健全的治理架構以審查AI的使用及其資料來源，模型風險與資料品質問題將難以控制。金融機構有責任應對與AI相關的模型風險和資料品質挑戰，包含對模型進行驗證、持續監控、執行結果分析和評估資料品質的預期要求。
報告呼籲各國金融主管機關加強對AI發展的監測，評估現行金融政策框架是否充分，並增強監管能力。建議可定期或不定期調查AI應用情形，並透過報告及公開揭露制度獲取相關資訊。此外，主管機關可考慮利用監督科技（SupTech）及監管科技（RegTech）等AI驅動工具強化監管效能，以應對AI在金融領域帶來的挑戰與風險。
龔柏龍
副法律研究員 編譯整理
Financial Stability Board, The Financial Stability Implications of Artificial Intelligence (2024),https://www.fsb.org/uploads/P14112024.pdf (last visited Dec. 30, 2024).
日本經濟產業省於2020年7月13日發布「創新治理：實現Society5.0的法規與結構設計（GOVERNANCE INNOVATION: Society5.0の実現に向けた法とアーキテクチャのリ・デザイン）」報告書。其作成背景係依據日本在去（2019）年G20峰會時，基於大阪框架（大阪トラック、Osaka Track）下的「可資信任的資料自由流通機制（Data Free Flow with Trust（DFFT））願景，所提出的創新治理目標。該目標指出，過往的治理模式主要依靠法律規範，但明顯已追趕不及數位化與創新的快速步伐，致生新型態風險無法獲得有效控管、法律可能阻礙創新等問題，因而有必要革新治理模式，以掃除創新活動的障礙。基此，就上述創新治理模式的必要性與方式，日本召集國內外法律、經濟、科技、經濟等各界專家徵求意見進行討論，彙整後作成本報告書。 本報告書主張，應擺脫法規範的設計、法遵與執行，均由國家主導的傳統模式，建立提高企業參與規範擬定與實施程度的治理型態。具體主要包含以下作法： （1）法規範制定層面：規範之制定方向，改以作成價值決定的目的導向為主。至於細節性的行為義務，包含企業如何在數位化的虛擬場域內，透過程式語言等途徑落實上述法目的，則應由該些企業、以及在虛擬場域活動的社群或個人等利害關係人共同參與擬定相關的指引或標準。 （2）法遵層面：如上（1）所述，未來法規範制定將轉為形塑價值與目的為主，不會明確訂定企業的行為義務，而交由企業來擬訂。企業所制定之行為規範能否達成法規範目的，則須仰賴企業主動揭露其法遵方法，供外界檢視。因此，除企業應採用創新手法達成法目的、並對內落實法遵事項的說明外，應運用各種內外部查核機制來控管風險。同時，應著手研發相關技術或措施，讓利害關係人得取用企業之即時資料，以隨時確認企業所採取方法有無達成法遵，實現有效監督。 （3）執法層面：政府應以企業之行為對社會產生影響的程度，作為執法標準。若遭遇AI參與決策而衍生的事故，不應歸責於個人，而應建立獎勵機制，鼓勵企業積極協助究明事故原因。另一方面，亦應推動訴訟與訴訟外紛爭解決機制的線上化（Online Dispute Resolution, ODR），例如共享經濟平台服務的認證機制與標準、就電商平台上發生的小額消費糾紛由平台透過公告罰則等方式抑止與處理糾紛。
加拿大交通部提出加拿大自駕系統安全評估文件加拿大交通部（Department of Transport Canada）於2019年1月發布「加拿大自駕系統安全評估（Safety Assessment for Automated Driving Systems in Canada）」文件，該文件將協助加拿大企業評估其發展高級（SAE第三級至第五級）自駕層級車輛之安全性，並可與美國相關政策進行整合。該文件指出，因相關技術尚在發展之中，不適合使用強制性規範進行管制，因此將利用引導性之政策措施來協助相關駕駛系統安全發展。加拿大交通部於文件中指出可用於評估目前自駕車輛研發成果之13種面向，並將其分類為三個領域： 自駕技術能力、設計與驗證：包含檢視車輛設計應屬何種自駕層級與使用目的、操作設計適用範圍、物件及事件偵測與反應、國際標準、測試與驗證等。 以使用者為核心之安全性：包含安全系統、人車界面與控制權的可取得性、駕駛/使用人能力與意識教育、撞擊或系統失靈時的運作等。 網路安全與資料管理：包含管理網路安全風險策略、售後車輛安全功能運作與更新、隱私與個資保障、車輛與政府分享之資訊等。 加拿大交通部鼓勵企業利用該文件提出安全評估報告並向公眾公開以增進消費者意識，另一方面，該安全評估報告內容也可協助加拿大政府發展相關安全政策與規範。
美國加密法案隨潮流再起緣起於2016年的加密法案（ENCRYPT Act），由於今年發生了臉書劍橋分析事件，以及歐盟GDPR的影響，本此法案再提的聲勢如浪潮襲來，不僅眾多議員附和，連企業（如：電子前線基金會Electronic Frontier Foundation，EFF）都予以支持。 加密法案的主要內容係以兩方面進行加密應用之保護， 各州州政府不得授權或要求產品或服務的製造商、開發商、銷售商或供應商，（A）設計或更改產品或服務中的安全功能，以供其進行監視或允許其進行實體搜索；（B）使其有能力解密或便於理解加密應用後的內容。 各州州政府不得禁止加密或類似安全功能的產品或服務，進行製造、銷售或租賃、提供銷售或租賃, 或向公眾提供覆蓋的產品或服務。此外，法案亦針對相關服務或產品的定義作了明確的說明。 本法案的主要提案者美國眾議員Ted Lieu指出，與加密或資料存取相關的問題，皆應在聯邦政府的層級進行討論，而就其本身電腦科學的專業，指出在各州間保有不同的加密應用執法標準，對資安、消費者、創新，以及執法本身都是不利的，引此本法案的推動旨在強化州際商業和經濟安全，以及網路安全問題，希望能對加密應用議題作全國性的討論，而不會損害使用者在過程中的安全性。