金融穩定委員會報告指出金融領域採用AI之模型、資料品質與治理風險
金融穩定委員會(Financial Stability Board, FSB)於2024年11月14日發布《人工智慧對金融穩定的影響》報告，探討人工智慧（Artificial Intelligence, AI）在金融領域的應用進展及對全球金融穩定的影響，分析相關風險並提出建議。
報告指出AI具有提升效率、加強法規遵循、提供個人化金融產品及進階資料分析等益處，但同時可能加劇某些金融部門的脆弱性（Vulnerability），進而構成金融穩定風險。報告特別提出之脆弱性包括：「第三方依賴及服務供應商集中化」、「市場相關性」、「資安風險」，以及「模型風險、資料品質和治理」。
在模型風險、資料品質與治理中，廣泛應用AI可能導致模型風險上升，因某些模型難以驗證、監控及修正，且模型的複雜性與透明性不足將增加尋找具獨立性和專業知識的驗證者的挑戰。此外，在大型語言模型（Large Language Model, LLM），大規模非結構化資料的使用及訓練資料來源的不透明性，使資料品質評估更加困難。特別是在預訓練模型（Pre-trained Model）中，金融機構對眾多資料來源的評估方式不熟悉，進一步增加管理難度。
若金融機構未建立健全的治理架構以審查AI的使用及其資料來源，模型風險與資料品質問題將難以控制。金融機構有責任應對與AI相關的模型風險和資料品質挑戰，包含對模型進行驗證、持續監控、執行結果分析和評估資料品質的預期要求。
報告呼籲各國金融主管機關加強對AI發展的監測，評估現行金融政策框架是否充分，並增強監管能力。建議可定期或不定期調查AI應用情形，並透過報告及公開揭露制度獲取相關資訊。此外，主管機關可考慮利用監督科技（SupTech）及監管科技（RegTech）等AI驅動工具強化監管效能，以應對AI在金融領域帶來的挑戰與風險。
龔柏龍
副法律研究員 編譯整理
Financial Stability Board, The Financial Stability Implications of Artificial Intelligence (2024),https://www.fsb.org/uploads/P14112024.pdf (last visited Dec. 30, 2024).
「合成資料」（synthetic data）的出現，是為了保護原始資料所可能帶有的隱私資料或機敏資料，或是因法規或現實之限制而無法取得或利用研究所需資料的情況下，透過統計學方法、深度學習、或自然語言處理等方式，讓電腦以「模擬」方式生成研究所需之「合成資料」並進行後續研究跟利用，透過這個方法，資料科學家可以在無侵犯隱私的疑慮下，使合成資料所訓練出來的分類模型（classifiers）不會比原始資料所訓練出來的分類模型差。 在合成資料的生成技術當中，最熱門的研究為運用「生成對抗網路」（Generative Adversarial Network, GAN）形成合成資料（亦有其他生成合成資料之方法），生成對抗網路透過兩組類神經網路「生成網路」（generator）與辨識網路（discriminator）對於不同真偽目標值之反覆交錯訓練之結果，使其中一組類神經網路可生成與原始資料極度近似但又不完全一樣之資料，也就是具高度複雜性與擬真性而可供研究運用之「合成資料」。 英國國防科技實驗室（Defense Science and Technology Laboratory, DSTL）於2020年8月12日發布「合成資料」技術報告，此技術報告為DSTL委託英國航太系統公司（BAE Systems）的應用智慧實驗室（Applied Intelligence Labs, AI Labs）執行「後勤科技調查」（Logistics Technology Investigations, LTI）計畫下「資料科學與分析」主題的工作項目之一，探討在隱私考量下（privacy-preserving）「合成資料」當今技術發展情形，並提供評估技術之標準與方法。 技術報告中指出，資料的種類多元且面向廣泛，包含數字、分類資訊、文字與地理空間資訊等，針對不同資料種類所適用之生成技術均有所不同，也因此對於以監督式學習、非監督式學習或是統計學方法生成之「合成資料」需要採取不同的質化或量化方式進行技術評估；報告指出，目前尚未有一種可通用不同種類資料的合成資料生成技術或技術評估方法，建議應配合研究資料種類選取合適的生成技術與評估方法。
從國外案例談軟體漏洞資訊公布與著作權防盜拷措施 以『江蘇科技改革30條』解析中國大陸科研經費改革制度中國大陸近年致力發展其國內技術研究產業，但在基礎研究經費申請制度上，長期存在一些結構問題，如在科研資助、實施和成果傳播三個階段。故自2017年起，中國大陸陸續修正關於科研經費制度，以使科技研究人員得以順利進行科研項目。截至目前，依中國大陸國發〔2018〕25號文為基準，江蘇省推出《關於深化科技體制機制改革推動高品質發展若干政策》(下簡稱『江蘇科技改革30條』)，並出台完整的實用手冊 。 此次江蘇科技改革30條，明確落實中央對科研經費鬆綁及對科研結果獎勵與容錯的改革措施。在科研經費可直接列支項目的直接預算，如設備費、材料費等，從原本九個項目改合併為五個項目，科目經費支出將不再受比例限制；另在無法直接羅列預算項目的間接預算上，如績效支出等費用則精簡列支項目，提高間接費用核定比例。在科研結果獎勵與容錯改革上，建立原創成果獎勵機制、創新補償機制、援助機制及免責機制。 中國大陸科研經費長期採用嚴格預算制，直接預算需按照法律規範羅列，然間接預算部分常使研究人員因不知如何羅列，而導致研究經費中斷或減少。對於較易失敗的基礎研究上，研究人員則擔心在階段性考核中因錯誤致使研發經費無法取得，進而將錯就錯，謊報研究成果。此次江蘇科技改革30條修正，解決了上述科研經費制度的部分問題，並具體規範了實務上的操作。然各部會間如何解決關於監管經費結餘規範之法律衝突，及科研成果容錯機制之評價，仍待後續觀察。
美國產業安全局發布2024年版出口管制案例彙編，協助產學界識別違法行為美國商務部產業安全局（Bureau of Industry and Security，下稱BIS）於2024年7月1日發布出口管制刑事與行政執法案例彙編—《別讓這些事情發生在你身上！》（Don’t Let This Happen to You）。彙編內容除介紹BIS各單位的工作目標與組織架構外，也概述主管機關的裁罰手段，包括刑事及行政裁罰、避免行為人即將發生或繼續違法出口、再出口或國內移轉所採取之限制措施（Denial of Export Privileges）、列管制清單、沒收資產等；亦提供人民救濟管道，如提早通報違法行為的自願自主揭露（Voluntary Self-Disclosures）規定等；更收錄新的執法案例。 該彙編以中國、俄羅斯、伊朗及其他地區之出口目的地為主軸，就管制理由涉及國家安全、軍事、大規模毀滅性武器等理由，分別介紹重點違法案例。提供產、學界識別違法行為時之參考。 對於2024年結案的重點案例，重點摘要如下： 1.愛沙尼亞T公司違反美國出口管制規定，非法將「座標磨床」（jig grinder）輸往俄羅斯，分別遭罰34萬美金及48萬美金。 2.英國籍F氏意圖自美國違法輸出工業微波系統（industrial microwave system）及反無人機系統（counter-drone system）至伊朗，遭判18個月有期徒刑。 3.印第安納大學（Indiana University）的布魯明頓果蠅庫存中心（Bloomington Drosophila Stock Center）向多個國家的研究機構及大學出口含有蓖麻毒素A 亞基轉基因（transgenes of the A subunit of the ricin toxin）的轉基因果蠅，而未申請出口許可，遭停止出口，並須對行政人員進行出口管制教育訓練。