金融穩定委員會報告指出金融領域採用AI之模型、資料品質與治理風險
金融穩定委員會(Financial Stability Board, FSB)於2024年11月14日發布《人工智慧對金融穩定的影響》報告，探討人工智慧（Artificial Intelligence, AI）在金融領域的應用進展及對全球金融穩定的影響，分析相關風險並提出建議。
報告指出AI具有提升效率、加強法規遵循、提供個人化金融產品及進階資料分析等益處，但同時可能加劇某些金融部門的脆弱性（Vulnerability），進而構成金融穩定風險。報告特別提出之脆弱性包括：「第三方依賴及服務供應商集中化」、「市場相關性」、「資安風險」，以及「模型風險、資料品質和治理」。
在模型風險、資料品質與治理中，廣泛應用AI可能導致模型風險上升，因某些模型難以驗證、監控及修正，且模型的複雜性與透明性不足將增加尋找具獨立性和專業知識的驗證者的挑戰。此外，在大型語言模型（Large Language Model, LLM），大規模非結構化資料的使用及訓練資料來源的不透明性，使資料品質評估更加困難。特別是在預訓練模型（Pre-trained Model）中，金融機構對眾多資料來源的評估方式不熟悉，進一步增加管理難度。
若金融機構未建立健全的治理架構以審查AI的使用及其資料來源，模型風險與資料品質問題將難以控制。金融機構有責任應對與AI相關的模型風險和資料品質挑戰，包含對模型進行驗證、持續監控、執行結果分析和評估資料品質的預期要求。
報告呼籲各國金融主管機關加強對AI發展的監測，評估現行金融政策框架是否充分，並增強監管能力。建議可定期或不定期調查AI應用情形，並透過報告及公開揭露制度獲取相關資訊。此外，主管機關可考慮利用監督科技（SupTech）及監管科技（RegTech）等AI驅動工具強化監管效能，以應對AI在金融領域帶來的挑戰與風險。
龔柏龍
副法律研究員 編譯整理
Financial Stability Board, The Financial Stability Implications of Artificial Intelligence (2024),https://www.fsb.org/uploads/P14112024.pdf (last visited Dec. 30, 2024).
歐洲議會通過《人工智慧法案》 朝向全球首部人工智慧監管標準邁進下一步 資訊工業策進會科技法律研究所 2023年06月26日 觀察今年的科技盛事屬ChatGPT討論度最高，將人們從區塊鏈、元宇宙中，帶入人工智慧（AI）領域的新發展。ChatGPT於2022年11月由OpenAI開發的生成式人工智慧，透過深度學習模型，理解和生成自然語言，其功能包含回答各類型問題（如科學、歷史）、生成邏輯結構之文章（如翻譯、新聞標題）、圖形、影像等內容。然而對於人工智慧的發展，究竟如何去處理人機間互動關係，對於風險之管理及相關應用之規範又該如何，或許可從歐盟的法制發展看出端倪。 壹、事件摘要 面對人工智慧的發展及應用，歐盟執委會（European Commission）早在2018年6月成立人工智慧高級專家組（AI HLEG），並於隔年（2019）4月提出「可信賴的人工智慧倫理準則」（Ethics Guidelines for Trustworthy AI），要求人工智慧需遵守人類自主、傷害預防、公平、透明公開等倫理原則。於2021年4月21日歐盟執委會提出「人工智慧法律調和規則草案」（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts）（以下稱人工智慧法案），於2023年內部市場委員會（Internal Market Committee）與公民自由委員會（Civil Liberties Committee）通過並交由歐洲議會審議（European Parliament），最終《人工智慧法案》於2023年6月14日通過。後續將再歐盟理事會（Council of the European Union）與辯論協商，尋求具共識的最終文本[1]。 貳、重點說明 由於「歐盟議會通過」不等於「法案通過」，實際上歐盟立法機制不同於我國，以下透過法案內容說明的契機，概述一般情況下歐盟之立法流程： 一、歐盟立法過程 通常情況下，法案由歐盟執委會（下簡稱執委會）提出，送交歐盟理事會及歐洲議會，作為歐盟的「立法者」歐洲理事會（下簡稱理事會）與歐洲議會（下簡稱議會）將針對法案獨立討論並取得各自機關內之共識。大致上立法程序有可分為三階段，在一讀階段若理事會與議會對於執委會版本無修改且通過，則法案通過，若任一機關修改，則會進行到二讀階段。針對法案二讀若仍無法取得共識，則可召開調解委員會（Conciliation）協商，取得共識後進入三讀。簡單來說，法案是否能通過，取決於理事會與議會是否取得共識，並於各自機關內表決通過[2]。 目前《人工智慧法案》仍處於一讀階段，由於法案具備爭議性且人工智慧發展所因應而生之爭議迫在眉睫，議會通過後將與執委會、理事會進入「三方會談」（Trilogue）的非正式會議，期望針對法案內容取得共識。 二、人工智慧法案 （一）規範客體 《人工智慧法案》依風險及危害性程度分級，其中「不可接受風險」因抵觸歐盟基本價值原則禁止（符合公益目標，如重大或特定犯罪調查、防止人身安全遭受危害等例外許可）。「高風險」則為法案規範之重點，除針對系統技術穩健、資料處理及保存訂有規範外，針對人為介入、安全性等也訂定標準。 而針對高風險之範疇，此次議會決議即擴大其適用範圍，將涉及兒童認知、情緒等教育及深度偽造技術（Deepfake）納入高風險系統，並強調應遵循歐盟個人資料保護規範。此外對於社會具有高影響力之系統或社群平臺（法案以4500萬用戶做為判斷基準），由執委會評估是否列為高風險系統。針對目前討論度高的生成式人工智慧（ChatGPT），議會針對法案增訂其系統於訓練及應用目的上，應揭露其為生成式人工智慧所產出之內容或結果，並摘要說明所涉及之智慧財產權[3]。 （二）禁止項目 關於《人工智慧法案》對於高風險系統之要求，從執委會及理事會的觀點來看，原則上重點在於對弱勢的保護及生物資料辨識之權限。歐盟禁止人工智慧系統影響身理及心理，包含對於特定族群如孩童、身心障礙者等弱勢族群之不平等待遇。同時原則禁止即時遠端的生物辨識利用，包含對於人性分析、動作預測等對於人類評價、分類之應用，例外情況如犯罪調查、協尋失蹤兒童、預防恐怖攻擊、關鍵基礎設施破壞等情況時方被允許。此次議會決議提高禁止即時遠端生物辨識的標準，包含納入敏感資訊的蒐集如性別、種族、政治傾向等，及其他臉部辨識、執法、邊境管制、情緒辨識等項目[4]。 參、事件評析 有關《人工智慧法案》雖歐洲議會已一讀通過，然而後續仍要面對與歐盟理事會的協商討論，並取得共識才能規範整個歐盟市場。因此上述規範仍有變數，但仍可推敲出歐盟對於人工智慧（含生成式）的應用規範態度。在面對日新月異的新興科技發展，其立法管制措施也將隨著橫向發展，納入更多種面向並預測其走向趨勢。因人工智慧有應用多元無法一概而論及管制阻礙創新等疑慮，觀察目前國際上仍以政策或指引等文件，宣示人工智慧應用倫理原則或其風險之管理，偏重產業推動與自律。 觀察歐盟《人工智慧法案》之監管目的，似期望透過其市場規模影響國際間對於人工智慧的監管標準。倘若法案後續順利完成協商並取得共識通過，對於如OpenAI等大型人工系統開發商或社群平臺等，若經執委會評估認定為高風險系統，勢必對於未來開發、應用帶來一定衝擊。因此，歐盟對於人工智慧監管的態度及措施實則牽一髮而動全身，仍有持續觀察之必要。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]The AI Act, Future of Life Institute, https://artificialintelligenceact.eu/developments/ (last visited Jun. 20, 2023) [2]The ordinary legislative procedure, Council of European Union, https://www.consilium.europa.eu/en/council-eu/decision-making/ordinary-legislative-procedure/ (last visited Jun. 19, 2023) [3]EU AI Act: first regulation on artificial intelligence, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence (last visited Jun. 21, 2023) [4]MEPs ready to negotiate first-ever rules for safe and transparent AI, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai(last visited Jun. 21, 2023)
自資料流通機制建置擴大資料經濟市場自資料流通機制建置擴大資料經濟市場 資訊工業策進會科技法律研究所 2020年03月25日 壹、事件摘要 過往，我國之資料開放政策著力於「政府資料開放」，並將之提供予民眾及企業運用。推動上，提出主動開放，民生優先、制定開放資料規範、推動共用平台及示範宣導與服務推廣四大策略，整體成效斐然，已獲國際肯認。然而，伴隨網際網路資通訊技術的發展，智慧聯網技術的進步，人工智慧（artificial intelligence, AI）、物聯網（Internet of Things, IoT）、區塊鏈、AR/VR等涉及資料運用之新興科技相繼萌芽，觸發對資料的大量需求。 特別是我國在新興科技領域之新創企業，為扣合「少量、多樣、個人化」的長尾型市場（Long Tail Market）發展趨勢，以形塑可應對少數大量應用、重視產品或服務客製化特性之商業模式[1]，資料更是驅動其成長不可或缺的石油。只是勘查我國私部門資料開放現況，首先是《個人資料保護法》等法令遵循事宜，致使企業釋出資料意願較低；次者是跨國大企業資料霸權時代下，新創、中小企業難以在資料獲取上與之競爭；其三則是即便已有資料交易管道，仍尚乏可提升資料交易透明度、信任度及品質之措施可循。是以，亟待相應措施緩解上開問題。 觀測國際間促進私部門資料釋出與流通之作法，一者係透過中介作為決定資料釋出與否之交易模式（如美國之資料仲介）；二者係回歸資料自主理念，由個人決定資料是否釋出之形式（如歐盟My Data 、日本情報銀行）。為回應上開問題，本文擇定日本以個人為出發點之資料流通措施為例，研析其促進資料交易流通所採行之制度與服務模式，期能作為我國擬訂資料經濟促進措施時，可攻錯的他山之石。 貳、重點說明 一、日本情報銀行制度建立背景 日本在資料流通與運用所面臨的挑戰，與我國同樣面臨個資法遵、資料交易信任度不足以及難與資料霸權者相競爭的困境。 據研究顯示，單以日本100家主要的線上購物網站為對象調查，即有高達一半比例的業者將用戶資料與外部各方共享而未具體向用戶明示，甚至未提供用戶拒絕提供資料的方式。由於普遍發生個人資料由營運業者蒐集後，進行目的外利用，致使在資料共用及利用上，容易因為業者未充分解釋利用之資料內容及對用戶的好處，而降低用戶同意或協力提供資料之意願[2]。此外，日本也意識到多數資訊被GAFA（Google、Apple、Facebook、Amazon）等大型網路服務業者掌控，從而壓縮日本本土業者的生存空間 [3]，為避免未來資料可能會被大型網路服務業者所壟斷，不利未來日本資通訊與數位化社會發展，日本政府認為有必要建立被個人信任的第三方制度協助處理資料，以鞏固國家資料價值發展能量。 為此，日本提出情報銀行概念，並且由總務省與經濟產業省於2017年11月至2018年4月間相繼召開6次「資料信託功能認定機制檢討會」（情報信託機能の認定スキームの在り方に関する検討会），檢討具備資料信託功能之「情報銀行」認定基準及契約建議記載事項[4]，期藉此機制形塑有利（個人）資料流通之模式[5]。 二、日本情報銀行制度介紹 （一）情報銀行架構 日本情報銀行架構係建立於其既有的PDS（Personal Data Stores）及資料交易市場平台之上。所謂PDS是由個人管理、儲存資料的機制，並可提供予第三方使用資料，還可分為由個人擁有終端載具，自行管理個人資料的分散型，以及由個人委託營運商（即提供服務之第三方）儲存與管理資料的集中型。至於資料交易市場，則係一種對供需雙方進行仲介，促使雙方通過買賣等方式進行交易之機制。是以，資料交易市場本身具有媒合之功能，但以匿名化資料及非屬個人資料為大宗。由於資料交易市場的仲介性質，須保持中立性，本身不會參與資料之蒐集、保存、處理和交易活動。 情報銀行則是自資料交易市場衍生，同時結合了PDS之特性，因此資料銀行本身會進行資料的蒐集、保存、處理和交易行為，並根據與個人簽訂之契約，利用PDS系統管理個人資料，按個人指示或其預先設定之條件管理個人資料，必要時對資料作匿名化，以提供予第三方使用。 圖 1日本個人資料交易架構 資料來源: 21世紀政策研究所，データ利活用と產業化，2018年5月。 （二）情報銀行功能－資料信託 情報銀行的建立，相當性地將顛覆過往GAFA（Google、Apple、Facebook、Amazon）公司的商業模式。 透過情報銀行機制，過往資料持有業者提供匿名加工、統計資料交易模式下，所無法克服獲取個人同意的難題將可獲得解消。情報銀行基於以個人為中心的資料活用精神，導入「資料信託」作法大幅度提升個人資料利、活用之意願。 資料信託之「信託」，並不一定係指法律上的信託概念，而是類似信託一樣的做法，係屬一種經濟關係，分別由信託人（資料主體）、受託人（資料銀行）及受益人（可能是信託人本人）所組成[6]。具體來說，信託人通過信託行為，預先指定或設定條件將其資料信託予受託人，並由受託人按信託人設定信託之目的，為其管理個人資料，並應善盡管理個人資料之義務。 情報銀行以信託方式進行個人資料管理，可能從事個人資料匿名化、協助談判交易條件、監控資料使用方式、代收和管理使用費以及支付與管理個人利益[7]等五類事項。 （三）情報銀行之驗證系統與運作機制 為確保資料流通基礎的安全性、資料流通情形揭露之透明性以及情報銀行業者之可靠性，總務省在2018年10月偕同日本IT團體聯盟組成「情報銀行推進委員會」，設計「情報信託機能驗證指引」（2018年6月發布第1版；2019年10月提出第2版）作為情報銀行驗證之基礎。只是，該驗證並不具強制性，未取得者仍可進行情報銀行之業務，僅係藉由驗證手段建立社會大眾對情報銀行之信心[8]。而就情報銀行的驗證基準，可分成業者資格、資料安全、資料治理及業務內容，分述如下： 業者資格：能擔保資料安全，具損害賠償能力的法人； 資料安全：須確保資訊安全與隱私受到足夠的保障，並定期更新隱私標章或驗證，以符合個資法與相關法規之要求； 管理體系：建立管理體系以明確管理職責，籌組「資料倫理審查會」，委員包括工程師、安全專家、法律從業者、資料倫理專家、消費者等，情報銀行並須定期向資料倫理審查會報告； 業務內容：情報銀行應明確揭示所開展業務，尤其是涉及個人資料範圍時，應揭示取得方法與使用目的。情報銀行在提供個人資料予第三方時，須明確對第三方的判斷標準、流程與使用目的。 截至2020年2月為止，日本IT團體聯盟進行了三波情報銀行認定，共三井住友信託銀行、FiliCa Pocket Marketing、J.Score、中部電力株式會社等四家業者通過情報銀行認證[9]。 除了推行建立情報銀行驗證系統外，日本總務省考量業者與資料主體間地位的不平等，以及業者在擬定資料信託契約上，或可能需要由政府提供一定程度提示，一併推出資料信託機能定型化契約應記載事項，敘明契約應涵蓋如情報銀行業務範圍、權利義務、損害賠償等內容，以明確情報銀行和個人間就資料利用之目的、範圍以及權責關係。其中，特別的是，由於日本《個人資料保護法》對於個人資料之蒐集、處理及利用係以個人同意為基礎開展，是故，在資料信託機能定型化契約應記載事項中特別就此明示情報銀行應該按照個人事前同意的範圍為個人控制資料。只是，如何解釋事前同意的範圍，整體來說，所同意的範圍必須是個人可以預測的範圍內進行解釋和操作。再者，為了確保個人資料的可控性，針對資料需求者再提供資料予其他第三人情況，強調必須就第三方和使用目的適度獲得個人同意才可為之。 值得一提的是，情報銀行必須設置「資料倫理審查委員會」諮詢體制，就情報銀行業務考量其適當性並提供建議，包含：個人與情報銀行間契約內容、使用情報銀行信託個人資料之目的、將信託資料提供予第三方之條件等[10]。 參、事件評析 一、我國現況 我國自行政院2012年第3322次院務決議推動政府資料開放以來，持續就政府資料開放不斷精進，包含2015年建置資料開放規範與相關環境[11]、2017年討論個人資料運用與政府資料開放政策，提出以民為本的「數位服務個人化（My Data）」，打造「一站式」服務措施[12]。實質上，已隱然含有回歸資料自主理念，由個人決定資料是否釋出之精神。 我國所推行之My Data服務可分為二種，一是按照個人需求，透過平台讓個人可下載自己的個人資料；二是透過線上服務授權，由民眾授權政府或民間業者取得個人資料，如醫療、戶政、教育、金融、勞健保或水電等方面之資料，再由相關領域之業者提供民眾所需的整合式個人化服務[13]。惟目前我國在My Data應用上，仍是以民眾自行下載政府機關所蒐集資料，再由民眾依其意願與需求提供予政府機關或民間企業為主，整體上，相當程度緩解《個人資料保護法》的限制，直接由資料主體釋出資料予資料利用者；藉由個人控制自己資料形式突圍資料霸權現象。但在建立資料交易透明度與信任度上，仍尚乏相應機制；在推行資料流通機制並擴大資料經濟市場之作為上，尚未有如同日本情報銀行機制等資料流通機制做為橋樑，協助弭平私部門資料流通最後一哩路之障礙。 二、我國未來制度設計方向建議 誠如前述，我國My Data機制現階段仍以公部門持有之個人資料為主，較缺乏私部門持有之個人資料。究其原因主要有三，一為業者釋出資料時，有其《個人資料保護法》等法令遵循上之成本及考量；二是社會普遍就個人資料被利用之情況的信任度不足；三則係欠缺誘因鼓勵業者或個人將資料釋出。 是以，或許如同日本情報銀行之作法，藉由可信任之第三方作為資料流通基盤，鼓勵促進個人資料加值再利用，避免私部門運用時囿於法規範而有所侷限。只是，於此必須注意日本情報銀行機制採用之資料信託，倘欲轉化為適於我國現行法規者，或需考量資料本身性質並非財產權之範疇，無法作為信託契約標的情形，而宜採行委任契約作法為妥。此外，在信任度與透明度建立上，日本通過驗證機制和資料倫理委員會的審查制度雙重管控做法，亦值得我國未來設計資料流通機制時引為借鏡。 肆、結語 有鑑於資料逐漸成為影響競爭力的重要因素，且如今大量的個人資料皆掌握在國外大型網路服務商手中，為有效提升我國業者的國際競爭力，政府或可參考日本情報銀行之模式，由民間機構分別負責驗證、擔任情報銀行之角色，並引入資料倫理審查會，透過公正之第三方審查資料流通平台業者是否公允，以促成資料經濟發展與保障個人資料之環境的形成。 [1]趙祖佑、周駿呈、涂家瑋，〈物聯網應用發展趨勢與商機─資料經濟篇〉，頁18-19（2015）。 [2]データ流通環境整備検討会，〈AI、IoT時代におけるデータ活用ワーキンググループ 中間とりまとめ〉，頁5（2017/3）。 [3]松ヶ枝優佳，〈データ主義時代の新たな銀行「情報銀行」とはなにか〉，Open Innovation Japan，2019/03/11，https://jbpress.ismedia.jp/articles/-/55684?page=4（最後瀏覽日：2020/02/19）。 [4]周晨蕙，〈日本公布資料信託功能認定指引ver1.0並進行相關實驗〉，科技法律研究所，2018/10，https://stli.iii.org.tw/article-detail.aspx?no=55&tp=1&i=156&d=8115（最後瀏覽日：2020/02/19）。 [5]情報信託機能の認定スキームの在り方に関する検討会，〈情報信託機能の認定に係る指針ver2.0〉，2019/10，https://www.soumu.go.jp/main_content/000649152.pdf（最後瀏覽日：2020/02/19）。 [6]辰巳 憲一，〈個人情報信託の経済分析～プライバシー情報を保護しながら信託で一元管理する～〉，学習院大学経済論集第48巻第2号，頁98（2011/7）。 [7]同前註。 [8]Jiji, Japan Grants Certification for First Time to ‘Information Banks’, The Japan Times (July 9, 2019), https://www.japantimes.co.jp/news/2019/07/09/business/japan-grants-certification-first-time-information-banks/#.XkymJygzZhE (last visited Feb. 19, 2020). [9]一般社団法人日本IT団体連盟，〈日本IT団体連盟、「情報銀行」認定（第１弾）を決定〉，2019/06/26，https://itrenmei.jp/topics/2019/3646/；一般社団法人日本IT団体連盟，〈日本IT団体連盟、「情報銀行」認定（第２弾）を決定〉，2019/12/25，https://www.itrenmei.jp/topics/2019/3652/；一般社団法人日本IT団体連盟，〈日本IT団体連盟、「情報銀行」認定（第３弾）を決定〉，2020/02/17，https://www.itrenmei.jp/topics/2020/3657/（最後瀏覽日：2020/02/19）。 [10]日本IT團體聯盟，「情報銀行」の推進に向けた取組みについて，2019年9月30日。 [11]國家發展委員會，〈政府資料開放〉，https://www.ndc.gov.tw/Content_List.aspx?n=9B973A5871579AC7（最後瀏覽日：2020/02/20）。 [12]國家發展委員會，〈數位服務個人化（My Data）〉，https://www.ndc.gov.tw/cp.aspx?n=8B6C9C324E6BF233&s=460617D071481C4B（最後瀏覽日：2020/02/20）。 [13]王若樸，〈國發會My Data政策未來怎麼走？學者建議應跨產業推動資料治理〉，iThome，2019/09/12，https://www.ithome.com.tw/news/133002（最後瀏覽日：2020/02/20）。
美國加密法案隨潮流再起緣起於2016年的加密法案（ENCRYPT Act），由於今年發生了臉書劍橋分析事件，以及歐盟GDPR的影響，本此法案再提的聲勢如浪潮襲來，不僅眾多議員附和，連企業（如：電子前線基金會Electronic Frontier Foundation，EFF）都予以支持。 加密法案的主要內容係以兩方面進行加密應用之保護， 各州州政府不得授權或要求產品或服務的製造商、開發商、銷售商或供應商，（A）設計或更改產品或服務中的安全功能，以供其進行監視或允許其進行實體搜索；（B）使其有能力解密或便於理解加密應用後的內容。 各州州政府不得禁止加密或類似安全功能的產品或服務，進行製造、銷售或租賃、提供銷售或租賃, 或向公眾提供覆蓋的產品或服務。此外，法案亦針對相關服務或產品的定義作了明確的說明。 本法案的主要提案者美國眾議員Ted Lieu指出，與加密或資料存取相關的問題，皆應在聯邦政府的層級進行討論，而就其本身電腦科學的專業，指出在各州間保有不同的加密應用執法標準，對資安、消費者、創新，以及執法本身都是不利的，引此本法案的推動旨在強化州際商業和經濟安全，以及網路安全問題，希望能對加密應用議題作全國性的討論，而不會損害使用者在過程中的安全性。
基因轉殖複製羊 創造生技產業的新利基台灣複製動物技術又邁向新的里程碑。行政院長謝長廷於 9月8日上午宣布台灣第一頭外帶基因轉殖複製羊「寶鈺」，成功繁殖下一代，並將人類第八凝血因子成功遺傳給下一代。 目前人類第八凝血因子市價每公克價值 290萬美元﹙相當於新台幣8千萬元﹚， 全球每年約需要 300公克，預計將創造8億至9億美元價值的市場，由於「寶鈺」母子成為凝血因子供應源，其產值及身價自然十分驚人。雖然距離商品化階段仍有一段距離，但此項技術於世界已屬領先。 「寶鈺」順利產下後代將創下我國體細胞製動物正常繁殖後代之首例，以及開創基因轉殖羊之下一代傳承母羊外源基因人類第八凝血因子之生物科技的突破，未來運用複製與基因轉殖科技，利用家畜泌乳系統作為生物反應器以生產醫藥蛋白，將可成為台灣生技產業之利基點。