落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
- 美國聯網車監管制度與合規實務說明會
歐盟法院在UsedSoft GmbH v. Oracle International Corp.（Case C-128/11）一案中，認定軟體開發商之散佈權在第一次銷售後即耗盡，不得限制其後二手軟體之再銷售。此一判決發展將影響軟體開發商之市場銷售策略。 本案軟體開發商Oracle以授權合約中的禁止移轉條款為據，起訴欲終止UsedSoft的二手軟體銷售模式。在此商業模式中，原始被授權人書面說明其被授權使用某軟體，同時聲明後續不再使用，相關文件經公證後，UsedSoft即以此文件及合約進行二手軟體的銷售，新的使用者可直接由UsedSoft取得軟體。 本案的關鍵點在於著作權是否隨著軟體第一次銷售而權利耗盡，如權利耗盡則合約中的禁止移轉條款將無任何效力。在傳統軟體光碟銷售的情形，被授權人可以將軟體再轉賣給任何人，權利耗盡是被確認的，但網站下載的軟體販售模式，權利是否隨之耗盡，則不無疑問。 歐盟法院在本案判決中表示，不管是負載於光碟或網站下載的軟體銷售，一旦開發商售出軟體，其權利即隨之耗盡；但同時也指出，如果原授權使用數量較多，權利耗盡並不得作為後續二手軟體切割販售授權的依據，開發商也不因此判決而必須提供軟體支援給二手被授權人。 此一判決可能刺激二手市場的成長，但同時也可能對軟體開發商帶來負面影響，開發商無法再掌握確實的被授權人，也無有效的方法確認原始授權人是否仍使用軟體。建議軟體開發商應檢視其授權作業，並嘗試從授權合約中處理，例如增加授權轉讓時應通知開發商的條款等。
美國聯邦審計署發布先進空中交通議題研究報告，將有利於航空轉型美國聯邦審計署（Government Accountability Office, GAO）於2022年5月9日發布「航空轉型：經利害關係人確認之先進空中交通議題」（Transforming Aviation: Stakeholders Identified Issues to Address for 'Advanced Air Mobility'）研究報告。未來，先進空中交通（Advanced Air Mobility, AAM）服務可透過小型或高度自動化（highly-automated）電動垂直起降航空器（eVTOL）翱翔於天際，不僅可提供載人或載物服務、減少交通壅塞，並可應用於救援與醫療運輸等領域。GAO透過訪談36位利害關係人，意識到AAM發展關鍵在於相關法制環境之整備速度。基此，GAO於研究報告中，整理當前各AAM新創業者於開發與落實上面臨之4大問題，分別簡述如下： （1）航空器檢定標準：美國聯邦航空總署（Federal Aviation Administration, FAA）對於航空器之檢定規範，目前尚未涵蓋具備AAM新功能之載具，如電力推進或垂直起降等。 （2）起降場與電力之基礎設施：FAA尚未制定垂直機場降落設施，及航空器電池充電需求之電力基礎設施相關標準。 （3）提高公眾載具安全性接受度：AAM產業須證明此類航空器之安全性、可靠性、低噪音與商用可行性，以支持該產業之發展與成長。 （4）作業人員所需之各種培訓與認證標準：飛行員與維修技術作業人員需接受相關新功能培訓。惟利害關係人指出可能面臨高教育成本、缺乏工作場域多樣性、機會意識（awareness of opportunities）不足，及培訓能力有限等問題。
歐盟因應數位簡化革命通過Omnibus VII法案：放寬產業合規時程與強化兒少人權保障之《歐盟人工智慧法》修法歐盟因應數位簡化革命通過Omnibus VII法案：放寬產業合規時程與強化兒少人權保障之《歐盟人工智慧法》修法 資訊工業策進會科技法律研究所 2026年07月22日 今（2026）年6月16日，歐洲議會（European Parliament）以423票贊成、57 票反對、174 票棄權，通過「第七號數位綜合法案」（Omnibus VII）下對《歐盟人工智慧法》（EU AI Act，下稱AIA）的修正案[1]。隨後於6月29日，歐盟理事會（Council of the European Union）批准了歐洲議會的審議決議。最終於7月8日，經歐洲議會議長及歐盟理事會主席共同簽署，該修正案正式通過[2]。 壹、事件摘要 自2024年10月起，歐盟理事會為因應萊塔（Enrico Letta）與德拉吉（Mario Draghi）報告中指出的歐洲競爭力危機，於2024年11月8日發布《布達佩斯宣言》（Budapest declaration）要求「發起一場簡化革命」，希冀為企業提供一個清晰、簡單且具備彈性的法規治理框架，並減輕企業面臨的法遵成本與合規摩擦。為此，歐盟執委會自2025年2月起陸續提出十項「綜合法案」（Omnibus packages），旨在鬆綁永續發展、投資與農業的申報程序、擴大對中小企業的制度支持、推動數位化轉型與統一技術規範、調和國防、化學產品、環境、汽車產業、食品與飼料安全，以及包含人工智慧在內的數位新興議題。其中，「第七號數位綜合法案」核心目的即在於簡化歐盟的數位立法框架，並落實全歐盟統一的人工智慧調和規範[3]。 另一方面，鑑於當前兒少網路參與度大幅提升及科技的急速發展，除加劇刑事執法之訴追難度外，亦衍生新型態之數位侵害手段，包括犯罪者利用人工智慧等新興技術將兒少視為下手目標。雖然歐盟現行主要規範兒少性侵害與性剝削之刑事法制，為2011年通過之《打擊兒童性虐待與性剝削指令》（Directive 2011/93/EU on combating the sexual abuse and sexual exploitation of children and child pornography），但為填補此一科技漏洞，歐盟亦於「第七號數位綜合法案」修正案中，針對深偽影像（deepfake）氾濫問題提出對策，並於《打擊兒童性虐待與性剝削指令》中進行修法研議[4]。 貳、重點說明 此次修法有兩大重點，一為延後AIA設定的義務期限，並在修訂事項中調整與其他產業法規的競合關係；二為在《歐盟人工智慧法》第5條「不可忍受之風險」增訂一項新條文，禁止生成未經當事人同意的性私密影像內容，以及兒童性剝削素材（child sexual abuse material, CSAM），同時亦在其他相關法律有配套之修法研議共同打擊涉及之AI數位性暴力犯罪，保障兒少人權。 一、簡化歐盟的數位法制監管框架 （一）調整AIA之合規時程 本次修法在於動態調整AIA設定的合規時程，包括延後高風險AI系統的義務期限，將「獨立型高風險AI」延至2027年12月2日適用，以及將「產品嵌入型高風險AI」延至2028年8月2日適用[5]。同時，將會員國應建置「國家級AI監理沙盒」的法定期限延展至2027年8月2日[6]，以提供企業及政府機關更充裕的準備期間，完成技術、治理及法遵機制的調整，降低法規適用初期的合規負擔，並確保新制度得以順利銜接與落實[7]。 （二）釐清不同法律之適用關係 為促使企業能有效遵守AIA的監管相關規定，於修法上明確劃分與其他特定產業法規（如醫療器材、玩具、電梯及船舶等產業）的適用關係，並課予歐盟執委會制定指引之義務，協助涉及高風險AI系統的開發商或經營者，能依據指引遵循AIA的高風險AI治理規範並同時降低其法遵成本[8]。換言之，如特定產業法規已明定與AIA相仿之AI法律規範，但會與AIA產生競合問題，如要排除AIA之適用則須於歐洲議會就產業法規進行修正。為降低修法成本，AIA此次修法賦予歐盟執委會「授權法規」（delegated acts）之權限[9]，得制定法規命令協調產業法規與AIA之適用關係，並在特定範圍內限制或排除AIA之適用[10]。同時要求歐盟執委會應發布相關指引，指導企業遵守人工智慧風險治理相關規範[11]。藉由此類機制，確立特定產業法規的優先適用原則，並藉此排除AIA與其他法規的競合矛盾，以避免企業因身陷法規的多頭馬車而面臨沉重的法遵負擔[12]。 二、強化AI治理下的兒少人權與性別平等措施 （一）AI衍生之數位性暴力納入不可忍受風險 於「第七號數位綜合方案」修正案中，針對深偽影像部分，修法強化業者導入「人工生成內容」的透明度標示義務，將原本的合規寬限期從6個月縮短至3個月[13]，亦即提前至今年12月2日全面施行[14]。同時，將非自願的生成式性私密影像及兒少性剝削生成式素材列為AIA第5條之不可忍受風險，並將會生成真實人物裸照，或修改現有照片衣物以暴露私密部位的AI系統，定於今年12月起全面禁用[15]。 （二）配套法律之相關修正 無獨有偶，歐盟理事會與歐洲議會代表亦於6月22日，針對《打擊兒童性虐待與性剝削指令》之修正法案，達成暫時性政治共識（provisional agreement）[16]。擬將凡是設計或改造AI系統以產出兒童性剝削素材，以及散布此類系統之行為，或以「AI 提示詞（prompt）」製作兒童性剝削素材之教學指引行為，納為刑事犯罪。後續，該修正法案若獲得歐盟理事會與歐洲議會的通過，會員國必須在3年內修改其國內刑法的相關規範，以符合修訂後之歐盟指令，藉此提升歐盟境內對兒少人權之保護，避免遭受新型態數位性暴力而影響其身心健康發展[17]。 參、事件評析 整體而言，「第七號數位綜合法案」就AIA的修正法案主要是透過義務時程的調整來緩和硬法（hard law）監管之治理模式，亦及體恤企業並維持歐洲競爭力，因此放寬並延後了醫療、機械、金融等高度涉及高風險AI應用相關產業的適用時程，避免沉重的法遵成本與合規摩擦，藉由「時間換取空間」之方式，讓企業在數位轉型上有較大的經營空間。儘管如此，歐盟亦堅守其基本人權底線，對於兒少權益、性別平等採取堅硬態度，除將生成式AI透明度義務的合規時程提前，更將AI的數位性暴力納入不可忍受風險，同時封殺AI脫衣（nudification）系統，並配合相關修法，研議將運用AI涉及兒少數位性暴力之行為列為刑事犯罪，其鐵腕手段正印證歐洲對人工智慧「以人為本」之精神。 對臺灣而言，雖然《人工智慧基本法》於今年1月14日施行，大部分的作用法及配套措施仍待規劃當中，我國之法律框架也並非採取歐洲治理模式，但歐盟就境內企業發展所採取之法規調適，值得我國留意，比如中小企業會面臨導入人工智慧的法遵成本與合規摩擦，政府應研議其配套措施。此外，對於兒少人權之保障，《人工智慧基本法》亦反映相同之立法精神，比如第5條規定：「政府應以兒少最佳利益為原則，人工智慧產品或系統經中央目的事業主管機關會商數位發展部認定為高風險應用者，應明確標示注意事項或警語」，我國仍需留意針對兒少而衍生之新型態數位性暴力議題，不論是否要行政管制或以刑罰相繩，此類風險必須被認真對待，並思考出適當的應對機制。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1] 第七號數位綜合法案涉及兩個領域的法律修正案，其中一個針對人工智慧領域，即AIA的修正案，另一個則是涉及個人資料保護與網路資訊安全的法律修正案，包括《一般資料保護規則》（General Data Protection Regulation, GDPR）與歐盟NIS 2指令。前者已通過，後者因未取得共識尚在審議中。因此，本文討論的修法僅限於AIA的修正法案。詳細內容可以參考European Council, Simplification of EU rules, https://www.consilium.europa.eu/en/policies/simplification/(last visited July 13, 2026). [2] European Parliament, AI Act: EP approves simplification measures and “nudifier” app ban, https://www.europarl.europa.eu/news/en/press-room/20260611IPR45207/ai-act-ep-approves-simplification-measures-and-nudifier-app-ban(last visited July 13, 2026). [3] European Council, Artificial Intelligence: Council gives final green light to simplify and streamline rules, https://www.consilium.europa.eu/en/press/press-releases/2026/06/29/artificial-intelligence-council-gives-final-green-light-to-simplify-and-streamline-rules/(last visited July 13, 2026). [4] European Council, Combatting child sexual abuse: EU agrees stronger criminal law rules and enhanced support to victims, https://www.consilium.europa.eu/en/press/press-releases/2026/06/22/combatting-child-sexual-abuse-eu-agrees-stronger-criminal-law-rules-and-enhanced-support-to-victims/(last visited July 13, 2026). [5] 修正AIA第113條，原本實施日期是2026年8月2日。立法文件see European Parliament & European Council, Regulation of the European Parliament and of the Council amending Regulations (EU) 2024/1689, (EU) 2018/1139 and (EU) 2023/1230 as regards the simplification of the implementation of harmonised rules on artificial intelligence (Digital Omnibus on AI), PE 30/2026 INIT, 2026, p. 33. [6] 修正AIA第57條，原本實施日期是2026年8月2日。立法文件見同前註5，頁60。 [7] 同前註3。 [8] 簡單來說，若該產業法規已提供等同或更高程度的健康、安全或基本權利保護，歐盟執委會得限制或排除AIA中特定義務，包括對高風險AI系統的「系統性要求」，如風險管理系統、系統上市前的技術文件資料、資料保存義務等，詳細內容參考，同前註5，頁42。 [9] 歐盟之授權法規（delegated acts）在性質上類似於我國基於法律授權之法規命令。依據《歐洲聯盟運作條例》第290條之規定，歐洲議會及理事會得於立法中授權歐盟執委會，由其自行制定非立法性且具普遍適用性之法規，用以補充或修正該法律之特定非核心要素。see Consolidated Version of the Treaty on the Functioning of the European Union art. 290, 2016 O.J. (C 202) 1, 172). [10] 新增AIA第2條第13項，同前註5，頁42。另外，歐盟理事會以機械產品法規（machinery regulation）為例說明，歐盟執委會得制定授權法規增訂關於高風險AI機械產品的健康與安全規範要求以免除適用AIA，同前註3。 [11] 修正AIA第96條第1項，要求歐盟執委會必須在2027年8月1日前發布指引，同前註5，頁86。 [12] 同前註3。 [13] 僅限於AIA第50條第2項機器可讀的數位浮水印或技術標籤的標示義務，同前註3。 [14] 新增AIA第111條第4項，同前註5，頁90。 [15] 同前註5，頁47。 [16] 暫時性政治共識（provisional agreement），係指歐盟立法程序中，歐洲議會（European Parliament）、歐盟理事會（Council of the European Union）及歐盟執行委員會（European Commission）進行三方協商（trilogue）後，由歐洲議會與歐盟理事會就法案內容達成的初步政治協議。該協議尚須依各機構內部程序正式批准，始完成立法程序並具法律效力。 [17] 同前註4。
澳洲2020年5月全國數位經濟與科技會議會後聲明澳洲產業、科學、能源及資源部（Department of Industry, Science, Energy and Resources）於2020年5月15日舉行全國數位經濟與科技會議，並於會後發表「2020年5月全國數位經濟與科技會議會後聲明」。本次會議由澳洲產業科學能源及資源部部長擔任主席，邀集各州、領地地方政府的創新或科技部門首長，以視訊方式研商COVID-19疫情後如何整合澳洲企業的數位能量，並使澳洲在2030年成為全球數位經濟的領先者。 聲明中首先肯定澳洲數以萬計的企業在面對COVID-19疫情時所展現的危機應對能力與提出各式數位科技解決方案，用以支持員工、服務消費者、提出資源供應的替代方案、溝通利害關係人等，有效地提升了營運與財務上的效率。而政府則藉由提供各式財務、社會保險與稅務上的支援措施，並持續針對個別情況規劃最適的支援方案。 聲明指出根據研究，數位工具將能協助小型企業每週節省約10小時的工時，並提升約27%的營收；若乘上澳洲全國小型企業的總數，等於每週可省下約2200萬小時的工時，並可年增約3850億元的營收。企業在疫情期間所採取的數位科技解決方案是未來推動營運模式數位轉型的契機，因此在疫情後整合澳洲官方與民間的數位能量，將是疫情後經濟復甦與未來經濟成長的關鍵。 聲明指出與會聯邦及地方政府相關首長已達成共識，將組成「數位經濟與科技資深官員小組」（Digital Economy and Technology Senior Officials Group），專責整合聯邦政府與地方政府的數位政策。本小組將提出數位經濟政策與企業所需的支援措施，用以加速數位轉型與COVID-19疫情後的經濟復甦，包含完成人工智慧及自主系統能力地圖（Artificial Intelligence and Autonomous Systems Capability Map），來找出尚待強化的能力與可加強合作的契機。 此外本小組將合作推動數位與資通安全工作、關鍵技術法規鬆綁，以協助減少企業法遵障礙並支持數位經濟成長。COVID-19疫情下揭示澳洲推動數位轉型的重要性，期許本小組能有效整合數位能量並填補數位落差，未來將每年召開三次全國數位經濟與科技會議，追蹤澳洲數位經濟與科技生態系的推動情形，並聽取資深官員小組的定期工作報告。