落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國政府為因應數位匯流趨勢，自 2004 年起開始逐漸釋放新的頻率執照，以供網路多媒體服務或新興通訊業者申請。不過因為先前的拍賣方式是採匿名制，並將頻率切割成小頻段拍賣，而導致競標者間共謀串連，造成拍賣價格過低的情形屢見不鮮。另一方面，由於頻率交易制度（ trading ）盛行，使無線網路業者為了湊足足夠頻段，必須花費更多的成本去租用或購買頻段來經營業務。以上二個因素使頻率的拍賣出現缺乏競爭的現象。 為使頻率的拍賣能夠達到競標的目的， FCC 決定更弦易轍改變拍賣的方式。 2006 年 4 月 11 日 美國聯邦通訊委員會（ FCC ）投票通過在 6 月 29 日 將舉辦的拍賣，除了取消以往的匿名性競標，將例外以較大的頻段進行公開拍賣，讓更多的有意願經營業務的競標者參加。 目前有部分消費者團體贊同這項決定，認為為可以終結盲目拍賣（ blind bidding ）的亂象，以及杜絕大企業壟斷頻段的情形。
以因應AI發展為主軸的個資保護新策--韓國發布第3次個人資訊保護基本計畫以因應AI發展為主軸的個資保護新策--韓國發布第3次個人資訊保護基本計畫 資訊工業策進會科技法律研究所 2026年10月05日 為因應人工智慧的發展需求，各國開始重新檢視個人資訊保護體系與資料運用需求間之平衡，韓國個人資訊保護委員會（以下簡稱PIPC）發布的新一期基本計畫，具體回應此致力平衡的趨勢[1]。該計畫首度將AI風險治理提升為韓國個資保護政策的最高主軸，事故因應策略與規範原則均明顯轉向，以「值得信賴的個人資訊環境，安心享有的人工智慧（AI）社會」為願景，建立韓國未來3年將推動之個人資訊政策藍圖。 壹、事件摘要 韓國PIPC於2026年7月3日發布《促進以信賴為基礎之人工智慧（AI）創新的第3次個人資訊保護基本計畫（2027-2029）》。韓國個資基本計畫係PIPC依法每3年會同中央行政機關首長共同訂定之計畫，提出：AI大轉型時代個人資訊保護體系革新、確立以事前預防為重心之保護體系、提升策略性個人資訊治理層級、增進國民權益及落實信賴文化等4大策略及12項推動課題[2]。希望藉此可以因應處理，因AX（人工智慧轉型）資料需求急遽增加及資料運用方式改變，法律不確定性隨之提升、以事後制裁為核心的既有管理查核體系韌性不足、權利救濟制度之近用性受限、數位環境日趨複雜等情況，對個資所可能擴大產生的難以預測議題。 貳、重點說明 韓國個資基本計畫之四大策略具有清楚之推進邏輯，自資料治理架構之根本轉型出發，先解決「AI能否合法使用個人資訊」之前提問題，使資料運用取得規範上的合法性基礎；繼以常態性查核、責任與誘因機制、韌性基礎設施等三個層次，控管開放隨之而來之風險，避免規範鬆綁演變為保護真空；再透過強化部會共同管理與跨境傳輸網絡擴大，確保國內監理轉型與國際資料流通接軌，使企業於跨境營運時有一致可循之規則；最終回到個別國民，透過單一窗口與新型救濟工具，確保相關政策效益得以具體反映於國民實際感受之權利保障上。此四層推進由制度鬆綁走向風險控管、再走向治理整合、終及國民權益，構成一條完整的政策論證鏈，而非各自獨立之政策拼圖。 一、革新AI時代個人資訊保護體系 （一）轉型為能靈活反映AI環境之個人資訊監理體系 1. 迅速消弭人工智慧轉型（AX）過程中伴隨之個人資訊處理不確定性，設置「人工智慧轉型（AX）安心支援中心」，作為量身訂做之創新支援綜合窗口，作為全國各地皆可連結、運用假名化、匿名化資料的據點。 2. 藉推動MyData第2階段（自2027年起），建立、推廣將所生價值回饋予資訊主體之機制，並以資料融合技術為基礎，推動解決福祉、照護、醫療等社會難題。 （二）強化因應AI基本社會之隱私風險對策 1. 檢討代理式AI（Agentic AI）決策責任架構，並就實體AI（Physical AI）常態性資訊蒐集環境因應之權利保障、事前風險評估等，設計新興技術監理體系，研擬得以超前因應急遽變動AI網路威脅之風險管理模型。 2. 為確立正確性、透明性，將深偽技術（deepfake）等資料竄改之防範對策、冒名防範及AI透明性予以制度化。 二、確立以事前預防為重心之保護體系 （一）透過常態性查核體系強化事故預防 1. 建置高風險群集中查核、部會聯合查核等常態性查核體系，並藉導入結合AI技術之評鑑（含資訊保護暨個人資訊保護管理體系ISMS-P認證）。 2. 對公部門，將優先推動強化額外安全措施基準、建立包含脆弱點查核、查核結果公開在內的常態性防禦體系，提升查核及評鑑制度之實效性。 （二）強化事故發生的預防措施與採行誘因 1. 強化積極性獎勵措施，給予超前部署保護投資者減免外洩課徵金（性質為代替不利行政處分之金錢制裁，與我國「罰鍰」概念未必完全對應）。 2. 支援代表人（CEO）及個人資訊保護長（CPO）之法定角色責任於實務現場落地。 3. 強化提升鑑識技術、建置技術分析環境等調查能量，並以履行強制金強化調查實效性，大幅強化個人資訊監督功能及法規違反嚇阻力。 4. 強化因應個人資訊非法流通措施，包括新設非法流通處罰依據、提升偵測、刪除技術等。 （三）建置以強化韌性為目標之保護基礎設施 1. 轉型以中小企業外洩時之復原因應技術支援為核心，確立以韌性為核心之因應體系。 2. 推動建立因應實體AI擴散之資安實體整合安全體系，並考量代理式AI型攻擊增加之情形，推動安全措施基準改善。 3. 推動加密技術開發及個人資訊保護強化技術（PET）研究開發（R&D）之擴大，並培育保護專業人才、建置AI資安人力平台。 三、提升個資治理橫向整合、保障國際傳輸安全 （一）就通訊、教育、僱用等高風險領域，強化由主管部會共同管理之機制，並於個人資訊威脅發生時建置早期預警體系，強化危機因應能量。 （二）消弭重複監理、確保數位監理整合性，強化與金融、公平交易等相關監理機關間之協力，並與人工智慧及資料政策主管機關密切協力，釐清數位領域各法令間之適用關係。 （三）依法律體系相似性、貿易規模等因素，採取量身訂做之因應方式擴大與不同國家的資料相互傳輸網絡，並強化對保護水準相對不足國家之資料管理因應能力，將安全威脅降至最低。 （四）運用標準契約條款、拘束性企業規則（Binding Corporate Rules, BCR）工具，擴大安全跨境傳輸。同時並行實施跨境傳輸現況調查、新設跨境傳輸影響評估等，一併建立風險管理體系。 四、完備單一窗口國民權利保障支援體系 （一）建置自外洩侵害發生時之申報起，至損害賠償止解決全部程序之單一窗口支援體系。 （二）開發以AI為基礎之資訊主體權利行使工具（AX平台），以支援國民簡便確認自身個人資訊處理現況並行使權利。 （三）設立資訊主體權益增進專責機構、推動導入損害回復同意議決制、積極辦理爭議調解等，落實迅速之損害賠償及爭議解決制度。 參、事件評析 韓國於前一期計畫（2024-2026）係以「引領資料經濟時代」為首要策略，AI僅列為其中一項課題，聚焦自動化決策、生體辨識、雲端服務等個別監理精進，事故因應以「法制嚴正、迅速執行」為主軸，偏重裁罰而非預防。此次計畫將AI提升為因應核心，依風險程度為比例對應的監理措施，並以韌性支援協助取代單純之事後裁罰思維，同時新增課徵金減免、履行強制金等積極與消極誘因並行措施，顯示韓國個資治理已由個資風險監理層次，朝向積極運用與保護的治理機制強化方向推進。其以「以風險程度區分監理密度」的設計思路，讓大規模生物特徵資料處理、AI訓練用個資等高風險情境課予更嚴格之事前把關義務，但相對地，亦在一般個資利用情境簡化合規負擔。 我國將來個資面對AI發展，所需處理的議題應非僅有消極之違規處罰、行政檢查，而是如何透過積極配套措施，在強化保護的同時促進個資的運用。本文建議未來個資會裁罰體系外，應參考韓國的因應策略，透過減免機制正向誘導企業自主投資保護措施，避免企業因唯恐受裁罰而於事故發生後選擇隱匿、而非通報；以扶助企業營運韌性角度，提供支援方案。在個人資料權益保護面，修法賦予資料可攜權並擴大運用我國MyData平台，強化個人資料運用的自主與權益主張支援，有策略地因應AI浪潮下的個資發展趨勢。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]韓國個人資訊保護委員會新聞稿，《促進基於信任的人工智慧創新第三個個人資訊保護基本計畫（2027-29）》發布，2026年7月3日，網址：https://pipc.go.kr/np/cop/bbs/selectBoardArticle.do?bbsId=BS074&mCode=C020010000&nttId=12228（最後瀏覽日：2026/09/23）。 [2]同前註1，詳見該頁面新聞稿及其計畫全文附檔，[260703 10시보도] 신뢰로 여는 AI 혁신, 달라지는 개인정보 체계로 이끈다(정책과).hwpx。
加拿大政府提交予國會《人工智慧資料法案》加拿大政府由創新、科學和工業部長（Minister of Innovation, Science and Industry）代表，於2022年6月16日提交C-27號草案，內容包括聯邦的私部門隱私權制度更新，以及新訂的《人工智慧資料法案》（Artificial Intelligence and Data Act, 下稱AIDA）。如獲通過，AIDA將是加拿大第一部規範人工智慧系統使用的法規，其內容環繞「在加拿大制定符合國家及國際標準的人工智慧設計、開發與應用要求」及「禁止某些可能對個人或其利益造成嚴重損害的人工智慧操作行為」兩大目的。雖然AIDA的一般性規則相當簡單易懂，但唯有在正式發布這部包含絕大多數應用狀況的法規後，才能實際了解其所造成的影響。 AIDA為人工智慧監管所設立的框架包含以下六項： （1）方法 以類似於歐盟《人工智慧法案》採用的方式，建立適用於人工智慧系統具「高影響力」的應用方式的規範，關注具有較高損害與偏見風險的領域。 （2）適用範圍 AIDA將適用於在國際與省際貿易及商業行動中，設計、發展或提供人工智慧系統使用管道的私部門組織。「人工智慧系統」的定義則涵蓋任何「透過基因演算法、神經網路、機器學習或其他技術，自動或半自動處理與人類活動相關的資料，以產生結果、做出決策、建議或預測」的技術性系統。 （3）一般性義務 I 評估及緩和風險的措施 負責人工智慧系統的人員應評估它是否是一個「高影響系統」（將在後續法規中詳細定義），並制定措施以辨識、評估與減輕使用該系統可能造成的傷害風險或具有偏見的結果。 II 監控 對該「高影響系統」負責的人員應建立準則，以監控風險緩解措施的遵守情況。 III 透明度 提供使用管道或管理「高影響系統」運作的人員應在公開網站上，以清晰的英語揭露 i 系統如何或打算如何使用。 ii 系統所生成果的類型及它所做出的決策、建議與預測。 iii 為辨識、評估與減輕使用該系統可能造成的傷害風險或具有偏見的結果，而制定的緩解措施。 iv 法規明定應揭露的其他訊息。 IV 記錄保存 執行受規範活動的人員應遵守紀錄保存要求。 V 通知 若使用該系統將導致或可能導致重大傷害，「高影響系統」的負責人應通知部門首長。 VI 匿名資料的使用 從事法案所規定的活動及在活動過程中使用或提供匿名資料的人員，必須依據規範制定關於（a）資料被匿名化處理的方式（b）被匿名化資料的使用與管理，兩方面的措施。 （4）部長命令 部門首長可以透過命令要求（a）製作紀錄（b）從事審計或聘請一位獨立的審計師執行（c）成立一個專責執行審計程序的組織（d）成立一個在有理由相信「高影響系統」之使用可能造成急迫重大傷害風險時負責進行終止或准許的組織。 （5）行政管理 AIDA為部門首長制定一項，可指定其所管轄部門中一名高級官員為「人工智慧與資料專員」的權利，其職責在協助部門首長管理與執行AIDA。 （6）罰則 違反AIDA規範之罰則主要為按公司、個人之收入衡量的罰款。特定嚴重狀況如以非法方式取得人工智慧訓練用資料、明知或故意欺騙大眾造成嚴重或心理傷害或財產上重大損失，亦可能判處刑事監禁。
談日本基因改造實驗管理規範及其執行現況