落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
ePrivacy指令修正背景 原資料保護指令將於2018年由一般資料保護規則所取代，在此一背景下，電子隱私指令除補充資料保護指令外，亦訂定關於在電子通訊部門的個人資料處理的具體規則。具體作法，如在利用流量和位置資訊於商業目的之前，應徵得用戶的同意。在ePrivacy指令未特別規定的適用對象，將由資料保護指令（以及未來的GDPR）所涵蓋。如，個人的權利：獲得其個人資料的使用，修改或刪除的權利。 歐盟執委會為進行ePrivacy指令（Richtlinie über den Datenschutz in der elektronischen Kommunikation）改革，於2016年8月4日提出意見徵詢摘要報告，檢討修正ePrivacy指令時著重的的幾個標的： (1)確保ePrivacy規則與未來的一般資料保護規則之間的一致性。亦即評估現有規定是否存在任何重複、冗餘、不一致或不必要的複雜情況。（如個人資料洩漏時的通知） (2)指令僅適用於傳統的電信供應商，而在必要時應該以新市場和技術的現實的眼光，重行評估更新ePrivacy規則。對於已成為電子通信行業新興創新的市場參與者，如：提供即時通訊和語音通話（也稱為“OTT供應商”），由於目前不需要遵守ePrivacy指令主要規定，而應納入修正對象。 (3)加強整個歐盟通訊的安全性和保密性。ePrivacy指令在規範上，確保用戶的設備免受侵入、確保通信的安全性和保密性。本指令第5條第3項，儲存資訊、或近用已存儲在用戶設備之資訊，需得其的同意。該條款的有效性已有爭論，因為新的追踪技術，如：指紋識別設備可能無法被現有的規則所涵攝。最後，有認需得同意的例外規定列表，有必要延伸到對資訊之其他非侵入性的儲存/近用：如網路分析等。這些都是應予以仔細評價和檢視之對象。 公眾諮詢摘要報告內容 經過4月13日到7月5日的公眾諮詢，歐盟執委會於8月4日提出報告。 諮詢意見主要來自德（25.9%）、英(14.3%)、比(10%)、法(7.1%)的回覆。 一、是否有必要在電子通訊部門訂定隱私特別規定？ 市民與公民團體咸認有必要在電子通訊部門，甚至流量資料和位址資訊也應該訂定新規（83%）、企業則認為無甚需要，只有在秘密性規則（31%）與流量資料（26%）有需要訂定；主管機關則咸認需要特別規定。 二、現行指令是否已足達成其立法目的？76%市民和公民團體認為未達立法目的，理由如下： ePrivacy指令的範圍太狹小，不包括即時訊息、語音通話（VoIP）和電子郵件應用服務。 規範太模糊，導致會員國之間適用結果和保護程度的差異、不一致。 法律遵循的程度展法程度太差。 三、是否應為新通訊服務訂定新規？ 76%市民和公民團體認為適用範圍應該涵蓋到OTT上。
在美國競業禁止修法趨勢下，雇主可採取的配套措施——–不可避免揭露原則？美國聯邦貿易委員會（Federal Trade Commission, FTC）於2023年1月提出一項提案，將使所有競業禁止條款無效，惟提案尚未確定。儘管FTC同意該提案將影響對雇主的保護，但也指出營業秘密法已為雇主提供了保護其營業秘密的配套，其中「不可避免揭露原則」（the “inevitable disclosure” doctrine）或許將成為競業禁止協議之替代方案。 不可避免揭露原則是指當公司認為前僱員於新公司任職，將不可避免地使用前公司之營業秘密時，可向法院聲請禁止前僱員至新公司任職。法院通常會考慮下列三個因素，以決定是否基於不當使用營業秘密之「威脅」而授予禁制令救濟，包括： 1.前後雇主是否為提供相同或非常相似服務的直接競爭對手； 2.前僱員的新職位是否與原職位雷同，以至於無法合理地期待該僱員在不利用其前雇主之營業秘密的情況下，能履行其新的工作職責； 3.所涉及的營業秘密對於前後雇主是否都具有相當之價值。 雖然部份州法院指出根據其州法，得適用不可避免揭露原則，但各界對於雇主能否向聯邦法院根據《保護營業秘密法》（Defend Trade Secrets Act, DTSA）援引該原則仍未達成共識。儘管如此，部份聯邦法院強調雇主須明確說明前僱員為何將不可避免地使用或揭露其營業秘密，僅證明前僱員在工作期間獲得機密資訊，並隨後於競爭公司擔任類似職位，不足以證明前僱員將不可避免地使用前公司之營業秘密。 綜上所述，不可避免揭露原則可以防止前僱員不當使用其營業秘密的威脅，但由於聯邦法院對於能否援引該原則的標準仍不明確，僅指出不可避免揭露原則將使雇主面臨較高的舉證要求，故其是否能成為競業禁止協議的替代方案，仍有待觀察。 本文同步刊登於TIPS網站（https://www.tips.org.tw）。
歐盟為簡化監管提出醫療器材與體外診斷醫療器材法規修正草案歐盟醫療器材（Medical Devices Regulation, MDR）和體外診斷醫療器材法規（In Vitro Diagnostic Medical Devices Regulation, IVDR）自2021年5月26日及2022年5月26日生效以來加強了醫療器材的安全監管。然而法規要求嚴格、第三方驗證機構（notified bodies, NB）認證能力有限、認證程序不具預測性、各國執行標準不一、法規與風險不成比例，導致製造成本及行政負擔過高，甚至取消或延後產品上市。為此，歐盟執委會（European Commission）於2025年12月16日正式提出MDR/IVDR修正草案，旨在簡化監管流程、減輕廠商與NB負擔，同時維持公共健康。 該修正案重點如下： 1.簡化與比例原則：確保法規要求與實際風險成正比，放寬中低風險或成熟技術的過度監管。 2.減輕行政負擔：減少重複性的文書作業、過於頻繁報告更新。 3.特定病患群體或情境的創新與產品可及性：確保利基型、創新或危急時所需的醫材能快速進入市場。 4.認證程序的可預測性與成本效益：提升NB審查透明度、效率，並降低資金門檻。 5.去中心化系統內的協調與治理：解決各成員國及各NB之間解釋法規不一致的問題，強化中央協調。 6.推動數位化：推動無紙化與電子化合規工具。 7.促進國際合作：促進全球法規協調，減少多重市場認證。 整體而言，此次修正草案預期可降低遵循成本與行政負擔，並提高監管制度可預測性與作業效率，讓認證與監管流程更為順暢。再者，透過風險導向與數位化管理，維持高水準之公共健康保障，對中小企業與創新醫材而言，有助於於提升醫材研發與上市誘因。
英國ISP業者主動揭露網路速度資訊2011年5月英國電信主管機關Ofcom（Office of communications）對英國境內寬頻網路速率現況進行調查，寬頻網路平均下載速度從去年11月的6.2Mbits/s增為6.8Mbits/s，且有近半（47%）的使用者可享受到超過10Mbit/s的速度。 但廣告速度與真實速度間的差距擴大，今年5月業者平均廣告速度為15Mbit/s,，較真實速度6.8Mbits/s差距為8.2Mbit/s，而2010年11月平均廣告速度13.8Mbit/s真實速度6.2Mbit/s，差距為7.6Mbit/s。上述的差距主要發生於ADSL網路，英國有近75%的使用者仍用ADSL，此種傳輸方式將受到距離、纜線品質的影響。因此大多數業者所宣稱的20Mbit/s下載速度，僅能達到6.6 Mbit/s。有超過1/3的使用者速度為4 Mbit/s或更低。 F英國今年7月正式實施之寬頻速度自律規則（Voluntary Code of Practice on Broadband Speeds），為業者自願加入。除提供消費者「典型的速度範圍」（Typical Speed Range, TSR）資訊外，若消費者可使用速度小於業者宣稱之速度範圍，且業者無法解決問題時，在3個月內使用者可更換其他業者而無須罰款。目前已有BT、O2、Virgin Media等17家ISP業者加入自律規則中。