落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
歐盟執委會於2020年12月16日針對未來十年歐盟數位發展，提出《歐盟數位十年網路安全戰略》（The EU's Cybersecurity Strategy for the Digital Decade），以支持塑造歐盟的數位未來（Shaping Europe's Digital Future）、歐洲復甦計畫（Recovery Plan for Europe）和歐洲安全聯盟（EU Security Union Strategy）。該戰略說明應如何加強歐盟共同抵禦面對網路攻擊的應變能力，並確保民眾及企業都能在可信賴的數位服務中受益。 由於COVID-19大流行，加速工作模式的變化，2020年歐盟約有40%的民眾遠距辦公，而同年網路犯罪對全球經濟造成的影響估計達到5.5億歐元。因此，為維護全球開放網路的穩定運作，在保護網路安全的同時，亦應保護歐盟的共同價值觀與人民的基本權利，在監管、投資與政策上提出三點建議： 韌性、技術主權和領導（Resilience, Technological Sovereignty and Leadership）：根據網路與資訊系統安全指令（Directive on Security of Network and Information Systems, NIS Directive）修訂更嚴格的監管措施，改善網路和資訊系統的安全。並建立由AI推動的資安監控中心（AI-enabled Security Operation Centres），及時避免網路攻擊。 建立防禦、嚇阻和應變能力（Building Operational Capacity to Prevent, Deter and Respond）：逐步建立歐盟聯合網路安全部門，加強歐盟各成員國之間的合作，以提高面對跨境網路攻擊時的應變能力。 透過加強合作促進全球開放網路空間（Advancing a Global and Open Cyberspace）：希望與聯合國等國際組織合作，透過外部力量共同建立全球網路安全政策，以維護全球網路空間的穩定及安全。
美國聯邦貿易委員會（FTC）有權監督管理企業資料處理方式2015年8月24日，美國第三巡迴法院做出判決，宣告美國聯邦貿易委員會（the Federal Trade Commission, FTC）本於聯邦貿易委員會法第5章（Section 5 of the Federal Trade Commission Act）之規定，對於侵害個人資料隱私及未盡資料保護安全責任的相關案件有管轄權。未來若經FTC認定有違反資料安全規定的事實，該委員會針對企業違法事實的判定將產生法律效力。 案件起因於2008年及2009年間，飯店集團Wyndham Worldwide Corporation共遭到3次駭客入侵，導致大約60萬筆的客戶資料外洩。FTC介入調查並指控Wyndham Hotels內部缺乏資訊安全管理控制措施才會造成資料被駭客入侵，使客戶權益受損。Wyndham Hotels不服並上訴，表示FTC只有提供企業資料安全保護措施的建議權，無權決定企業是否違反相關法令。Wyndham Hotels還主張FTC並沒有告知該公司何謂正當利用個人資料的判斷標準。 第三巡迴法院駁回Wyndham Hotels提出的2點主張。在此判決中，第三巡迴法院確立了FTC除了有一般建議權外，也有權對於企業利用個人資料的方式、以及企業是否有盡到資料安全保護責任進行監督與管理。另外，第三巡迴法院也表示Wyndham Hotels無權要求FTC提供逐條釋義。換句話說，FTC僅需負一般性的告知義務。 此判決大幅擴張FTC監督管理企業資料安全保護措施的權力，對於廣大個人資料本人而言，可說是一大保障。
因應韓美自由貿易協定，韓國實施新修正之專利及商標制度韓國特許廳於2011年11月22日送交韓國國會批准之韓美自由貿易協定(Free Trade Agreement，簡稱FTA)，於2012年3月15日正式生效。為因應韓美FTA的簽定，韓國專利及商標制度均須進行一定幅度的修正，例如專利權存續期間延長、聲音及氣味得註冊為商標等新制度。 首先，專利法修正重點如下： 專利權存續期間延長：指針對因審查過程緩慢，導致專利登記遲延者，遲延期間得視為專利權之存續期間。 專利申請優惠期延長：專利申請人將其發明公開發表在學術期刊時，將申請之優惠期從公開後6個月延長至12個月，亦即12個月內提出申請仍可取得專利。 廢止專利權撤銷制度：將發明專利在韓國國內一定期間(最少5年)不實施之撤銷專利權事由，予以廢止。 其次，商標法修正重點如下： 增訂新型態商標及證明標章制度：聲音、氣味得註冊為商標；新增證明標章之保護態樣，以證明「品質」、「原產地」、「生產方法」等特性。 廢止商標之專用使用權登記制度：修法前之韓國商標法第56條第1項第2款規定，商標專用使用權之設定、移轉(一般繼承之情形除外)、變更、消滅(權利混同之情形除外)或處分之限制等事項，非經登記，不生效力。 新增法定損害賠償制度：商標權人除可依照實際侵害情況請求損害賠償，商標法亦新增權利人得請求法定5千萬韓圜範圍內的損害賠償金額，且須經法院判決同意該損害賠償額度。 此外，針對專利法、新型專利法、設計保護法、商標法、不正競爭防止及營業秘密保護法等法規，也一併新增「保密命令制度」，亦即透過訴訟程序，對於營業秘密有被公開之虞之情形時，法院可對雙方當事人作出不得公開之保密命令。韓國期透過此次專利法及商標法等相關法規之修正，讓專利權人於權利行使期間得以獲得實質保障，同時亦擴大企業商標選擇之範圍。
歐洲執委會公布安全，清潔，聯網式交通行動議程歐盟執委員會於2018年5月17日公布第三套安全，清潔和聯網式行動議程，該套行動也是最後一套實現歐洲運輸系統現代化的措施。 在2017年9月的國情咨文中，歐盟主席容克提出歐盟產業成為創新，數位化和低碳化均能領先於全球地位的目標。基於此原因，在交通領域執委會2017年5月和11月的提出兩套歐洲行動措施，其目標係讓所有歐洲人都能從享受更安全的交通，更少污染的車輛和更先進的技術解決方案，並同時加強歐盟產業業的競爭力。為此，本次議程聚焦包括未來車輛和基礎設施安全措施綜合政策;重型車輛的二氧化碳標準; 歐洲發展和製造電池的戰略行動計畫以及關於車聯網和自駕車的前瞻性戰略。 而歐洲能源聯盟表示：交通正到跨越一個新的技術前沿，透過能源聯盟的最終提案，將可幫助我們相關產業保持領先地位，並透過大規模研發關鍵技術解決方案，包括潔淨能源之電池技術和建置相關充電基礎設施，以解決碳排放，行車擁堵和降低事故發生。 歐盟氣候行動與能源專員亦表示：所有部門都必須為實現巴黎協議之氣候承諾做出貢獻，這就是為什麼歐盟在有史以來第一次訂定提提高燃油效率標轉和減少碳排放的標準，也為歐洲工業鞏固當前在創新技術領域的領導地位。 歐盟交通運輸專員亦表示：過去一年，執委會在通領域提出許多重大舉措，以提升未來交通安全、乾淨及聯網性。所有措施皆以乾淨且智慧的交通工具目標前進，並尋求各成員國和歐洲議會能支持該雄心壯志。 歐盟內部市場，產業，創業和中小企業專員表示：90％的道路交通事故係出於人為錯誤，目前提出新的強制性安全功能將減少事故的數量，並有利車聯網及自駕車技術發展。 本次議程內容簡介如下 交通安全 從2001年至今道路死亡人數減少已了一半以上，然2017年歐盟境內仍有25,300人交通事故身亡，及13.5 萬人受重傷。因此，歐盟執委會建議新型車輛應配備先進的安全功能，例如用於汽車的先進緊急煞車和車距保持輔助系統或卡車對於周遭行人和用路人之檢測系統。此外，委員會將幫助成員國能在危險路段進行系統性改善建設投資。預計將可挽救多達10,500人的生命，並在2020-2030年期間避免接近6萬人的嚴重受傷，從而為歐盟實現2050年接近零死亡和重傷的長期目標做出貢獻。 交通能源清潔性 歐盟執委會將提出有史以來第一個重型車輛的二氧化碳排放標準來完成低排放交通系統的計畫。此外，2025年，新卡車的二氧化碳平均排放量必須比2019年低15％。2030年，新卡車與2019年相比，必須達到至少30％的減排目標。該目標符合可協助歐盟於巴黎協議所作的承諾，並將使運輸公司（主要是中小企業）透過降低油耗（5年25,000歐元）節省大量成本。為了進一步減少二氧化碳排放，委員將會促進更多的先進低汙染的車輛（例如：改善汽車動力學、輪胎等零件）。此外，委員會將提出一個全面的行動計畫，將有助於在歐洲建立一個具有競爭力和永續性發展的電池生態系統。 車聯網及自駕車 目前越來越多地車輛已配備駕駛員輔助系統，並朝完全自動駕駛車輛目標邁進。因此，該戰略將著眼於道路使用者之間的新協同操作，此將為整個交通系統帶來巨大的利益。運輸將變得更安全，更清潔，更便宜，並使老年人和行動不便的人更方便。此外，執委會建議建立一個全數位化的貨運資訊交換環境，以促進物流運作的數位資訊流。