落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
所謂「大麻」實為大麻屬植物，其中除了較常耳聞的娛樂用大麻外，尚包含工業用大麻（俗稱火麻，hemp），兩者區分標準在於四輕大麻酚（THC）成分高低，後者THC成分小於0.3%，難以做為娛樂用，由於大麻於過去曾有相當時間遭各國所禁止，因此與其有關之研究、專利申請案之數量可謂罕有。然而，近年來隨著各國逐漸放寬對大麻的限制，諸多藥商陸續投入以大麻為成分之藥品開發中，並執此取得專利申請，從而引發相關人士提出此種專利究竟是否具備新穎性之疑問。 日前於2018年7月間，美國即有藥商對此提出專利訴訟，全案大致背景如下：United Cannabis Corp.（下同UCANN）對Pure Hemp Collective Inc.（下同Pure Hemp）提出專利侵權訴訟，指稱Pure Hemp所研發之多款含CBD成分之藥物均侵害其編號9,730,911之專利（下同911專利）。而Pure Hemp則反駁，並稱911專利其中第1、5、16、20、25項聲明將此一專利範圍擴張至所有以液體型態存在之高效價大麻二酚（liquid form of high-potency cannabis），因此若其他藥品商以此一成分生產其他藥物，不論作用、成效是否相同，均可能侵害UCANN之專利權。 本案爭點在於：「以大麻中，早已廣泛流通於市面之大麻二酚（CBD）製成之藥品，是否具備專利法上之新穎性？」。對於系爭專利成分「液態高效價大麻二酚」，事實上已於美國銷售多時，從而此一成分是否具備「新穎性」即容有疑問。業界相關人士指出，美國專利及商標局（U.S. Patent and Trademark Office，下同當局）未審酌上開涵蓋過廣之專利聲明以及未顧及系爭專利成分已於市場流通多年此二種情況，即核發專利許可證，可以說是一種行政怠惰。同時間，也有論者較為持平的認為這可能得肇因於大麻專利申請案之前例過少，使得當局專職審核是否具備新穎性要件之相關人員要難查知。此種說法雖然稍有為當局開脫之嫌，但實際上也間接彰顯了專利審查人員於核發此種專利時，有判斷不周的情形。無論如何，目前全案尚在審判中，詳細結果，均有待判決做成後方知一二。
美國貨幣監理局發布解釋函，授權聯邦註冊銀行和聯邦儲蓄協會提供加密資產保管服務因應加密貨幣投資交易盛行，美國貨幣監理局（Office of the Comptroller of the Currency, OCC）於2020年7月22日發布一封解釋函，授權聯邦註冊銀行和聯邦儲蓄協會（federal savings associations）可為客戶的加密貨幣或數位資產提供保管服務，促使銀行持續發揮金融中介功能。此舉將有助於加密貨幣推動發展。 依據解釋函內容，聯邦註冊銀行和聯邦儲蓄協會若從事加密貨幣保管業務，主要注意要點包含必須制定健全的風險管理規範；所提供之服務須與銀行的整體業務計劃和策略一致；須以安全可靠之方式進行，包含建立適當系統以識別、衡量、監控和控制其保管服務的風險；審核帳戶是否符合洗錢防制法令；維持適當有效之內部控制制度；確保銀行所保管之資產與自有資產分開存放，並在共同控制的情況進行維護，以確保資產不會被內部或外部人員損失、毀損或挪用；維護有效之資訊安全基礎架構與控制措施，以減少駭客入侵、竊盜和詐騙；判斷是否需要專門的查核程序；提供可靠的財務報告，以及遵守相關法律規範。 貨幣監理局表示，加密貨幣保管服務，包含持有與加密貨幣相關連的密鑰，屬傳統銀行保管業務的延伸，為銀行業推動現代化營運的表現。隨著金融市場數位化，銀行與其他服務提供商將需要利用新技術和創新方式，以滿足客戶的金融服務需求。
歐盟執委會於2026年第二季提出「雲端與人工智慧發展法案」草案歐盟執委會(European Commission)於2026年6月3日提出「雲端與人工智慧發展法案(Cloud and AI Development Act)」草案（簡稱草案），該草案之立法目的係為建立歐盟數位主權(digital sovereignty)，要求涉及政府敏感資訊（如金融、司法、醫療等領域）之資料，未來需儲存於符合歐盟主權要求之雲端基礎設施。 現今亞馬遜網路服務公司(Amazon Web Services, AWS)、微軟(Microsoft Azure)及谷歌(Google Cloud Platform, GCP)三家公有雲雲端服務供應商，持有全球約63%雲端市場之市佔率，且因美國「釐清境外合法利用資料法(Clarifying Lawful Overseas Use of Data Act)」之規定，受美國管轄之雲端服務供應商，無論其資料數據儲存於全球任何地區，皆有配合美國政府調取資料之義務，歐盟為降低其成員國對於外國大型科技公司之依賴性並取得數位主權，爰提出此項草案。 草案擬將雲端運算及人工智慧主權定義為4個等級，引導歐盟成員國政府機關依風險評估結果採購不同主權等級之雲端服務。主權保障級別從低至高依序為：第1級要求資料處理及儲存須於歐盟境內；第2級要求雲端服務供應商需證明不受第三國影響，確保軟體供應鏈具備透明度；第3級要求雲端服務供應商由歐盟擁有及控制，並符合其他額外資格要求(例如雲端服務供應商之人員國籍要求)；第4級要求雲端服務供應商可完全掌控其軟體供應鏈及具備足夠透明度，且不受第三國干預。從上述對於雲端服務及人工智慧主權之四級保障程度可知，評估要素除了過往關注的資料儲存地點，擴大至軟體供應鏈透明度及是否可不受第三國干預，藉以逐步達成強化數位主權之目標。 歐盟係透過法制及採購政策推動，逐步建構其數位主權體系，並強化對於政府敏感資料之控管。於我國而言，確保數位主權亦為重要政策議題，政府機關持續推動運算設備、資料中心及雲端服務平台之建置及研發，以強化數位基礎建設。本草案雖目前仍處於歐盟執委會倡議階段，惟其所建立之數位主權分級評估制度，將攸關未來歐盟雲端服務市場之發展方向，並可能成為各國推動數位主權政策之重要參考，本草案後續發展趨勢及操作方式值得持續追蹤觀察。