落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
- 美國聯網車監管制度與合規實務說明會
澳洲政府於2014年推動電信（監察及查閱）法修正（資料保存）案（Telecommunications (Interception and Access)Amendment (Data Retention) Bill 2014），增訂資料保存規範，其目的在於打擊重大犯罪、恐怖主義、國際組織犯罪等，其措施為要求國內網路服務商須保留用戶之通訊資料，並保存期間至少2年，對此，當時情報及保安事務議會聯合委員會（下稱委員會）於評估該修正案時，卻發現一項爭議問題，即民事訴訟當事人亦得查閱通訊資料，但資料保存行為之正當性乃立基於維護國家安全，實與民事訴訟制度意義相悖，故委員會提出應排除民事訴訟領域得以查閱通訊資料之建議。 澳洲政府對於委員會所提出之建議採取全盤接受之態度，進而重新修訂2014年電信（監察及查閱）法修正（資料保存）案，且併同修正刪除1997年電信法令第280條，有關得以民事訴訟傳票或命令，向網路服務商查閱其所保存之通訊資料；至於網路服務商之通訊資料保存義務方面，仍須依1979年電信（監察及查閱）法為之。前述修正於2017年4月13日生效。 然而，澳洲政府方面時至今日卻有態度轉變之趨勢，起因於通訊部長與檢察總長於2016年12月20日公告，其認為資料保存措施對於特定類型之民事訴訟並非沒有實益，如：維護智慧財產權事件、家庭事件（如：離婚）或勞工權益事件（如：公司起訴勞工）等，故應視類型或個案情形予以開放查閱；因此，主管機關提出三項問題向社會大眾徵求意見：1、民事訴訟當事人在何種情形下可查閱通訊資料；2、倘若民事訴訟當事人不得查閱通訊資料者，對於民事訴訟會產生何種影響；3、是否有特定之民事訴訟類型，是排除1997年電信法第280條(1B)不適用。 實際觀察澳洲政府所推動之該項公告，在其國內爭議相當大，不僅該項公告已臨近前述修正生效日，且開放民事訴訟當事人得以查閱通訊資料之正當性疑慮仍未解除，甚且，亦與近期國際上國家安全與人民隱私權保障間之衝突日趨顯著，如：英國之調查權力法案（Investigatory Powers Act. 2016）不無關聯，因此，澳洲政府是否願意在社會輿論反對聲浪中，仍維持該項公告修正意向，值得後續觀察。
新加坡修訂「建築物資通訊設施實施條例」為了落實提供高速、穩定的寬頻服務，新加坡資訊通訊發展管理局（IDA）今( 2013)年4月針對新建物，修訂「建築物資通訊設施實施條例」(Code of Practice for Info-Communication Facilities in Buildings)，以加速家庭寬頻網路發展，滿足新興服務之所需。 本條例以光纖普及為前提，賦予新建物開發商或是業者諸多義務，以「用戶需要開放項目」與「限制建物內空間技術」最為重要。所謂的「用戶需要開放項目」，是指開發商或是屋主須讓新建物具有6項基礎設施，包括：(1)引進管(Lead-in pipes)、地下管(Underground pipes)與人手孔(Manholes)；(2)電信主配線箱(Main Distributor Frame, MDF)；(3)電信設備機房(Telecommunication Equipment Room, TER )；(4) 行動通訊布放室(Mobile Deployment Space，MDS)；(5)電信櫃豎版(Telecommunication risers)；(6)寬頻同軸電纜系統(a Broadband coaxial cable system)或具有光纖電纜(Optical Fibre Cable)等級之終端點。其中，第六項是要求開發商與擁有者鋪設線路範圍，包含現有道路至電信主配線箱之管道，且其線路等級必須是同軸電纜或光纖以上，以確保屋內終端線路皆得以承載100M以上速率。至於，「限制建物內空間技術」，是指屋內配線至家中客廳與每個房間，應鋪設同軸電纜或是非屏蔽雙絞線(六類以上)，使民眾能無所不在享受快速網路之便利。 除上述固網建設規範外，為了達成行動寬頻戶外覆蓋率99%、室內覆蓋率85%之規定，本條例亦要求開發商或擁有者須無償提供電信業者行動通訊佈放室。雖然，MDS的大小視行動寬頻涵蓋範圍與發展大小而定，最小的行動通訊發展室範圍是18平方米。不過，本條例允許MDS可不必是一個連續的空間，以兼顧開發商與擁有者對新建物空間之規劃。本草案落實後，預計不僅可減少電信商租賃放置基地台之成本外，亦可解決與管理委員會或業者交涉之時間，讓電信商能更為迅速完成行動寬頻覆蓋率。 IDA預計本條例實施後，將可達成「下一代國家資通訊基礎建設發展計畫」中，規劃2015年光纖覆蓋率100%、提供民眾1Gbps固網速度之理想，使新加光纖覆蓋率可達到95%。
澳洲新南威爾斯州議會通過《2026年工作健康與安全（數位工作系統）法案》澳洲新南威爾斯州（New South Wales）議會於2026年2月12日通過《2026年工作健康與安全（數位工作系統）修正法案》（Work Health and Safety Amendment (Digital Work Systems) Bill 2026，以下簡稱本法案），並於同月18日獲御准（Royal Assent），以防範人工智慧在工作場所中對受雇者可能造成的職業安全危害。本次修正為澳洲州政府首次將數位工作系統納入《工作健康與安全法》規範框架之立法，明確要求雇主妥善管理人工智慧及其他數位工作系統對員工所帶來的安全風險；此次修法草案概述如下： 首先，就規範客體之界定而言，本次修法於第4條新增「數位工作系統」（digital work system）之定義，指演算法、人工智慧、自動化系統或線上平台。 其次，本次修法重點之一為主要注意義務之擴張。新南威爾斯州《工作健康與安全法》第19條第一項原即明定，事業單位對勞工之健康與安全，在合理可行的範圍內負有主要注意義務（primary duty of care）；同條第19條第3項第c款則進一步規定，事業單位應在合理可行的範圍內，為勞工提供並維持安全的作業系統（safe systems of work）。本次修法於前揭基礎上，於母法第19條第3項新增第c1款，要求事業單位在合理可行的範圍內，確保勞工之健康與安全不因該業務或事業單位「使用數位工作系統」而受到危害。再者，新增之第21A條亦明定，凡經營涉及數位工作系統之事業單位，均需在合理可行的範圍內，確保勞工之健康與安全不因該事業單位透過「數位工作系統」進行「工作分配」（the allocation of work）而面臨風險。此項擴張之核心意義，在於將數位系統所衍生之職場危害明文納入法規框架，將原本僅賴概括性規定涵攝之情形予以類型化，使雇主注意義務之射程更為清晰。傳統作業系統與新興「數位工作系統」（digital work systems）均明確落入規範範疇，部分原本遊走於灰色地帶之邊緣案例，亦得據此獲得更明確之法律保護。 進一步就前述之風險態樣類型化而言，修正後之第21A條第2項明定，營運業務或事業之人必須考量使用數位工作系統分配工作，是否會導致以下風險：(一)對業務或事業中的勞工（workers at work in the business or undertaking）造成過度或不合理的工作負荷；(二)採用過度或不合理的指標，對業務或事業中的勞工進行績效評估與追蹤；(三)對業務或事業中的勞工實施過度或不合理的監控或監視；(四)在業務或事業的經營過程中，做成違法的歧視性行為或決策。上開四項風險類型，實已涵蓋當前AI演算法管理（algorithmic management）所衍生之主要爭議。 最後，本次修法後，依第117條及118條規定，持有「工作健康與安全進入許可證」（work health and safety entry permit）之人員有權進入工作場所，就疑似違規情事檢查相關數位工作系統，而相關事業單位對此負有提供合理協助（reasonable assistance）之義務；主管機關則應就上開合理協助之行使訂定並於官方網站公告相關指引，以資遵循。 綜上，新南威爾斯州本次修法之特色，在於同時就「實體義務」、「執法配套」與「規範動態檢討」三個層次，完整建構數位工作系統之職業安全規範框架。新南威爾斯州之立法經驗，就規範客體之類型化、雇主注意義務之具體化，以及與國際規範接軌之機制設計，均可作為我國未來修法及主管機關訂定相關指引時之重要參酌。
什麼是「美國CFIUS」？美國CFIUS又稱為美國外資投資委員會（Committee on Foreign Investment in the United States），其依據1950年國防製造法（Defense Production Act of 1950）第721款The Exon-Florio修正案，授權組成的政府委員會。 美國外資投資委員會CFIUS的主要任務，在於審查外資併購交易，以防外國人透過跨國企業併購方式，控制美國企業，危及國家經濟與軍事安全並導致本國高科技技術外流。 美國在2007年簽署「外國投資和國家安全法」（The Foreign Investment and National Security Act of 2007，簡稱FINSA），該法案針對外國投資安全審查項目，包括加強國家安全概念、完善CFIUS審查與監督職責等。 近期，新的立法提案方向為「外國投資風險審查現代化法案」（the Foreign Investment Risk Review Modernization Act of 2017，簡稱FIRRMA）。此法案目標是推展CFIUS現代化改革，限制外資對美國科技公司和基礎設施的投資，以維護國家安全。該法案將帶給國會、外商投資及CFIUS的監管環境顯著改變，具體內容包括擴大CFIUS管轄權與權力、擴大對美國關鍵技術與基礎設施投資審查、增加國家安全風險考量因素等。