落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
人工智慧目前正快速發展，不論是在醫療、農業耕作、製造生產或是氣候變遷等領域上，均帶來了許多改變，然而在人工智慧應用之同時，其也存在許多潛在風險如決策不透明、歧視或其他倫理與人權議題。 歐盟為求在全球競爭激烈的背景下，維護其於人工智慧相關領域的領先地位，並確保人工智慧技術於改善歐洲人民生活的同時，亦能尊重(respecting)人民權利，乃於今年(2020年)2月發布「人工智慧白皮書」(White Paper on Artificial Intelligence)，將採投資及監管併用之方式，促進人工智慧應用與解決其相關風險，其對於未來促進人工智慧的應用(promoting the uptake of AI)與相關風險解決，計畫朝向建立卓越生態系統(An Ecosystem of Excellence)及信任生態系統(An Ecosystem of Trust)兩方面進行。 在建立信任生態系統中，歐盟提到因為人工智慧具有變革性的潛力，所以就信任的建立乃至關重要，未來歐洲人工智慧的監管框架除了須確保遵守歐盟法規外(包括基本權利保護與消費者權益維護之規範)，對於高風險性之人工智慧應用，其將強制要求需於銷售前進行合格評定(mandatory pre-marketing conformity assessment requirement)。而有關高風險性之定義，歐盟於該白皮書指出須符合以下兩個要件： 考量人工智慧應用之一般活動特徵，其預計會有重大風險的發生，例如在醫療保健、運輸、能源和可能屬於高風險的公共領域；以及 在預期用途或應用上都可能對個人(individual)或企業(company)帶來重大的風險，特別是在安全性(safety)、消費者權益(consumer rights)與基本權利(fundamental rights)上。 歐盟委員會目前針對於以上白皮書之內容與附隨報告，將向公眾徵詢意見至今年5月19日。
德國社群媒體管理草案交付立法程序德國總理梅克爾（Angela Merkel）所領導的內閣於2017年4月5日通過社群媒體管理草案(Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken)，該法案要求社群媒體必須積極管理使用者散布的仇恨言論及假消息，未善盡義務的社群媒體最高可裁罰5千萬歐元。 德國早於2015年12月已與Facebook、Google及Twitter等知名社群網站達成協議，必須在24小時內刪除網站上的不實或違法言論。但根據jugendschutz.net組織公布的數據，Facebook刪除了39％違法內容、Twitter只刪除了1％違法訊息，而Google的Youtube則需要以其他工具進行實測。由於社群媒體自我管理的效果不彰，促使德國政府認為在業者自律之外，必須要制定法律與罰則讓社群媒體負起責任，積極管理網站上使用者的不實與違法言論。 本草案重點包括： 適用範圍：本草案適用於電信媒體服務提供商，且該提供商之網路平台係以營利為目的，允許使用者與其他使用者共享訊息或對大眾分享任何資訊。 社群媒體必須設立24小時受理案件之投訴管道。 接到投訴後，社群媒體必須在24小時內刪除「明顯違法」之內容，其他有爭議的內容必須在7天內確認並刪除違法內容。 社群媒體必須定期提供主管機關其投訴之處置報告。 本草案已送交德國立法機關進行立法程序，但反對者認為一旦通過立法，可能會對言論自由產生不良影響，並抑制網路言論的發表。德國對於社群媒體之管理，值得持續關注。
瑞士洛桑管理學院公布《2025年IMD世界競爭力年報》瑞士洛桑管理學院（International Institute for Management Development, IMD）於2025年6月17日發布《2025年IMD世界競爭力年報》（IMD World Competitiveness Yearbook），針對全球69個國家與地區，從「經濟表現」、「政府效能」、「企業效能」及「基礎建設」四大面向進行綜合評比，瑞士、新加坡與香港分列前三，展現其制度穩定性與政策應變能力的優勢。 排名第一的瑞士，擁有強健的制度架構，且其「政府效能」與「基礎建設」表現卓越，然瑞士在「經濟表現」與「企業效能」表現略有下滑，主要與公共採購制度的透明度相關，當地企業反映，公共部門合約對外國投標者開放程度不足，限制市場競爭並影響外資參與。 新加坡「經濟表現」亮眼，使其整體競爭力維持在第二名，然因企業外移嚴重，其「企業效能」由去年的第二名滑落至第八，對未來競爭力構成威脅。 香港由第五名升至第三，四大面向皆有明顯進展，顯示其持續改善投資環境；且香港在企業效能方面表現出色，有效強化其作為全球金融中心的地位。 我國排名第六，較去年上升兩名，展現整體競爭力持續提升。四大面向表現均衡，尤以「經濟表現」與「企業效能」成績亮眼，顯示我國出口動能穩定，企業具備良好轉型能力與國際競爭力，科技產業持續發揮關鍵影響力。「政府效能」維持穩定，財政與稅制制度具備競爭優勢，對營商環境有正面助益。惟在「基礎建設」與社會面向方面，仍面臨人口結構變遷、能源轉型與永續發展等挑戰，需持續強化相關制度與政策配套，以確保長期發展動能。 總體而言，競爭力除經濟與治理外，亦受社會及供應鏈變動影響。未來各國應持續強化治理與創新能力；兼顧社會包容性與產業永續發展，以維持長期競爭力。
日本內閣官房提出未來投資戰略報告加速機器人實用及活化日本內閣官房日本經濟再生總合事務局（内閣官房日本経済再生総合事務局）在2017年6月9日第10次「未來投資會議」中提出未來投資戰略2017報告（未来投資戦略2017~Society 5.0 の実現に向けた改革~），在成長的戰略成果（5）日本第四次產業革命及新經濟的展開中，分別對於機器人實用、物聯網（IOT）、大數據（BIG DATA）、人工智慧（AI）等提出成果及未來計畫。 機器人加速實用化：首先，機器人廣泛利用在商業設施、機場等日常生活空間，於2016年9月羽田機場設置機器人實驗室「Haneda Robotics Lab」，利用機器人改善服務並補充勞動力。有關打掃清潔、協助移動、查詢服務等17種機器人，將進行實證實驗。而路面協助行走型機器人「RT.1」已經完成，於2015年生活協助型機器人之安全性得到國際認證，其後發展之「RT.2」將使用於長期照顧層面。其次，開發農業使用之自動駕駛拖車，並提供工作實際狀況和土壤狀況之電子管理服務。今年6月開始商業化之自動駕駛顯示器，可以監控自動駕駛耕作機器進行自動耕作等。在物流管理方面，於2018年將於山間部等地區進行無人機的包裹遞送，2020年將在都會區全面無人包裹遞送。預計將與日立等相關公司，進行物流管理系統之開發及活用福島機器人測試場域。