落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
2014年2月12日，美國發表「網路安全框架(Cybersecurity Framework)」，該框架係由美國政府、企業及民間機構花費一年的時間共同發展而成，其蒐集了全球現有的標準、指引與最佳實務作法，最後由國家標準技術局（National Institute of Standard and Technology, NIST）彙整後所提出。 本框架主要可分成三大部份： 1.框架核心（Framework Core） 框架核心包括辨識(Identify)、保護( Protect)、偵測( Detect)、應變( Respond)、與復原( Recover)等五項功能。這五項功能組成網路安全管理的生命週期，藉由這五項功能的要求項目與參考資訊的搭配運用，可使組織順利進行網路安全管理。 2. 框架實作等級（Framework Implementation Tiers） 共分成局部（Partial）、風險知悉（Risk Informed）、可重複實施（Repeatable）、合適（Adaptive）四個等級。組織可以透過對風險管理流程、整合風險管理計畫以及外部參與等三個面向的觀察，瞭解組織目前的安全防護等級。 3. 框架側寫（Framework Profile） 框架側寫係組織依照本框架實際操作後所產出的結果，可以協助組織依據其企業需求、風險容忍度，決定資源配置的優先順序，進一步調整其網路安全活動。 此一安全框架旨在提供整體規劃藍圖予尚未建立網路安全架構的組織參考，而針對已有建立網路安全架構者，該框架並未意圖取代組織原先的風險管理程序和網路安全計畫，而係希望協助公、私部門改善資通訊科技和工業控制系統風險管理的能力。
Like or Not！德國地方法院針對facebook「讚」按鈕功能之判決日前有新聞報導，google將推出「+1」按鈕功能，用戶可以點擊該按鈕，向好友推薦特定的搜尋結果，市場上普遍預測google新增此「+1」按鈕功能，主要是用來跟facebook「讚」按鈕（Like Button）競爭。facebook「讚」按鈕功能已成為時下潮流新用語，諸如「給你一個讚」；而且還可以將facebook「讚」按鈕安裝在個人的部落格網頁、文章中。惟facebook的這項功能，一直以來也存在著侵害用戶個人隱私之疑慮。 德國柏林地方法院於今年（2011）03月14日針對facebook「讚」按鈕功能作出一則判決（LG Berlin, Beschluss vom 14.03.2011 - 91 O 25/11）。本案被告經營一項與原告相同的電子商務業務，並在其線上商店網頁中，安裝facebook「讚」按鈕（Gefällt-mir-Button）功能。判決中指出，安裝facebook「讚」按鈕，須運用facebook內建框架（iframe）語法，一旦安裝後，只要是登錄facebook的用戶，同時瀏覽被告網頁時，即使未點擊被告網頁上的「讚」按鈕，用戶的使用記錄都會回傳至facebook。但被告網頁上並未刊登任何有關提醒用戶注意該項資料蒐集、回傳之訊息。 原告因而主張，被告未盡到告知用戶有關個人資料蒐集、加工資訊之義務，已經違反電信服務法（Telemediengesetz，以下簡稱TMG）第13條規定，因而構成不正競爭防止法（Gesetz gegen den unlauteren Wettbewerb，以下簡稱UWG）第4條第11款規定之不允許交易行為。UWG第4條第11款規定「違反本質上涉及交易相對人（Marktteilnehmer）之利益的市場行為（Marktverhalten）有關之法律規定，亦屬於不允許的交易行為（unlautere geschäftliche Handlungen）。」 柏林地方法院認為，TMG第13條本質上係與個人資料保護有關之規定，與涉及交易相對人之利益的市場行為無關，故本案無UWG第4條第11款規定之情形，與不正競爭行為無關，原告之主張因欠缺請求權基礎而敗訴。 然而，值得注意的是，本案法院並未進一步針對被告行為是否違反TMG第13條「有關個人資料保護」之規定提出其見解。TMG第13條係依據「歐盟1995年個人資料保護指令」轉換而來，TMG第13條規定，若網站涉及個人資料的蒐集、加工行為，電信服務提供者（Diensteanbieter）有義務明確告知用戶相關訊息（包括明確告知用戶其可隨時撤回許可相關資料蒐集之表示等）。 爰此，被告於個人網頁安裝facebook「讚」按鈕功能，卻未告知用戶個人資料蒐集、加工之相關訊息，是否違反TMG第13條規定之告知義務，尚有待上級審加以定奪。而判決出爐後，也有專家建議，為避免有侵害個人資料之虞，在社群網站安裝facebook「讚」按鈕時，宜加註個人資料處理、保護之相關聲明。
歐盟執委會發布「歐洲風電行動計畫」，支持歐洲風電相關產業之發展歐盟執委會於2023年10月24日發布「歐洲風電行動計畫（European Wind Power Action Plan）」，以支持歐洲風電相關產業發展並強化其競爭力，同時確保該產業能在綠色轉型的過程中持續扮演關鍵角色，並以此提高整體風電的裝置容量。該計畫要求委員會、成員國和產業應立即採取以下6個方向的行動措施： （1）透過可預測且快速的許可程序，加速風電的建置 執委會與成員國將共同發布「Accele-RES」倡議，推動許可流程的數位化、許可機關的職員訓練及建立政策指引文件，以及提高許可相關議題之討論層級；並且，鼓勵成員國透過風電承諾（Wind Pledges）、透明的競標時程表和長期的規劃來提高開發專案進度的透明度。 （2）改善風電競標機制的設計 在《淨零產業法（Net-Zero Industry Act）》草案和電力市場設計改革的基礎上，建立更客觀、非歧視性且透明化的風電競標標準，並將目標入法使相關策略具法律約束力。 （3）促進資金的取得 為了擴大對於歐洲風能產業的投融資，歐盟執委會將透過創新基金、歐洲投資銀行（EIB）提供歐盟風電相關產業的資金，以及融資擔保；並利用國家援助（State Aid）規範對歐盟風電供應鏈提供補助。 （4）建立公平且具競爭性的國際環境 為確保風電產業能在公平競爭的環境中順利營運，歐盟執委會將密集監管可能有利於外國業者的不公平貿易行為，並將持續利用貿易協定促進歐盟業者進入外國市場，同時推動風電產業的規格標準化。 （5）培育產業技能 建立「大規模技能合作夥伴關係（Large scale skills partnerships）」以及透過《淨零產業法》推動「淨零產業技能學院」，培訓風電產業技術人才，包含針對青年、婦女與長者的職能培育計畫，以及勞工技能提升與再培訓計畫，因應積極的氣候目標以及市場規模快速擴張所創造之人力需求。 （6）鼓勵產業投入與成員國的承諾 歐盟執委會將與成員國和風電產業共同制定歐盟風能憲章（EU Wind Charter），促進更多風電利害關係人參與締約，擴大憲章適用對象，以建立歐洲風電產業能保持競爭力的優良環境。
從推動體系及法制架構思考我國文化創意產業發展之整合以南韓推動組織與法制架構為例