落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
近年來，人臉辨識（Face recognition）技術迅速發展，增加便利性的同時，也伴隨了種種隱憂，如：對隱私權的侵害、公部門權力濫用等，是以加州舊金山市（San Francisco）和麻薩諸塞州薩默維爾市（Somerville）分別在今年（2019）5月和6月發布公部門使用人臉辨識技術的相關禁令，加州奧克蘭市（Oakland）並於7月16日跟進，成為美國第三個禁止公部門使用人臉辨識技術的城市。 2018年麻省理工學院曾針對人臉辨識技術的正確率做過研究，其研究結果報告顯示黑人女性辨識錯誤率超過30%，遠不如白人男性；美國公民自由聯盟（American Civil Liberties Union, ACLU）也針對Amazon人臉辨識軟體Rekognition做過測驗，結果該系統竟誤將28名美國國會議員顯示為嫌疑犯，這兩項研究顯示，人臉辨識技術存有極高錯誤率且對種族間存有很大的偏見與歧視。對此奧克蘭市議會主席卡普蘭（Rebecca Kaplan）一項聲明中表示：「當多項研究都指出一項新興技術具有缺陷，且造成寒蟬效應的時候，我們必須站出來」。 卡普蘭並表示：「建立社區和警察間信任與良好關係以及導正種族偏見是很重要的，人臉辨識技術卻反而加深此問題」、「對於隱私權和平等權的保護是最基本的」，故奧克蘭市通過禁止公部門使用人臉辨識技術的法令，原因如下： 人臉辨識系統所依賴的資料集，具高度不準確性。 對於人臉辨識技術的使用與共享，尚缺乏標準。 這項技術本身具有侵犯性，如：侵犯個人隱私權。 政府如果濫用該技術所得之資訊，可導致對弱勢族群的迫害。 雖然目前美國僅有三個城市通過政府機關禁止使用人臉辨識技術的法令，但依照目前的發展狀態，其他的城市甚至州在未來也可能會跟進頒布禁令。
日本成立供應鏈資通安全聯盟（Supply Chain Cybersecurity Consortium）日本經濟產業省（下稱經產省）於2020年6月12日發布其國內產業資通安全現況與將來對策（昨今の産業を巡るサイバーセキュリティに係る状況の認識と、今後の取組の方向性）報告，指出近期針對供應鏈資通安全弱點企業所展開的攻擊，有顯著增長趨勢。為此，該報告建議共組供應鏈的企業間，應密切共享資訊；於關鍵技術之相關資訊有外洩之虞時，應向經產省提出報告；若會對多數利害關係人產生影響，並應公開該報告。遵循該報告之建議要旨，同年11月1日在各產業主要的工商團體引領下，設立了「供應鏈資通安全聯盟（原文為サプライチェーン・サイバーセキュリティ・コンソーシアム，簡稱SC3）」，以獨立行政法人資訊處理推進機構（独立行政法人情報処理推進機構，IPA）為主管機關。其目的在於擬定與推動供應鏈資通安全之整體性策略，而經產省則以觀察員（オブザーバー）的身分加入，除支援產業界合作，亦藉此強化政府與業界就供應鏈資通安全議題之對話。 只要贊同上述經產省政策方向與聯盟方針，任何法人或個人均得參加SC3。針對產業供應鏈遭遇資安攻擊的問題，經產省與IPA已有建構「資通安全協助隊（サイバーセキュリティお助け隊）」服務制度（以下稱協助隊服務），邀集具相關專長之企業，在其他企業遭遇供應鏈資安攻擊時，協助進行事故應變處理、或擔任事故發生時之諮詢窗口。而SC3則規畫為這些參與提供協助隊服務的企業建立審查認證制度。其具體任務包含擬定認證制度的審查基準草案、以及審查機關基準草案，提供IPA來建構上述基準。依該制度取得認證的企業，將獲授權使用「資通安全協助隊」的商標。同時在業界推廣協助隊服務制度，讓取得認證的中小企業得以之為拓展其業務的優勢與宣傳材料。
從歐洲法院實務看資料保護在智慧聯網時代下發展－以資料保存指令無效案和西班牙Google案為例 德國聯邦參議院通過保護數位世界隱私之《電信與電子媒體資料與隱私保護法》德國聯邦參議院於2021年5月28日通過《電信與電子媒體資料與隱私保護法》（Gesetz zur Regelung des Datenschutzes und des Schutzes der Privatsphäre in der Telekommunikation und bei Telemedien, TTDSG），其目的係保護數位世界中的資料與隱私，平衡數位服務使用者利益與公司經濟利益，並解決因德國電信法（Telekommunikationsgesetz, TKG）、電信媒體法（Telemediengesetz, TMG）與歐盟一般資料保護規則（General Data Protection Regulation, GDPR）同時並行，使消費者、電信服務提供者以及監管機關不確定如何適用上開法律之情況。 TTDSG彙集TKG、TMG中資料與隱私保護相關之條文，包含電信保密（Fernmeldegeheimnis）（第3條至第8條）、交通位置資料（第9條至第13條）、來電通知與號碼顯示（第14條至第16條）、終端使用者名錄和相關資料提供（第17條至第18條），以及允許匿名化、可隨時停止使用服務和保護未成年之相關措施（第19條至第23條），並參考GDPR和電子隱私保護指令（ePrivacy-Richtlinie）新增數位遺產（digitaler Nachlass）、終端設備隱私保護、同意管理以及監管之規定。 TTDSG於第4條新增數位遺產規定，終端使用者繼承人或具有相似法律地位者，可以向供應商行使繼承人權利，不受電信保密相關規定限制；在終端設備隱私保護和同意管理之部分，TTDSG第24條規定原則上第三方僅能在終端使用者同意下，於使用者的終端設備中儲存與近用資料，且當事人可隨時撤銷同意。 最後在監管方面，則分為個人資料保護相關與電信媒體領域，前者依TTDSG第28條、第29條由德國聯邦資料保護與資訊自由委員會（Die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit, BfDI）作為獨立的資料保護監管機構，後者則依TDSG第30條屬德國聯邦網路局（Bundesnetzagentur）的職權範圍。