落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
環保署近日表示，一九九八年所訂二氧化碳減量標準無法達成，建議參考經濟合作暨發展組織（ OECD ）模式，在二○二五年年平均成長率降為一％，對工業、能源和交通等有影響環境之虞的政策實施「政策環評」。但學者研究認為，及早因應比延後減量更有利。依據環保署所提出對溫室氣體減量根本問題，所牽涉的工業、能源和交通等重大政策進行政策環評，首當其衝包括蘇花高、中油八輕和台塑大煉鋼廠恐都將接受「檢驗」。 除鋼鐵排放持續逐年增加，國內前一百大公司的溫室氣體排放量佔工業部門排放量九成，住商和運輸部門執行情況也差。尤其推動汽燃費改隨油徵收一直未落實，交通政策以大量資金投注在新道路建設，吸引更大車流，應檢討整體運輸政策。 在策略上，應根據現有環境影響評估法第廿六條，訂定「政府政策環境影響評估作業辦法」，對國家溫室氣體減量最根本所在的工業、能源、交通政策，以及其他有影響環境之虞政策，都應實施「政策環評」，並應建立現有能源價格和徵收碳稅討論機制。
美國通過《地理空間資料法》，明確化地理空間資料管理美國於2018年10月5日，通過《2018年地理空間資料法》（Geospatial Data Act of 2018，下稱《GDA 2018》），並編列入《2018年美國聯邦航空總署重新授權法案》（Federal Aviation Administration Reauthorization Act of 2018）。該法是接續《2017年地理空間資料法》（Geospatial Data Act of 2017，下稱《GDA 2017》），做出進一步的調整。 《GDA 2017》的核心目標就是要根本性地重整管轄權，以順利發展「國家空間資料基礎建設」（National Spatial Data Infrastructure）。要點如下： 原先美國有許多管轄的地理空間資料旁枝機構，工作重疊性高、權責不清，《GDA 2017》指定「聯邦地理空間資料委員會」（Federal Geographic Data Committee, FGDC）作為權責機關，並管理國家空間資料資產（National Geospatial Data Asset）。 指定「國家地理空間資料諮詢委員會」（National Geospatial Advisory Committee, NGAC），提供FGDC建議並進行監督。 擴充「地理空間資料」的定義，把所有量測（Survey）和製圖（Mapping）成果解釋成地理空間資料（Geospatial Data）。 《GDA 2018》進一步提出規範，明確化地理空間資料管理： 回饋報告 要求執行與地理空間相關計畫的聯邦單位，提供年度報告；並要求聯邦地理空間資料委員會（FGDC）按《GDA 2017》所列的職責，對於所有相關單位進行評估報告。這些評估報告會提交給國家地理空間資料諮詢委員會（NGAC）寫成報告，在兩年內提供給國會。 國家空間資料基礎建設 明確設立兩個目標：第一個目標是地理空間資料的隱私管理和安全性保障；第二個目標則是建置全球空間資料基礎建設。 國家空間資料資產 希望FGDC會能夠就各個主題指定專責機構進行管理。
Google宣告關閉西班牙Google新聞服務搜尋引擎巨人Google在西班牙施行新著作權法前關閉該國的Google新聞服務。西班牙將於2015年1月正式施行新著作權法，新法中出版商將可向新聞内容聚合平台業者（news aggregator）徵收授權金，且著作權人不得約定不行使該權利。新法中並未明定新聞内容聚合平台業者如Google新聞與Yahoo新聞應支付的授權金額，但卻規定違反此法令的公司需繳付75萬美金的罰款。 近年來，歐盟各國如德國、法國相繼推行新著作權法，讓著作權人得向新聞内容聚合平台業者徵收授權金，而Google則透過與出版商約定不行使該權利作爲因應措施。而由於西班牙此次的新法規定著作權人不得約定不行使該權利，導致Google首次因法規而關閉該國的Google新聞服務。 Google表示此項新法規要求出版商向Google新聞徵收授權金，哪怕它只是一則小小的摘要。Google新聞的總監Richard Gingras表示Google新聞並未含任何廣告亦無實際盈利；相反地，該服務為出版商帶來超過百萬的讀者流量。新法規的施行將增加Google新聞的營運成本，因此才在新法規施行前關閉西班牙版本的Google新聞服務。 此舉將造成當地網路媒體與出版業者的網路流量損失，爲此西班牙新聞媒體組織 (The Spanish Association of Daily Newspaper Publishers, AEDE)發表聲明希望西班牙政府、歐盟當局及反托拉斯聯盟能介入調解此次Google新聞的關閉事件，以保護人民與企業的權利。 新法施行在即，究竟Google新聞的關閉會對此次西班牙新著作權法的施行造成何種影響值得後續關注。
美國指控中國兩大電信通訊商威脅國家安全，呼籲各機關及私人企業拒絕向其購買設備及技術美國眾議院情報委員會終於發佈了對中國兩大電信通訊商「中興」(ZTE)和「華為」（Huwei）的調查報告，報告結論指出，「中興」和「華為」確實危及美國的國家安全。 情報委員會呼籲美國政府機關和企業，尤其是政府機關，不應該讓「中興」、「華為」成為資訊系統相關設備或零組件的供應商，因為他們會安裝「後門程式」（backdoor）為中國政府和軍方進行間諜活動和網路攻擊，並敦促美國企業的經營者，應該阻絕未來收購、購併「中興」、「華為」的可能性。情報委員會亦呼籲美國國民不要購買任何由「中興」、「華為」製造的任何電子設備，包括手機、平板電腦、數據機等，否則個人資料將在不知不覺中全數洩漏給中國。 「華為」的建立者任正非（Ren Zengfe），同時也是「華為」執行長，1987年離開中國軍方創立「華為」，情報委員會認為他始終與中國政府和軍方保持密切聯繫，而「華為」拒絕配合情報委員會的調查，「中興」也不願提供完整的內部資料，報告指出：「中興」和「華為」應該讓公司內部架構、組織和財務管理及經營運作更加透明化，盡到美國法制要求的應盡義務」。 但英國政府表明支持「華為」，只是會採取必要的保護措施維護國家安全。「華為」在英國具有相當龐大的影響力，2001年在英國正式營運，投資了一億五千萬英鎊，並創造了650個工作機會，主要提供英國電信業者於寬頻服務的相關硬/軟體設備。另外英國手機營運商EE（Everything Everywhere）所發行英國首套的4G商用網，當中的行動作業系統便是使用「華為」的技術，EE的發言人表示：「我們有一套嚴格的安全檢查程序，確保合作伙伴和合作內容都符合EE的要求和標準，而「華為」是值得信賴和尊敬的伙伴」。 其他國家如加拿大和澳洲，則採取保守態度，評估這兩家電信通訊商的可信度和可用性。