落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
微軟對歐盟指令提起第二次上訴，該指令是命令微軟分享其原始碼給開放原始碼軟體公司。 在歐盟第二最高法院判決前，微軟公司發言人 Tom Brookes 說新上訴，是基於 6 月份（ 2005 年）與歐盟總部的協議，要透過法庭決定原始碼的爭議問題。 他說「微軟提起申請要求法院撤銷原訴訟決定，特別是關於將通訊協定的原始碼廣泛的授權，因為這都是微軟的智慧財產權」。 「我們採取這步驟，讓法庭能可以檢視現下的爭議，並就全世界智慧產權的保護提供一個長遠的意義」。 歐盟發言人 Jonathan Todd 說微軟公司軟體的互用性（ interoperability ）協議，無法用智慧財產加以保護，並且應該能在開放原始碼公司中，根據以往的營業執照加以流通使用。 不過，歐盟的執行者－歐洲委員會認為，相信此事件將獲得解決，如果盧森堡的原審法院維持 2004 年 3 月對微軟公司的規範。在 2005 年 8 月微軟公司最近的訴訟中，顯示出第二種情況。 Todd 說歐盟意識到微軟公司並沒有在與開放原始碼公司的分享協議中，分享微軟的觀點。 另外微軟第一次上訴判決的日期益尚未決定，微軟起訴乃針對歐盟命微軟必須支付 4 億 9 千 7 百萬歐元（ 6 億 2 千萬多萬美元）的反拖拉斯罰金，這也是歐洲有史以來最大的反拖拉斯罰金。 歐盟聲稱軟體巨人已過度行使其 Windows 軟體統治，而把競爭者封鎖在市場外。它命令微軟公司出售不含媒體播放器的軟體，並強迫它與其他伺服器軟體競爭者分享技術，使那些競爭者的產品可以與 Windows 為作業軟體的電腦進行更好的訊息交流。
澳洲證券投資委員會與美國商品期貨交易委員會簽訂雙邊合作協議2018年10月4日，澳洲證券投資委員會（Australian Securities and Investments Commission，簡稱：ASIC）與美國商品期貨交易委員會（US Commodity Futures Trading Commission，簡稱：CFTC）簽訂「金融技術創新合作雙邊協議」（Cooperation Arrangement on Financial Technology Innovation’ bilateral agreement，簡稱：協議），該協議內容主要針對未來金融科技（fintech）以及監理科技（regtech）之合作以及相關資訊作交換。 協議內容主要為加強雙方瞭解、識別市場發展趨勢，進而促進金融科技創新，對於運用監理科技之金融產業採取鼓勵的態度。 具體協議內容及相關合作計畫為以下條款： 1. 建立正式合作途徑，其中包含資訊分享，ASIC創新中心與LabCFTC之間的溝通； 2. 協助轉介有興趣於另一管轄權，設立企業之金融科技公司； 3. 促進監管機構定期舉行相關監管會議，討論目前時下發展趨勢，藉以相互學習； 4. 針對非公開資訊及機密資訊，給予監管機構以共享方式流通資訊。 儘管，澳洲與美國已簽訂此協議，惟須注意的地方在於，此協議本質上不具備法律約束力，對監管機構也未加註責任，並強加特定義務，以及未取代任何國內法的法律義務。 雖然，此協議不具任何法律約束力，但美國以及澳洲之金融科技創新產業間已形成一定之默契，以及交叉合作。此種互利合作，使兩國金融創新企業在雙方管轄權下，並且降低跨境成本及加深跨境無障礙性，為兩國監管機構提供最佳執行方式，以及進一步資料之蒐集。
英國生物資訊身分證法將納入醫療及犯罪紀錄 引發侵犯個人隱私爭議英國為了 減少受到恐怖威脅和犯罪攻擊，於去年底在一讀通過 英國身分證法，預計2008年實施。該法案最具爭議之處是記載資料，包含一些生物辨識 (biometrics) 資料，如指紋、容貌辨識和虹膜掃描等，這些資料將會儲存在國家身分辨識註冊資料庫中。反對身分證法案者認為，儲存這些資料已侵犯個人隱私權。保守黨議員表示，除非內閣能「確實證明」有其必要性，否則將反對身分證法案到底。 現行持有英國護照並不需要更新，但在2008年後想要申請更新或換發護照時，就必須遵守新的規定，也引發另一爭議問題～費用過高。倫敦政經學院的報告認為，每個人的新版身分證所需的技術成本，實際需要約 300英鎊；而登錄生物辨識資訊所需要的掃描器，就需要花4000英鎊；另外，所登錄的資訊判讀性會隨著時間而降低，至少得每五年重新掃描換發。
英國推動「公共緊急警報：行動通訊預警試驗」實證服務為試驗導入智慧防救災各項新興技術與機制，英國國民緊急事務秘書處 (Civil Contingencies Secretariat, CCS) 於2013年秋天分別對北約克郡 (North Yorkshire)、格拉斯哥 (Glasgow) 和薩福克郡 (Suffolk) 三地區進行共三次的「公共緊急警報：行動通訊預警試驗」(Public emergency alerts: mobile alerting trial)。由於英國已有92%民眾具有行動電話，並以隨時得接收訊息為出發點，進行有別於傳統預警系統之公共緊急預警系統試驗。此試驗由國民緊急事務秘書處與O2、Vodafone和EE三間行動網路業者 (mobile network operators) 和地方政府應變單位合作，雖係以行動電話為試驗主軸，但試驗重點則以政府或地方政府應變單位「不知道」民眾個人電話，亦不要求民眾簽署才能取得此次試驗訊息為主。 此三次試驗手段有二，包括「小型區域廣播服務」 (cell Broadcast service, CBS)，係以單點對多點發送緊急簡訊，以及「以地區為基礎的簡訊」 (location-based SMS messaging)，以群組方式發送簡訊至指定地區用戶，二種發佈緊急訊息的方法為試驗。 北約克郡 (North Yorkshire)主要與EE進行發送緊急水災警報系統，對於廣播訊息發送的時間或調整時間長短以供傳送「泡沫警報」(表訊息多寡)到地域寬廣或數個地區而言，是有效的手段。格拉斯哥 (Glasgow)地區為蘇格蘭最大城市，與O2業者進行最大型的試驗，發送數千緊急訊息給民眾。而薩福克郡(Suffolk)則是由於該區不僅於市中心具兩個火車站，遊客也眾多，因此試驗場域以住商混合住宅區及處於該區的人民為主。除小型區域廣播服務和以地區為基礎的簡訊外，薩福克郡也與社交網路Twitter合作，共傳送三種訊息試驗。 透過上述試驗，公共緊急警報：行動通訊預警試驗計畫報告也提出針對隱私與對於電信服務業者於災害發生當下之通訊服務義務未來應制訂相關規範，以及應統一發送訊息之通訊警報協定標準等建議。