落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
澳洲國家交通委員會（National Transport Commission）與警覺、安全、生產力合作研究中心（Cooperative Research Centre for Alertness, Safety and Productivity ，Alertness CRC）於2016年12月攜手研究重型車輛駕駛員之疲勞駕駛影響，並特別探討科技設備檢測及因應的可行性，並著手研析重型車輛疲勞駕駛管理相關規範之評估規劃。 依據澳洲國家重型車輛法（Heavy Vehicle National Law，HVNL）規定，設有國家重型車輛管理獨立機構（The National Heavy Vehicle Regulator，NHVR）針對總重4.5噸之重型車輛進行規範監管。依國家重型車輛疲勞管理規則【Heavy Vehicle （Fatigue Management） National Regulation】規定針對1.超過12噸總重額（Gross Vehicle Mass，GVM）之重型車輛2. 車輛及聯結物超過12噸者3.超過4.5噸可乘載12名成人（包含司機）之巴士4.超過12噸總重額定值之卡車及聯結車，其附接工具或機械者，必須進行疲勞管制，其他對於有軌電車、工具機械車輛（例如：推土機、拖拉機）、露營車等則不在此管制對象。該法針對重型車輛工作和休息時間、工作及休息時間之紀錄、疲勞管理豁免（Fatigue management exemptions），及公司、負責人、合夥人、經理等的連帶責任，訂有相關規範。疲勞管理規則的規範核心在於駕駛員不能在疲勞的情況下行駛重型車輛，故即使符合工作和休息限制，駕駛員也可能因疲勞而受影響。 目前，因有限的證據表明工作安排對於重型車輛駕駛員疲勞的影響程度，亦很少有研究使用客觀和預測技術測量駕駛員的警覺性和疲勞，另對於駕駛員睡眠的質量和時間最低要求的資訊亦不足。因此，現行法律規範對重型車輛駕駛員疲勞的影響將受到挑戰。故警覺、安全、生產力合作研究中心將採取更精準的警報檢測方法和睡眠監測設備，進行相關研究測試，以作為未來國家重型車輛疲勞管理規則修訂之依據。 駕駛疲勞所引發的交通事故時有耳聞，往往造成重大危害與耗費社會成本。目前實務上已有利用科技設備偵測是否有疲勞駕駛情形，然而更重要的是，應落實行車前的疲勞管制，及相對應的解決方案，並加強公司及相關管理者之監督義務及連帶責任，才能有效降低疲勞駕駛肇事率，確保道路安全。
網路媒體界群起抗議，美國總統歐巴馬表示反對，SOPA法案遭到擱置SOPA法案，全名「禁止網路盜版法案(The Stop Online Privacy Act)」，是於2011年10月26日由美國眾議員Lamar Smith所提出，主要支持團體包括美國「娛樂軟體協會(the Entertainment Software Association)」、網路域名公司GoDaddy.com、「美國動畫協會(the Motion Picture Association of America)」以及「美國商會(United States Chamber of Commerce)」等等。另外一個類似的法案為美國參議院於2011年5月提交的「保護知識產權法案」，簡稱PIPA(Preventing Real Online Threats to Economic Creativity and Theft of Intellectual Property Act)，該法案原預訂於2012年1月24日交付表決。 2012年1月18日，為了表明對SOPA的反對立場，美國各網站發起了關站的行動，包括Google、Wikipedia等這些大型網站皆參與了抗議行動(抗議行動的參與網站名單可參考下述網址: http://sopastrike.com/)。美國總統歐巴馬也於今年一月公開表明他不會支持SOPA以及類似的法案，主因為該法案箝制了資訊流的自由發展。白宮於官方部落格表示「保護線上智慧財產權的重要任務不可危害網路的開放以及創新發展」、「任何打擊線上盜版的努力必須避免線上審查對合法活動所造成的風險，並避免阻礙了商業的創新發展」、「我們必須避免創造新的網路安全風險或者是瓦解網路的基礎架構」、「期許並鼓勵所有的私人團體，包括網路內容創作人以及網路平台提供人，共同努力，採取自願性的措施以及最佳作法去減少線上盜版」，但是部落格中的聲明也指出，線上盜版已經是危害美國經濟的一個重要問題，它危害了中產階級的工作，並且危害了具有創造力以及創新力的美國公司以及企業。由於反對的浪潮，SOPA以及PIPA法案於今年1月20日正式地遭到議院擱置。 SOPA的立法主要是用來打擊國外販售仿冒品的網站以及提供非法下載影音軟體系統的網站，俗稱「海盜灣(pirate bay)」，使用人在這些網站只要輸入影集或者是電影名稱就可以免費下載收看。這些海盜灣由於伺服器不在美國境內所以難以管制，但是透過SOPA，美國政府可以藉著管制美國的網路服務者去切斷這些海盜灣在美國提供服務的生路。依照SOPA，Google將被禁止在其搜尋結果中顯示這些海盜灣，PayPal也將被禁止提供資金傳輸服務與這些被認定有侵權事實的業者。 事實上，著作權的侵權行為原本就是非法的，在此之前已有「數位千禧年著作權法案(the 1998 Digital Millennium Copyright Act，簡稱DMCA)」提供執行措施。依照本法，舉例說明，假設歌曲創作人發現有人非法在YouTube上上傳其享有著作權的歌曲，著作權人可以要求YouTube將之下架，這樣的要求稱為「DMCA 投訴公告(DMCA warning)」。光是2011年，Google就收到了約五百萬筆侵權下架的要求，若確定要求為合法，Google一般而言會在六個小時之內將之下架。問題在於DMCA投訴公告對於美國國外的網站並無法發揮其預期的效力。 但是類似YouTube這類的網站經營者則擔心，SOPA可能帶來網站營運者必須負擔審查使用人所上傳的檔案是否有侵權事實義務的負面效應。依照SOPA，任何支付服務或者是廣告營運主都需要提供一個管道供第三人檢舉「偷竊美國財產」的使用人，一遭檢舉，營運主就有義務在五天之內切斷其服務。雖然亂檢舉有刑事責任，但是是否無侵權行為的舉證責任則需要受控告者自行負擔，而許多小網站以及非營利性網站根本無力去負擔龐大的訴訟費用。另外，反對者認為SOPA對於「搜尋引擎(internet search engine)」以及「國外侵權網站(foreign infringing site)」的定義過於廣泛，在本法之下，維基百科也會被定義為「搜尋引擎」，並有義務在任何美國法院的要求下去移除「國外侵權網站」的有關聯結，否則將會被視為助長侵權行為並面臨「藐視法庭罪」，這將造成言論自由箝制的相關問題，除此也會大量增加維基百科的營運成本。業者多表示肯認SOPA的立意並表示願意合作，但是業者表示SOPA過於廣泛模糊的法規文字將可能會流於網站內容的審查並造成無法控制的後果。反對者指出，SOPA的影響範圍無法預測，網站內容若只是部分有侵權疑慮，可能整個網站都無法出現在搜尋引擎的搜尋結果中。「電子前哨基金會(Electronic Frontier Foundation, EFF)」指出，類似Facebook或YouTube這類由使用者自創內容的網站，未來可能都要被迫自行去監管網站內容，將大量增加營運成本。另一方面而言，SOPA賦予業者只要具有合理懷疑就可以封鎖使用者，這將會成為大公司用來打壓潛在競爭者並迴避反托拉斯法的手段。
新加坡未來移動數據流量的疏通計畫之觀察Cisco於2012年2月發布預測2011至2016年全球行動數據流量將從2011年每月0.6 Exabytes上升至2016年每月10.8 Exabytes，以高達78%的年複合成長率（CAGR, Compound Annual Growth Rate）逐年攀升。根據此數據，新加坡亦預測其國內行動數據流量將以64%的年複合成長率，從2010年3.1Petabytes上升至2015年37 Petabytes。目前新加坡的電信業者為因應與日益龐大的數據流量，已著手嘗試各項商業模式，包含分級訂價（tiered pricing）、流量管理政策（traffic policy management control）、網路最佳化（network optimisation）、既有基礎建設升級（upgrading of existing infrastructure）以及採用如長期演進技術（LTE，Long Term Evolution）等新興技術和行動數據疏導策略（Mobile data offloading strategies）的發展。 另外職掌新加坡電信政策的新加坡資訊通信發展管理局（IDA Singapore），於2012年4月亦針對4G通訊系統及服務，提出頻譜重新分配之建議書，並諮詢各界之意見，以因應下階段全球移動數據領域之發展。IDA於建議書中計畫擬定以1800MHz、2.3GHz以及2.5GHz作為未來發展4G技術的主要頻段。為滿足產業所需之頻譜量，IDA預計於1800MHz頻段分別釋出2*70的對稱頻譜（paired spectrum）、於2.3GHz頻段釋出30MHz的非對稱頻譜（Unpaired Spectrum），而於2.5GHz頻段則同時釋出2*60MHz的對稱頻譜與30MHz的非對稱頻譜。除了釋出足夠頻譜外，為考量未來技術實驗以及電信業者發展全國性網路服務可能需求2*20MHz的對稱頻譜或20-30MHz的非對稱頻譜，IDA亦分別於前述三個頻段中預留2*5MHz（1800MHz）、20MHz（2.3MHz）以及於2.5MHz區段中預留2*10的對稱頻譜與20MHz的非對稱頻譜。 不過目前受到各國推崇的700MHz頻段卻未被新加坡納為現階段孕育4G技術的主要區域，同時對於900MHz是否於本次拍賣一同釋出以發展4G技術，新加坡政府仍持保留態度。對此，新加坡主要業者包括SingTel與StarHub皆已向iDA提交回覆建議書，表達此舉不符合國際未來發展趨勢並期待IDA能重新作出調整。
數位資產正式納入美國懷俄明州州法，並將虛擬貨幣視為金錢美國懷俄明州（Wyoming）於2019年1月18日提出S.F. 0125法案，經參眾議院三讀及州長簽署通過後，將在同年7月1日生效，代表數位資產（digital assets）正式納入懷俄明州州法第34編第29章。該法定義數位資產為表彰經濟性、所有權或近用權，並儲存於可供電腦讀取之格式（computer readable format）中，又區分為數位消費資產（digital consumer assets）、數位證券（digital securities）及虛擬貨幣（virtual currency）等三類。 數位消費資產，是指為了消費、個人或家用目的使用或購買的數位資產，包含：(1)除法律另有規定外，開放區塊鏈代幣（open blockchain tokens）視為個人無形資產（intangible personal property），(2)非屬本章數位證券和虛擬貨幣範圍內之數位資產；數位證券則是指符合懷俄明州州法第17編第4章有價證券定義的數位資產，但排除數位消費資產及虛擬貨幣；又，虛擬貨幣是指使用數位資產作為交易媒介（medium of exchange）、記帳單位（unit of account）或具儲存價值（store of value），且尚未被美國政府視為法定貨幣（legal tender）。 本次修法規定數位資產均為個人無形資產，另將數位消費資產視為該州州法下之一般無形資產，數位證券視為該州州法下之有價證券及投資性財產，虛擬貨幣則視為金錢，有論者表示本次修法有助於促進數位資產流通，並鼓勵各州跟進修法。然此舉是否有助於該州推行數位資產產業，尚待持續觀測，始能得知其對業界與政府監管所造成之影響。