落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
近年來，巨量資料(Big Data)狂潮來襲，各產業競相採用此種新型態模式，將充斥各領域之資料量，加以深度分析及集合、比對，篩選具價值性之各項資料。以美國為例，於2011年2月份正式啟動SunShot計畫，期透過聯邦政府的資源，加強推動不同領域之巨量資料分析，有利各領域之政府資源重整運用，以期使推動計畫更經濟效率且具競爭力。並且，美國政府更於2013年1月30日，宣布將挹資900萬元資助7項科專計畫，補助對象分別為: (1) SRI International; (2) 麻省理工學院(MIT); (3)北卡羅萊納大學 (Charlotte校區)； (4) Sandia 國家實驗室；(5) 國家再生能源實驗室；(6) 耶魯大學；(7) 德州大學奧斯汀分校，加強各領域推動及整合。 此項「巨量資料」參與計畫之研究團隊將與公私營金融機構(financial institutions)、事業單位(utilities)及州層級之行政機關(agencies)展開合作(partnership)，運用統計和電腦工具(statistical and computational tools)，解決產業面之難題(challenges)；同時，其將運用發展出之模型(Models)，測試分散全美不同地區領航計畫(pilot projects)創新研發之影響和規模。計畫中，美國政府亦將以200萬元的預算，分析數十年來的科學報告、專利、成本、生產等資料，期能拼湊出相關產業之全貌，加速發掘科技突破之方法並有效降低成本。以德州(Texas)為例，奧斯汀分校(UT Austin)研究團隊乃與六個不同事業單位(utilities)進行合作，研析經營所蒐集之資料(datasets)，以有效了解消費者的需求，提升太陽能未來安裝和聯結(installation and interconnection)之效率。 時值全球鼓勵產業轉型及資源整合，作為世界先進國家的美國，善用聯邦政府和高等學術研究機構之資源，進行整體產業之資料分析，殊值我國借鏡參考。
美國參議員提案鬆綁天使投資人須揭露自身財務資料的規定美國民主黨參議員Chris Murphy在2015年4月16日捲土重來提出「榮光法案」（Helping Angels Lead Our Startups Act，以下簡稱HALOS Act）。HALOS法案在上個會期胎死腹中，此次重新提出，旨在強調暢通管道以投資新創公司之重要性，Murphy表示：「我們應該尋求更便利的管道，讓各種財務狀態但具備財務知識的投資人（knowledgeable investors of any financial status）都能投資新創公司，利用他們的專業和資金來增強新創公司成功的可能性。」 舉辦「Demo Days」或「Pitch Events」，是現行許多美國創業家藉以增加與天使投資人（Angel Investors）連結的方式。在「Demo Days」此種場合，創業家通常僅向與會者展示其產品或服務，而不主動進行籌資，避免提及或發送與公司財務預測、業務成長等等與招募投資人有關的資訊、文件。 在「Pitch Events」的場合，其主要目的則為發掘潛在投資人，進而籌募新創公司所需之資金。但此種類似投資說明會的「Pitch Events」必須受到美國2012年「新創企業啟動法」（Jumpstart Our Business Startups Act，以下簡稱JOBS法）的規範，也就是會議進行方式是否涉及1933年證券交易法Rule 502(c) of Regulation D所指之「公開徵求」（general solicitation）、參與者是否為「合格投資人」（accredited investor）等問題。所謂的合格投資人是指符合一定的資格而足以被認定具有充分財務決定能力，JOBS法因此要求這些天使投資人必須交出一定的個人財務資料作為佐證。 批評者認為這些規定無助於讓新創公司籌募所需資金，也因此無法創造更多就業機會，因為許多投資人對於必須將自己的財務狀況分享給新創公司，甚至是活動策展人，往往是感到不太自在的。Murphy參議員認為這些規定是「繁瑣的第三方審核程序」、「是一種對隱私的侵犯，嚇跑了那些想要想要支持新創公司的投資人，特別是在新創公司最需要資金的時刻」。 Murphy參議員提出此法案回應了批評者的建議，主張法規對於這些天使投資人團體（Angel Investor Group）應該有不一樣的規範方式，因為這些天使投資人與新創公司通常早已具有家族或朋友等人際網絡關係。
歐盟執委會發布無人機戰略2.0，創造大規模歐洲無人機市場歐盟執委會（European Commission, EC）於2022年11月29日發布「無人機戰略2.0」（Drone Strategy 2.0），以全球最先進的歐盟無人機操作與設置技術安全框架為基石，為歐洲無人機市場設定發展願景，並闡述歐洲在大規模擴展商用無人機的同時，將如何提供產業新契機。 歐盟除以無人機交通監管系統計畫（U-SPACE）進行政策推動外，為擴張歐洲無人機市場，歐盟執委會提出「創新空中移動」（Innovative Air Mobility, IAM）與「創新空中服務」（Innovative Aerial Services, IAS）等2項新概念。前者包括國際、地區與城市空中移動（Urban Air Mobility, UAM）概念，期待以定期載客服務實現最終全自動化、有效整合並補充既有運輸系統與服務，以及提出有助於改善交通運輸系統碳排放的去碳（decarbonisation）替代方案。此外，透過廣泛布建並整合地面與空中基礎設施，將使UAM成為未來城市複合式智慧移動生態系統（multimodal intelligent mobility ecosystem）之一部；而後者則涉及無人機多元應用，諸如緊急服務、測繪、巡檢、偵查與物流運輸，抑或最終實現全自動化空中計程車（Air Taxis）等創新應用型態，期待相關應用於2030年成為歐洲日常生活的一部份。 為實現上述願景，歐盟提出「建立聯盟無人機服務市場」與「加強歐洲民用、安全與國防產業能力與綜效（synergies）」等兩項目標，其中涵蓋十大領域（例如：改善空域能力、促進航空作業、發展IAM、提供資金與融資、確立關鍵技術模組化（critical technology building blocks）），並從中啟動十九項攸關操作、技術與財務的關鍵行動（例如：建立支持在地利害關係人與產業落實永續的IAM線上平台、推動通用標準、採用反制無人機系統（C-UAS）、協調共同方法以提供無人機操作所需之無線電頻譜等），為未來無人機空域與市場，建立妥適的監管與商業環境，並加強無人機營運商、無人機製造商、國防部門、反制（counter）無人機，以及U-SPACE等有關無人機價值鏈（value chain）就不同環節上之效率。
從無線上網壅塞困境-看Wifi發展趨勢近年來，由於行動載具興起與數位內容蓬勃而生，導致各國於WiFi網路與行動網路皆面臨不敷使用之困境。為了增加WiFi頻寬與緩和行動網路壅塞，FCC主席Julius Genachowski於國際消費電子展(International Consumer Electronics Show)宣布將於5 Ghz頻段釋出共195 MHz之無需執照頻譜(Unlicensed Spectrum)，以解決Wifi困境，並促進快速、高容量的「Gigabit Wi-fi」之發展。FCC現階段仍須與其他聯邦部門合作，協調該頻段中WiFi與其他既有用途之干擾與共用的問題。即便如此，這仍是自2003年以降，將無需執照頻譜釋出給WiFi最多的一次，且估計能將現有WiFi提升35%效率。 另一方面，對於部分電信商將推動之多項措施，如建設40,000個小型基地台(Small Cells)、以Wifi Hotspot 2.0之規格，導入商用異質網路(Hetnet)，以充分利用WiFi於2.4GHZ(共83.5MHz)與5GHz(共555MHz)之頻段等，FCC主席Genachowski均表樂觀其成。上述措施可讓客戶在免額外付費、且不須複雜驗證下，藉由SIM卡自動導入WiFi，Genachowski認為此舉不僅充分利用頻譜資源、增加智慧型手機與平板銷量外，亦可改善目前行動網路壅塞之問題。 綜上所述，可窺見FCC將利用「Gigabit Wi-fi」之優勢，解決使用者於公眾頻繁往來之地點，諸如機場、市中心與大型會議場所等處，WiFi使用壅塞之問題。而此舉亦可解決家中有多個用戶、或同時使用不同載具時，造成網路緩慢之問題；至於，在行動網路上，亦有助於紓解行動數據流量，增加網路品質，促進更多APP孕育，帶動更多商機。