落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國近日為防堵中國、其他受關注國家如俄羅斯等國掌握半導體等高科技行業關鍵技術，遂致力於加強培養其本土之半導體及高科技通訊產業。於美國時間2022年8月9日美國總統拜登簽署 「2022年晶片和科技法案」 （CHIPS and Science Act 2022），該法案除可作為2021年頒布之「美國電信法案」之補助資金來源，發展開放式無線電接取網路（Open Radio Access Network, ORAN）外，亦有望大幅度提升美國本土晶片生產量。 本法案提高美國聯邦政府對科學技術研究及開發專案之授權，除授權美國商務部（Department of Commerce , DOC）、國防部（Department of Defense, DOD）外，還結合國務院（Department of State, DOS）透過資金補助之方式，發展影響美國競爭力及國家安全至關重要之半導體製造等高科技產業、人工智慧、量子計算等科學研究，本法案整體編列之預算高達2800億美元，至2027年時，授權金額預計將達1740億美元，而其中將挹注超過520億美元之資金用於發展美國本土晶片之生產及研發。 此外，該法案設有靜態限制，禁止接受補助之半導體企業投資以電子設計自動化（Electronic design automation, EDA）工具設計或製造晶片之中國公司，換句話言，即受補助之企業不得於十年內投資或擴大生產中國製低於28奈米之先進晶片。本法案亦提供25%之稅收優惠予於美國建造、裝設晶片廠之業者，以鼓勵企業進駐美國藉以提升美國生產之晶片總量，同時藉由企業之投資帶動美國各地經濟發展，提高就業率。 藉由本法案之制定，有望降低美國對其他國家晶片之依賴，並得藉此發展科技研究，對未來全球高科技產業供應鏈將造成偌大影響，值得持續關注。
FCC提出推動10年國家寬頻計畫2009年2月美國總統歐巴馬簽署美國振興經濟方案，釋出72億美元擴展寬頻網路連結應用，以網路開放為前提，要求聯邦通訊委員會提出國家寬頻計劃。美國聯邦通訊委員會（ＦＣＣ )在2010年3月12日公布將推動一項歷時十年的遠大計畫，希望透過建立高速網際網路，重塑美國媒體與科技優先順序的概念。該計畫預定2010年3月16日送交國會。 這項計畫反映美國正視寬頻網路正逐漸成為取代電話與廣播電視業的普通媒介，工作重點在於強化網際網路存取方便性。該項計畫的重點包括補助網際網路提供者佈建偏遠地區的網路服務、拍賣頻譜以供無線寬頻設備使用，以及發展新型態的有線電視與上網功能之全面式機上盒。 此一計畫牽涉數百億美元的聯邦經費，但ＦＣＣ認為，應可透過拍賣頻譜自給自足。此外，該計畫中的部分建議，尚須國會採取行動與業者支持才能落實，至於使用者恐怕要在數年後才能看到效果。 目前美國在使用寬頻與高速上網等方面落後包括亞洲國家在內的許多國家，約超過30％的美國人無法上網，原因是負擔不起或是沒有意願使用。而ＦＣＣ的計畫希望能將美國打造成一個完全網路連結的環境，透過還有待矽谷研發的無線裝置讓民眾能快速上網取得健保資訊、進行網路學習，以及進行警民連線。 不過，ＦＣＣ必須審慎處理既有業者上網費率與品質的問題，此外，不少電視業者以供公眾利益為由反對，並抗拒交回頻譜，以及認為這樣計畫將會導致訊號覆蓋及干擾的問題。
普利司通公司就安裝在美國汽車中之零組件價格壟斷乙案認罪，並同意支付4億2仟5佰萬美元刑事罰金美國司法部宣布日商普利司通（Bridgestone Corp.）股份有限公司，就其共謀操縱安裝於汽車中並銷售至美國及其他國家之汽車防震橡膠零組件價格乙案認罪，並同意支付4億2仟5佰萬美元之刑事罰金。 根據俄亥俄州（Ohio）地方法院所提起的一項重罪控訴，該公司於美國及其他國家共謀參與分配銷售、操縱報價及壟斷、提高並維持其出售予豐田（Toyota）、日產（Nissan）汽車公司、富士重工業（Fuji Heavy Industries）公司、鈴木（Suzuki Motor）公司、五十鈴（Isuzu Motors）汽車公司及其某些子公司、加盟和供應商之汽車防震橡膠零組件價格。除了刑事罰金外，普利司通公司並同意配合司法部進行後續之汽車零組件案調查。本認罪協議（plea agreement），業經法院批准。 在2011年10月，普利司通公司即因「海洋軟管」（marine hose）乙案涉嫌壟斷價格及違反「海外貪污防治法」（Foreign Corrupt Practices Act）而遭控訴，經認罪協議並支付2仟8佰萬美元罰金。但於是案答辯中，該公司並未就其同時涉及防震橡膠零組件共謀操縱價格乙情，主動為揭露。該公司未主動揭露上情，乃是本次罰金高達4億2仟5佰萬美元原因之一。 美國司法部副助理部長Brent Snyder表示：「美國司法部反托拉斯署將針對屢犯卻未主動揭露其他反競爭行為者，採取強硬態度。本案之鉅額罰金，即重申該署致力於令企業就其傷害美國消費者之行為，負起責任。」普利司通公司遭指控因價格壟斷違反謝爾曼法案，依法最重可處1億美元之刑事罰金。如企業因犯罪所獲利益之兩倍數額，或犯罪被害人所受損失之兩倍數額，其一逾前開法定最高罰金時，得加重至該數額。
美國職業安全及健康研究院﹙NIOSH﹚在奈米風險控管上的突破性進展美國職業安全及健康研究院﹙NIOSH﹚是美國發展奈米科技的重要政府單位之一。近來，其頻頻透過國際組織的運作來處理與奈米科技有關之職業安全與健康影響問題。NIOSH首長John Howard表示，在國際層次上，科學家及決策者皆明瞭處理與奈米材料製造及產業使用所引致之職業病或職災，是當下最重要的工作之一。而由於NIOSH在促進世界性科學對話上，始終扮演者厥功甚偉的角色，因而在奈米科技發展初期，其亦積極協助此一科技能夠充分考慮安全及健康問題，發展出具全球協調性的技術方法，並有助於美國在國際市場的領先地位。而其近期主要成就在於以下三個部分： 1.今﹙2007﹚11月29日，經濟合作暨發展組織﹙OECD﹚人造奈米材料工作小組通過NIOSH-Led計畫，負責執行奈米材料暴露控制與測量等相關資訊之交換，同時透過領導小組，與會員國共同聚焦商討一些足以引起公眾意識的議題，例如在職業環境中之暴露測量與減輕。 2.其次，在今年12月4日至同月7日的國際組織會議中，ISO TC229表決通過有關奈米科技在職業環境之安全與健康規範的報告初稿，此報告係以NIOSH所發表一份名為“Approaches to Safe Nanotechnology”的報告作為基礎，而繼續由其發展與修正。本報告初稿送至ISO技術委員會審查，委員會認為報告內容涵蓋完整的技術性工作，且其未來影響將遍及全球，而為全球組織所關切。 3.此外，在今年12月2日，NIOSH另參與世界衛生組織﹙WHO﹚之職業健康合作中心全球聯網會議，當次會議之焦點在於奈米科技，會中NIOSH代表負責報告工程奈米粒子在職業安全及衛生上所遭遇之挑戰現況。本次會議中將決定WHO合作機制如何發展運作，以避免暴露於可能有害的工程奈米粒子。 整體而言，關於奈米科技之安全與健康影響及其相關應用的研究，NIOSH統整建置了一套策略性工作計畫，透過這些研究專門處理一些重要問題，包括某些對於評估風險及控制暴露極為有效的科學資訊。除了研究之外，NIOSH亦積極參與國際組織活動，可以預見其對奈米科技未來發展之影響將無遠弗界。