落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國於2021年11月1日公布「2050淨零排放之路：美國長期策略」（The Long-Term Strategy of the United States: Pathways to Net-Zero Greenhouse Gas Emissions by 2050），確立美國未來十年溫室氣體減量發展方向，希望透過聯邦政府與各州、地方政府間合作，並結合社會整體力量，使美國可以在2050年實現淨零排放，並支持更加永續、具彈性且平等的經濟發展，實現完全的零碳污染、強化經濟及提升大眾健康。 本報告首先強調從現在開始至2030年約十年間溫室氣體排放減量的重要性，並說明美國接下來將以溫室氣體排放減量，作為未來達成淨零排放目標之基礎。為了達成淨零排放，美國計畫自能源、產業的排放結構著手推動轉型，報告中公布五項具體目標： 電力脫碳化：近年來因為風力及太陽能等潔淨能源發電成本急遽降低，能源轉型的腳步也逐漸加快，在此基礎上，美國訂定2035年達到100%潔淨電能的目標，並預計電力部門可於2050年以前達到真正的淨零排放。 電動化或轉換為潔淨能源：推動各部門電動化，使交通、建築物及工業製程可以使用合理成本且具一定效率的電力作為主要能源；針對航空、海運及部分工業製程等以現行科技水準較難實現電動化的經濟活動，則推動轉換為氫能、永續生質能等較潔淨的燃料。 減少能源浪費：透過新技術的開發，提升能源使用效率，例如於新建建築物使用能源效率較優的設備、更新既有建物之設備、改善工業製程的能源效率等。 降低甲烷等非二氧化碳溫室氣體排放：採取適當措施以減少甲烷、氫氟碳化合物、氮氧化物等非二氧化碳溫室氣體之排放，包括於石油及天然氣系統加裝甲烷洩漏感測器，以監控其洩漏狀態，以及將冷卻設備中的制冷劑從氫氟碳化合物更換為環境友善的其他物質。 移除大氣中二氧化碳：增加自然碳匯，或以目前可實際運用的技術吸收大氣中的二氧化碳。 美國預計結合聯邦、地方政府，以及產業、學術機構、投資人等社會各界，透過政策執行，強化推動能源、運輸、土地利用等經濟活動的溫室氣體減量工作；同時，配合資金導入，支持並給予各部門足夠的誘因投入潔淨技術的開發，並透過合作，以減少技術開發時可能遭遇的障礙及付出的成本，帶動美國整體朝淨零目標邁進。
英國金融主管機關針對銀行資訊安全問題處以重罰英國金融監理機關，針對RBS集團旗下之三間銀行2012年所發生的資訊安全問題，共處以五千六百萬英鎊的罰款。 RBS、NayWest以及Ulstet的客戶於2012年6月，因為銀行執行的軟體更新發生技術上問題，在使用服務（包含線上服務）時，遇到存款結餘及付款執行的正確性問題。 針對此項資訊上的問題，英國金融行為監管局（FAC）處以四千二百萬英鎊的罰款；另一機關，英國審慎管理局（PRA）亦罕見地再以違反「金融機構應以適當風險管理系統以及合理之注意義務，有效管控其服務」規定之理由，另對該銀行處以一千四百萬的罰款。這是首次2個主管機關對於銀行未能有效辨識及管理其已暴露之資訊風險共同處罰之案例。 PRA指出，資訊風險管理系統適當的發揮功能以及控制，是一個公司健全不可或缺的部份，同時對於英國金融體系的穩定也特別重要。 FCA亦試圖開始評估銀行對於他們所曝光的資訊風險的管理程度，以及銀行的管理階層如何去掌握自己銀行，因為技術錯誤所造成的影響程度。 RBS聲明公司已經在主營運系統外建置了鏡像系統，可以繼續處理「主要客戶服務」的顧客交易；同時也可以修復主營運系統。
美國FDA公告食品營養強化物添加之指導原則添加營養素到一般之食物中，對於維持或增進整體食物之營養品質來說，是一個非常有效率之方式。然而，不當添加或濫用這些外加之營養素，卻可能造成消費者過度或不足攝取某些特定之營養成分，甚至更可能造成某些食物之營養價值有誤導或詐騙消費者之嫌。 美國食品藥物管理局（Food and Drug Administration，以下簡稱FDA）為了統一回應食品廠商、其他聯邦主管機關以及相關學會之問題，針對添加到食物中之必需營養補充品，在2015年11月6日公告了一份指導原則（Questions and Answers on FDA’s Fortification Policy）。本指導原則以Q&A之形式呈現，，列出FDA對於食品營養強化物（Fortification of Foods）政策之態度（並未變更其自1980年代以來對於食品營養強化物之向來立場）以及建議遵循規定。 FDA建議食品營養強化物添加之基本原則如下：校正飲食之缺陷；補充因食物於處理、流通之過程中所喪失之營養素；根據食物整體熱量計算之結果，均衡添加各種食品營養強化物等。 本指導原則僅適用於人類使用之食品，動物用食品並不在其建議範圍內；另外，其亦不適用於嬰幼兒配方或是一般之保健營養品，其僅適用於一般常規之食物，例如：牛奶、果汁、豆漿、麥片、麵包、通心粉、乳瑪琳等。但是要注意，針對一些新鮮的食物或本身即非營養的食物，例如：新鮮蔬菜、魚肉類、糖、甜點、碳水化合物等，並不建議再額外添加食品營養強化物。 另外，只有人體所必須的營養素（essential nutrients）才可額外添加到常規的食品中，亦即所有添加物都須依據膳食營養素參考攝取量（Reference Daily Intakes；RDI）所規定之種類及建議量，做適當的添加；且添加物必須合法且安全。 食品營養強化物之標示，則必須依據食品標示相關法規恰當為之，不可出現會誤導消費者的任何詞彙，也不宜做出任何可以預防營養素缺乏之陳述，因為這麼做可能使消費者誤認有添加物的食品其營養成分較原始食物高。 本指導原則對廠商並無強制力，然要是廠商有違反本指導原則之情形，FDA將會發出警告信，顯示出FDA強烈建議廠商遵守本指導原則之決心。
歐盟決定開放800MHz供無線寬頻應用歐盟執委會於2010年5月6日公布790-862 MHz頻段（簡稱800MHz）的統一技術規格決定（Commission Decision 2010/267/EU on harmonised technical conditions of use in the 790-862 MHz frequency band for terrestrial systems capable of providing electronic communications services in the European Union）。會員國以為，與其單純保留800MHz給地面廣播系統使用，不如開放該頻段供網路使用，故會員國必須立即根據決定，以一致性的技術規格，讓800MHz頻段可以供無線寬頻接取技術使用。 執委會下一步將對數位紅利的使用提出規劃草案，草案內容並將成為預計於6月底公布的「2011-2015年無線頻譜政策方案」（Radio Spectrum Policy Programme 2011-2015）的一部份。各界預期，該草案有可能包括制訂一個所有會員國都必須釋出800MHz供寬頻服務發展的實施日期。