落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
針對法國知名品牌LVMH控告搜尋引擎大廠Google以其商標作為關鍵字，販售給網路廣告業者，使得當使用者鍵入商標關鍵字搜尋時，廣告業者之商業訊息及其網址會呈現在搜尋結果中，而侵害LVMH商標權的訴訟案中，歐洲法院佐審官（advocate General）Poiares Maduro提出了法律意見書。 在該意見書中，其認為Google允許廣告業者選擇和商標有關的關鍵字並不構成商標侵權，選擇關鍵字僅是Google和廣告業者二造間的內部活動，並沒有對公眾販賣和商標相同或類似的產品或服務，非商標法所謂之使用。另外，根據關鍵字搜尋結果而呈現廣告業者之網址，也不會造成消費者對原始產品或服務混淆的風險。網際網路的使用者知道在Google搜尋引擎做搜尋時，並非只有商標擁有者的網址會呈現，甚至有時他們並不是尋找商標擁有者的網址。消費者會依據廣告內容及造訪廣告網址來認定產品或服務的來源，不是僅依據隨商標關鍵字而呈現出的廣告就作出來源的認定。 該佐審官的法律意見雖然對歐盟法院沒有拘束力，但該法院在大部分的案件中仍會依循該意見，通常在該意見提出後大約六個月會作出裁判。
知名線上遊戲公司Blizzard放棄推動網路論壇實名制度因製作「星海爭霸」（StarCraft）、魔獸世界（World of Warcraft）等名作而廣受玩家喜愛的線上遊戲公司Blizzard Entertainment，於2010年7月7月對外宣布，將針對旗下遊戲的官方網路論壇（Game Forum），推動實名制度（Real ID System），引發各界議論。 Blizzard對外表示遊戲論壇旨在提供一個供玩家交流遊戲資訊的管道，玩家亦得透過論壇提供Blizzard改進遊戲內容的建議或發表其他意見。然而，部分使用者卻肆意透過論壇散布人身攻擊言論，或從事其他不法行為。Blizzard希望透過推動論壇實名制度，約束人們透過論壇發表攻擊性言論的現象。然而，論壇實名制度訊息公布未久，Blizzard旋即收到眾多玩家的抗議信件。為平息反彈聲浪，Blizzard共同創辦人兼執行長Mike Morhaime於7月9日於官方論壇發表聲明，宣布Blizzard將不會實施論壇實名制，為整起事件劃下句點。 相較於Blizzard放棄推動遊戲論壇實名制度，中國大陸文化部於2010年6月22日發布「網路遊戲管理暫行辦法」，實施「網路遊戲實名制」，自8月1日起，中國大陸線上遊戲玩家即必須使用真名及有效的身分資料進行註冊，而遊戲公司亦必須妥善保存玩家身分資料。中國大陸新法同樣引發諸多爭辯，玩家紛紛表示擔心個人資料遭到外洩；而遊戲業者也憂慮此舉將導致玩家人口大量流失。
把生物廢棄物變黃金—英國智庫建議政府應提供更多的財務協助當前科學家正極力從廢棄的生物物質（biomass）中，尋找可以做為燃料使用的資源（biofuel）。使用生物燃料的概念與全球氣候變遷以及石油價格一再攀高有關，生物燃料是指在不影響食物供應的前提下，使用木材、稻桿或麥桿、庭園廢棄物等作為第二代的燃料來源。不過在鼓勵發展生物燃料之餘，發展此一領域之技術卻亦有不可忽略的問題有待解決。 以英國為例，英國法律規定在2010年以前，英國政府必須確保所有公路運輸使用的燃料中，至少有5％是使用生物燃料；而最近英國的能源檢視報告則建議，在2015年前，此項生物燃料使用的門檻值應達10％。英國國家非食用作物研究中心（National Non-Food Crops Centre, NNFCC)近期也提出報告，指出英國每年農作收成後皆剩餘大量的小麥、甜菜，若能輔以更多的政府促進措施，例如租稅減免，則達成2010年5％的門檻指標，並非難事。不過若想要達成2015年10％的指標，英國政府則必須另外從國外進口生物燃料。 生物廢棄物的利用指的是把各地方的廢棄物以及非食用作物拿來轉化成為生物燃料。使用生物燃料最大的缺點是建置成本（start-up costs）過高，舉例來說，使用甜菜或黃豆來生產生質柴油（biodiesel）的成本，每英噸約為700至800歐元，其中把生物廢棄物液態化的過程（biomass to liquids (BTL) process），約需每英噸450至500歐元；而要建置一個第一代生物燃料廠乃至運作，其投資費用高達5千萬歐元，第二代生物燃料的生產所需建置成本，則可能為前述數字的五至十倍。有鑑於此，NNFCC透過經濟模式的運算，建議英國政府應對第二代生物燃料廠提供每公升至少35％的租稅減免優惠（目前英國政府僅給予每公升20％的租稅減免優惠），始能鼓勵民間部門進行相關投資。 另一項發展生物燃料的隱憂則是，由於生物燃料與食物的來源都是取自於自然界的同一資源，發展生物燃料是否反而可能造成食物與燃料的爭戰中，侵蝕自然界的資源，最後反而導致各種價格的上升。
美國FCC廢除網路中立法規2017年12月14日美國聯邦通信委員會(Federal Communications Commission, FCC)以3票對2票表決通過，廢止自2015年來所採取網路寬頻服務的高壓監管規定，並恢復了原來所採取低管制監管框架。支持者與反對者分別來自兩個不同的黨派。 經過詳細的分析以及對消費者和利益相關者的評論廣泛審查後，委員會認為自2015年來對網路寬頻服務採取的高壓規定，對整個網路生態系統施加了巨大的成本。為了取代這個嚴格的框架，FCC重新採用2015年之前的傳統低管制監管框架。 FCC 特別要求行動寬頻服務業者應公開揭露其網路管理政策例如:如何處理網路安全與壅塞問題、服務內容與商業條款等，以利於消費者與業者進行有效選擇，並促進政府對寬頻業者的行為進行有效的監督。此外 ，FCC恢復了聯邦貿易委員會（Federal Trade Commission, FTC）的管轄權，以便在寬頻業者從事反競爭、不公平或欺騙行為時採取行動。 在對消費者的影響方面，自由市場的支持者認為，付費優先的作法，意味在寬頻基礎建設上會有更多投資，使得上網和整體資料傳輸速度大為增加。 為達上述目標，委員會所採取之具體措施如下： 將寬頻接取服務（包括固定與行動寬頻服務）重新歸類為資訊服務。 將行動寬頻接取服務恢復歸類為私人行動服務。 將網路服務提供者有關隱私保護、不公平、詐欺和反競爭行為之管轄權回歸由聯邦貿易委員會負責。 要求網路服務提供者向消費者、企業和委員會揭露有關其做法的訊息，包括阻止，限制，支付優先次序或附屬優先次序。 此外FCC又禁止各州限制擴建寬頻網路服務的法律。據FCC統計，大約20個州有限制社區寬頻網路服務活動的法律，這些州的法律不公平地限制政府部門與有線電視和電信寬頻服務提供商的競爭。 FCC通過該案後引發不少如Google、Facebook及Netflix等科技公司，與消費者保護環體齊力撻伐，認為ISP業者在FCC力挺下，將可隨意限制民眾上網瀏覽的內容，大企業因此具優先權，不利新創網路公司生存發展，且投下反對票的政黨表示，將率領各州對聯邦傳播委員會這項決定提出法律挑戰，透過訴訟尋求翻盤機會。