落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
智慧財產權議題涉及專利、著作權和商業機密，近年來因開放原始碼軟體而備受矚目。開放原始碼軟體可共享、修改和重新發布，和傳統專屬軟體的保密性和發布限制迥然不同。 許多開放原始碼與自由軟體倡議人士都痛批軟體專利，相形之下，惠普以擁有大量的專利為傲。2004年惠普一共獲頒1,775項美國專利，在美國排名第四。 惠普Linux負責人表示，開放原始碼程式設計師或許厭惡軟體專利的概念，但最好還是試著自我調適，因為軟體專利是不會消失的。且開放原始碼軟體是在著作權法的基礎上發展而成的，而專利比較麻煩，是因為程式設計師把專利視為削弱他們的自由。另一方面，企業則把專利看待成自家珍貴創意的保護傘。 惠普Linux副總裁Martin Fink批評開放原始碼促進會(Open Source Initiative；OSI)核准開放原始碼授權證書的作法太草率。去年8月，Fink曾指出，開放原始碼授權證書多達52種，實在太多了。現在數目變得更多，因為他抱怨OSI核准任何符合開放原始碼定義的申請案，卻不試著加以整併以強化開放原始碼業的基礎。只基於符合規格就核准授權證書，而未顧及進一步鞏固開放原始碼經營模式的能力，這會構成明顯而迫切的危險。 一家銷售智財權法律免責保險的公司說，調查顯示，Linux作業系統的核心(kernel)可能涉及283項專利侵權。惠普2002年也提醒眾人，微軟可能醞釀對開放原始碼軟體提出專利訴訟。但目前為止這些威脅尚未發生，而紅帽公司（Red Hat）和Novell揚言運用自家專利反制那類威脅，IBM和昇陽也表明不會針對開放原始碼侵犯的數百項專利提出告訴。
英國金融科技未來政策展望英國為眾多國家中致力發展金融科技的佼佼者，其相關政府部門-英國金融行為監理總署（Financial Conduct Authority, FCA）早於2016年即推出世界首例金融監理沙盒（Financial Regulatory Sandbox）制度，同時也與英格蘭銀行致力發展開放銀行業務、金融創新項目以及監管措施改革等等。也因為英國為金融科技提供了良好的環境以及養分，使目前英國金融科技佔全球市場總額10%，並有71%的英國公民至少接受一間金融科技公司提供服務；2020年金融科技為英國吸引了41億美元的投資，遠超德國、瑞典、法國、瑞士和荷蘭的總和。 為使英國金融科技持續成長，英國財政大臣於2020年要求針對英國金融科技現況及未來發展進行獨立性研究，該研究並於2021年2月公布。根據研究報告指出，英國金融科技正面臨下述三大問題： 其他國家紛紛仿效英國之成功模式，致使英國金融科技不再具有獨占地位。 英國脫離歐盟導致監管措施的不確定性。 新冠肺炎的來襲，迫使各國均快速發展並靈活運用金融科技，導致英國金融科技優勢地位逐漸喪失。 為了解決上述三大問題，研究報告提出了五項建議計畫： 針對政策以及監管方式之持續進步 雖然英國目前仍處於金融科技政策以及監管的領先地位，但隨著業務、科技等發展，必須確保政策以及監管方式繼續保護金融消費者，同時創造鼓勵創新和競爭的環境。因此建議的方案包含：實施新型態監理沙盒（Scalebox）；建立一個數位經濟工作小組以確保政府各部門之一致性；確保金融科技成為貿易政策的一部分。 培養人才 英國需要確保金融科技擁有充足的國內和國際人才供應，以及因為預計在2030年，英國有90%勞動者需要學習新技能，因此也需要培訓和提升現有和未來勞動力技能的方案。因此建議的方案包含：辦理針對成年人進行再培訓和提高技能之短期課程；創建一個新的簽證類型，以提高獲得全球人才的機會；為學習金融科技的學生以及創業者建立媒合平台，設置金融科技人才管道。 建立友善的投資環境 英國雖然透過私募基金成功地為英國金融科技事業募資，但英國仍應該持續加強金融科技事業從初創到公開發行的一系列融資過程，尤其是融資的後期階段。因此建議的方案包含：擴大金融科技獎勵措施以及便利金融科技事業籌資（包含：擴大研發稅收抵免額度、企業投資計畫、風險投資信託）；英國應該另行增設一個約10億英鎊之基金供金融科技發展使用；放寬英國上市公司限制（例如：雙層股權結構）；創設一個全球金融科技指數以擴大金融科技事業知名度。 與國際合作 雖然英國目前取得金融科技的成功和未來數位貿易崛起的機會，但仍應採取更多的措施用以獲得更多國際支持，這將會成為英國在脫離歐盟後針對國際開放性作出的重大表態。因此建議的方案包含：針對金融科技提出國際行動方案；推動設立金融、創新和技術中心，並成立國際金融科技工作小組；推出國際金融科技認證組合。 英國國內整合 金融科技在國家的支持下，英國各地皆分布大量的金融科技人才。為了保持英國作為金融科技中心的地位，英國須注重規模和支持區域專業，尤其是大學正在創造的重要的智慧財產權。因此建議的方案包含：培育十大金融科技重鎮，而每個重鎮均應設置一個以強化金融科技、培養專家以及增加國家競爭力為目的的三年目標；通過金融、創新和技術中心協調國內金融科技發展策略；通過進一步的投資計畫加快金融科技重鎮的發展以及成長。
英國與新加坡監管沙盒機制概述 日本發布關鍵基礎設施資訊安全對策第4次行動計畫為了持續維持日本國內以及與東京奧運舉辦相關的關鍵基礎設施服務的安全性，日本內閣網路中心於2017年4月19日公布關鍵基礎設施資訊安全對策第4次行動計畫。 在第4次行動計畫，關鍵基礎設施防護目的主要是以關鍵基礎設施的功能保證為考量，盡量減少關鍵基礎設施IT故障的發生，並提升從事故中恢復的速度。因此，第4次行動計畫除持續檢討並改善第3次行動計畫原有政策外，較重要的變革為OT(Operation Technology)的重視與風險對應機制整備。在安全基準整備與落實情況方面，要求關鍵基礎設施產業須將OT的觀點融入人才培育。在資訊分享制度方面，分享的資訊範圍應包含IT、OT與IoT的資訊，並排除資訊分享的障礙。而在風險管理部分，日本從功能保證的觀點出發，新增風險情況對應準備的要求，包含事業持續計畫的提出與緊急應變措施的制定等。而在防護基礎強化上，該行動計畫認為關鍵基礎設施產業的IT、OT人員及法務部門必須依其內部資訊安全策略共同為關鍵基礎設施安全而跨組織合作。 另外，第4次行動計畫變更電力領域關鍵基礎設施的重要系統，從原有的運轉監視系統變更為智慧電表，以及新增化學、信用卡與石油三大關鍵基礎設施領域的業者、關鍵系統與因IT故障對關鍵基礎設施可能造成的危害影響。