落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
由於 Palm 採用 3C om 的手寫辨識技術，於 1997 年遭 Xerox 控訴侵犯其在 1997 年所取得的 Unistrokes 專利權， Xerox 要求 Palm 支付 Graffti 的使用權利金，否則便應停止在其 PDA 中使用此項技術。此案於今年 (2006) 6 月 28 日 經 紐約西區美國地方法院法官 Michael Telesca 判決 Palm 的 Graffiti( 手寫辨識軟體 ) 的確已侵害到 Xerox 權利。 Palm 同意支付 2.25 億美元以取得 Xerox 手寫辨識軟體的合法授權使用權，結束 1997 年以來長達 9 年的法律訴訟。事實上， Xerox 在 1997 年是控告後來被 3Com 收購的 U. S. Robotics 公司， 但 這家公司之後被 3Com 買下，後來 3Com 再將其獨立 成立 Palm Inc ，當時 Palm 將 Graffiti 技術嵌入旗下的 Pilot PDA 中，也把使用了 Graffiti 技術的軟體賣給其他 PDA 製造商。 這次 Palm 所支付的費用涵蓋了 Palm Inc 、 PalmSource 及 3C om ，這三家業者均取得 Unistrokes 及 Xerox 其他兩項技術的專利的授權。雙方的協議包括 7 年的「專利和平」（ patent peace ）期，在這期間內允許合理使用談定的專利，而且不再互控對方。
紐西蘭IT專家組織2012年5月發布雲端運算實務準則紐西蘭最為歷史悠久的IT專家組織（Institute of IT Professionals NZ）於2012年5月發布雲端運算實務準則（Cloud Computing Code of Practice），藉此彌補實務上缺乏雲端運算標準與實務指針的問題；本準則為自願性遵循規範，以紐西蘭為市場的外國雲端業者、及紐西蘭的業者皆可適用之，並可向公眾宣示其已遵行此準則，然倘若未遵行而為遵行之宣示，則屬誤導或詐欺行為而觸犯公平交易法（Fair Trading Act 1986）。本準則有四個主要目標：1. 促進紐西蘭雲端產業的服務標準；2. 確立應揭露（disclosure）的標準；3. 促進雲端服務提供者與用戶間就資料保護、隱私與主權等事項的揭示；4.強化紐西蘭雲端運算產業的整合性。 依據此準則，雲端業者的資訊揭露範圍至少應包含業者基本資料、資訊所有權、管理及保護、與服務提供之適當管理措施等。在資訊所有權層面，業者應表明是否對所上載的資料或資訊主張所有權；而當用戶透過雲端服務利用或傳輸的資料而儲存於其他上游業者的網路或系統時，業者應確認其資料所有權之歸屬。 在資料管理與保障層面，業者應表明遵從何種資訊安全標準或實務，其已向美國雲端產業聯盟（Cloud Security Alliance）進行STAR登記，或者已通過其他標準的驗證；此外應表明儲存資料伺服器之一處或多處所在地。再者，業者亦須表明服務關係繼續中或終止後，業者或客戶對於客戶所擁有資料之存取權限。 在服務提供的適當管理措施上，包含業者的備份（Backup）程序及維護措施，皆應為揭露，使用戶得據以評估是否採取進一步的資料保護措施；此外包括服務的繼續性要求，如備援措施…等，亦應為揭露；又鑒於雲端服務有地理多樣性（Geographic Diversity）的特質，業者應使用戶知悉其提供服務、或營業活動的地點，以判斷此等服務可能適用的法權（Legal Jurisdiction）。 依據此準則，雲端業者亦可例如透過服務水準協議（Service Level Agreement）對個別用戶承諾特別的服務支援方案，以提供更好的服務品質。
英國成立「技術移轉政府辦公室」，以促進公部門知識資產流通利用英國技術移轉政府辦公室（Government Office for Technology Transfer, GOTT）於2022年10月設立於英國索爾福德（Salford）；其為英國商業、能源與產業策略部（Department for Business, Energy & Industrial Strategy, BEIS）之轄下機構，設立之旨在於促進公部門（public sector）知識資產（knowledge asset）流通利用，以為英國帶來經濟、社會及財政上效益。 所謂「知識資產」係指—智慧財產權、專門技術、資料、品牌、業務流程、專家資源及技術等；目前英國關於公部門知識資產之估值，總計約超過1060億英鎊。而所謂「技術移轉」係指使這些資產與他機構分享，以刺激創新及帶動新產品、流程及服務的研發，並促進更多商業創投（commercial venture）的可能。 GOTT具有跨部門的職權，使公部門可增強其對自身知識資產的辨識、研發與利用，並鼓勵公部門在管理其知識資產上，可更具創新性及具有企業家精神。目前，GOTT已開始與其他公部門在創新上合作，例如一造價更低的高密度真空紫外光（Vacuum Ultra-Violet, VUV）光源機，以淨化水質；或以石墨烯（graphene）製成生物傳感器（biosensor），以使在人體上以生物標記（biomarker）偵測不同健康狀況及疾病。 GOTT係以提供資金和專業知識的方式，以在跨部門政府間，進行創新項目的支持；依據英國政府早先所編列的一「關於政府部門應如何管理知識資產」的指南（The Rose Book: guidance on knowledge asset management in government，下簡稱The Rose Book），GOTT係以「提供對The Rose Book之詢答」、「提供對於管理知識資產之訓練」、「形成關於知識資產之人脈網」、「舉辦活動以喚起對知識資產管理重要性的認識」、「告知不同部門其可能擁有的知識資產及可運用機會」等方式，對公部門進行協助（The Rose Book第8.2點參照）。 而依照The Rose Book第8.4點，GOTT亦將與以下單位，分就上述不同事項，及就知識資產爭訟事件提供建言等，進行合作，以對其他公部門提供協助：（1）英國智慧財產局（Intellectual Property Office）；（2）英國國防部（Ministry of Defence）；（3）英國犁頭創新中心（Ploughshare Innovations）；（4）政府法務處（Government Legal Department）；（5）國家檔案館（The National Archives）。 而在後續成果運用上，The Rose Book第6.1點提及，公部門於運用知識資產時，可就很多面向進行考慮。除尋求「商業上的回報」外，亦可將「促進各別部門及不同部門間公共事務之進行」，以及「為商業、慈善團體及人民之使用」一事納入考量，藉以達到經濟、社會及財政上效益；而就「商業上的回報」而言，依照The Rose Book第6.35點，除最常見的「技術授權」及「販賣知識資產」外，亦有「衍生新創公司」（spin-outs）及合資公司（joint ventures）等方式。而一知識資產可如何被適當運用，則可尋求專家意見。
固網業者路權取得相關問題之研究