落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
「孤兒著作」係指仍在著作權保護期間，但是著作權人不明知著作。依著作權法第10條規定，著作人於著作完成時享有著作權，而著作權之保護期間依著作權法第30條第1項存續於著作權人之生存其間及其死亡後之50年。 在網路普及資訊流通快速之現代，經過不斷的轉載，許多著作權人不明，但是仍受著作權法保護，所謂之「孤兒著作」在市面上不斷流通。此時若與利用孤兒著作，但是不知道著作權人是誰，無法取得授權之情形下，要怎麼辦才不會觸法? 此時依文化創意發展法第24條，想要利用孤兒著作之人，得在盡力尋找著作權人未果後(不知著作權人為何或是著作權人聯繫資訊不明知情形)，向智財局說明無法取得授權之原因，並提存一定金額，取得智財局之許可授權後，於許可範圍內利用該著作。又須提存之金額應與一般著作經自由磋商所應支付合理之使用報酬相當。
IBM同意中國大陸政府檢視部份產品原始碼近年來中國大陸政府為了資安考量，制訂相關法規要求外國科技公司進入中國大陸市場時必須提供程式原始碼，避免他方非法(例如利用病毒)透過電腦軟體進入中國大陸的系統和資料。 IBM公司近日發表聲明，允許特定國家在其嚴格的監控下，檢視其部份產品的軟體原始碼，確保產品沒有資訊安全的漏洞，中國大陸也在這些特定國家之列。這是美國重要的科技大廠，首次公開同意遵守中國大陸政府對於外國技術的資訊安全審查，然而此舉讓美國政府與其他矽谷科技公司頗有微詞。 IBM開放檢視其程式碼的對象為中華人民共和國工業與信息化部。IBM在聲明中表示，原始碼的檢視必須在IBM公司內，於無網路連線並受IBM安全應用程式監控的環境下進行，並保證這些軟體原始碼不會被釋出、被複製，或以任何方式改作。在嚴格的環境和時間限制下，IBM不會讓中國大陸政府有機會接觸其客戶資料庫，也不會涉及後門程式(back door)。至於會提供哪些產品的原始碼檢視，或中國大陸官方可檢視的時間有多長，IBM尚無明確說明。事實上IBM並非唯一提供程式碼的科技公司，微軟公司早在2003年即允許中國大陸、俄國、英國等國家檢視微軟Windows部分產品的原始碼。 有市場分析公司指出，IBM為降低智慧財產權被複製的風險，所釋出的原始碼可能只涉及基本功能，不包含專有的演算碼，且像IBM此類的公司，應該擁有閉源軟體(closed-source)或特別的軟體以嚴密地維護底層的原始碼，避免中國大陸政府藉由檢視原始碼執行反向工程(Reverse Engineering)。 IBM公司願意提供中國大陸政府檢視部分產品原始碼，目的在於展示其產品安全性，試圖擴展IBM在中國大陸的商業版圖。IBM旗下的雲端運算平台Bluemis未來將與中國大陸的數據中心服務公司—北京世紀互聯寬帶數據中心有限公司合作。該公司同時也是微軟在中國大陸的合作夥伴。
日本計劃於今年秋天提出中小企業智財保護指針，防止大企業不當取得智財近年日本中小企業與大型企業合作研發、進行交易合作的商業型態日益增加，故日本中小企業廳自2017年1月至2020年3月為止（約三年間），針對日本的中小企業進行了訪談，調查了中小企業與大型企業間約12,000筆合作研發等商業行為，從中發現了許多問題，如大型企業常藉由合作研發，參觀中小企業工廠的名義，實際上是竊取中小企業技術、know how；其他還有以共同研發為名，擅自將研發成果使用在其他領域的案例等。 由於中小企業常在商業合作上處與弱勢，故日本政府為促使中小企業與大型企業的合作能符合公平交易原則、以及保護中小企業的智慧財產、技術，防止中小企業的智慧財產、技術、Know how等無形資產被商業合作夥伴（大型企業）不當使用或以非法的方式取得、使用，故日本政府計劃於今年秋天發布「中小企業智慧財產、技術保護指針」。 為改善中小企業與大型企業合作時，可能遭遇的智財、技術歸屬等問題，除透過「中小企業智慧財產、技術保護指針」提供具體的對策與措施，日本中小企業廳將於2021年編列相關預算，以智慧財產權的角度協助中小企業解決智財相關問題，並強化中小企業保護智慧財產權之意識，另外還會提供中小企業智財諮詢等相關支援。 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」
英國展開「碳排放交易框架」修正意見徵集，擬將溫室氣體移除技術納入現行機制英格蘭、蘇格蘭、威爾斯政府，以及北愛爾蘭農業、環境和鄉村事務部於2024年5月23日共同提出「溫室氣體移除納入碳交易框架」（Integrating Greenhouse Gas Removals in the UK Emissions Trading Scheme）聯合諮詢文件，擬將「溫室氣體移除」（Greenhouse Gas Removals, GGRs）技術納入現行英國碳排放交易體系。GGRs係指主動將大氣中的溫室氣體移除之方法，又稱「二氧化碳移除」（Carbon Dioxide Removal, CDR）、「負碳技術」（Negative Emission Technologies, NETs），此類技術被認為能協助「難減排產業」減少排放。 此次意見徵集主要針對以下四大面向： 1.基本原則：將GGRs整合進UK ETS，須以維持減碳誘因、確保市場誠信、創造長期有效率的碳權交易市場、環境友善、具備可操作性、最小干預性、未來靈活性保障、考量財務影響等原則為基本前提。 2.總量管制：UK ETS於納入GGRs後，預計仍將維持當前總量上限，以避免實質上增加企業的排放容許量。 3.配額發給：GGRs能獲得的配額，擬採取「事後發給」的方式，於移除完成並經過驗證後，才發給配額，以維持交易市場的可信性。 4.市場整合：英國目前暫不考慮建立獨立的溫室氣體移除交易市場，擬將GGRs完全整合進既有的UK ETS中，並透過總量及需求控制或免費配額等措施調節市場供需，穩定並促進市場發展。 英國政府相信，透過將GGRs納入現行UK ETS中，可以增加企業對於碳移除之需求，提高負碳技術的投資誘因，進而持續對於淨零排放的目標有所貢獻。