落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
國際組織個資保護之資料流通政策與法制趨勢－以數位貿易為例 資訊工業策進會科技法律研究所 2019年11月15日 多數國際組織基於促進商業貿易發展之立場，通常對於資料在地化政策持保留態度，反而鼓勵有條件地允許跨境傳輸個人資料，希望能透過資料大量流通來讓國際商貿之運作更加順暢。反之，如中國、俄羅斯、越南、印度等國為維護國民個資安全以及其他政策考量，而採取嚴格的資料在地化政策，其立場與多數國際組織基於促進貿易的立場有所不同。 壹、事件摘要 諸如世界貿易組織（World Trade Organization, WTO）、亞太經濟合作組織（Asia-Pacific Economic Cooperation, APEC）、經濟合作暨發展組織（Organization for Economic Co-operation and Development, OECD）、跨太平洋夥伴全面進步協定（Comprehensive and Progressive Agreement for Trans-Pacific Partnership, CPTPP）等國際組織及國際合作機制，皆對資料自由流通與個資安全維護之相關措施與規範多有著墨。此肇因於網際網路互聯使用與科技日漸發展之下，各國在數位貿易過程中，相關資料的使用與存取，將會更加頻繁，並且成為無可或缺的貿易途徑，同時也讓數位貿易的議題備受關注。此外，資料跨境流通，對於國與國間、區域與區域間的經濟發展來說至關重要，更是全球數位貿易價值鏈之核心。由此可知，個資保護與資料流通政策與法制趨勢將與全球貿易的未來息息相關，也會是各國積極看待的議題。 就2019年1月25日舉辦的「世界經濟論壇」（World Economic Forum, WEF）而言，在其會議期間，逾七十名WTO會員發表聯合聲明，同意針對電子商務相關議題進行WTO談判。而各國可基於既有WTO協定與架構，建立高標準談判，從而鼓勵所有WTO會員國積極參與談判，以強化電子商務對消費者、企業，甚而對全球經濟所帶來的利益。因此，未來若在WTO電子商務談判（WTO E-Commerce Negotiations）中能取得電商共識，對於線上購物與電信業（telecommunications），將會定義新興的全球規則，從而直接影響消費者，並且改變參與國在WTO現有的「關稅暨貿易總協定」（The General Agreement On Tariffs And Trade, GATT）及「服務貿易總協定」（The General Agreement On Trade In Services, GATS）有關開放市場的方式。鑑此，攸關世界貿易組織協商與未來新定義之趨勢，各國對電子商務的議題進行相關討論並提出建議，茲分述如下： 一、電子商務協商建議－歐洲消費者聯盟 在WTO電子商務協商會議中，歐盟提出新的電子商務建議（WTO E-Commerce Negotiations BEUC Recommendations[1]），闡述電子商務有關資料保護與隱私之風險問題[2]。現今已有越來越多的國家與企業頻頻呼籲以貿易為基礎，促使資料能夠在全球範圍自由流通，避免不合理的資料在地化措施[3]。對於歐盟各國而言，個資保護為國民的基本權利，在WTO電子商務討論將資料跨境傳輸相關條款納入時，個資與隱私之保護不能與資料傳輸產生脫節。因此，歐洲消費者聯盟針對WTO電子商務協商提出建議，針對國際資料傳輸部分，提案認為資料跨境傳輸不應受阻，亦不應強制要求將電腦設備或網路，設置在特定區域進行資料處理與資料存取、禁止在特定區域儲存或處理資料、任何國際資料傳輸都必須使用特定區域的計算設施或網路，或要求資料在地化。而在資料隱私部分，歐洲消費者聯盟亦建議各國應了解個資保護與隱私基本權利，並建立促進信任與貿易發展的標準，以及各國可以採取其認為適當的保護措施以保護個資與隱私，並實施國際資料傳輸的規則。 二、電子商務協商建議－美國國際商務理事會 美國國際商務理事會（United States Council for International Business, USCIB）針對WTO電子商務協商提出建議（USCIB Recommendations for the WTO E-Commerce Negotiations），認為WTO是全球貿易體系規則之基石，對於WTO更新現下經濟規則而言，電子商務協商是個重要的機會。因為數位貿易與電子商務正以各種過去所無法想像的形式，在不同國家展現不同的商業模式。據此，未來訂定高標準的電子商務協議時，應鼓勵協商者將重心專注於貿易服務便利化（Trade Facilitation）、反歧視（Non-Discrimination）、存取與使用（Access and Use）、跨境資料流動（Cross-Border Data Flows）、數位貿易（Digital Trade）、透明度及信任度（Transparency and Trust）、隱私保護（Privacy Protections）[4]等項目。而全球聯網使用的增加是數位貿易發展的直接結果，因此各國應使資料的使用與儲存更加密切。 再者，資料跨境流通對於經濟發展來說至關重要，其為全球價值鏈之核心，更是大多數製造與服務活動的必要組成部分，WTO貿易協議應確保並落實安全的跨境傳輸，並明確規定當外國投資者以電子方式從事必要的商業活動時，除基於公共政策目的外，任何國家都不應禁止或限制資料跨境傳輸。從而各國政府應促進互用性（Interoperability），使包含個人資料在內的資料跨境傳輸標準透明，並達到反歧視且具最低度的貿易阻礙[5]。 三、電子商務協商建議－日本自由資料流通理念 於2019年1月舉辦的世界經濟論壇年度會議（World Economic Forum Annual Meeting），由日本首相安倍晉三（あべ しんぞう）提出「受信任的資料自由流通」（Data Free Flow with Trust：DFFT）概念，旨在確保公眾對隱私與安全保護信任的同時，重視貿易與數位經濟間的重要性。其主張透過國內與國際法律框架，鼓勵不同框架的資料互用性（interoperability），進一步的促進資料自由流通，並增強消費者與企業經營者之信任，以實現資料自由流通。這樣的概念被納入G20大阪高峰會領導人宣言[6]中。相關內容也在貿易與投資（Trade and Investment）議題之第8項論述[7]，以及創新-數位化與受信任的資料自由流通（Innovation: Digitalization, Data Free Flow with Trust）議題之第11項論述[8]中體現。其後，日本於2019年6月28日及29日，首次擔任G20大阪高峰會之主席，此高峰會議也確認了多國自由貿易體系的基本原則，例如關於貿易和投資的自由、公平與反歧視的問題，其中也包含對WTO改革的承諾。而對於國際電子商務規則之制訂以及資料流通的部分，日本提出「大阪框架」（Osaka Track）數位規則與先前所提出之「受信任之資料自由流通」概念，獲得許多參與國的認可。 貳、重點說明 各國對於電子商務協商之建議，歐洲消費者聯盟認為資料跨境傳輸不應受阻；而美國國際商務理事會之立場認為，任何國家都不應禁止或限制資料跨境傳輸，且應落實反歧視性措施；日本亦提出「大阪框架」數位規則與「受信任之資料自由流通」之概念，認為應重視貿易與數位經濟間的關聯性與重要性，同時確保公眾對隱私與安全保護信任，亦即如何在保障個人權利與促進資料自由流通兩個議題下取得平衡，可謂至關重要。 參、事件評析 綜整歐盟、美國與日本對於WTO貿易協定之建議，可觀察出國際資料傳輸是一個相當重要的議題，並主張任何國家都不應在無正當理由下，禁止或限制資料跨境傳輸，或跨境傳輸不應受到阻礙等建議。因此，鼓勵資料促進互用性（Interoperability），使資料跨境傳輸標準透明，反歧視並具備最低度貿易阻礙，同時確保公眾對隱私與安全保護信任，以增強消費者與企業經營者之信任，實現資料自由流通，讓世界各國能在數位貿易的潮流下，皆能獲得其效益。 [1] BEUC, WTO E-COMMERCE NEGOTIATIONS, https://www.beuc.eu/publications/beuc-x-2019-014_wto_e-commerce_negotiations_-_beuc_recommendations.pdf（last visited Sep. 26, 2019）. [2] Cynthia O’Donoghue and John O'Brien, EU sets out its eCommerce and privacy stall in WTO negotiations（2019）,REEDSMITH, May. 27, 2019 , https://www.technologylawdispatch.com/2019/05/regulatory/eu-sets-out-its-ecommerce-and-privacy-stall-in-wto-negotiations/（last visited Sep. 26, 2019）. [3] EUROPEAN DATA PROTECTION SUPERVISOR, European Data Protection Supervisor Blog, https://edps.europa.eu/press-publications/press-news/blog/less-sometimes-more_en.（last visited Sep. 26, 2019）. [4] UNITED STATES COUNCIL FOR INTERNATIONAL BUSINESS [USCIB], USCIB Recommendations for the WTO E-Commerce Negotiations（2019）, https://www.uscib.org/uscib-content/uploads/2019/06/USCIB-WTO-E-Commerce-Recommendations.pdf（last visited Sep. 26, 2019）. [5] UNITED STATES COUNCIL FOR INTERNATIONAL BUSINESS [USCIB], USCIB Recommendations for the WTO E-Commerce Negotiations（2019）, https://www.uscib.org/uscib-content/uploads/2019/06/USCIB-WTO-E-Commerce-Recommendations.pdf（last visited Sep. 26, 2019）. [6]COUNCIL OF THE EUROPEAN UNION, G20 Osaka Leaders’ Declaration, https://www.consilium.europa.eu/en/press/press-releases/2019/06/29/g20-osaka-leaders-declaration/（last visited Sep. 26, 2019）. [7] COUNCIL OF THE EUROPEAN UNION, G20 Osaka Leaders’ Declaration,「8. We welcome the G20 Ministerial Statement on Trade and Digital Economy in Tsukuba. We strive to realize a free, fair, non-discriminatory, transparent, predictable and stable trade and investment environment, and to keep our markets open. International trade and investment are important engines of growth, productivity, innovation, job creation and development. We reaffirm our support for the necessary reform of the World Trade Organization (WTO) to improve its functions. We will work constructively with other WTO members, including in the lead up to the 12th WTO Ministerial Conference. We agree that action is necessary regarding the functioning of the dispute settlement system consistent with the rules as negotiated by WTO members. Furthermore, we recognize the complementary roles of bilateral and regional free trade agreements that are WTO-consistent. We will work to ensure a level playing field to foster an enabling business environment.」, https://www.consilium.europa.eu/media/40124/final_g20_osaka_leaders_declaration.pdf (last visited Sep. 26, 2019). [8] COUNCIL OF THE EUROPEAN UNION, G20 Osaka Leaders’ Declaration,「11. Cross-border flow of data, information, ideas and knowledge generates higher productivity, greater innovation, and improved sustainable development, while raising challenges related to privacy, data protection, intellectual property rights, and security. By continuing to address these challenges, we can further facilitate data free flow and strengthen consumer and business trust. In this respect, it is necessary that legal frameworks, both domestic and international, should be respected. Such data free flow with trust will harness the opportunities of the digital economy. We will cooperate to encourage the interoperability of different frameworks, and we affirm the role of data for development. We also reaffirm the importance of interface between trade and digital economy, and note the ongoing discussion under the Joint Statement Initiative on electronic commerce, and reaffirm the importance of the Work Programme on electronic commerce at the WTO.」, https://www.consilium.europa.eu/media/40124/final_g20_osaka_leaders_declaration.pdf (last visited Sep. 26, 2019).
歐盟通過最新基因改造生物指令，並堅持產品標示歐洲議會於今（2015）年1月13日通過最新決議（10972/3/2014 – C8-0145/2014）「修正2001/18/EC歐洲議會與理事會指令，關於會員國限制或禁止境內進行基因改造生物耕作之可能性」（Directive of the European Parliament and of the Council amending Directive 2001/18/EC as regards the possibility for the Member States to restrict or prohibit the cultivation of genetically modified organisms (GMOs) in their territory），允許會員國自行決定限制或全面禁止GMO於其國境內耕作，以排除GMO產品。此變革在於，原歐洲議會與理事會2001/18/EC指令、歐洲議會與理事會第1829/2003號決議，允許全歐盟境內使用GMO種子、植物繁殖材料進行耕作；而一旦歐盟許可後，會員國除非有符合歐盟法規定例外，否則不得於其境內再為禁止、限制或障礙。 基於歐洲聯盟「輔助原則」（Principle of Subsidiarity），並考量GMO耕作議題與國家、地區及在地區域土地利用、農業結構與生態維持之關聯度高，其與歐盟GMO產品上市之授權進入內部市場仍有所不同，因此新通過之指令，提供會員國更多裁量彈性，在不影響「歐盟食品安全局」（European Food Safety Authority）之GMO風險評估結果下，會員國在歐盟允許GMO產品上市後，得自行決定是否允許GMO作物於其境內耕作。 由於歐盟與美國之「跨大西洋貿易與投資伙伴協定」（Transatlantic Trade and Investment Partnership），及歐盟與加拿大雙邊自由貿易協定（Comprehensive Economic and Trade Agreement），使歐洲民眾對於GMO產品進入歐洲產生恐慌，且在年初即受到消費者保護團體及農民聯盟之嚴厲批評，因此在前述新通過指令之立場下，歐盟農業委員會委員Phil Hogan在今年1月15日國際綠色週（International Green Week）強調，基於消費者保護，歐盟堅持產品中含有基因改造生物者，皆需進行標示。僅透過條碼掃描才能得知是否為GMO產品，此美國建議之方式仍不符合歐盟規定。
必載規定修法動態與爭點必載規定修法動態與爭點 科技法律研究所 2012年4月9日 壹、修法動態 我國無線電視數位化後，頻道大幅增加，必載義務規定將影響有線電視系統的頻道安排與營運規劃，依照最新黨團協商結論，有線廣播電視法修草第33條第1至3項規定：「系統經營者應同時轉播依公共電視法設立之公共電視之節目及廣告，不得變更其形式及內容，並應列為基本頻道。但經中央主管機關許可者，不在此限。（第一項）系統經營者為前項轉播，不構成侵害著作權，免付費用，亦不得向訂戶收取任何費用。（第二項）系統經營者應同時轉播民營無線電視事業所指定之一個頻道節目及廣告，不得變更其形式及內容，並應列為基本頻道。但法律另有規定或經中央主管機關許可者，不在此限。（第三項）」同草案第36條第1項則規定：「系統經營者播送之頻道節目及廣告，應依著作權法或其他相關法規取得合法授權。」就上開兩條文做體系觀察，可得出有線電視雖對民營無線電視台所指定之一個頻道負必載義務，但在授權協商未完成前，可予以先行下架、拒絕轉播。但無線電視業者卻反對，主張「數位無線頻道全部必載、且無須付費」。 貳、論點研析與本文建議 一、應注意國際公約之遵守 我國必載規範最早見於1998年著作權法第56條之1第2項：「有線電視之系統經營者得提供基本頻道，同時轉播依法設立無線電視臺播送之著作，不得變更其內容。」使必載不須經著作財產權人同意，屬免費轉播，與伯恩公約第9條第2項及TRIPS第13條有關合理使用之規定不符，引起其他國家關切，而於2003年修正時刪除。惟同樣的規定仍然存續於有廣法中，相背國際公約問題未獲解決。無線電視頻道內所有節目，須向節目原始著作權利人取得授權。若規定有線電視業者須必載所有無線電視頻道，卻不構成著作權之侵害，將連帶使得無線電視業者無須向節目原始著作權利人取得於有線電視系統播送之授權，損及節目原始權利人之利益。 二、有線電視業者之頻道空間與「基本頻道空間」仍具有限性，立法不宜過度限制其權利，仍應以必載一個頻道為宜 從美國的法制經驗觀之，確保資訊多樣性、大眾免費收視之利益與促進市場競爭三項實質政府利益，並未因無線電視數位化而消失，數位必載仍有需要，只是全部必載可能構成多頻道平臺業者逾越必要程度的負擔。故系統業者僅須負擔必載無線電視業者自選群播中一個頻道串流的義務。我國目前有線電視系統未完全數位化，若全部必載民營無線電視共12個數位頻道，且列為頻道空間有限且訂閱戶最多的基本頻道，將導致有線電視業者獲利減損，恐過度限制有線電視業者的廣電與財產自由。我國無線電視已極趨弱勢，必載的確可確保無線電視業者的廣告收入，進而維持經營以保資訊多樣性，仍有必要繼續採行必載規則，惟必載頻道應僅由無線電視業者選擇其一可謂足夠。 三、我國民營無線電視台不屬非商業無線電視台，應輔導其回歸商業競爭，充實數位無線電視臺之動能 非商業無線電視台主要係補充商業電視因追求收視率與廣告收入，所造成特定資訊缺乏而設。商業無線電視台的全部必載恐對多頻道平臺業者投入於商業競爭上之努力，造成搭便車之效果，進而減損無線電視業者自身技術創新與節目開發之誘因。適切輔導無線電視業者競爭閱聽眾之眼球，如英國之共同傳輸的數位無線電視平臺，才能使無線電視業者更有效利用具高度公益性的無線頻譜。 四、無線電視業者間對必載規範與定位時有內部爭議，應仿照美國法制，設計可符合不同業者需求之「必載／再傳輸同意」選擇權框架 法研議修正之初，無線電視業者內部即有不同意見與需求，有意欲與有線電視業者進行載送之商業協商者，亦有傾向免付費必載者。若完整引進美國法制的精神，由無線電視業者自行選擇必載或行商業協商載送，不但可滿足當前不同無線電視業者間的歧異；亦因法制具有彈性，而有不因業者商業上成功與失敗之變化而須頻繁修法之利。
歐盟發布資料法案草案2022年2月23日，歐盟委員會（European Commission，以下簡稱委員會）公開資料法案草案（Data Act，以下簡稱草案），基於促進資料共享的目的，草案其中一個目標是使不同規模的企業、用戶在資料利用上有著更加平等的地位，內容包含確保用戶資料可攜性、打破資料存取限制、推動大型企業的資料共享，扶植微/小型企業等幾大方向。 以下就草案對大型企業要求的義務切入，說明草案所帶來的影響： 確保用戶訪問資料的權利： 基本資訊的告知，包含所蒐集資料性質以及訪問方式、使用資料的目的；用戶可在不同產品/服務提供者（以下簡稱提供者）之間切換，且提供者須有技術支援；提供者需要有合理技術，避免資料在未經授權被查閱。 對於提供者的限制： 提供者不得將所蒐集的資料用於取得用戶的經濟地位、資產、使用喜好；具守門人性質的企業不得採取獎勵措施以鼓勵用戶提供自其他提供者處所取得的資料；提供者提供資料可以收取補償，但必須以公平、合理、非歧視、透明的方式為之，需要提供補償計算方式與基礎。 對於微/小/中型企業的保護 提供者對於微/小型企業所收取的資料補償，不得超過提供資料所需的成本；提供者利用市場優勢，對於微/小/中型企業的不合理/公平的約定無效（如單方面免除一方的重大過失/故意行為的責任）。 該資料法案草案須經歐盟議會（European Parliament）通過後才會生效，目前草案規定只要有在歐盟提供物聯網產品或服務之企業，就須遵守草案內容規範，考量到網路服務可跨國提供服務，草案規範與進度仍值得國內企業關注。 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」