歐盟創新採購機制觀測
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
WIPO馬拉喀什條約《馬拉喀什條約》全名為《關於為盲人、視力障礙者或其他印刷品閱讀障礙者獲得已出版作品提供便利的馬拉喀什條約》（Marrakesh Treaty to Facilitate Access to Published Works for Persons Who Are Blind, Visually Impaired or Otherwise Print Disabled），2013年由世界智慧財產權組織（WIPO）通過，並於2016年9月30日生效。《馬拉喀什條約》目標是在保護智慧財產權的同時，亦能擴大視覺障礙者資訊及資源獲取的管道，允許盲人及視障者得複製已出版作品、簡化無障礙文本的印刷流通與授權，增加視障者閱讀機會。條約並要求締約方必須在國內法中明文對著作權人權利的例外與限制規定，允許被授權實體（例如為視力及閱讀障礙者服務的非營利性組織），製作圖書的無障礙格式版本，包括點字文本、大字本、數位化音訊等，並允許跨國境交換，均無須請求著作權人授權。 美國是目前擁有最多無障礙格式英文文本的國家。2019年1月28日，美國總統批准《馬拉喀什條約》後，美國成為了該條約的第50個締約國。條約在美國國內實施後，居住在條約締約國的視力障礙者將能立即獲得約550,000份無障礙文本。
英國智慧財產局發布新的智慧財產打擊侵權戰略2022年2月4日英國智慧財產局（以下簡稱IPO）發布的2022至2027的智慧財產打擊侵權戰略，主要著重於智慧財產的保護，打擊智慧財產侵權行為，以保護英國企業的智慧財產。 有鑑於智慧財產侵權/犯罪被視為低風險高回報的侵權行為，此次發布的智財戰略，主要在於強化英國原有的智慧財產執法機制，著眼於對於智慧財產現今與未來所會面對的挑戰，可著重於三大主軸，包含建立夥伴關係，與其他國內外夥伴合作，將智慧財產執法資源進行整合，建立打擊智慧財產侵權的網絡；發揮領導效用，透過與夥伴的合作，強化其他國家打擊智慧財產犯罪的能力，確保英國企業的智慧財產在海外亦受到充分保護；教育提升，藉由與夥伴的合作，一起展開有效的智慧財產活動，減少智慧財產侵權行為，以及消費者認識智慧財產犯罪和侵權的行為，避免無意間捲入侵權行為中。 除以上三大主軸之外，該戰略並採用於打擊組織犯罪所用的4Ps方法，包含預防（prevent）、保護（protect）、準備（prepare）和追查（pursue），以確保跨部門合作可被有效執行。 該戰略並不是針對現行智慧財產侵權/犯罪問題提出解方，而是針對智慧財產的長期所需，試圖建立一個基本框架，確保透過公私合作關係（包含國內合作與國際合作）解決智慧財產侵權/犯罪結構，使英國企業更有信心將資源投入在創新上。
何謂「三螺旋理論」三螺旋理論，又稱三螺旋創新模型理論（Triple Helix Theory），主要研究大學、產業以及政府以知識經濟為背景之創新系統中之型態關係，由Etzknowitz與Leydesdorff於1995年首次提出。 因應知識經濟時代來臨，三螺旋理論著重於政府、學術界與產業界（即為產、官、學）三者在創新過程中互動關係的強化。該理論探討如何協調產業、政府、學界三方於知識運用和研發成果產出上的合作；當社會動態產生改變，過去單一強大的領域將不足以帶動創新活動，推動創新也非單一方的責任，此時產業、政府、學界的三螺旋互動便隨之發生：大學透過創新育成機構孕育企業創新，而產業則扮演將研發成果商業化之要角，政府則透過研發相關政策、計畫或法規制定，鼓勵企業和大學間研究發展合作。 有別於早期經濟合作暨發展組織（OECD）將「產業」作為主要研發創新主體，三螺旋理論更重視產業、政府、學界三大主體均衡發展，三方主體各自獨立發展，且同時與其他方維持相互協力合作，共同推進經濟與社會之創新發展。 在三螺旋理論下，產、官、學因其強弱不等的互動狀態，形成不同的動態模型（例如國家干預模型、自由放任模型、平衡配置模型等等），這些動態模型被認為是產生創新的主要動力來源，對未來新知識和科技創造與擴散的能力以及績效具有決定性的影響力。