落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國國會於1980年通過了拜杜法案(Bayh-Dole Act)，正式名稱為1980年大學與小型企業專利程序法(University and Small Business Patent Procedures Act of 1980, 35 U.S.C. 200 et seq.)。經濟學人(The Economis)曾對美國拜杜法評價為「可能是過去半世紀在美國所成立之最具創見之法律」，其目的是讓大學、中小企業等與聯邦機構締約，執行聯邦政府資助的研發計畫後仍能保有其研究成果之專利，亦即將此研究成果的專利申請權歸屬於受資助之大學或中小企業，而非聯邦政府。 拜杜法案(Bayh-Dole Act) 35 U.S.C. § 201(c)對立約人(contractors)定義為，任何簽署資助協議的自然人、小型企業、或非營利機構。而權利歸屬部分，規定於35 U.S.C. § 202，非營利機構、中小企業等與聯邦機構簽訂資助契約之承攬人可以選擇是否擁有受資助發明(elect to retain title to any subject invention)之權利。再者，立約人負責專利管理事務之人員，應於知悉受資助發明的合理期間內，向聯邦機構揭露該發明，若未於合理期間內揭露，則該發明歸屬於聯邦機構。並且，立約人應於揭露發明後2年內，以書面行使其選擇權，逾期則該發明權利歸屬於聯邦機構。另 35 USC § 203有介入權規定，聯邦機構認為有必要時，得要求立約人、其受讓人或其專屬被授權人將發明專屬、部分專屬(partially exclusive)或非專屬授權予申請人，聯邦機構得自行為之。
愛爾蘭ISP業者被控侵犯著作權愛爾蘭最大的ISP業者Ericom因其使用者利用Ericom提供之網路服務傳輸音樂檔案，而遭EMI、Sony BMG、Universal及Warner提起訴訟，控告其涉嫌侵害著作權，要求Ericom應過濾其內容可能涉及侵害著作權之檔案。對此，Ericom向愛爾蘭高等法院表示，Ericom在法律上並無義務監督在其網路上所承載的檔案內容。 愛爾蘭數位權利壓力團體「愛爾蘭數位權利」(Digital Rights Ireland，簡稱DRI)聲稱，上述音樂出版業者對於Ericom的指控及要求於法無據，因為ISP業者不過是資料來源的媒介，並無法律義務對於網路上使用者的行為負責；歐盟也無法律特別要求業者應監督其所提供網路服務傳遞的資訊內容。DRI亦表示，若立法要求業者應監督傳輸之檔案，除將侵犯網路使用者的隱私權外，更意味著要求使用者付費讓業者監督其使用網路之行為，但目前過濾篩選技術仍不夠完善，反而會影響合法使用網路服務之用戶。 雖然如此，ISP業者仍面臨了越來越多的國際壓力，要求應即時阻攔使用者非法分享之檔案。如2008年夏季，法國將提出一套測試系統以協助ISP業者封鎖涉及侵權之資訊；比利時法院於2007年判決要求某個ISP業者應過濾其傳輸之資訊；日本ISP業者之代表組織亦強調，若發現使用者使用軟體違法分享音樂及遊戲檔案，將即時切斷網路服務，以防止使用者透過網路分享檔案侵害著作權。對於違法分享檔案之行為，若英國網路服務業者與音樂工業之意見仍未能達成一致，英國政府將立法要求，ISP業者應對違法分享檔案之使用者發出警告，而使用者仍堅持從事該違法行為，則其所使用之網路服務將會中斷。 目前，對於使用者利用ISP業者所提供之服務從事侵害著作權之行為，該業者是否應為使用者之違法行為負責已成為各國專家廣泛討論之議題，未來有關該議題之立法仍有待持續關注。
歐盟執委會公布《關於標示與標籤AI生成內容之實踐守則》第二版草案，簡化第一版以促進AI生成內容之透明度歐盟執委會於2026年3月5日公布《關於標示與標籤AI生成內容之實踐守則》(Code of Practice on Marking and Labelling of AI-generated content)第二版草案，主要分為兩大部分，針對不同對象設定規範： 一、AI提供者(Provider)的標示義務 要求AI輸出內容須以「可被機器辨識」的方式標示，包含： (1)應滿足四大要件：標示應滿足有效性、互操作性、穩健性與可靠性四要件，若無法透過單一技術完成標示，則應採取多重標示的方式為之。 (2)偵測機制：建立部署者與終端用戶偵測標示的機制。 (3)技術提升：訂定規範確保標示技術達標，並鼓勵合作開發。 (4)法遵：產品於市場推出後，AI提供者應於實際環境下對標示結果持續進行測試，並適時更新測試方法，以確保產品符合法遵要求。 (5)培訓：並對工作人員進行教育訓練。 二、AI部署者(Deployer)的標籤義務 部署者應將其透過AI生成內容中加以標籤，此義務聚焦使用深偽內容(Deepfake)於涉及公共利益之內容： (1)標籤要求：標籤須包含「AI」字樣、維持特定比例並放置於清楚位置，鼓勵使用歐盟統一標籤。 (2)藝術創意類作品仍應適時揭露：藝術創作倘若包含深偽內容，部署者仍應於適當處完成標籤，揭露其作品中包含深偽內容（對應《歐盟人工智慧法》(Artificial Intelligence Act, AI Act)第50條第4項後段）。 (3)審查與問責：針對已公開作品，應記錄相關人工審查之作業；未公開作品則應說明何人具備編輯控制權，以利後續問責。 相較於第一版，歐盟執委會已將此版本內容大幅刪減，以提升規範落實之彈性。
新加坡LTA與NTU及JTC共同宣布建立新加坡第一個自駕車測試中心新加坡陸路交通管理局(Land Transport Authority, LTA)與南洋理工大學NTU及JTC共同宣布建立新加坡的第一個自駕車測試中心，在裕廊東創新特區(Jurong Innovation District)。 其中心設立的目的為協助2016年建立的卓越自駕車測試與研究中心(Centre of Excellence for Testing & Research of AVs–NTU, CETRAN)建立自駕車試驗標準與認證。自2015年來新加坡已逐步建立道路駕駛場域，但此為第一個自駕車測試中心。 此自駕車測試中心的特點在於其充分模擬道路之建設，使自駕車輛可測試與其他車輛或道路基礎設施間的通訊與互動，因此此中心設計並複製模擬真實道路環境。 包含具有1. 道路燈光；2. 專用短距通訊信號發射器； 2. 下雨模擬器；3.洪水模擬器；4. 模擬大樓阻隔，以模擬衛星受干擾的情況； 5. 彎道；6. 道路突起與斜坡；7. 巴士站等設備。其中並設置360度的閉路電視監視系統（CCTV）：提供LTA監督與研究自駕車行為，並會將資訊回傳至陸路交通局的智慧交通系統中心，以分析並評估自駕車的上路可行性。