落實完善數位資料管理機制,有助於降低AI歧視及資料外洩風險

落實完善數位資料管理機制,
有助於降低AI歧視及資料外洩風險

資訊工業策進會科技法律研究所
2023年07月07日

近年來,科技快速發展,AI(人工智慧)等技術日新月異,在公私部門的應用日益廣泛,而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出,隨著由OpenAI開發的ChatGPT取得成功,更促使各領域對於AI應用的高度重視與投入[1],與此同時,AI歧視及資料外洩等問題,亦成為社會各界的重大關切議題。

壹、事件摘要

目前AI科技發展已牽動全球經濟發展,根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力:下一個生產力前沿(The next productivity frontier)》研究報告指出,預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中,45%受訪者認為ChatGPT問世,增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險,僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料,將可能複製人類偏見,造成AI歧視問題,而且若程式碼有漏洞或帳戶被盜用時,亦會造成資料外洩問題。

貳、重點說明

首先,關於AI歧視問題,以金融領域為例,近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時,如決定是否能取得貸款,應確保申請人不受性別或膚色等歧視[4],同時亦有論者認為若用於訓練AI的歷史資料,本身存有偏見問題,則可能導致系統自動拒絕向邊緣化族群貸款,在無形之中加劇,甚至永久化對於特定種族或性別的歧視[5]

其次,關於資料外洩問題,資安公司Group-IB指出因目前在預設情況下,ChatGPT將保存使用者查詢及AI回應的訊息紀錄,若帳戶被盜,則可能洩露機敏資訊。據統計在2022年6月至2023年5月間,在亞太地區有近41000個帳戶被盜,而在中東和非洲地區有近25000個帳戶被盜,甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時,ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外,甚至發生個人資料外洩問題,即用戶可能知悉他人的姓名、電子郵件,付款地址,信用卡到期日及號碼末四碼等資料[7]

參、事件評析

對於AI歧視及資料外洩等問題,應透過落實完善數位資料治理與管理機制,以降低問題發生的風險。首先,在收集訓練資料時,為篩選適合作為模型或演算法基礎的資料,應建立資料評估或審查機制,減少或避免使用有潛在歧視問題的資料,以確保分析結果之精確性。

其次,不論對於訓練資料、分析所得資料或用戶個人資料等,均應落實嚴謹的資料保密措施,避免資料外洩,如必須對於資料進行標示或分類,並依照不同標示或分類,評估及採取適當程度的保密措施。同時應對於資料進行格式轉換,以無法直接開啟的檔案格式進行留存,縱使未來可能不慎發生資料外洩,任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時,亦應採取適當加密傳送機制,避免遭他人竊取,盜取帳戶或個人資料。

財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善,於2021年7月發布「重要數位資料治理暨管理制度規範(Essential Data Governance and Management System,簡稱EDGS)」,完整涵蓋數位資料的生成、保護與維護,以及存證資訊的取得、維護與驗證的流程化管理機制,故對於不同公私部門的AI相關資料,均可參考EDGS,建立系統性數位資料管理機制或強化既有機制。

本文同步刊登於TIPS網站(https://www.tips.org.tw

[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).

[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).

[3]Gartner, supra note 1.

[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).

[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).

[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).

[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).

你可能會想參加
※ 落實完善數位資料管理機制,有助於降低AI歧視及資料外洩風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9013&no=57&tp=1 (最後瀏覽日:2026/06/20)
引註此篇文章
你可能還會想看
歐洲個人資料保護委員會發布數位服務法與一般資料保護規則相互影響指引

「歐洲資料保護委員會」(European Data Protection Board, EDPB)於2025年9月12日發布《數位服務法》(Digital Services Act, DSA)與《一般資料保護規則》(General Data Protection Regulation, GDPR)交互影響指引(Guidelines 3/2025 on the interplay between the DSA and the GDPR)。這份指引闡明中介服務提供者(intermediary service providers)於履行DSA義務時,應如何解釋與適用GDPR。 DSA與GDPR如何交互影響? 處理個人資料的中介服務提供者,依據處理個資的目的和方式或僅代表他人處理個資,會被歸屬於GDPR框架下的控制者或處理者。此時,DSA與GDPR產生法規適用的交互重疊,服務提供者需同時符合DSA與GDPR的要求。具體而言,DSA與GDPR產生交互影響的關鍵領域為以下: 1.非法內容檢測(Illegal content detection):DSA第7條鼓勵中介服務提供者主動進行自發性調查,或採取其他旨在偵測、識別及移除非法內容或使其無法存取的措施。指引提醒,中介服務提供者為此採取的自發性行動仍須遵守GDPR要求的處理合法性,而此時最可能援引的合法性依據為GDPR第6條第1項第f款「合法利益」(legitimate interests)。 2.通知與申訴等程序:DSA所規定設通報與處置機制及內部申訴系統,於運作過程中如涉及個資之蒐集與處理,應符GDPR之規範。服務提供者僅得蒐集履行該義務所必須之個人資料,並應確保通報機制不以通報人識別為強制要件。若為確認非法內容之性質或依法須揭露通報人身分者,應事前告知通報人。同時,DSA第20條與第23條所規範之申訴及帳號停權程序,均不得損及資料主體所享有之權利與救濟可能。 3.禁止誤導性設計模式(Deceptive design patterns):DSA第25條第1項規範,線上平台服務提供者不得以欺騙或操縱其服務接收者之方式,或以其他實質扭曲或損害其服務接收者作出自由且知情決定之能力之方式,設計、組織或營運其線上介面,但DSA第25條第2項則宣示,線上平台提供者之欺瞞性設計行為若已受GDPR規範時,不在第25條第1項之禁止範圍內。指引指出,於判斷該行為是否屬 GDPR 適用範圍時,應評估其是否涉及個人資料之處理,及該設計對資料主體行為之影響是否與資料處理相關。指引並以具體案例補充,區分屬於及不屬於 GDPR 適用之欺瞞性設計模式,以利實務適用。 4.廣告透明度要求:DSA第26條為線上平台提供者制定有關廣告透明度的規範,並禁止基於GDPR第9條之特別類別資料投放廣告,導引出平台必須揭露分析之參數要求,且平台服務提供者應提供處理個資的法律依據。 5.推薦系統:線上平台提供者得於其推薦系統(recommender systems)中使用使用者之個人資料,以個人化顯示內容之順序或顯著程度。然而,推薦系統涉及對個人資料之推論及組合,其準確性與透明度均引發指引的關切,同時亦伴隨大規模及/或敏感性個人資料處理所帶來之潛在風險。指引提醒,不能排除推薦系統透過向使用者呈現特定內容之行為,構成GDPR第22條第1項的「自動化決策」(automated decision-making),提供者於提供不同推薦選項時,應平等呈現各項選擇,不得以設計或行為誘導使用者選擇基於剖析之系統。使用者選擇非剖析選項期間,提供者不得繼續蒐集或處理個人資料以進行剖析。 6.未成年人保護:指引指出,為了符合DSA第28條第1項及第2項所要求於線上平台服務中實施適當且相稱的措施,確保未成年人享有高度的隱私、安全與保障,相關的資料處理得以GDPR第6條第1項第c款「履行法定義務」作為合法依據。 7.系統性風險管理:DSA第34與35條要求超大型在線平台和在線搜索引擎的提供商管理其服務的系統性風險,包括非法內容的傳播以及隱私和個人數據保護等基本權利的風險。而指引進一步提醒,GDPR第25條所設計及預設之資料保護,可能有助於解決這些服務中發現的系統性風險,並且如果確定系統性風險,根據GDPR,應執行資料保護影響評估。 EDPB與其他監管機關的後續? EDPB的新聞稿進一步指出,EDPB正在持續與其監管關機關合作,以釐清跨法規監理體系並確保個資保護保障之一致性。後續進一步的跨法域的指引,包含《數位市場法》(Digital Markets Act, DMA)、《人工智慧法》(Artificial Intelligence Act, AIA)與GDPR的相互影響指引,正在持續制定中,值得後續持續留意。

何謂德國「資訊科技安全法(IT-Sicherheitsgesetz)?

  德國聯邦議會於2015年通過資訊科技安全法(IT-Sicherheitsgesetz),主管機關為聯邦資訊安全局(Bundesamt für Sicherheit in der Informationstechnik, BSI),隸屬於德國聯邦內政部(Bundesministerium des Innern)。目的是為保障德國公民與企業使用的資訊系統安全,特別是在全國數位化進程中,攸關國家發展的關鍵基礎設施,讓德國成為全球資訊科技系統及數位基礎設施安全的先驅與各國的模範,同時藉此強化德國資訊科技安全企業的競爭力,提升外銷實力。   該法案主題包括,在關鍵基礎設施上改進企業資訊科技安全、保護公民的網路安全、確保德國聯邦資訊科技、加強聯邦資訊技術安全局的能力與資源、擴展聯邦刑事網路犯罪的調查權力。   該法主要係針對關鍵基礎設施營運者(Kritische Infrastrukturbetreiber) 進行安全要求,例如在能源、資訊科技、電信、運輸和交通、醫療、水利、食品、金融與保險等領域的企業。德國聯邦政府要求關鍵基礎設施的營運商,要滿足資訊科技安全的最低標準,且須向聯邦資訊安全局通報資訊安全事件。聯邦資訊安全局要對關鍵基礎設施營運商的資訊進行評估分析,並提供給關鍵基礎設施營運商彙整改善,以提高其基礎設施的保護。

研析經濟部智慧財產局因應TPP協定所提著作權法修法草案

研析經濟部智慧財產局因應TPP協定 所提著作權法修法草案 資策會科技法律研究所 法律研究員 陶思妤 105年06月17日 壹、前言   全球化經濟發展蓬勃,為降低貿易障礙與深化產業供應鏈,世界各國皆積極參與自由貿易區協定(Free Trade Area,簡稱FTA)的洽簽。跨太平洋夥伴協定(Trans-Pacific Partnership Agreement,以下簡稱TPP協定)第一輪談判後12個成員國占全球GDP的36%,而我國與TPP成員國在2014年的貿易總額亦高達34.82%。TPP協定的簽訂,勢必對於我國經貿產生重大影響。   TPP協定以美國為主導國,標榜「高品質、高標準、涵蓋範圍廣泛」。其中的智慧財產章節,相較於與貿易有關的智慧財產權協定(Agreement on Trade-Related Aspects of Intellectual Property Rights,以下簡稱TRIPS)標準更高,提供智慧財產權利人更強的保護。為爭取於第二輪申請加入,我國因應TPP協定擬修正12項法規。   其中,針對智財相關法規,經濟部智慧財產局已於105年5月10日因應TPP協定將著作權法(以下簡稱本法)修正草案送交行政院。主要的修正重點包括:1. 延長著作財產權保護期限至70年;2.新增規避科技保護措施之刑事責任(原僅規範準備行為),並將規避行為、準備行為的刑事責任限定於商業目的;3. 擴大「意圖銷售或出租而重製」、「以營利為目的散布侵害著作財產權重製物」行為的非告訴乃論範圍,以及將「侵害公開傳輸權」之刑事責任調整為非告訴乃論;4.增訂載有節目之鎖碼衛星及有線訊號保護的相關規定。   本文將分析我國現行著作權法與TPP協定著作權相關規定之落差、修法重點方向,並提出修法可能對我國產業造成之影響及後續因應。 貳、修正要點與研析 一、延長著作財產權保護期間至70年   現行條文主要依據1982年伯恩公約,以著作人直系子孫三代之平均生存期間為標準,給予著作人終身加計50年之保護期間。然現今人類平均壽命因醫療科技進步,著作人終身加計50年已無法達到伯恩公約之保護標準。歐盟國家、美國、韓國、澳洲、新加坡皆加強對著作之保護,將著作權延長至著作人終身70年。因此本次修正草案因應TPP協定,修正本法第三十條至第三十四條(包含一般著作;共同著作;別名著作或不具名著作;法人著作;攝影、視聽、錄音及表演著作),將保護期間由原有著作人終身加計或著作公開發表後之50年延長至70年。   因應保護期間之修正,關於現存著作財產權的保護期間如何計算,以及已失效著作財產權是否能回溯,依修法條文,現行著作財產權仍存續者,適用新法70年保護期間的規定;著作財產權修正施行前已失效者,則不適用新法規定。而針對外國人著作,為避免修法後造成外國人著作於我國享有之保護期間高於其源流國,外國人著作在其源流國保護期間少於70年者,依其源流國所定存續期間計算。 二、新增規避防盜拷措施之刑事責任,並將規避行為、準備行為的刑事責任限定於商業目的   科技保護措施(Technological Protection Measures),係著作權人為了避免他人擅自接觸或利用其著作,而採取的有效防護措施。TPP協定規定,對於故意、且為商業利益或財務利得而破解科技保護措施之行為,屬於損害權利人權利之重大行為,應科以刑責。   本法對於科技保護措施之規避行為,例如安裝非法軟體並輸入序號後使用,僅課以民事責任,對於準備行為(例如業者提供遊戲機改機服務)方同時課以民事責任及刑事責任。配合TPP協定修正本法第九十六條之一,將規避行為亦列入刑事責任的範圍。   另外,考量就規避行為或準備行為科以刑責,主要希望聚焦打擊以商業目的違反科技保護措施者,避免公權力過度介入及司法資源浪費,故本次修法新增以「意圖營利或作為營業之使用」者為限,處以刑事責任。 三、擴大「意圖銷售或出租而重製」、「以營利為目的散布侵害著作財產權重製物」之行為的非告訴乃論範圍,以及將「侵害公開傳輸權」之刑事責任調整為非告訴乃論   為因應數位科技發展造成網路盜版之情形,並考量TPP協定對於著作權盜版行為的相關規定,本法修正針對數位環境下對著作權人造成重大損害的侵權行為應納入非告訴乃論。修正的重點主要有修改第九十一條、第九十一條之一條將非告訴乃論之標的由「光碟」修正為「數位格式」,並增訂第九十二條公開傳輸行為屬非告訴乃論之罪,並限定非告訴乃論之罪需「重大損害」始得成立。   (一)修正「意圖銷售或出租而重製」、「以營利為目的散布侵害著作財產權重製物」之非告訴乃論罪,放寬重製物型態由「光碟」改為「數位格式」   由於科技發展造成的網路盜版,數位格式較過去光碟容易重製且散布快速,因此將過去「重製於光碟之方法」之文字刪除,改以「數位格式」做為規定之適用客體。智慧財產局於修法理由表示,除過去所規定之光碟如DVD、CD,影音檔案等亦在「數位格式」的範圍之內,使權利人在現今數位環境下能有更周全的保護。   (二)改列侵害著作權之公開傳輸行為為非告訴乃論罪   本次的修訂將本法第九十二條侵害著作權之公開傳輸行為亦列為非告訴乃論刑事責任的範圍。所謂「公開傳輸」,係指以有線電、無線電、網路等其它通訊方法,藉聲音或影像向公眾提供或傳達著作內容。由於通訊科技的興起,著作得以藉由網路等通訊管道快速傳播,因此為嚇阻數位環境下著作權侵害的發生,本次修法參考日本立法例,將侵害著作權之公開傳輸行為亦列為非告訴乃論。   (三) 非告訴乃論罪限定為「重大損害」之侵權行為   另需注意的是,本次所修正的第九十一條、第九十一條之一、第九十二條,需「重大損害」始構成非告訴乃論之要件。針對「重大損害」,現有兩種修正方案:甲案以金額為門檻,限定為一百萬元以上之損害,乙案不以金額為門檻,提供三項「重大損害」之考量事項:重製之數量或點擊率、侵權網站註冊數或廣告收益、對著作市場價值之影響及其他著作財產人預期利益。TPP協定係以「商業規模」、「對權利人市場利益產生實質不利影響的重大行為」做為非告訴乃論的要件。權利人所受之損害是否與侵權人之商業規模或權利人市場利益相等,似非可完全畫上等號。惟根據智慧財產局針對修法之說明,本條係參考TPP首輪談判國日本之修法草案,應無逸脫TPP協定規定之疑慮。 四、增訂載有節目之鎖碼衛星及有線訊號保護之相關規定   近年來美國、新加坡、澳洲等國均已立法強化保護載有節目之衛星及有線訊號之合法權益。TPP協定亦規定,未經合法授權,應禁止衛星及有線節目解碼器材的流通、禁止訊號的接收及散布,並應提供對於訊號享有利益之人(不限於著作權權利人)的救濟。   目前我國法規在衛星訊號部分,衛星廣播電視法或其他法令均無規範,有線訊號部分僅有有線廣播電視法第74條有類似規定,然該規定僅要求未經系統經營者同意者需補繳基本費用,對於有線廣播電視業者及合法消費者之權益保護仍有不足。因此本次修法依TPP協定之要求,增訂第七章之一共四項條文。   (一) 衛星訊號   本次修法所增訂之第一百零四條之一,規定明知未經合法授權解碼,使用者不得擅自接收衛星訊號或提供予公眾。又因衛星訊號無形之特性,參考TPP協定,在準備行為的限制態樣上較有線訊號多元,除製造外,亦規定不得輸入、輸出、銷售、出租或其他方式提供衛星訊號解碼設備。且依智慧財產局之修法說明,此類設備不論無形或有形,只要目的或主要功能係於提供衛星訊號之解碼者,均在範圍內。   (二) 有線訊號   本次修法所增訂之第一百零四條之二,由於有線訊號需實體纜線輸送,因此參考TPP協定之要求,規定使用者不得未經授權擅自接收有線訊號,並規定不得製造或提供有線訊號解碼設備。   (三) 救濟   對於違反衛星訊號及有線訊號之保護而使他人受損害者,本次修法增訂一百零四條之三,讓受損害人得以利用民事救濟,包含民事損害賠償、侵害的防止或排除請求權,以及侵害物之銷毀等必要處置。由於衛星訊號除可提供收視戶直接視聽外,亦是有線節目訊號之節目來源,對鎖碼衛星訊號應有更周延的保護,因此特於一百零四條之四增訂違反衛星訊號保護之刑事責任。 參、結語:修法所涉及之影響 一、延長著作權保護期間可能造成出版業、文創產業協商授權成本增加   新修法將著作權保護期間由50年延長至70年,可能使很多原創著作延緩進入公共領域。我國目前屬著作權輸入國,保護期間的延長可能造成我國業者於著作權授權協商時授權金、權利金等授權成本的增加。因此,著作權保護期間的延長對於國內利用外國著作之出版業、文創產業等將可能造成一定衝擊,我國文創業者可從授權合作的洽談、商業模式的調整同步思考因應。 二、調整非告訴乃論範圍,納入數位及網路著作權侵權型態   考量數位科技發展造成網路盜版猖獗,目前著作權修正草案因應TPP協定之規定,將過去以非告訴乃論罪處罰的加重重製光碟罪刪除,放寬重製物的型態由「光碟」至「數位格式」。除了傳統認知上的盜版光碟,本次修法將數位重製、散布及網路侵權之行為也納入非告訴乃論之適用範圍。未來若網路上有出現非法連結或盜版影片,權利人可藉助公權力蒐證及取締,加強遏阻不肖數位盜版行為。而將非告訴乃論限定為「重大損害」始得成立的限制,應可降低以刑擾民的可能。 三、TPP協定中「商業規模」是否等同修法草案中「重大損害」仍待商榷   本次修法將「意圖銷售或出租而重製」、「以營利為目的散布侵害著作財產權重製物」之行為改列為非告訴乃論罪。為考量避免非重大侵權行為亦遭受國家公權力相繩之疑慮,本次修法限制需為「重大損害」的行為,始得以非告訴乃論罪論處。   然而,「重大損害」是否當然等同於「商業規模」,仍有進一步釐清的空間。根據TPP協定,具有商業規模之行為,包括:(一) 為商業利益或財務利得而為之行為;(二) 雖非為商業利益或財務利得,但對著作權人之市場利益產生實質的不利影響的重大行為。由此可推斷TPP協定希望能同時遏止利用他人著作權做為商業牟利的行為並保護權利人的市場利益。   目前修法草案的甲案以「一百萬元以上」的金額作為重大損害的標準。然而單純以金額為門檻作為標準,不就行為本身是否為商業牟利行為或是否影響權利人市場利益而為認定,是否合於TPP協定的旨意,仍有思考的空間。   而目前修法草案的乙案則是以三項考量因素判斷:重製數量及點擊率、註冊會員或廣告收益、權利人預期利益,亦存有疑義。例如,若一位網路素人於youtube上載一段影片批評某電影,影片含有該電影的片段。該視頻廣受大眾喜愛,因而使該網路素人點擊率高、廣告受益增加。然而,由於該網路素人的批評,造成電影公司的收益不如預期。這樣的情況可能符合本次修法乙案的三項考量因素,但取締此類影片是否為TPP協定之本意,仍有待商榷。 本文同步刊登於TIPS網站(http://www.tips.org.tw)

美國新能源法案預定於2010年前興建新核電廠

  美國總統布希於本( 8 )月 8 日簽署能源法案,法案目的除減少對國外能源依賴外,另亦授權興建一座新核能發電廠。布希政府希望於 2010 年前開始建造核能廠。   儘管核能爭議大,但現今國際油價已飆高達每桶 63 美元,在美國參眾兩院日前通過、布希總統今簽署的能源法案中,同意興建的新核電廠,是美國自 1979 年三哩島事件以來,第 1 座預定興建的核能廠。   能源法案的通過,被視為是布希政府一大勝利,也是相關利益團體石油公司的勝利。布希自 2001 年上台即大力鼓吹此法案,經 4 年多爭議,眾參院才分別在 7 月 28 、 30 日通過。   除新建核電廠外,能源法案內容還包括:准許在海岸探勘石油與天然氣,這項鬆綁引起環保人士質疑;提供美國能源公司超 10 年 145 億美元的減稅優惠,這項優惠讓華府輿論質疑,減稅是「肥了石油公司,苦了消費者與納稅人」;另外,鼓勵開發新的潔淨能源、再生能源,提供 18 億美元的獎助,這項具有環保意義、找尋替代能源的條文,也被質疑資助少得可憐。

TOP