法國國家資訊自由委員會將推出符合GDPR的人工智慧操作指引（AI how-to sheets）
法國國家資訊自由委員會（CNIL）於2023年10月16日至11月16日進行「人工智慧操作指引」（AI how-to sheets）（下稱本指引）公眾諮詢，並宣布將於2024年初提出正式版本。本指引主要說明AI系統資料集建立與利用符合歐盟一般資料保護規則（GDPR）之作法，以期在支持人工智慧專業人士創新之外，同時能兼顧民眾權利。
人工智慧操作指引主要內容整理如下：
1.指引涵蓋範圍：本指引限於AI開發階段（development phase），不包含應用階段（deployment phase）。開發階段進一步可分為三階段，包括AI系統設計、資料蒐集與資料庫建立，以及AI系統學習與訓練。
2.法律適用：當資料處理過程中包含個人資料時，人工智慧系統的開發與設計都必須確定其適用的法律規範為何。
3.定義利用目的：CNIL強調蒐集及處理個資時應該遵守「明確」、「合法」、「易懂」之原則，由於資料應該是基於特定且合法的目的而蒐集的，因此不得以與最初目的不相符的方式進一步處理資料。故明確界定人工智慧系統之目的為何，方能決定GDPR與其他原則之適用。
4.系統提供者的身分：可能會是GDPR中的為資料控管者（data controller）、共同控管者（joint controller）以及資料處理者（data processor）。
5.確保資料處理之合法性：建立AI系統的組織使用的資料集若包含個人資料，必須確保資料分析與處理操作符合GDPR規定。
6.必要時進行資料保護影響評估（DIPA）。
7.在系統設計時將資料保護納入考慮：包含建立系統主要目標、技術架構、識別資料來源與嚴格篩選使用…等等。
8.資料蒐集與管理時皆須考慮資料保護：具體作法包含資料蒐集須符合GDPR、糾正錯誤、解決缺失值、整合個資保護措施、監控所蒐集之資料、蒐集之目的，以及設定明確的資料保留期限，實施適當的技術和組織措施以確保資料安全等。
對於AI相關產業從事人員來說，更新AI相關規範知識非常重要，CNIL的人工智慧操作指引將可協助增強AI產業對於個資處理複雜法律問題的理解。
- 零售業個資安全宣導暨安全維護計畫規劃說明會
- (已額滿)114年「企業營業秘密保護實務座談會」(北部場)–營業秘密因應數位環境之保護風險及管理對策
- 數位經濟時代的隱私保護與商機－CBPR跨境隱私規則體系解析
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 零售業個資安全宣導暨安全維護計畫說明會（高雄場）
- 零售業個資安全宣導暨安全維護計畫說明會（台中場）
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 零售業個資法遵實務與資訊安全說明會
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 零售業個資法遵實務與資訊安全說明會（台中場）
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
陳郁潔
副法律研究員 編譯整理
Artificial intelligence: CNIL unveils its first answers for innovative and privacy-friendly AI, CIL, https://www.cnil.fr/en/artificial-intelligence-cnil-unveils-its-first-answers-innovative-and-privacy-friendly-ai (last visited Nov. 3, 2023).
AI how-to sheets, CNIL, https://www.cnil.fr/en/ai-how-sheets (last visited Nov. 1, 2023).
CNIL Publishes’ AI How-to sheets’ On Aligning Artificial Intelligence System With GDPR BRYAN CAVE LEIGHTON PAISNER, Oct. 25, 2023, https://www.bclplaw.com/en-US/events-insights-news/cnil-publishes-ai-how-to-sheets-on-aligning-artificial-intelligence-systems-with-gdpr.html (last visited Nov. 1, 2023).
2020年6月、9月及11月，印度電子及資訊科技部（Ministry of Electronics and Information Technology, MeitY）分別發布三項公告，內容為封鎖數款具資安風險之應用程式，並直接列出名單，總數一共高達220款。三項公告分別如下： 政府封鎖59款有害印度主權之完整性、防禦力、國家安全及公共利益的手機應用程式（Government Bans 59 mobile apps which are prejudicial to sovereignty and integrity of India, defence of India, security of state and public order）。 政府封鎖118款有害印度主權之完整性、防禦力、國家安全和公共利益的手機應用程式（Government Blocks 118 Mobile Apps Which are Prejudicial to Sovereignty and Integrity of India, Defence of India, Security of State and Public Order）。 政府禁止國內使用者使用43款手機應用程式（Government of India blocks 43 mobile apps from accessing by users in India）。 三項公告皆指出依照資訊技術法（Information Technology Act 2000）第69A條之規定，中央政府為保護印度主權之完整性、國家安全、公共利益而有必要，得透過命令封鎖、監視或解密由特定電腦資源（computer resource）產生、傳送、儲存或管理的資料。依照同法第2條第1項第k款，電腦資源係指電腦設備、電腦網路、軟體或應用程式。 電子及資訊科技部進一步表示，經民眾檢舉後調查發現，在手機Android及iOS系統之應用程式商店中，有許多應用程式未經使用者授權就存取其重要資料，並傳輸到印度境外的伺服器，不僅對印度人民隱私造成威脅，更損害印度國家安全與公共利益。有鑑於此，電子及資訊科技部決定封鎖此類具資安風險之應用程式，將名單中所列應用程式自應用程式商店中下架，名單中包括TikTok、WeChat、淘寶、支付寶、微博等應用程式。由於名單中大多數皆屬中國企業開發之應用程式，外界普遍認為是今年6月中印軍隊於邊界西段加勒萬河谷（Galwan Valley）發生衝突，因此印度透過封鎖中國資通訊服務之手段以牽制對方，預計此舉將導致兩國關係更加緊張。
美國著作權局發布AI著作權報告第三部分：生成式AI訓練－AI訓練是否構成合理使用？美國著作權局發布AI著作權報告第三部分：生成式AI訓練－AI訓練是否構成合理使用？ 資訊工業策進會科技法律研究所 2025年06月04日 美國著作權局於2025年5月發布著作權與AI第三部分報告之預出版本 （Copyright and Artificial Intelligence Part 3: Generative AI Training pre-publication version）[1]，該報告重點為生成式AI訓練資料與著作權之關係，彙整各方意見並分析現行法制之挑戰及修改方向，目前發布之版本為預出版本，該報告說明將於近期發布最終確認版，預期其結論與實質內容並不會有修改。 壹、事件摘要 美國著作權局自2023年起即開始對AI所引發之著作權法律及政策問題進行研究，同年8月著作權局發布著作權及AI諮詢通知（Comments on Artificial Intelligence Notice of Inquiry, NOI），徵集各界對AI著作權議題之意見，著作權局亦針對相關議題舉辦多場公聽會及研討會協助意見之蒐集[2]。NOI發布後蒐集到之意見經著作權局整理分析，於2024年7月起發布AI著作權報告，第一部分為數位仿造，第二部分於2025年1月發布為就AI作品之著作可保護性之分析，而同年5月所發布之第三部分則聚焦於生成式AI之訓練。 生成式AI於訓練過程可能大量使用受著作權保護之作品，此份報告針對訓練過程可能涉及之著作權問題進行分析，主要說明AI模型訓練過程中使用受著作權保護作品是否可構成合理使用。 貳、重點說明 一、生成式AI模型訓練及模型權重對重製權之侵害 使用受著作權保護作品進行AI模型訓練涉及著作權中之重製，除非開發者能提出授權或其他合理抗辯如合理使用等，否則可能對一項或多項著作權利構成初步侵權（Prima Facie Infringement）。AI開發者於模型訓練階段會進行多次作品複製，包含下載作品、於儲存媒介間轉換、將作品進行格式化或製作副本等[3]，模型訓練過程中暫時複製之作品亦有可能因其存在於時間足夠而構成重製權之侵害[4]。 在特定情形下，模型權重（model weights）[5]之複製亦可能構成重製權之侵害。訓練過程可能使模型權重包含著作權作品，而若第三方複製了包含著作權作品之模型權重，即便其未參與模型之訓練，亦可能構成初步侵權[6]。若模型能在未經外部輸入之情形下產出與訓練範例相似之內容時，表示此範例必以某種形式存在於模型權重中，故此模型權重之複製極有可能侵犯著作重製權[7]。換言之，不僅開發者有可能因模型權重之複製侵害著作權人之權利，部署、使用等第三方若複製模型權重亦有可能構成對重製權之侵害。 著作權局指出，模型權重究竟是否會構成重製權或甚至衍生作品之侵權，須判斷該模型權重是否保留與作品受權利保護部分實質相似之內容，僅有在實質相似之情形下，模型權重之複製才可能構成侵權[8]。 二、合理使用 對著作權作品之合理使用可做為作品重製權的抗辯，著作權局於報告中就不同因素分析AI使用著作權作品進行訓練是否得主張合理使用。AI於訓練過程中會有多次複製行為，惟在判斷AI模型訓練是否為對作品之合理使用，仍須視整體使用情境進行判斷[9]。 (1) 作品轉化性須視模型目的及佈署判斷 報告中分析作品之轉化性（transformativeness）[10]，AI訓練使用作品是否具有轉化性並非絕對，而是依據模型最終之功能及佈署有程度上之區別，須依個案判斷。若模型之訓練目的為用於研究或封閉系統，則該模型具高轉化性；若其目的是生成與訓練用作品實質相似之結果時，不具轉化性。多數模型之轉化程度會落在前述兩極端之中間，如模型使用特定類型之作品進行訓練，用以生成使用目的與原作相同之內容時，即便其生成內容未有實質相似，頂多僅為有限度之轉化（modestly transformative）[11]。AI開發商得於其系統設置防護措施，限制模型複製受著作權保護作品之節錄內容，使生成內容之目的與原作品不同，此措施能使模型訓練更具轉化性[12]。 有論者認為，使用受著作權保護作品進行AI模型訓練並非出於表達目的，且近似人類學習，因此實質上應是具有轉化性的，著作權局否定了前述兩種說法。報告中說明，語言模型於訓練時所吸收的內容包含文句、段落及文件之排列選擇，並非單純僅吸收其單字含意，且所生成之模型是被用作創造表達性內容，故不得謂AI模型為非表達性目的[13]。其次，針對人類學習觀點，報告首先闡明，學生基於學習目的亦不得以合理使用為由複製整本著作，因此人類學習並不得直接作為合理使用之抗辯。生成式AI之訓練能迅速分析並生成完美之作品，此非如同人類經學習後會產出具個別人格特質之結果，故著作權局不同意AI模型之訓練為與人類學習相同具有轉化性之論點[14]。 (2) 受著作權保護作品之表達性 AI訓練所使用之受著作權保護作品若具較高創作或表達性，如小說、電影等，其著作權比其他作品如電腦編碼等功能性作品更接近著作權之保護核心。而AI模型訓練來源多元，因此判斷上仍須視個案模型及作品而定。 (3) 使用作品之合理比例 AI模型訓練需大量複製受著作權保護作品，於判斷其複製比例是否合理時，係判斷模型訓練所複製之部分對於受著作權保護作品之數量及重要性使否合理[15]。作品使用之合理性，須考量重要性以及數量，若模型僅使用小部分作品做訓練，但該部分為著作權作品之核心部分，此使用並不一定合理。 在使用完整作品層面，生成式AI較一般搜尋引擎更不具合理性，生成式AI所提供之資訊並非僅限於其訓練資料庫中所複製作品資料。然而，許多生成式AI之訓練方式必須使用完整作品進行訓練，因此，著作權局指出，雖開發者使用完整作品進行訓練與合理使用相悖，但若其訓練具有轉化性目的（transformative purpose），並且有必要透過大量作品之訓練以提升模型效能時，則使用整部作品進行訓練可能被認為合理[16]。換言之，使用完整作品進行訓練合理與否須連同其使用必要性及訓練目的一併考量。 (4) 影響原作品之潛在市場或價值 報告中點出三項生成式AI訓練可能造成的市場危害。 A 銷售損失（lose sale）：權利人因潛在消費者選擇AI複製創作取代原作，而失去收入。 B 市場稀釋 （market dilution）：AI生成內容之速度以及規模對訓練資料中同類作品之市場造成稀釋風險，原作者將更難銷售其作品亦將使消費者更難找到真人創作之作品[17]。AI所生成風格相似之作品亦會導致市場稀釋，風格非為著作權所保障之方為，惟若AI生成與作品風格相似之內容，即便未有實質相似，但消費者可能因此難以分辨AI創作與真人作者，將使AI作品與原作者之作品於市場上直接競爭而影響原市場[18]。 C 喪失授權收入機會 （lost licensing opportunities）：權利人本可就其作品於市場上有授權收入之機會，但因AI未經授權使用作品進行訓練而喪失該部分收入[19]。 三、 授權使用 對於AI自願授權之情形於近年越來越普遍，報告亦肯認自願授權之可行性，雖自願授權可行，且已有開發商開始實施，惟對於完全滿足AI產業之需求仍存有疑義[20]。該報告認為，即便現階段自願性授權仍為發展中之制度，但該制度確實能避免使用著作權作品之不確定性。著作權局認為應讓自願性授權制度於授權市場於無政府干預情形下繼續發展，若未來於特定類型作品中出現失靈情形時，再考慮進行擴大集體授權等干預措施[21]。 參、事件評析 AI訓練使用著作權保護作品是否可以合理使用作為抗辯為近年AI發展下著作權高度討論問題之一。目前美國各地法院中有40多件相關案件正在進行審理，然就此報告之結論觀之，其並未對AI訓練是否可作為合理使用給予統一解答，合理使用與否仍須視個案而定。如同報告結論所提及，AI訓練過程中，使用受著作權保護作品可能具有轉化性，但是否足以構成合理使用，仍須視其所使用之作品、來源以及目的等個案因素而定[22]。AI訓練於著作權仍存在一定程度之不確定性。 值得注意的是，雖報告並未明示AI訓練使否為合理使用著作權作品，惟其立場似乎更偏向有利於著作權利人。例如報告中於轉化性認定具有灰色地帶，開發商是否能主張合理使用仍需於後續由法院個案認定。此外，報告中提及市場稀釋理論，目前尚未有法院採用，對合理使用之認定較為嚴格，即使未有實質相似之生成內容亦有可能因影響市場競爭被視為非合理使用，可見該理論對著作權利人之權利保障。 同時著作權局亦正向看待產業界透過自願性授權進行作品訓練之方法，雖該制度於AI訓練上尚未為一完善制度，但確實地授權制度能同時促進產業發展並保護著作權[23]。目前實務上亦是以此種作法解決合理使用之困境，但授權制度仍有待市場持續發展完善制度以確保能符合AI訓練之需求。 美國著作權局之報告雖對AI使用著作權保護作品進行訓練進行分析及說明，惟其結論仍是認為判斷上需依照個案分析。目前國際上尚未有對AI合理使用之實際定論，自願性授權仍為產業界所使用之方法。我國著作權法亦未對AI訓練之合理使用有說明，國際上將會如何發展仍有待觀察。 資策會科法所創智中心致力於著作權相關科技法律研究，本中心將持續關注相關議題並更新動態。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 [1]U.S. Copyright Office Copyright and Artificial Intelligence, Part 3: Generative AI Training pre-publication version, https://www.copyright.gov/ai/Copyright-and-Artificial-Intelligence-Part-3-Generative-AI-Training-Report-Pre-Publication-Version.pdf [2]U.S. Copyright Office, Copyright Office Issues Notice of Inquiry on Copyright and Artificial Intelligence, https://www.copyright.gov/newsnet/2023/1017.html (last viewed: 2025/05/19) [3]supra note 1, at 26. [4]Id. at 27. [5]AI模型之建立仰賴神經網，主要功能為將輸入資料轉換為輸出資料。神經網路之運作方式係透過大量於訓練過程中產生之參數進行運案，而該些參數即為「權重」(weights)。 [6]Id. at 28. [7]Id. [8]Id. at 30. [9]Id. at 36-37. [10]轉化性係指新作品加入新元素，具有與原作不同目的或性質，且以新表達、意義或訊息改造原作。並且新作品於市場上較不會取代原作。 [11]Id. at 46. [12]Id. [13]Id. at 47. [14]Id. at 48. [15]Id. at 54. [16]Id. at 60. [17]Id. at 65. [18]Id. at 65-66. [19]Id. at 66-67. [20]Id. at 85. [21]Id. at 106. [22]Id. at 107. [23]Id. 本文同步刊登於TIPS網站（https://www.tips.org.tw）
美國聯邦上訴法院針對加州禁止販售暴力電玩予未成年人法令進行審議美國聯邦第9巡迴上訴法院日前針對一項於2005年制定之加州法律進行罕見的聽審程序，以便決定此一州法是否因違反聯邦憲法第一修正案而無效。 此一法律之內容係禁止販售或出租暴力電玩予任何未滿十八歲之人，且要求此種電玩均須加以明確標誌。而電玩廠商則宣稱此一法律已侵犯了未成年人受憲法第一修正案所保護之言論自由。而值得注意者為，除去年下級法院已對此一案件做出電玩廠商勝訴之判決外，其他的州法院也紛紛做出具有類似限制內容之法律為違憲無效之判決。 然而，儘管如此，加州檢察總長Zackery Morazzini依然表示：州政府本即有權協助家長使未成年人遠離暴力電玩的不良影響。且美國聯邦最高法院亦已肯認禁止未成年人接觸明顯「性資訊」之法律為合憲。與此相同，暴力電玩可說亦同樣具有「猥褻」之特性。 而電玩廠商於訴訟中則表示：倘若此一法律得以合憲，則勢必會產生滑坡效應，即州政府勢必將會以保護兒童為藉口，而對於其它資訊，諸如同性戀、性教育、生育控制等等之提供作出更多的限制。而此種滑坡效應，顯然亦是第9巡迴上訴法院所關切的重點之一：如Alex Kozinski及Sidney Thomas兩位法官，均在聽審程序中特別表達對於此一效應的關注。 無論如何，上訴法院亦將於未來幾個月內對於此案做出判決。然而，顯而易見的是，無論上訴法院會如何裁判，本案最終仍須經聯邦最高法院裁決後方能有最終決定。
歐盟研究揭示研發策略新方向 將以氣候變遷、能源、健康與中小企業為主軸歐盟執委會於6月公布新的一般策略架構（Common Strategic Framework，CSF），在歐盟第七期研究架構計畫（FP7）於2013年告一段落後，CSF鎖定的研發策略方向仍會繼續，然此同時也引發一些不同的意見。為此執委會於6月間邀集產官學研進行討論，並於6月底揭示了新的計畫—Horizon 2020—。 歐盟執委會早於2011年初即發佈歐盟競爭力白皮書，揭櫫了未來新一期研究架構計畫之政策方向，其對於現有政策結構與資助機制有不小的衝擊。 新的CSF以氣候變遷、能源、健康與中小企業為研發資助之主軸，而為瞭解並蒐集各界包括大學、國有研究機構、各國政府以及企業界的意見，執委會於今年2月間發布了意見徵詢綠皮書以預先蒐集各界意見。根據執委會的規劃，新的CSF除要求教育體系應跟隨業界研發人才需求的腳步外，更鼓勵中小企業未來投入創新活動，因為執委會發現，歐洲的企業研發投資經費總額，僅有日本和南韓的一半。 歐盟執委會表示，氣候變遷、能源、健康與中小企業為未來研究資源資助與投入的方向，以呼應歐洲民眾的期待。此外，針對目前計畫所存在的行政效率不彰、缺乏透明性及計畫遲延等問題，也將列入未來改善重點，為此，歐洲議會已於6月進行FP7期中檢討時通過解決方案，日後將靠各國分別於歐盟及國家層級的計畫執行與管理中落實。 Horizon 2020計畫將於2014至2020年間斥資800億歐元於研發與工作機會的創造，以提升歐盟競爭力，後2013時期（post-2013）歐盟則將致力於化解計畫執行的分歧，確實協調各國投入新計畫的步調一致性。