基因專利新發展
隨著基因工程的逐漸成熟，關於現代生物技術可否取得專利，引起激烈的公開辯論。為了澄清這些問題，歐盟和美國曾採取重要的立法和行政措施，如歐洲議會和理事會關於生物技術發明的98 / 44 / EC指令 ，及美國專利商標局2001年1月5日所修改的確認基因有關發明實用性指南（Guidelines For Determining Utility Of Gene-Related Inventions of 5 January 2001）。
然而，美國最高法院於2013年《Association for Molecular Pathology v. Myriad Genetics, Inc.》一案中認為，自然發生的DNA片段是自然界的產物，不因為其經分離而具有可專利適格性，但認為cDNA（complementary DNA，簡稱cDNA）具有可專利適格性，因為其並非自然發生。該判決強調Myriad Genetics, Inc.並未創造或改變任何BRCA1和BRCA2基因編碼的遺傳信息，即法院承Myriad Genetics, Inc.發現了一項重要且有用的基因，但該等基因從其週邊遺傳物質分離並非一種發明行為。不過，法院也認為“與經分離的DNA片段屬於天然發生者不同，cDNA則具有可專利性。”因此，“cDNA非自然的產物，且根據美國專利法第101條具有可專利性。”
其次，美國於2012年3月《Mayo Collaborative Services v. Prometheus Laboratories》案認為，檢測方法僅為揭露一項自然法則，即人體代謝特定藥物後、特定代謝產物在血液中濃度與投與藥物劑量發揮藥效或產生副作用的可能性間的關聯性。即使需要人類行為（投以藥物）來促使該關聯性在特定人體中展現，但該關聯性本身是獨立於任何人類行為之外而存在，是藥物被人體代謝的結果，因此，全部應為自然過程。而不具有可專利性。
本文為「經濟部產業技術司科技專案成果」
劉憶成
法律研究員 編譯整理
歐盟委員會在2020年1月提出之工作計畫中，即表示2020年第四季度將會提出新的《數位服務法案》《Digital Services Act》，以因應新興數位時代下的歐洲。 2020年10月29日歐盟競爭事務專員表示，幾個科技巨擘針對每天蒐集大量訊息並加以過濾篩選，最後傳遞予公眾有限數量消息的過程，將必須採取更多措施以清除非法及有害的內容，此舉旨在解決與大型社交媒體平台相關之兩大問題，即仇恨言論之傳播以及傷害社會公共對話與民主之言論。 該法案將規範科技公司須針對其行為製作報告，並告知使用者，他們所看到的廣告是由誰付費進行投放、為什麼他們會成為這支廣告的目標對象。蓋因科技公司之數位平台先是無償蒐集使用者個人資料及偏好，再針對這些資料進行分析後，對使用者量身訂製廣告行銷策略，最後科技公司依靠此套方法賺進大量廣告收益，例如，臉書與Google在2018年的廣告收入佔據總收入百分之九十八及百分之八十五以上。 該法案亦將針對科技公司篩選訊息，最後有選擇性的發送特定訊息予社會大眾及量身訂製置入廣告之行為，設立明確規則，羅列應作為或是不作為之清單。例如禁止推銷自己的服務，蓋阻止競爭對手向消費者提供更好的交易服務，等同於變相阻止消費者享受自由競爭和創新的成果；故將先設立協調一致之調查框架，提供一套統一的規則以調查數位服務市場已存之結構性問題，而後在必要時可以採取相關行動，使市場更加具有競爭力。歐盟預計將於2020年12月2日宣布《數位服務法》草案，在正式立法之前，會再與歐盟國家取得一致共識。
歐盟對其成員國、其他歐洲國家以及區域鄰國的創新績效進行比較分析並公布2017年歐洲創新計分板報告於2017年6月20日，歐盟對於歐盟成員國、其他歐洲國家以及區域鄰國的創新績效進行比較分析，並發布2017年度歐洲創新記分板(European Innovation Scoreboard, EIS)年度報告。它涵蓋歐盟成員國以及冰島、以色列、前南斯拉夫的馬其頓共和國、挪威、塞爾維亞、瑞士、土耳其和烏克蘭。在全球少數指標中，EIS也對澳大利亞、巴西、加拿大、中國、印度、日本、俄羅斯、南非、韓國及美國進行了評估。 EIS 2017排名與以前的版本不同，EIS 2017的測量框架由27個指標組成，區分4個主要類別的10個創新層面： 政策框架是創新績效的主要驅動力，涵蓋3個創新層面：人力資源、有吸引力的研究體系及創新環境。 投資包括公共及私人投資研究與創新，區分外部融資支持及內部資源投資。 創新活動吸取公司層面的創新工作，涵蓋3個方面：創新者、中間者及智慧財產權。 創新如何轉化為整體經濟效益之影響力：就業影響及銷售效應。 EIS顯示歐盟的創新績效繼續增長，特別是由於人力資源的改善、創新型環境、自有資源投資以及有吸引力的研究體系。而瑞典仍然是歐盟創新領導者，其次是丹麥、芬蘭、荷蘭、英國以及德國，創新指數比歐盟平均值高出百分之二十。立陶宛、馬爾他共和國、英國、荷蘭以及奧地利則是增長速度最快的創新者。在全球創新比較中，歐盟僅次於加拿大及美國，但韓國及日本正急起直追，而中國在國際競爭中是發展最快的國家。
模型內記憶化即構成重製--德國慕尼黑地方法院 判決Suno敗訴對AI訓練合理使用之衝擊模型內記憶化即構成重製--德國慕尼黑地方法院 判決Suno敗訴對AI訓練合理使用之衝擊 資訊工業策進會科技法律研究所 2026年08月24日 前言 生成式人工智慧以受著作權保護之作品為訓練資料，其行為是否構成著作權侵害、又能否主張合理使用或文字與資料探勘之限制，是人工智慧快速應用以後在著作權領域最主要的核心爭議。德國慕尼黑第一地方法院於2026年7月31日就 GEMA 控告 Suno 案作成終局判決[1]，首度就生成式音樂AI的「模型內記憶化」特點給予著作權定性，並明確指出引據主張文字與資料探勘限制之適用界線。 壹、事件摘要 德國慕尼黑第一地方法院（Landgericht München I，LG München I）於2026年7月31日就德國著作權集體管理團體「音樂表演權與機械性重製權協會」（Gesellschaft für musikalische Aufführungs- und mechanische Vervielfältigungsrechte，下稱 GEMA）訴美國 AI 音樂生成器業者（被告即 Suno）案（案號42 O 763/25）作成終局判決，認定被告將受著作權保護之音樂著作「記憶化」（Memorisierung）於其模型中，構成德國著作權法（Urheberrechtsgesetz，UrhG）第16條第1項之重製，並侵害權利人之「公開再現（öffentliche Wiedergabe）」利用權[2](相當於我國著作權法上提供或傳達著作內容，包括使公眾得於其各自選定之時間或地點，以上述方法接收著作內容的公開傳輸)。 本案系爭標的為六首德語經典流行音樂：「Atemlos durch die Nacht」、「Daddy Cool」、「Rasputin」、「Big in Japan」、「Forever Young」，以及「Mambo No. 5」之副歌。原告主張，使用者僅需輸入原曲歌詞、風格或標題等簡單提示，被告之音樂生成器即會輸出與原曲高度近似之音樂[3]。法院判決被告不得以系爭音樂著作訓練模型、於模型中儲存系爭著作、在德國境內提供以系爭著作訓練之模型，以及製作侵害系爭著作之著作物[4]。本判決尚未確定，被告得提起上訴[5]。 貳、重點說明 一、模型內「記憶化」構成重製 法院認為 AI訓練依時間先後區分為三階段：抽取訓練素材並轉入機器可讀格式，即訓練資料之製作；資料之分析及以後設資訊加以增益，即模型之訓練；其後藉提示與輸出對已訓練模型之利用。整體流程依訓練性質可區分為--「僅為轉入數位格式或為分析目的而作之重製」與「留存於模型中之重製」[6]。本件關鍵在於第二階段：系爭音樂著作以可再現之方式含於模型中，其記憶化即構成著作權上相關之重製[7]。 （一）模型記憶化之概念 法院認定系爭音樂著作含於模型中，得作為輸出而被抽取，此即「記憶化」；其係指模型於訓練時，非特定之參數不僅自訓練資料集抽取資訊，且於訓練後所特定化之參數中，可見對訓練資料之完整承接（Übernahme，意指納入其中）[8]。所謂「完整」指承接超出單純資訊（如模式與相關性）之部分，非指承接之數量須完整或精確，而係至少部分地承接其內容[9]。模型自訓練資料習得統計規律，本身不受著作權法非難，然若所承接者已是著作的內容而非關於著作的資訊，性質不再只是「分析」而是「留存」 [10]。而且，被告之模型格外易受影響，特別擅長把與該提示相符之受著作權保護曲目，以極貼近原曲之方式生成為輸出[11]。換言之，使用者毋須指名要哪一首歌，只要在語音節奏上仿寫得夠像，模型即可能把原曲於輸出中再現。 法院指出記憶化判定標準因模型類型而異，有的研究要求原作與輸出內容同一，有的以部分一致為已足；就生成圖像或音訊之模型，訓練時僅抽取經選取之基礎特徵，細節資訊則被有意捨棄，故要求百分之百精確一致並不實際亦非必要。而且，模型因訓練時採「量化」（Quantisierung）而有意捨棄細節資訊，因此難以想像有一訓練資料被百分之百精確相符的記憶化，不過法院指出這些被捨棄的本就是人類感官難以掌握之細節，所以記憶化之認定應兼採「檢視旋律、節奏、和聲、識別度與風格相似值之自動檢核」及「人為評價」[12]。而記憶化的原因來自於模型自含有著作各種變體之訓練資料學習後，特定後設資料（如標題、類型或歌詞）與著作音樂特性（調性、節奏等）間之統計關聯被強化，造成使用者於提示中使用此等後設資料時，AI以所學得之統計機率導出「音樂特性大致相似」之輸出[13]。至於證明方法，法院認為訓練資料為已知時，得逕以訓練資料與輸出之比對認定；訓練資料不明時，則得借助「熵」（Entropy）與「困惑度」（Perplexity）等參數，探究模型再現一輸出之確定性[14]。 （二）記憶化之事實認定 法院以系爭著作為訓練資料一事並無爭執，而且系爭著作可藉「原歌詞、音樂風格及著作標題」之提示，明顯可辨識地再現於所提出之輸出中，認定本件記憶化已得逕以系爭音樂著作與輸出之比對認定[15] 。法院就被告之抗辯，逐一駁斥： 1. 系爭提示為簡單、開放結果之提示，輸出並非藉操控性提示所誘發：雖然被告主張原告以歷時數月、上千次、高度脈絡化之提示故意誘發記憶化，但法院認為原告固曾為3,779次提示，惟其中僅338次涉及系爭六曲；且同一提示之反覆輸入並未將輸出導向特定方向，此有別於「以評價性或暗示性指定改變脈絡」之誘發性提示[16]。 2. 系爭輸出不應歸類為偶然：鑑於所生成音樂之複雜性、長度及其與訓練資料之廣泛相符，已可排除係偶然出現的相似[17]。 3. 原告每曲僅提出一則輸出並無妨害：因為記憶化之存在，與「以不變提示是否生成同一輸出」無關[18]。 4. 無關訓練資料全部存儲可能性：雖然被告主張其模型儲存空間於數學上不足以精確儲存全部訓練資料，但法院認為重要的僅為系爭六曲是否可辨識地被記憶化[19]。 （三）記憶化含攝於著作權法之重製概念 法院就被告聲請鑑定「系爭著作是否於模型中儲存或記憶化」予以駁回，認為「權重與參數之區分於何範圍構成重製」係法律問題、非鑑定所能及[20]。法院基於下述理由認為記憶化已構成著作權法之重製： 1. 重製含「直接或間接」、「暫時或永久」及「以任何方法及任何形式」，不僅為與原件同一原樣之重製，亦包括以變更形式對著作之固著，例如類比著作之數位化、以 MP3 等壓縮檔格式之儲存，或以縮小版本之儲存[21]。 2. 因為記憶化是透過模型特定化參數中之資料，而該等參數本身又具體存於伺服器上，所以系爭著作之著作權重製要件「具體固著」。至於採何等技術固著並非決定性，模型若因訓練所導出之統計資訊而具「生成可辨識地再現該音樂著作之統計上可能詞元序列（Tokenfolgen）」之能力，即為已足[22]。 3. 固著於模型中之著作，得藉音樂生成器、一具螢幕之終端裝置及簡單、開放結果之提示，讓一般使用者以其可及之技術輔助接觸，感知並不困難。而且，重製不以可反覆之再現為前提，故認為被告要求評估的「特定輸出之機率與可反覆性」，頂多涉「是否存有記憶化」之事實問題，而非「法律意義之重製是否存在」[23]。 二、模型內重製不能主張文字與資料探勘 （一）文字與資料探勘之定義與目的拘束 法院認為「文字與資料探勘」（Text and Data Mining，TDM）係指對數位著作之自動化分析，以自其中取得特別是關於模式、趨勢與相關性之資訊[24]。而自動化分析本身並非著作權上相關之行為，蓋著作中所含非創作性之資訊本身不受保護。但因為文字與資料探勘有時須有可能侵及利用權之準備措施而涉及重製，故 TDM 的核心思想在於此等重製僅為其後分析目的而作，不損及著作人之利用利益，故人工智慧訓練為準備訓練語料之重製行為，為 TDM 所涵蓋[25]；惟本案所爭執者，並非此等準備階段之重製，而是訓練後留存於模型內、並得於輸出中再現之重製[26]。 （二）記憶化逾越文字與資料探勘 法院認定系爭著作於模型中之重製並非文字與資料探勘，因為文字與資料探勘旨在抽取單純資訊，將此等資訊轉入模型參數。惟系爭著作之記憶化讓作為訓練資料之音樂著作不僅被分析，而且被承接入模型參數，並損及著作人之利用利益。因此，藉由模型記憶化所生之重製，並非「不觸及利用利益」之第一階段（製作訓練資料），文字與資料探勘限制於此不成立[27]。 （三）不得類推、無合法接觸 法院進一步排除歐盟數位單一市場著作權指令第4條[28]之類推適用，因為該條所規範的是「僅抽取單純資訊、著作本身未被重製」之情形，反之於模型內重製則使著作利用受持續損害；若類推適用，權利人將陷於無保護狀態，明顯有違該指令前言認限制對權利人所生損害僅屬「極微」之考量[29]。因此，法院進一步認為若依技術現狀無從防止訓練資料之記憶化，則以受保護資料訓練模型，即不能適用文字與資料探勘限制[30]。另外，法院亦認為本件被告係破解 Rolling Cipher 保護裝置、以串流側錄（Stream-Ripping）自 YouTube 下載系爭著作；Rolling Cipher 係為阻止下載而設，被告欠缺合法接觸，不能主張德國著作權法第44b條第2項「合法接觸」之規定[31]。 三、模型提供與生成記憶內容構成公開再現的侵害 法院認定藉模型之提供、生成音樂之應用及系爭輸出，造成權利人所享之公開再現權利受侵害[32]。 （一）公開再現之判斷標準與認定 法院指出公開再現之保護範圍，判斷標準在於著作之原創要素於另一標的中可辨識，亦即受保護著作中足以反映著作人人格之創作抉擇，是否可辨識地被承接於被指摘之標的。縱使所涉僅為著作之一小部分，只要該部分本身表達著作人自己之精神創作，即構成侵害[33]。其判斷只須以一般平均音樂聽者之聽覺理解為準[34]。 經比對譜例與聽覺印象，法院認定輸出廣泛承接六曲之旋律、作曲與編曲，各輸出均未與原曲保持充分距離。例如「Big in Japan」創意在於旋律自主歌經前副歌至副歌之三段式遞升，表達蓄積而終告釋放，同時和弦速度加快而傳遞急迫印象；AI輸出重演此整體情況，聽者因而體驗到相同之音樂起伏與情感效果[35]。 （二）被告直接為再現行為並應歸責 法院認為「再現行為」（Handlung der Wiedergabe）應不問技術手段，廣義涵蓋受保護著作之一切傳輸，故認定被告藉模型之提供及生成音樂之應用，經由使用者介面使系爭著作可被存取，模型並儲存於德國境內之邊緣伺服器，故其侵害公開再現之利用權[36]。而且只要有被存取之可能即構成，著作實際是否被存取並非所問[37]。 而且法院認被告應歸類為正犯，蓋其對藉內容輸出所為重製具行為支配（Tatherrschaft）。被告基於訓練決定輸出內容，於再現中扮演核心角色，並決定模型運作方式、訓練資料選取與訓練鋪陳，係自身為公眾開啟著作享用，非僅只是中介角色。且此等內容藉簡單提示即被再現，決定輸出具體內容的不是提示而是被告所運作之模型，被告未將行為支配給予使用者。是以，被告之模型並非僅提供「錄製私人重製所需之器械」，亦不能與不負內容責任之販售平台相比擬[38]。 基於上述理由，法院未採被告主張援引歐盟數位服務法第6條[39]的責任限制，認為該條僅限制「儲存使用者所提供資訊之中介服務」之責任，就服務提供者自身之內容並不適用。本件被告非僅提供技術中立之基礎設施，而係提供模型並製作系爭輸出，其前之提示簡單且未於內容上指定或誘發，故各輸出為被告自身之資訊，就此其扮演主動角色，而非被動中介之外來資訊[40]。 四、合理使用抗辯不成立 針對被告在美國境內之訓練行為，法院依美國著作權法（17 U.S.C.）審酌是否構成合理使用（Fair Use），認為四項因素綜合觀之均不利於被告[41]： （一）利用之目的與性質 本件被告之應用並未生成新音樂著作，而係生成與訓練所用系爭著作實質相似之錄音，音樂著作並未被轉化[42]。被告之利用亦為商業性利用，其重製與原作追求相同的目的[43]。法院並將被告規避 Rolling Cipher、以串流側錄取得訓練資料一節，評價為惡意而顯著不利於被告[44]。 （二）著作之性質 系爭音樂著作為涉著作權核心之創意著作，被告所製作之音樂非僅承接概念，而係承接系爭曲之創意要素，故非如逆向工程般僅為研究功能而重製[45]。 （三）所利用之質量 被告為訓練其模型而對系爭音樂著作為廣泛重製，且未闡明其何以必須依賴此等廣泛重製。法院指出於大量重製之情形，關鍵在於所重製之著作係向公眾提供，抑或僅參與技術上不可見之後端程序；本件與 Google Books 案顯著不同，該案被告並未將重製向公眾提供[46]。 （四）對潛在市場或價值之影響 法院認為訓練所生之輸出構成取代原作之替代物，在「使用者直接消費之娛樂音樂」市場與原作競爭[47]。被告抗辯系爭輸出係在同一提示反覆輸入多次之後才出現，故不足以認定市場影響；而且第四項因素不僅看具體侵害行為之影響，還要看此類利用行為一般而言是否可能對原作市場產生顯著負面效果。本件原告就各曲分別輸入4至176則相同提示始取得系爭輸出，惟被告之音樂生成器於2024年單一月份即錄得220萬名訪客，以此流行程度計，縱使平均每4次或每176次輸入才得到一個與原作實質相似之音樂，累積於市場上之替代效果仍屬顯著[48]。 法院特別強調本件輸入僅含歌詞之提示後生成實質相似輸出，與美國 Bartz、Kadrey 兩案顯著不同，該兩案中訓練資料未實質於輸出中讓使用者可觸及，未因生成實質相似輸出而明顯可看到對市場的影響[49]。權衡一切因素，法院認被告之具體利用不為合理使用所涵蓋，且並非所有模型均記憶化其訓練資料，故於本案件否定合理使用既不妨礙進步或競爭，亦不牴觸模型之發展公益[50]。 參、事件評析 本案立於歐盟資訊社會著作權指令與數位單一市場著作權指令所建構之重製權與文字與資料探勘體系，其「公開再現」與我國由公開播送、公開演出、公開傳輸等權能概念亦並不全等同，而其本身能否維持猶待上訴審檢驗，亦有待後續觀察。但本案的重點在於，把過去類似爭議的爭訟焦點由「訓練是否構成重製」展開為「模型是否留存並於輸出中再現受保護著作」，並進一步加重AI開發與服務提供者被歸責可能性，本文認為可歸納其重點如下： 一、法院未全面否定訓練之資料取用可主張合理使用，但前提須為合法取得 本判決雖判被告不得援引合理使用，惟其論證重心並不在「以受保護著作訓練模型」這件事本身。法院明白表示訓練一個能生成新音樂作品的模型，一般而言確實可能是具轉化性、追求更進一步目的而為合理使用所涵蓋之利用。本案之所以認定不同，是被告之應用並未生成新的音樂作品，而係以系爭輸出生成與訓練所用著作實質相似之錄音，音樂著作因而未受轉化。法院於綜合權衡時亦明言，並非所有模型都會記憶其訓練資料，於本案否定合理使用既不妨礙進步與競爭，也不牴觸公共利益，蓋須取得授權不等於不能訓練。因此，本判決所否定的是「訓練後留存於模型、並得於輸出中再現」，而非概括否定 AI 訓練之資料取得有主張合理使用之餘地。但法院對被告規避 Rolling Cipher、以串流側錄取得訓練資料一節評價為惡意，顯示取得手段是否合法，從目前國際上的司法案例看來，仍是決定是否能主張合理使用的重要環節。 二、能否主張合理使用或文字與資料探勘，取決於一般提示下是否再現實質近似內容 法院認定本案與美國 Bartz、Kadrey 二案顯著不同，關鍵在於本案訓練資料實質地在使用者僅輸入歌詞、未作任何音樂上要求之簡單且結果開放之提示下，即可生成與原曲實質相似之輸出。而文字與資料探勘之審酌，法院並不否認為準備訓練語料所為之第一階段重製落入德國著作權法第44b條範圍，真正逾越限制者是第二階段留存於模型內之記憶化。是以，若訓練所得之模型不會在一般、未經特別設計引導之提示下再現實質近似之內容，主張文字與資料探勘限制或合理使用仍有空間。而且必須注意的是，倘依技術現狀無從防止訓練資料之記憶化，法院認為將受保護資料訓練模型即不為該限制所涵蓋，則「能否防止記憶化」就是AI開發與服務業者重要的技術降險研發重點。 三、AI記憶化的輸出由模型提供者承擔侵權責任 本判決外溢效果最大者為責任歸屬，法院認定AI記憶化的輸出產生的再現行為，是源自於被告以模型與使用者介面，開啟讓公眾對已記憶化著作可存取。就輸出所生之重製，被告因對模型架構、訓練資料選取與訓練設計負責而具行為支配，應歸類為正犯；僅輸入提示觸發生成之使用者，不被視為重製行為人。顯見有關AI責任的認定，法院著重於誰對於結果具有實質主導的控制能力，AI 服務提供者將來可能更難以主張模型只是提供「工具」、由使用者決定產出，也不能主張自己是中立平台而把使用責任歸予使用者。 本案法院判決提出的模型記憶化(留存受保護著作)構成重製的觀點，其重點在於一定程度緩解權利人的內容再現舉證困難，並透過受訓練資料與特徵近似的生成結果判斷記憶化的存在，進一步認定存在重製結果，而且該重製欠缺轉化性、具商業目的、結果對權利人市場造成明顯負面影響。我國對於AI 訓練是否合法的認定，仰賴著作權法第65條合理使用之一般條款判斷，雖須個案、事後之權衡，但從本案法院見解可見，避免AI的記憶與所記憶內容的出現是關鍵點，如技術上可能，業者須溯源在訓練過程採取去記憶化的事前避險措施，以避免成為記憶內容之提供者而須自行承責。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有，如需引用或轉載，請註明出處。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]LG München I, Endurteil vom 31.07.2026, Az. 42 O 763/25。 [2]Id., Rn. 239, 262, 317, 375. [3]Id., Rn. 4, 26. [4]Id., Urteilstenor Nr. 1 a) aa), a) bb), b), c). 原告依德國著作權法第19a條公開提供權所為之聲明則遭駁回，法院認一次調取至多需輸入176個相同提示，該調取非於使用者所選定之時間發生；其餘之訴亦經駁回。Rn. 315, 316, 554. [5]Landgericht München I, Pressemitteilung vom 31.07.2026, https://www.justiz.bayern.de/gerichte-und-behoerden/landgericht/muenchen-1/presse/2026/16.php (last visited Aug. 21, 2026). [6]LG München I, supra note 1, Rn. 240. [7]Id., Rn. 241. [8]Id., Rn. 243. [9]Id. [10]Id., Rn. 240, 243, 283, 294. [11]Id., Rn. 244. [12]Id., Rn. 245. [13]Id., Rn. 246. [14]Id., Rn. 247. [15]Id., Rn. 249. [16]Id., Rn. 250-253. [17]Id., Rn. 258. [18]Id., Rn. 259. [19]Id., Rn. 260. [20]Id., Rn. 261. [21]Id., Rn. 263, 264. [22]Id., Rn. 268-270. [23]Id., Rn. 276-279. [24]Id., Rn. 283. [25]Id., Rn. 284, 285. [26]Id., Rn. 289, 293. [27]Id., Rn. 294, 295. [28]Directive (EU) 2019/790 of the European Parliament and of the Council of 17 April 2019 on copyright and related rights in the Digital Single Market and amending Directives 96/9/EC and 2001/29/EC, art. 4, 2019 O.J. (L 130) 92. [29]LG München I, supra note 1, Rn. 299. [30]Id., Rn. 304. [31]Id., Rn. 13, 308, 310. [32]Id., Rn. 317. [33]Id., Rn. 321. [34]Id., Rn. 323. [35]Id., Rn. 197, 349. [36]Id., Rn. 373, 374. [37]Id., Rn. 375, 376. [38]Id., Rn. 399-401. [39]Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a Single Market For Digital Services and amending Directive 2000/31/EC (Digital Services Act), art. 6, 2022 O.J. (L 277) 1. [40]LG München I, supra note 1, Rn. 408, 409. [41]Id., Rn. 447-449. [42]Id., Rn. 484-486, 493, 494. [43]Id., Rn. 498-500. [44]Id., Rn. 504-510. [45]Id., Rn. 511, 512. [46]Id., Rn. 514-518. [47]Id., Rn. 519-523. [48]Id., Rn. 27, 492, 527. [49]Id., Rn. 480, 526. [50]Id., Rn. 530, 531.
歐盟公布人工智慧法，建立全球首部AI全面監管框架歐盟公布人工智慧法，建立全球首部AI全面監管框架 資訊工業策進會科技法律研究所 2024年07月12日 歐盟理事會於2024年5月22日正式批准《人工智慧法》（Artificial Intelligence Act，下稱AIA）[1]，該法於2024年7月12日公告於歐盟的官方公報上，將自8月1日起生效，成為全球首部全面性監管AI的法律框架。 壹、事件摘要 人工智慧技術的應用廣泛，隨著使用情境增加，潛在的風險也逐一浮現。歐盟於2018年就提出「可信任的人工智慧」（Trustworthy AI）的概念[2]，認為透過妥善的制度管理人工智慧的研發與使用，即使人工智慧具有多種風險，也可以使民眾享受人工智慧帶來的福祉。因此，歐盟執委會提出全球第一部全面監管人工智慧的法案，為人工智慧的設計、開發、部署、及使用建立適當的規範，希望法律的確定性能促進該技術的創新，並建立各界對於該技術的信心，擴大其採用，使該技術能造福人群。 自從歐盟執委會於2021年4月提出人工智慧法草案以來，其後續發展備受全球矚目，也吸引歐洲的人權組織、學術團體以及大型科技公司的關注。在多方利益關係者的遊說與介入下，該法案一度陷入僵局，其中生成式人工智慧（Generative AI）亦為爭議焦點。歐洲議會和理事會的AIA草案修正版本中，曾經納入生成式AI的定義與監管條款，然最後拍板定案以AI系統與基礎模型為監管對象，並未針對生成式AI。理事會、執委會和歐洲議會經過多次三方會談，終於在2023年12月8日就內容達成協議[3]，草案在2024年3月13日交由歐洲議會大會表決，最終以壓倒性的票數通過該法。[4] 貳、重點說明 AIA全文分為13個章節，總計有113個條文以及13個附件。[5]AIA採分階段實施的方式，該法在生效三年後才可能完全實施。[6]本文擬就該法建立的AI監管框架，包括其適用範圍與規範、管理方式、治理組織、實施和配套措施等規定，擇重點說明如下。 （一）規範對象 AIA的規範對象分為兩類，其一為AI系統；另一為通用人工智慧模型（General Purpose Artificial Intelligence Model, GPAI，下稱通用AI模型）。 1. AI系統 為與國際接軌，歐盟修改AIA有關AI系統的定義，使其與「經濟合作暨發展組織」（Organisation for Economic Cooperation and Development，OECD）的定義一致，令該法更具國際共識基礎。AI系統被定義為「一種機器的系統，它以不同程度的自主性運作，在部署後可能展現適應性，並且對於明確或隱含的目標，從接收到的輸入推斷如何產生預測、內容、建議或可能影響實體或虛擬環境的決策等輸出。」[7] AIA設有豁免規定，涉及國安和軍事領域、科學研究和開發目的、純粹個人非專業活動使用的AI系統、以及大部分的免費及開源軟體並不適用AIA規範。免費及開源軟體只有屬於高風險或生成式AI系統、或涉及生物特徵和情緒識別目的，才須遵守AIA規範。[8] 2. 通用AI模型 執委會的草案原本不包含通用AI模型，在歐洲議會和理事會的建議下，AIA最後亦將通用AI模型納入監管。所謂通用AI模型，係指具有顯著通用性的AI模型，它可以勝任各種不同任務的執行，並且可以與下游的系統或應用程式整合。[9] 值得注意的是，AIA只約束已經在歐盟上市的通用AI模型，在上市前用於研究、開發和原型設計活動的通用AI模型並不包括在內。 （二）以風險為基礎的分級管理方式 AIA採取風險途徑監管AI系統和通用AI模型，視潛在風險和影響程度決定義務內容，對於兩者建立不同的分類規則，並針對AI系統整個生命週期進行規劃、建立AI系統和通用AI模型在各階段應符合的要求，由AI價值鏈的參與者分別承擔相應責任，其中以提供者（provider）和部署者（deployer）為主要的責任承擔者。[10] 1. AI系統的分級管理 根據風險程度對系統進行分類，以具有高風險的AI系統為主要規範對象，該類系統在投入市場或使用前必須通過合格評估，並遵守嚴格的上市後規範；而具有不可接受風險的AI系統則禁止使用。另外，AIA還訂有透明性義務，舉凡與人互動、具生成內容能力之AI系統提供者皆應遵守；如果AI產生內容具有深偽（deep fake）效果，其系統部署者還應遵守額外的規定，揭露該內容係人工生成或操縱的結果[11]。 2. 通用AI模型的分級管理 AIA訂有通用AI模型的共通義務[12]，並根據模型的能力判定其是否具有系統性風險（systemic risks）。[13]所有的通用AI模型提供者都須公開模型訓練內容的詳細摘要，並遵守歐盟著作權法的規定[14]；而具有系統性風險的通用AI模型提供者，還須負擔額外的義務。[15] （三）治理組織 1. AI辦公室 為順利實施AIA，執委會已成立一「人工智慧辦公室」（AI Office，下稱AI辦公室），負責促進、監督AIA落實，它同時也是通用AI模型的監管機構。[16]AIA框架下，會員國市場監管機構僅負責AI系統的監管工作。 2.人工智慧委員會 除了AI辦公室外，還設有一「人工智慧委員會」（AI Board），由歐盟會員國派代表成立，主要負責協調各國的作法、交換資訊、以及提供各國市場監管機構建議。[17] 3.「獨立專家科學小組」與「諮詢論壇」 歐盟層級還有兩個支持性的組織：「獨立專家科學小組」（Scientific Panel of Independent Experts）和「諮詢論壇」（advisory forum），可提供落實AIA規範所需之專業技術知識與實施建議。 獨立專家科學小組的成員係由執委員會指定，執委會將視任務所需的最新科學或技術專業知識進行挑選，該小組最重要的任務在於支援通用AI模型和系統相關規定的實施和執行，包括向AI辦公室通報存在系統性風險的通用AI模型、開發通用AI模型和系統能力評估的工具和方法等。[18] 諮詢論壇成員亦由執委會指定，執委會應顧及商業和非商業利益間的平衡，從AI領域具有公認專業知識的利害關係人當中，尋找適當的人選。諮詢論壇主要任務是應理事會或執委會的要求，準備意見、建議和書面報告，供其參考。[19] 4.會員國內部各自之市場監管機關 在會員國層級，由各國市場監管機關負責督導AIA規定之實施[20]，各國並將成立或指定公告主管機關（notifying authority），負責進行公告合格評估機構（notified bodies）評選與指定事宜，日後將由各公告合格評估機構負責AIA下的第三方合格評估業務。[21] （四）實施與配套措施 1.分階段實施 AIA的規定將在該法生效24個月後開始實施，然考慮到歐盟和會員國的治理結構尚在討論中，且業界在法遵上也需要時間調適，因此AIA的部分條文將分階段實施。 (1) AIA通則以及不可接受風險的AI系統禁令在該法生效6個月後即實施； (2) 通用AI模型、第三方認證機構和會員國公告合格評估機構、以及違反AIA的罰則等相關規範，於該法生效12個月後開始實施； (3) AIA附件III清單之高風險AI系統相關義務，要等該法生效36個月後才開始實施； (4) 而AIA生效前已上市之通用AI模型提供者，應在該法生效36個月內，採取必要行動使其模型合乎AIA規定。[22] 2.罰則規定 AIA訂有罰則，在AIA措施正式實施後，違規者可能面臨鉅額罰款[23]。 3.配套措施 由於AIA以建立監管框架為主，相關規定之實施細則或標準，這仍待執委會逐步制定。因此，在AIA各配套辦法提出之前，AI辦公室將以「實踐守則」（codes of practice）[24]和「行為守則」（codes of conduct）之訂定與推動為主，另外又提出「人工智慧公約」，希望藉由此些配套措施協助受AIA規範的各方，使其在最短時間內能順利履行其應盡義務。 (1) 「實踐守則」 實踐守則（codes of practice）針對的是通用AI模型提供者。AI辦公室將鼓勵所有通用AI模型提供者推動和參與實踐守則的擬定，AI辦公室亦將負責審查和調整守則內容，確保反映最新技術及利害關係各方的觀點。實踐守則應涵蓋通用AI模型和具系統性風險的通用AI模型提供者的義務、系統性風險類型和性質的風險分類法（risk taxonomy）、以及具體的風險評估和緩解措施。[25] (2) 「行為守則」 行為守則（codes of conduct）之目的在於推動AIA的廣泛適用，由AI辦公室和會員國共同推動，鼓勵高風險AI系統以外的AI系統提供者、部署者和使用者等響應，自動遵循AIA關於高風險AI的部分或全部要求。AI系統的提供者或部署者、或任何有興趣的利害關係人，都可參與行為準則。[26] (3) 「人工智慧公約」 AIA中的高風險AI系統以及其他重要規定需待過渡期結束才開始適用[27]，因此執委會在AIA的框架外，另提出「人工智慧公約」（AI Pact，下稱AI公約）計畫，鼓勵企業承諾在AIA正式實施前，即開始實踐該法規範。 AI公約計畫有兩個行動重點，其一是要提供對AI公約有興趣的企業有關AIA實施流程的實用資訊，並鼓勵這些企業進行交流。AI辦公室將舉行研討會，使企業更了解AIA以及如何做好法遵的準備，而AI辦公室也可藉此收集企業的經驗反饋，供其政策制定參考。 另一個重點是要推動企業承諾儘早開始實踐AIA，承諾內容包括企業滿足AIA要求的具體行動計畫和行動時間表，並且定期向AI辦公室報告其承諾進展；AI辦公室會收集並發布這些報告，此作法不僅有助提高當責性和可信度，亦可增強外界對該些企業所開發技術的信心。[28] 參、事件評析 執委會希望透過AIA提供明確的法律框架，在推動AI創新發展之際，也能確保民眾的安全權利保障，並希望AIA能夠複製GDPR所創造的「布魯塞爾效應」（Brussels Effect），為國際AI立法建立參考標竿，使歐盟成為AI標準的領導者。然AI技術應用的革新發展速度驚人，從AIA草案提出後的兩年內，AI技術應用出現顛覆性的變革，生成式AI的技術突破以及該技術已顯現的社會影響，使得歐盟內部對於AIA的監管格局與力度有了更多的討論，看法莫衷一是。因此，AIA最後定案時，內容有多處大幅調修與新增。 （一）AI系統定義與OECD一致 首先，執委會的原始草案中，強調AI系統的定義方式應根據其關鍵功能特徵，並輔以系統開發所使用之具體技術和方法清單。[29]然AIA最後捨棄詳細列舉技術和方法清單的作法，改採與OECD一致的定義方式，強調AI的技術特徵與運行模式。採用OECD的定義方式固然係因OECD對AI系統的定義更具彈性，更能因應日新月異的AI新技術發展；這樣的作法亦有助AIA與國際接軌、更為國際社會廣泛接受。 （二）規範通用AI模型並課予生成式AI透明性義務 其次，生成式AI衍生的眾多問題和潛藏風險引發全球熱議，在AIA的三方會談過程中，生成式AI的管制也是談判的焦點議題。原本外界以為歐盟應該會在AIA嚴加控管生成式AI的應用，尤其是「深偽」（deep fake）技術的應用。然而「深偽」技術在AIA的分類方式下，卻僅屬於有限風險的系統，雖負有透明性義務，卻僅需揭露若干資訊即可。「深偽」的問題暴露出生成式AI系統的監管難題，最後AIA拍板定案，僅在透明性義務的章節中提及生成式AI，並且以技術描述的方式取代一般慣用的「生成式AI」(Generative AI)一詞。 歐盟另闢途徑管理生成式AI。AIA的原始草案僅針對AI系統，並無管制AI模型的條文[30]，然有鑑於生成式AI模型係以通用AI模型開發而成，因此AIA新增「通用AI模型」專章，從更基礎的層次著手處理生成式AI的問題。在AIA生效後，歐盟境內的通用AI模型將統一由歐盟的AI辦公室負責監管。考慮到生成式AI應用的多樣性，歐盟從通用AI模型切入、而不針對生成式AI進行管理，可能是更務實的作法。 （三）推出多項配套措施強化AI治理與法遵 最後，歐盟在AIA框架外，針對不同的對象，另建多項配套措施，鼓勵非高風險AI系統提供者建立行為守則、推動通用AI模型提供者參與「實踐守則」的制定和落實、並號召AI業者參與「AI公約」提早遵循AIA的規定。這些措施可指導相關參與者採取具體的步驟與作法達到合規目的，俾利AIA之實施獲得最佳成效。 AIA眾多執行細則尚待執委會制定，包括高風險AI清單的更新、通用AI模型的分類方式以及標準制定等，這些細節內容將影響AIA的實際執行。我國應持續關注其後續進展以因應全球AI治理的新格局，並汲取歐盟經驗作為我國AI監管政策與措施的參考。 [1]Regulation Of The European Parliament And Of The Council Laying Down Harmonised Rules On Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts, 2024, OJ L( 2024/1689), http://data.europa.eu/eli/reg/2024/1689/oj (last visited July. 12, 2024). [2]High-Level Expert Group on AI of the European Commission, Ethics Guidelines for Trustworthy Artificial Intelligence, April 8, 2019. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai (last visited June 25, 2024). 該小組在2018年12月提出草案並徵求公眾意見，並於2019年4月正式提出該倫理指引。 [3]European Parliament, Press Release: Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI, Dec. 9, 2023, https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited June 25, 2024). [4]European Parliament, Press Release: Artificial Intelligence Act: MEPs adopt landmark law, March 13, 2024, https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law (last visited June 25, 2024). [5]European Parliament, Position of the European Parliament adopted at first reading on 13 March 2024 with a view to the adoption of Artificial Intelligence Act, https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_EN.html# (last visited June 25, 2024). [6]AIA, art. 113. [7]AIA和OECD對AI系統的定義的差異僅在於用字遣詞及語句編排方面，兩者在意涵上其實是一致的。See AIA, art. 3(1). [8]AIA, art. 2. [9]AIA, art. 3(63). 執委會原先認為，AI模型無法獨立使用，僅需鎖定AI系統監管即可，然而生成式AI衍生的諸多問題，令人擔憂放任通用AI模型發展可能產生無法預期的後果，因此歐盟最後決定在AIA條文中加入通用AI模型規範。 [10]但AIA訂有豁免適用的規定，包括國安和軍事領域、科學研究和開發目的、以及純粹個人非專業活動使用的AI皆不受AIA約束。AI價值鏈的其它參與者還包括進口商、授權代表、經銷商等。See AIA, art. 2. [11]AIA, art. 50. [12]AIA, art. 53. [13]AIA, art. 51. 「系統性風險」是指通用AI模型特有的高影響力所造成的風險。由於其影響範圍廣大，或由於其對公共健康、安全、公眾的實際或合理可預見的負面影響，進而對歐盟市場產生重大影響。See AIA, art. 3(65). [14]AIA, art. 53. 在上市前用於研究、開發和原型設計活動的通用AI模型除外。 [15]AIA, art. 55.例如進行模型評估、進行風險評估和採取風險緩解措施、確保適當程度的網路安全保護措施。 [16]Commission Decision On Establishing The European Artificial Intelligence Office, C(2024) 390 final, 2024, https://ec.europa.eu/newsroom/dae/redirection/document/101625 (last visited June 25, 2024). [17]AIA, art. 65. [18]AIA, art. 68. [19]AIA, art. 67. 該條款規定，歐盟的基本權利局（The Fundamental Rights Agency）機構、歐盟網路安全局（The European Union Agency for Cybersecurity）、歐洲標準化委員會 (CEN)、歐洲電工標準化委員會 (CENELEC) 和歐洲電信標準協會 (ETSI) 應為諮詢論壇的永久成員。 [20]AIA, art. 70. [21]AIA, art. 28 & 29. [22]AIA, art. 113. [23]AIA, art. 99. [24]AIA, art. 56. [25]AIA, recital 116 & art. 56. [26]AIA, art. 95. [27]AIA有關治理組織、罰則、通用AI模型的規定於該法生效12個月後才開始實施，屬於附件二範圍的高風險AI系統的相關規定則遲至該法生效36個月後才實施。AIA, art. 113. [28]European Commission, Shaping Europe’s digital future: AI Pact, (last updated May 6, 2024) https://digital-strategy.ec.europa.eu/en/policies/ai-pact (last visited June 25, 2024). [29]Proposal for a Regulation Of The European Parliament And Of The Council Laying Down Harmonised Rules On Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts, COM(2021) 206 final, recital (6). https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206 (last visited June 25, 2024). [30]執委會的原始草案中，僅於第四章關於AI系統透明性的條文中提及具有「深偽」（deep fake）能力的系統應負揭露義務。