韓國財政經濟部(Ministry of Economy and Finance)於2020年12月17日發布「2021年經濟政策」(2021 Economic Policies)。2021年經濟政策中包含兩大重點,分別為因應新型冠狀病毒影響下的不確定性,盡快恢復經濟成長動能,以及推動產業創新與結構轉型,以培植未來的經濟成長動力。政策文件中指出,儘管2020年經濟成長率因疫情影響而表現低迷,但仍期許2021年經濟能夠盡快好轉,改善投資、出口與國內就業。
針對如何盡快恢復經濟成長動能議題,政策文件指出首先應處理因疫情帶來的不確定性,除了維持擴張性財政政策,以增加政府支出刺激總體需求外,在經濟成長與疫情防治間應取得平衡並加強風險管理;其次為透過租稅減免促進消費、擴大投資額度與提供出口融資,以及提供資金以扶植中小企業、提供優惠貸款協助大型企業度過疫情難關、鬆綁法規以發展地方經濟等一連串措施,來達到恢復經濟成長動能的目標。
而在推動產業創新與結構轉型上,將持續投資於5G應用與6G技術的發展上,推動數位經濟與數位政府系統建構,具體措施包含減免投資5G應用貸款稅率2%、籌集投資數位新政基金、完善智慧醫療應用等。此外在扶植新創政策上,則包含建立新興科技實驗場域(K-test bed),以政府採購扶植新興科技、提供商機以及協助銜接海外市場,修正創投法規開放附認股權憑證之低利貸款以引進矽谷創投資金,以及排除可轉換可贖回之債務認定以降低政府研發補助申請門檻等,以有效扶植創新能量成為未來的經濟成長動力。
本文為「經濟部產業技術司科技專案成果」
美國加州議會於2018年9月28日通過加州參議院之對話機器人揭露法案(Bots Disclosure Act, Senate Bill No. 1001)。此一法案於美國加州商業及專門職業法規(Business and Professions Code)第七部(Division)第三篇(Part)下增訂了第六章(Part)「機器人」乙章,擬防範「利用對話機器人誤導消費者其為真人同時並誤導消費者進行不公平交易」之商業模式,本法案將於2019年7月1日正式生效。依此法案,企業如有使用對話機器人,則應揭露此一事實,讓消費者知悉自己是在與對話機器人溝通。 美國加州對話機器人揭露法案對於「機器人」之定義為全自動化之線上帳戶,其所包含之貼文、活動實質上並非人類所形成。對於「線上」之定義為,任何公眾所可連結上之線上網站、網路應用軟體、數位軟體。對於「人類」之定義為自然人、有限公司、合夥、政府、團體等其他法律上組織或擬制人格。如業者使用對話機器人進行行銷、推銷時,有揭露其為對話機器人之事實,將不被認定違反對話機器人揭露法案,但揭露之手段必須明確、無含糊且合理可讓消費者知悉其所對話之對象為非人類之機器人。值得注意者為,美國加州對話機器人揭露法案,針對「美國本土造訪用戶群在過去12月間經常性達到每月10,000,000人」之網站,可排除此規定之限制。 本法案僅課予業者揭露義務,至於業者違反本法之法律效果,依本法案第17941條,需參照其他相關法規予以決定。例如違反本法案者,即可能被視為是違反美國加州民法揭露資訊之義務者而需擔負相關民事賠償責任。最後值得注意者為,本法案於第17941條針對「利用對話機器人誤導公民其為真人同時影響公民投票決定」之行為,亦納入規範,亦即選舉人如有利用對話機器人影響選舉結果而未揭露其利用對話機器人之事實時,依本條將被視為違法。
研究顯示:主管機關審查是否核發奈米專利的時間越來越長專研奈米科技領域的美國顧問諮詢公司 Lux Research and Foley & Lardner LLP 最近公布的一份報告( Nanotech IP Battles Worth Fighting )指出,美國商標專利局( US PTO )在去( 2005 )年共核發 4,996 個奈米技術領域的專利,雖然這個數字挺嚇人的,不過報告中也發現,過去一年取得奈米專利的成長率只有 4 %,比起更前一年( 2004 )的 20 %的成長率,少了許多。然報告指出, 取得奈米專利保護的成長趨緩並不表示投入這個領域的研究不夠,相反地,若從專利申請案的數字來看, 2005 年的申請案數字其實成長了 52 %。而 US PTO 奈米專利的核發率成長有限的原因,主要是因為申請人所主張的保護範圍交疊重複( overlapping claims ),使 US PTO 審查奈米專利所需的時間,相較於其他技術領域來得更長,平均而言,目前 US PTO 核發一項奈米專利所需的審查時間竟高達四年。 這項報告總共檢視了 2,738 個專利,涵蓋七類申請領域共計 52,148 個權利範圍的主張。報告總結,在電子領域中有關 carbon nanotube 及 quantum dot 之專利申請案,多數為脆弱的專利主張,有面臨法律訴訟的高度風險,若發生侵權訴訟,被告應該勇於進行訴訟防禦;而奈米材料由於市場潛力極大,故報告建議投入於專利搜尋或佈局之檢視,乃必要之成本。此外,報告也認為陶瓷奈米元件( ceramic nanoparticles )於能源領域的應用也極具發展潛力,並預期奈米電線( Nanowires )於電 子領域之應用將越來越受到重視。 不過,報告最後警告, patent trolls 的問題將會出現在奈米技術市場。所謂的 patent trolls 是指企業寧願花錢收購專利並透過授權收取權利金,也不願意自行投入研發的一種決策模式,此類企業通常是不負責實際商品交易的控股公司。
模型內記憶化即構成重製--德國慕尼黑地方法院 判決Suno敗訴對AI訓練合理使用之衝擊模型內記憶化即構成重製--德國慕尼黑地方法院 判決Suno敗訴對AI訓練合理使用之衝擊 資訊工業策進會科技法律研究所 2026年08月24日 前言 生成式人工智慧以受著作權保護之作品為訓練資料,其行為是否構成著作權侵害、又能否主張合理使用或文字與資料探勘之限制,是人工智慧快速應用以後在著作權領域最主要的核心爭議。德國慕尼黑第一地方法院於2026年7月31日就 GEMA 控告 Suno 案作成終局判決[1],首度就生成式音樂AI的「模型內記憶化」特點給予著作權定性,並明確指出引據主張文字與資料探勘限制之適用界線。 壹、事件摘要 德國慕尼黑第一地方法院(Landgericht München I,LG München I)於2026年7月31日就德國著作權集體管理團體「音樂表演權與機械性重製權協會」(Gesellschaft für musikalische Aufführungs- und mechanische Vervielfältigungsrechte,下稱 GEMA)訴美國 AI 音樂生成器業者(被告即 Suno)案(案號42 O 763/25)作成終局判決,認定被告將受著作權保護之音樂著作「記憶化」(Memorisierung)於其模型中,構成德國著作權法(Urheberrechtsgesetz,UrhG)第16條第1項之重製,並侵害權利人之「公開再現(öffentliche Wiedergabe)」利用權[2](相當於我國著作權法上提供或傳達著作內容,包括使公眾得於其各自選定之時間或地點,以上述方法接收著作內容的公開傳輸)。 本案系爭標的為六首德語經典流行音樂:「Atemlos durch die Nacht」、「Daddy Cool」、「Rasputin」、「Big in Japan」、「Forever Young」,以及「Mambo No. 5」之副歌。原告主張,使用者僅需輸入原曲歌詞、風格或標題等簡單提示,被告之音樂生成器即會輸出與原曲高度近似之音樂[3]。法院判決被告不得以系爭音樂著作訓練模型、於模型中儲存系爭著作、在德國境內提供以系爭著作訓練之模型,以及製作侵害系爭著作之著作物[4]。本判決尚未確定,被告得提起上訴[5]。 貳、重點說明 一、模型內「記憶化」構成重製 法院認為 AI訓練依時間先後區分為三階段:抽取訓練素材並轉入機器可讀格式,即訓練資料之製作;資料之分析及以後設資訊加以增益,即模型之訓練;其後藉提示與輸出對已訓練模型之利用。整體流程依訓練性質可區分為--「僅為轉入數位格式或為分析目的而作之重製」與「留存於模型中之重製」[6]。本件關鍵在於第二階段:系爭音樂著作以可再現之方式含於模型中,其記憶化即構成著作權上相關之重製[7]。 (一)模型記憶化之概念 法院認定系爭音樂著作含於模型中,得作為輸出而被抽取,此即「記憶化」;其係指模型於訓練時,非特定之參數不僅自訓練資料集抽取資訊,且於訓練後所特定化之參數中,可見對訓練資料之完整承接(Übernahme,意指納入其中)[8]。所謂「完整」指承接超出單純資訊(如模式與相關性)之部分,非指承接之數量須完整或精確,而係至少部分地承接其內容[9]。模型自訓練資料習得統計規律,本身不受著作權法非難,然若所承接者已是著作的內容而非關於著作的資訊,性質不再只是「分析」而是「留存」 [10]。而且,被告之模型格外易受影響,特別擅長把與該提示相符之受著作權保護曲目,以極貼近原曲之方式生成為輸出[11]。換言之,使用者毋須指名要哪一首歌,只要在語音節奏上仿寫得夠像,模型即可能把原曲於輸出中再現。 法院指出記憶化判定標準因模型類型而異,有的研究要求原作與輸出內容同一,有的以部分一致為已足;就生成圖像或音訊之模型,訓練時僅抽取經選取之基礎特徵,細節資訊則被有意捨棄,故要求百分之百精確一致並不實際亦非必要。而且,模型因訓練時採「量化」(Quantisierung)而有意捨棄細節資訊,因此難以想像有一訓練資料被百分之百精確相符的記憶化,不過法院指出這些被捨棄的本就是人類感官難以掌握之細節,所以記憶化之認定應兼採「檢視旋律、節奏、和聲、識別度與風格相似值之自動檢核」及「人為評價」[12]。而記憶化的原因來自於模型自含有著作各種變體之訓練資料學習後,特定後設資料(如標題、類型或歌詞)與著作音樂特性(調性、節奏等)間之統計關聯被強化,造成使用者於提示中使用此等後設資料時,AI以所學得之統計機率導出「音樂特性大致相似」之輸出[13]。至於證明方法,法院認為訓練資料為已知時,得逕以訓練資料與輸出之比對認定;訓練資料不明時,則得借助「熵」(Entropy)與「困惑度」(Perplexity)等參數,探究模型再現一輸出之確定性[14]。 (二)記憶化之事實認定 法院以系爭著作為訓練資料一事並無爭執,而且系爭著作可藉「原歌詞、音樂風格及著作標題」之提示,明顯可辨識地再現於所提出之輸出中,認定本件記憶化已得逕以系爭音樂著作與輸出之比對認定[15] 。法院就被告之抗辯,逐一駁斥: 1. 系爭提示為簡單、開放結果之提示,輸出並非藉操控性提示所誘發:雖然被告主張原告以歷時數月、上千次、高度脈絡化之提示故意誘發記憶化,但法院認為原告固曾為3,779次提示,惟其中僅338次涉及系爭六曲;且同一提示之反覆輸入並未將輸出導向特定方向,此有別於「以評價性或暗示性指定改變脈絡」之誘發性提示[16]。 2. 系爭輸出不應歸類為偶然:鑑於所生成音樂之複雜性、長度及其與訓練資料之廣泛相符,已可排除係偶然出現的相似[17]。 3. 原告每曲僅提出一則輸出並無妨害:因為記憶化之存在,與「以不變提示是否生成同一輸出」無關[18]。 4. 無關訓練資料全部存儲可能性:雖然被告主張其模型儲存空間於數學上不足以精確儲存全部訓練資料,但法院認為重要的僅為系爭六曲是否可辨識地被記憶化[19]。 (三)記憶化含攝於著作權法之重製概念 法院就被告聲請鑑定「系爭著作是否於模型中儲存或記憶化」予以駁回,認為「權重與參數之區分於何範圍構成重製」係法律問題、非鑑定所能及[20]。法院基於下述理由認為記憶化已構成著作權法之重製: 1. 重製含「直接或間接」、「暫時或永久」及「以任何方法及任何形式」,不僅為與原件同一原樣之重製,亦包括以變更形式對著作之固著,例如類比著作之數位化、以 MP3 等壓縮檔格式之儲存,或以縮小版本之儲存[21]。 2. 因為記憶化是透過模型特定化參數中之資料,而該等參數本身又具體存於伺服器上,所以系爭著作之著作權重製要件「具體固著」。至於採何等技術固著並非決定性,模型若因訓練所導出之統計資訊而具「生成可辨識地再現該音樂著作之統計上可能詞元序列(Tokenfolgen)」之能力,即為已足[22]。 3. 固著於模型中之著作,得藉音樂生成器、一具螢幕之終端裝置及簡單、開放結果之提示,讓一般使用者以其可及之技術輔助接觸,感知並不困難。而且,重製不以可反覆之再現為前提,故認為被告要求評估的「特定輸出之機率與可反覆性」,頂多涉「是否存有記憶化」之事實問題,而非「法律意義之重製是否存在」[23]。 二、模型內重製不能主張文字與資料探勘 (一)文字與資料探勘之定義與目的拘束 法院認為「文字與資料探勘」(Text and Data Mining,TDM)係指對數位著作之自動化分析,以自其中取得特別是關於模式、趨勢與相關性之資訊[24]。而自動化分析本身並非著作權上相關之行為,蓋著作中所含非創作性之資訊本身不受保護。但因為文字與資料探勘有時須有可能侵及利用權之準備措施而涉及重製,故 TDM 的核心思想在於此等重製僅為其後分析目的而作,不損及著作人之利用利益,故人工智慧訓練為準備訓練語料之重製行為,為 TDM 所涵蓋[25];惟本案所爭執者,並非此等準備階段之重製,而是訓練後留存於模型內、並得於輸出中再現之重製[26]。 (二)記憶化逾越文字與資料探勘 法院認定系爭著作於模型中之重製並非文字與資料探勘,因為文字與資料探勘旨在抽取單純資訊,將此等資訊轉入模型參數。惟系爭著作之記憶化讓作為訓練資料之音樂著作不僅被分析,而且被承接入模型參數,並損及著作人之利用利益。因此,藉由模型記憶化所生之重製,並非「不觸及利用利益」之第一階段(製作訓練資料),文字與資料探勘限制於此不成立[27]。 (三)不得類推、無合法接觸 法院進一步排除歐盟數位單一市場著作權指令第4條[28]之類推適用,因為該條所規範的是「僅抽取單純資訊、著作本身未被重製」之情形,反之於模型內重製則使著作利用受持續損害;若類推適用,權利人將陷於無保護狀態,明顯有違該指令前言認限制對權利人所生損害僅屬「極微」之考量[29]。因此,法院進一步認為若依技術現狀無從防止訓練資料之記憶化,則以受保護資料訓練模型,即不能適用文字與資料探勘限制[30]。另外,法院亦認為本件被告係破解 Rolling Cipher 保護裝置、以串流側錄(Stream-Ripping)自 YouTube 下載系爭著作;Rolling Cipher 係為阻止下載而設,被告欠缺合法接觸,不能主張德國著作權法第44b條第2項「合法接觸」之規定[31]。 三、模型提供與生成記憶內容構成公開再現的侵害 法院認定藉模型之提供、生成音樂之應用及系爭輸出,造成權利人所享之公開再現權利受侵害[32]。 (一)公開再現之判斷標準與認定 法院指出公開再現之保護範圍,判斷標準在於著作之原創要素於另一標的中可辨識,亦即受保護著作中足以反映著作人人格之創作抉擇,是否可辨識地被承接於被指摘之標的。縱使所涉僅為著作之一小部分,只要該部分本身表達著作人自己之精神創作,即構成侵害[33]。其判斷只須以一般平均音樂聽者之聽覺理解為準[34]。 經比對譜例與聽覺印象,法院認定輸出廣泛承接六曲之旋律、作曲與編曲,各輸出均未與原曲保持充分距離。例如「Big in Japan」創意在於旋律自主歌經前副歌至副歌之三段式遞升,表達蓄積而終告釋放,同時和弦速度加快而傳遞急迫印象;AI輸出重演此整體情況,聽者因而體驗到相同之音樂起伏與情感效果[35]。 (二)被告直接為再現行為並應歸責 法院認為「再現行為」(Handlung der Wiedergabe)應不問技術手段,廣義涵蓋受保護著作之一切傳輸,故認定被告藉模型之提供及生成音樂之應用,經由使用者介面使系爭著作可被存取,模型並儲存於德國境內之邊緣伺服器,故其侵害公開再現之利用權[36]。而且只要有被存取之可能即構成,著作實際是否被存取並非所問[37]。 而且法院認被告應歸類為正犯,蓋其對藉內容輸出所為重製具行為支配(Tatherrschaft)。被告基於訓練決定輸出內容,於再現中扮演核心角色,並決定模型運作方式、訓練資料選取與訓練鋪陳,係自身為公眾開啟著作享用,非僅只是中介角色。且此等內容藉簡單提示即被再現,決定輸出具體內容的不是提示而是被告所運作之模型,被告未將行為支配給予使用者。是以,被告之模型並非僅提供「錄製私人重製所需之器械」,亦不能與不負內容責任之販售平台相比擬[38]。 基於上述理由,法院未採被告主張援引歐盟數位服務法第6條[39]的責任限制,認為該條僅限制「儲存使用者所提供資訊之中介服務」之責任,就服務提供者自身之內容並不適用。本件被告非僅提供技術中立之基礎設施,而係提供模型並製作系爭輸出,其前之提示簡單且未於內容上指定或誘發,故各輸出為被告自身之資訊,就此其扮演主動角色,而非被動中介之外來資訊[40]。 四、合理使用抗辯不成立 針對被告在美國境內之訓練行為,法院依美國著作權法(17 U.S.C.)審酌是否構成合理使用(Fair Use),認為四項因素綜合觀之均不利於被告[41]: (一)利用之目的與性質 本件被告之應用並未生成新音樂著作,而係生成與訓練所用系爭著作實質相似之錄音,音樂著作並未被轉化[42]。被告之利用亦為商業性利用,其重製與原作追求相同的目的[43]。法院並將被告規避 Rolling Cipher、以串流側錄取得訓練資料一節,評價為惡意而顯著不利於被告[44]。 (二)著作之性質 系爭音樂著作為涉著作權核心之創意著作,被告所製作之音樂非僅承接概念,而係承接系爭曲之創意要素,故非如逆向工程般僅為研究功能而重製[45]。 (三)所利用之質量 被告為訓練其模型而對系爭音樂著作為廣泛重製,且未闡明其何以必須依賴此等廣泛重製。法院指出於大量重製之情形,關鍵在於所重製之著作係向公眾提供,抑或僅參與技術上不可見之後端程序;本件與 Google Books 案顯著不同,該案被告並未將重製向公眾提供[46]。 (四)對潛在市場或價值之影響 法院認為訓練所生之輸出構成取代原作之替代物,在「使用者直接消費之娛樂音樂」市場與原作競爭[47]。被告抗辯系爭輸出係在同一提示反覆輸入多次之後才出現,故不足以認定市場影響;而且第四項因素不僅看具體侵害行為之影響,還要看此類利用行為一般而言是否可能對原作市場產生顯著負面效果。本件原告就各曲分別輸入4至176則相同提示始取得系爭輸出,惟被告之音樂生成器於2024年單一月份即錄得220萬名訪客,以此流行程度計,縱使平均每4次或每176次輸入才得到一個與原作實質相似之音樂,累積於市場上之替代效果仍屬顯著[48]。 法院特別強調本件輸入僅含歌詞之提示後生成實質相似輸出,與美國 Bartz、Kadrey 兩案顯著不同,該兩案中訓練資料未實質於輸出中讓使用者可觸及,未因生成實質相似輸出而明顯可看到對市場的影響[49]。權衡一切因素,法院認被告之具體利用不為合理使用所涵蓋,且並非所有模型均記憶化其訓練資料,故於本案件否定合理使用既不妨礙進步或競爭,亦不牴觸模型之發展公益[50]。 參、事件評析 本案立於歐盟資訊社會著作權指令與數位單一市場著作權指令所建構之重製權與文字與資料探勘體系,其「公開再現」與我國由公開播送、公開演出、公開傳輸等權能概念亦並不全等同,而其本身能否維持猶待上訴審檢驗,亦有待後續觀察。但本案的重點在於,把過去類似爭議的爭訟焦點由「訓練是否構成重製」展開為「模型是否留存並於輸出中再現受保護著作」,並進一步加重AI開發與服務提供者被歸責可能性,本文認為可歸納其重點如下: 一、法院未全面否定訓練之資料取用可主張合理使用,但前提須為合法取得 本判決雖判被告不得援引合理使用,惟其論證重心並不在「以受保護著作訓練模型」這件事本身。法院明白表示訓練一個能生成新音樂作品的模型,一般而言確實可能是具轉化性、追求更進一步目的而為合理使用所涵蓋之利用。本案之所以認定不同,是被告之應用並未生成新的音樂作品,而係以系爭輸出生成與訓練所用著作實質相似之錄音,音樂著作因而未受轉化。法院於綜合權衡時亦明言,並非所有模型都會記憶其訓練資料,於本案否定合理使用既不妨礙進步與競爭,也不牴觸公共利益,蓋須取得授權不等於不能訓練。因此,本判決所否定的是「訓練後留存於模型、並得於輸出中再現」,而非概括否定 AI 訓練之資料取得有主張合理使用之餘地。但法院對被告規避 Rolling Cipher、以串流側錄取得訓練資料一節評價為惡意,顯示取得手段是否合法,從目前國際上的司法案例看來,仍是決定是否能主張合理使用的重要環節。 二、能否主張合理使用或文字與資料探勘,取決於一般提示下是否再現實質近似內容 法院認定本案與美國 Bartz、Kadrey 二案顯著不同,關鍵在於本案訓練資料實質地在使用者僅輸入歌詞、未作任何音樂上要求之簡單且結果開放之提示下,即可生成與原曲實質相似之輸出。而文字與資料探勘之審酌,法院並不否認為準備訓練語料所為之第一階段重製落入德國著作權法第44b條範圍,真正逾越限制者是第二階段留存於模型內之記憶化。是以,若訓練所得之模型不會在一般、未經特別設計引導之提示下再現實質近似之內容,主張文字與資料探勘限制或合理使用仍有空間。而且必須注意的是,倘依技術現狀無從防止訓練資料之記憶化,法院認為將受保護資料訓練模型即不為該限制所涵蓋,則「能否防止記憶化」就是AI開發與服務業者重要的技術降險研發重點。 三、AI記憶化的輸出由模型提供者承擔侵權責任 本判決外溢效果最大者為責任歸屬,法院認定AI記憶化的輸出產生的再現行為,是源自於被告以模型與使用者介面,開啟讓公眾對已記憶化著作可存取。就輸出所生之重製,被告因對模型架構、訓練資料選取與訓練設計負責而具行為支配,應歸類為正犯;僅輸入提示觸發生成之使用者,不被視為重製行為人。顯見有關AI責任的認定,法院著重於誰對於結果具有實質主導的控制能力,AI 服務提供者將來可能更難以主張模型只是提供「工具」、由使用者決定產出,也不能主張自己是中立平台而把使用責任歸予使用者。 本案法院判決提出的模型記憶化(留存受保護著作)構成重製的觀點,其重點在於一定程度緩解權利人的內容再現舉證困難,並透過受訓練資料與特徵近似的生成結果判斷記憶化的存在,進一步認定存在重製結果,而且該重製欠缺轉化性、具商業目的、結果對權利人市場造成明顯負面影響。我國對於AI 訓練是否合法的認定,仰賴著作權法第65條合理使用之一般條款判斷,雖須個案、事後之權衡,但從本案法院見解可見,避免AI的記憶與所記憶內容的出現是關鍵點,如技術上可能,業者須溯源在訓練過程採取去記憶化的事前避險措施,以避免成為記憶內容之提供者而須自行承責。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有,如需引用或轉載,請註明出處。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1]LG München I, Endurteil vom 31.07.2026, Az. 42 O 763/25。 [2]Id., Rn. 239, 262, 317, 375. [3]Id., Rn. 4, 26. [4]Id., Urteilstenor Nr. 1 a) aa), a) bb), b), c). 原告依德國著作權法第19a條公開提供權所為之聲明則遭駁回,法院認一次調取至多需輸入176個相同提示,該調取非於使用者所選定之時間發生;其餘之訴亦經駁回。Rn. 315, 316, 554. [5]Landgericht München I, Pressemitteilung vom 31.07.2026, https://www.justiz.bayern.de/gerichte-und-behoerden/landgericht/muenchen-1/presse/2026/16.php (last visited Aug. 21, 2026). [6]LG München I, supra note 1, Rn. 240. [7]Id., Rn. 241. [8]Id., Rn. 243. [9]Id. [10]Id., Rn. 240, 243, 283, 294. [11]Id., Rn. 244. [12]Id., Rn. 245. [13]Id., Rn. 246. [14]Id., Rn. 247. [15]Id., Rn. 249. [16]Id., Rn. 250-253. [17]Id., Rn. 258. [18]Id., Rn. 259. [19]Id., Rn. 260. [20]Id., Rn. 261. [21]Id., Rn. 263, 264. [22]Id., Rn. 268-270. [23]Id., Rn. 276-279. [24]Id., Rn. 283. [25]Id., Rn. 284, 285. [26]Id., Rn. 289, 293. [27]Id., Rn. 294, 295. [28]Directive (EU) 2019/790 of the European Parliament and of the Council of 17 April 2019 on copyright and related rights in the Digital Single Market and amending Directives 96/9/EC and 2001/29/EC, art. 4, 2019 O.J. (L 130) 92. [29]LG München I, supra note 1, Rn. 299. [30]Id., Rn. 304. [31]Id., Rn. 13, 308, 310. [32]Id., Rn. 317. [33]Id., Rn. 321. [34]Id., Rn. 323. [35]Id., Rn. 197, 349. [36]Id., Rn. 373, 374. [37]Id., Rn. 375, 376. [38]Id., Rn. 399-401. [39]Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a Single Market For Digital Services and amending Directive 2000/31/EC (Digital Services Act), art. 6, 2022 O.J. (L 277) 1. [40]LG München I, supra note 1, Rn. 408, 409. [41]Id., Rn. 447-449. [42]Id., Rn. 484-486, 493, 494. [43]Id., Rn. 498-500. [44]Id., Rn. 504-510. [45]Id., Rn. 511, 512. [46]Id., Rn. 514-518. [47]Id., Rn. 519-523. [48]Id., Rn. 27, 492, 527. [49]Id., Rn. 480, 526. [50]Id., Rn. 530, 531.
新加坡發布最新版《醫療照護人工智慧指引》新加坡發布最新版《醫療照護人工智慧指引》 資訊工業策進會科技法律研究所 2026年06月10日 壹、背景摘要 新加坡衛生部(Ministry of Health, MOH)與衛生科學局(Health Sciences Authority, HSA)於2026年3月10日共同發布更新版《醫療照護人工智慧指引》(Artificial Intelligence in Healthcare Guidelines Version 2.0,以下簡稱AIHGle 2.0)[1]。延續2021年初版架構,以病人安全與強化信任為主軸,就人工智慧,特別是機器學習、深度學習及生成式人工智慧,在醫療場域之開發、部署與使用,分別課予開發者、部署者及使用者之責任,並以全生命週期治理一以貫之,期使創新與信任並行。 AIHGle 2.0 係 MOH 與 HSA 共同更新之指引,定位為非強制性之最佳實務建議,做為《健康照護服務法》(Healthcare Services Act 2020, HCSA)、規範醫療器材之《健康產品法》(Health Products Act 2007, HPA)、《個人資料保護法》(PDPA),以及資通訊媒體發展局(IMDA)之人工智慧治理模範框架等相關法令規範或政策的補充。 貳、重點說明 該指引將醫療 AI 之利害關係人明確區分為:開發者(Developers),即開發、整合或維護醫療 AI 解決方案者;部署者(Deployers),指受 HCSA 規範並導入 AI 以強化照護服務之醫療機構;使用者(Users),即實際操作 AI 之醫事人員分別有專章規範。於適用範圍上,AIHGle 2.0 雖廣泛適用於各類 AI,惟聚焦於風險較高之機器學習與深度學習複雜系統,生成式人工智慧則歸屬於其中一環。指引並將醫療場域 AI 使用情境三分為臨床(Clinical)、臨床作業(Clinical-Ops)與作業(Ops),明定其聚焦於對病人照護結果有直接或間接影響之前二者;至純屬作業性質者,則回歸 IMDA 跨產業之治理框架辦理。 一、釐清三大利害關係人之分工與權責 該指引明確將醫療 AI 之參與者區分為開發者、部署者與使用者三類,並就各方於系統生命週期中之責任分別訂定[2]。同時,其建議以服務水準協議(SLA)固化開發者與部署者間之權責,及標準作業程序(SOP)明定使用者責任: (一)開發者:負責法規遵循,以全產品生命週期(Total Product Lifecycle, TPLC)方法管理解決方案,確保訓練資料之品質與公平性,並備置使用者說明、提供上市後支援。 (二)部署者:負責建立組織內部治理平台,辦理部署前測試驗證、員工訓練與不良事件因應,並建立病人溝通流程;且導入 AI 後病人之照護成果應維持或優於未導入時之水準。 (三)使用者:應就 AI 輸入與輸出資料維持專業判斷與查證,並於 AI 異常時啟動應變措施,以確保病人安全。 二、建立以風險為本之評估架構,強制要求人為監督 針對直接或間接影響病人照護成果之「臨床」與「臨床作業」情境,指引強制規定所有 AI 之使用均須具備人為監督(human oversight),AI 僅為輔助工具,不得取代專業判斷;並依人為介入程度與風險高低,將風險類別區分為三類[3]: (一)人在迴路中(human-in-the-loop):人類保有完全控制權,無人類指令即無法執行決策,屬輕至中度風險。 (二)人在迴路上(human-over-the-loop):人類處於監測角色,遇異常時接管控制,屬中至重度風險。 (三)人在迴路外(human-out-of-the-loop):無人為介入;指引明文禁止部署於無人監督下獨立作成臨床決策之 AI 系統,屬重度風險。 三、導入全產品生命週期(TPLC)管理 AIHGle 2.0指引要求開發者以全面而整合之策略管理 AI 解決方案,自初期之規劃、設計與開發,歷經模型評估、上市後監測與維護,甚至是生命週期終止之除役階段,都有不同角色區分的全程嚴謹之風險評估、軟體驗證與可追溯性要求[4]。 四、具體化七大倫理原則之落實方式 指引結合醫學倫理與 AI 治理,揭示七項倫理原則:安全、公平、透明、可解釋、穩健、資安與資料保護,以及 AI 與人類價值或目標之對齊。其特色在於不僅列出原則,更分就開發者、部署者與使用者給出具體之操作化範例;以「公平」原則為例,開發者須使用具代表性資料,部署者須監測非預期偏誤,使用者則須運用臨床判斷以減緩偏誤[5]。 五、針對新興技術與應用提出具體對策 因應 AI 能力快速演進,指引就三大新興發展領域分別提出風險減緩策略。包括:具持續學習能力之 AI,提醒防範「模型漂移」(model drift,即效能隨時間衰退)及資料揭露風險,要求建立追蹤模型效能之健全監測系統;就生成式 AI(Generative AI, GenAI)點出幻覺(hallucination)、產生不當內容、資料揭露與易受對抗式提示攻擊等放大風險,建議透過紅隊測試、檢索增強生成(Retrieval-Augmented Generation, RAG)、建立事實查核工作流程及加註 AI 產出警語予以因應;直接面向消費者之 AI 應用:因脫離傳統醫療場域之安全監督,AIHGle 2.0指引特別建議應實施嚴格的充分說明措施,以外行人易懂之介面設計,並強化消費者教育,以確保安全[6]。 參、事件評析 我國衛福部配合「人工智慧基本法」賦予目的事業主管機關訂定風險管理規範與協助產業訂定指引的權責,亦於115年5月29日頒布《醫療機構應用生成式人工智慧指引》[7],雖同以病人安全與負責任創新為目的、同採非強制之行政指導,但規範對象、範圍與法制脈絡不同。惟若從產業指引的全面性與涵蓋範圍來看,新加坡的AIHGle 2.0指引相比於我國指引,在以下幾個面向,特別是對象範圍有較高的完整度,於衛福部指引仍有可借鏡的地方,亦可供將來我國其他各主管機關的產業指引制定參酌: 一、規範範圍不限於「生成式 AI」,完整的對其他與新興 AI 的涵蓋 新加坡指引適用範圍從簡單的規則式決策樹、機器學習到生成式 AI 等各類技術,目前衛福部指引考量具備自主決策與執行能力的 AI Agent,因可能直接影響病人健康結果,涉及病人安全、醫療責任與法規適用等議題,因此暫未納入指引適用範圍,而限定適用於「生成式人工智慧」系統。但隨技術演進、生成式以外之 ML/DL 乃至漸具自主能力之系統亦會進入臨床場域,將來仍宜及早規劃、適時滾動納入新加坡完整廣納各類技術於單一框架。 二、以持續修正、評估甚至終止機制因應技術迭代與部署後學習 新加坡特別訂定「具持續學習能力之 AI 解決方案」的規範,指明這類模型會依部署後的新資料更新行為,容易產生「模型漂移(model drift)」包括效能退化、意外資料揭露的風險,故特別提醒開發者與部署者必須建立健全的監測系統與追蹤評估機制,而且使用者必須警覺與通報示警。 三、完整地納入而非偏重「部署者」視角,提供對「AI 產業(開發者)」的直接指導 衛福部指引主要作為預備導入或已經導入生成式人工智慧系統之醫療機構的內部治理為主要對象與目的,但就產業指引角度,醫療AI 開發廠商產業端,僅透過醫療機構的「供應商管理與採購作業」角度,以合約要求廠商揭露資訊、約定責任分工等進行間接規範,未能有專屬開發實務準則,提供從初期的規劃設計,如確保訓練資料的品質、公平性與隱私強化技術、模型應以獨立測試資料集檢驗準確度,到上市後監督與維護的詳細直接指引,確實較為可惜。 四、涵蓋直接面向消費者端之 AI 應用風險提醒 衛福部指引的適用情境聚焦於醫療機構內的醫療或管理作業,例如病歷撰寫、臨床決策支援等。對於民眾自行透過手機或穿戴式裝置使用的醫療/健康 AI 應用則未加著墨。新加坡指引特別針對產業直接面向消費者之 AI 應用提出規範,指出這類應用由於脫離傳統醫療場域與專業人員的安全監督,特別須重視資訊的有效、可理解、對應不同程度使用者的提供與說明,必須實施外行人易於理解的介面與嚴格的防護欄,且部署者與醫事人員有責任教育病人正確使用,並在不清楚時尋求專業建議。 五、風險評估構面納入人為介入並強調組織治理與監督機制的建立 新加坡指引特別建議醫療機構建立內部治理平台,以於 AI 解決方案的整個生命週期中,維持對其組織內所部署所有醫療 AI 解決方案的評估、監督、維護、指引,該平台應具備相關的臨床、作業、技術與法律知識,有明確的稽核權責分離。衛福部指引以生成式 AI 為專門對象,確實就基礎模型偏差、輸出幻覺、使用者依賴(deskilling)及服務中斷等風險之操作化有較詳細的說明,但若能就風險評估除亦考慮影響性與發生可能性外,並以「人為介入程度」作為風險分級依據,將可更徹底的將負責任AI、人為最終判斷,納入、內化於組織的風險管理機制中。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/) [1]新加坡衛生部(Ministry of Health)與衛生科學局(Health Sciences Authority),《醫療照護人工智慧指引》(Artificial Intelligence in Healthcare Guidelines)第2.0版,2026年3月,網址:https://isomer-user-content.by.gov.sg/3/23fb5b36-56b4-4abb-9370-75c9ddcaf3ed/AIHGle%202.0.pdf(最後瀏覽日:2026/06/05)。 [2]前揭註1之第4章責任分工,頁11;各方責任詳見第5章開發者、第6章部署者、第7章使用者,頁14~32;服務水準協議與標準作業見頁12~13。 [3]前揭註1之風險評估框架,頁23。 [4]前揭註1之第5.2節全產品生命週期管理,頁16~20。 [5]前揭註1之3章倫理原則,頁8~10。 [6]前揭註1,頁33至36(第8章新興發展:第8.1節具持續學習能力之AI、第8.2節生成式AI、第8.3節直接面向消費者應用)。 [7]衛生福利部,《醫療機構應用生成式人工智慧指引》,115年5月29日衛部醫字第1151663164號函頒。