韓國提出生成式AI訓練合理使用判斷原則指引:指明不構成合理使用之情形與事例 資訊工業策進會科技法律研究所 2026年07月01日 韓國文化體育觀光部(Ministry of Culture, Sports and Tourism,下稱MCST)與韓國著作權委員會(Korea Copyright Commission,下稱KCC)於2026年2月26日共同發布《生成式AI模型訓練之合理使用適用原則指引》(Guide on Applicability of the Fair Use Doctrine to Training of Generative AI Models,下稱本指引),以韓國著作權法第35條之5合理使用一般條款為基礎,就受著作權保護著作於生成式AI訓練過程遭利用之情形,提出四項判斷要素之適用原則、有利與不利認定之對照及具體事例。 壹、事件摘要 韓國於指引前言指出世界各國將AI技術視為未來核心成長引擎,力求在全球AI領導地位上取得競爭優勢。部分國家呼籲採取政策支持措施,盡可能廣泛允許訓練資料之使用並鼓勵AI發展,惟受憲法保障之著作權與AI驅動之技術創新,係不應以犧牲一方成全另一方之價值。韓國當前最關鍵之政策課題,在於找出一種平衡途徑:既尊重著作權人之正當權利、獎勵創作,同時避免對AI創新造成不當限制,促進共同成長與發展。而且AI發展之創新與著作權之保護並非本質衝突之價值。當二者作為互補原則相互調和時,得共同推動整體社會更廣泛之文化與經濟進步[1]。 貳、重點說明 該指引認為生成式AI訓練各階段之資料蒐集、前處理、模型訓練與評估最佳化,均可能構成著作權法上之重製,在韓國著作權法未設文本與資料探勘專門例外之現況下,AI訓練之利用是否合法,主要回歸第35條之5合理使用之四要素綜合判斷。指引除說明各國案例與法令外,就四項判斷要素逐一整理其定義與要件,同時提出「有利」與「不利」於合理使用之情形,並列舉可能成立與不太可能成立合理使用之事例,藉此將原本高度個案化之合理使用判斷予以類型化。本文重點針對其已表態認為較不利或(不)認同主張合理使用之情況、事例,摘要說明如下: 一、合理使用四要素可能無法構成的情況 (一)利用之目的與性質[2] 1、無轉化利用致目的與性質近似:若利用之目的與性質與原著作相同;未創造新價值或新用途、未顯著貢獻公共利益,且損害既有市場或權利人經濟利益。 2、有直接或間接商業獲益:開發者向使用者直接收取服務對價,或藉廣告與宣傳取得間接經濟利益;非營利研究組織於營利企業贊助下、為該企業商業目的訓練模型。 3、未實施侵權防制技術:若未採取措施以拒絕生成特定受著作權保護著作之重製或模仿之提示,從根本上阻擋重製或模仿特定著作所含表達之請求之AI系統。 4、過度就特定著作進行訓練:將提高生成式AI輸出與原著作共享相似目的或性質之可能性,較可能與著作之「通常利用」相衝突並損害著作權人經濟利益。 5、訓練目的與商業利用有關係:生成式AI系統縱為商業目的開發或訓練,並不當然排除合理使用之認定,縱存在商業目的,若該技術創造新價值並服務公共利益,其利用仍可能獲有利評價。而且,非商業與商業目的可能交織,例如,由大學與企業共同進行之產學合作研究,於初始研究階段可能屬非商業,惟若生成式AI模型用於提供商業服務,則可能有不利認定。反之,縱為營利企業,若其訓練AI模型以生成與其商業活動無關之輸出,亦可能被認定為進行非商業訓練。 6、取得方式違反著作權人意願:著作權人曾採取措施限制網路爬取或擷取,未經許可蒐集受接取限制之著作(如須登入或付費牆後之著作)或規避技術保護措施; 縱著作於技術上可接取,未經著作權人許可將其用於生成式AI訓練,違反適用之條款與條件之方式自網站蒐集著作,或以不被允許之方式接取著作,可能被視為逾越授權範圍。縱著作看似經轉化性利用,若該利用涉及非法重製或不當接取,此等情狀仍可能不利於因素一之有利認定。 (二)著作之類型與目的[3] 就第二要素著作之類型與目的,該指引認下列情形不利於合理使用之認定: 1、資料屬於供享受之文學或藝術著作:使用主要為享受著作本身而創作之文學或藝術著作,或創作性高而個性表達強之著作。因其創作表達係其核心價值,訓練於此等表達之生成式AI模型很可能生成相同或近似之表達特徵。 2、屬未公開或僅於受限或付費接取下提供之著作(如訂閱服務或付費資料庫):因對權利人經濟利益之影響風險較高,其利用性質與周遭社會期待不同。惟著作可公開取得並不因此即支持可合理使用之認定,可能因robots.txt限制之存在、以及預期利用之範圍與規模等面向,受不同權衡。 (三)所使用部分之質量與重要性 就第三要素,指引認下列情形不利於合理使用之認定[4]: 1、非必要下使用整份著作之量:使用整份著作訓練模型,本身不利於本要素;惟整份利用若基於技術上不可避免且必要之理由,得綜合其他要素另為評價。 2、直接重製核心表達之質:於利用過程中直接重製著作核心表達要素、輸出與原著作實質相同或可替代,且逾越利用目的所合理必要之範圍。 (四)對現在或潛在市場或價值之影響 就第四要素,指引認為下列情形不利於合理使用之認定[5]: 1、造成銷售損失或其他經濟損害:生成式AI訓練所生輸出不可能、或僅極低可能替代原著作之經濟價值或市場需求、或損害其市場價值縱屬商業利用,只要該利用不直接影響原著作市場之需求,亦可能有利於因素四。 2、AI輸出直接或實質重製原著作之核心表達:替代原著作或侵蝕其潛在市場需求之輸出,很可能不利於使用者。 3、損害授權機會、替代或削弱市場:使用著作於生成式AI訓練之授權市場,於部分領域已存在,或視著作類型、訓練方法與模型特性而合理可期於未來出現或發展;AI開發者未經許可蒐集並使用著作進行訓練、再於商業服務中利用訓練後模型,可能妨礙或損害著作權人就類似利用於未來授權以獲利之合理可預見機會。 4、反覆且大規模之未經授權訓練:可能導致未經授權利用,若任其普遍化,可能擾亂通常授權實務與市場規範、削弱受著作權保護著作之市場價值,並實質消滅著作權人獲取收益之能力。 二、合理使用認定可能與不可能事例 本指引於案例部分,直接列舉數則經四要素綜合判斷後(不太)可能成立合理使用之情形[6],分述如下: (一)可能有利於認定的事例 1、開發者使用可公開取得之線上貼文及合法購買之書籍訓練AI,且著作之利用非意在重製或替代特定貼文或書籍之表達,而係為實現通用型對話與生成能力。此外,開發者曾努力實施技術措施,以拒絕生成與訓練所用著作相同或實質近似輸出之提示。 2、模型係使用主要為傳達事實與資訊之短語或一般非專業表達(如社群媒體貼文或評論)訓練,且輸出呈現相對低度之創作性。 3、開發者別無選擇,須輸入數億筆資料,考量實現通用型語言理解與生成能力之目標,所使用受著作權保護著作之數量與範圍可認為合理。 4、訓練後模型之輸出或基於輸出之服務,未實質替代原著作之觀看、使用或銷售。此外,創作性相對較低之著作,如社群媒體或個人部落格上分享之貼文、留言、評論、照片或影片,或為非商業目的創作之平凡著作(尤其難以辨識或尋得著作權人者),亦用以訓練AI。 5、政府資助研究機構,依《公共資料之提供與利用促進法》所定公共資料,訓練其自然語言處理(natural language processing, NLP)模型,作為其社會不平等研究之一部分。 6、大學研究團隊蒐集以開放取用(open access)發表之論文,開發AI科技摘要模型,隨後並以開源(或開放權重)方式釋出該模型。 7、AI開發者使用可自由取得之科學與工程相關論文全文,建立可自動分析資料並支援研究之模型。 8、AI開發者使用其公司合法下載或以CD購買之戲劇影集或電影等視聽著作訓練模型,以開發分析犯罪者移動模式等犯罪預防應用。 (二)可能不利認定的事例 1、開發者訓練AI模型或提供服務,生成與特定貼文或書籍之句子、結構或表達相同或實質近似之輸出,或模型吸收原著作語言表達之精髓,即字詞於句子、段落或整份文件層次如何被選擇與排列。 2、訓練所用著作具高度文學或藝術創作性,且表達具強烈個性。 3、鑑於AI模型之架構,著作之利用範圍非結構上不可避免,亦非實現通用型語言理解與生成能力目標所合理必要。 4、AI訓練或相關服務之提供,導致受著作權保護著作銷售下降、對著作權人造成經濟損害、剝奪著作權人授權機會,足以構成市場替代或市場稀釋之顯著風險。此外,就AI訓練以合理條件授權之框架(如專為AI訓練目的之獨立授權制度)及集體管理制度已然存在,取得授權相對容易。 5、新聞文章全文訓練之摘要服務:未經新聞出版商許可,爬取並就新聞文章全文訓練模型,經營自動提供文章摘要之商業服務。本指引認其目的與原新聞文章近似而不具轉化性、著作係未經授權蒐集、使用全文,且摘要可能使讀者無須造訪原文即取得資訊,侵蝕出版商之訂閱與廣告收益。 6、合法購買教科書訓練並銷售教材:以合法購買之數位教科書訓練AI,生成教科書或習作簿並銷售。本指引認縱原書係合法購買,利用目的仍不具轉化性、所用著作具學術與教育價值、使用全文,且輸出可能替代或削弱出版商之教材市場。 7、未授權付費圖庫影像訓練並販售:未經許可爬取付費圖庫網站之高解析度付費影像訓練模型,並販售生成影像。本指引認其未經許可蒐集、目的不具轉化性、使用全份著作,且輸出可能替代圖庫或授權市場;又付費影像平台多設浮水印、API控管、robots.txt等技術措施以防未經授權蒐集,故此類利用不太可能成立合理使用。 8、歌手歌曲訓練經營付費AI翻唱:自音樂平台購入某歌手之數千首歌曲訓練模型,經營付費AI翻唱歌曲生成業務。 參、事件評析 如同韓國指引所揭示,其立場認為須找出平衡途徑,既尊重著作權人之正當權利、獎勵創作,同時避免對AI創新造成不當限制,促進共同成長與發展,以求二者作為互補原則相互調和,使整體社會文化與經濟進步,故雖其承認AI訓練確實涉及重製權,但亦認為如手段與來源合法,且其結果必須有轉化性、未影響既有經濟利益,則仍有主張合理使用的可能。此指引所呈現的態度,公益目的、公開取得及合法購買之書籍、為實現通用型對話與生成能力、實施技術措施、不產生替代效果,實亦呼應目前國際上就AI著作合理使用的多數看法。 就我國而言,我國著作權法第65條之合理使用四款判斷基準,與韓國第35條之5同屬四要素綜合判斷之立法例,且我國現行法同樣未設TDM專門例外,相關修法方向尚未聞擬進行研議。韓國其於TDM例外立法屢議未決之際,以其現行合理使用一般條款(第35條之5)為基礎、輔以行政指引因應AI訓練,以要素分析、不利類型化、具名事例的模式,引導、傳達主管機關立場的操作合理使用之作法,對我國主管機關研擬相關解釋或指引之參考價值較高。 韓國指引之價值,不在其結論具拘束力,因其明示固為主管機關之立場呈現,但其也特別揭示指引非權威解釋,所列案例與例示僅供說明與解釋之用。然而在其將原本高度個案化、難以事前預測之合理使用判斷,整理為可操作之不利類型與事例,為權利人與AI開發者提供風險預判之座標。以指引降低判斷不確定性之方式,亦呼應我國人工智慧基本法立法後,政府在相關作用法的整備上,以指引先行因應、再視實務累積決定是否立法之階段性的治理選擇,足供我國參酌。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有,如需引用或轉載,請註明出處。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/) [1] 韓國文化體育觀光部、韓國著作權委員會,《生成式AI模型訓練之合理使用適用原則指引》(Guide on Applicability of the Fair Use Doctrine to Training of Generative AI Models),頁8(2026)。 [2] 同前註,頁32-37。 [3]同前註,頁37~39。 [4] 同前註,頁39~41。 [5] 同前註,頁41~45。 [6] 同前註,頁50~頁62。
歐盟「開放網路規則」實施指引歐盟會員國電子通訊傳播監理機關組織(Body of European Regulators for Electronic Communications, BEREC)於2016年8月公布「歐盟會員國網路中立規則監理機關執行指引」(BEREC Guidelines on the Implementation by National Regulators of European Net Neutrality Rules)。本執行指引係依歐盟於2015年11月通過之「有關開放網路近用並修正全球服務與使用者有關電子通訊網絡與服務之第2002/22/EC號指令以及於歐盟境內於公用行動通訊網絡進行漫遊之第531/2012號規則」的第2015/2120號規則(下稱「開放網路」規則)第5條第(3)項所訂定,用以作為歐盟各會員國相關監理機關於實施「開放網路」規則時之參考依據。 以網路中立性所蘊涵之不歧視原則為例,「開放網路」規則第3條第3項第一段規定,「網際網路近用服務提供者於提供相關服務時,對所有流量應平等對待(treat all traffic equally),而無歧視、限制、或干擾,且亦不論係對於發送方與接收方、所近用或散布之內容、所使用或提供之應用或服務、或所利用之終端設備」。對此,執行指引明確表示,不歧視原則是網際網路服務提供者在提供網路近用服務時之義務,且對於本項之違反,亦將同時構成對於終端使用者受「開放網路」規則第3條第1項所保障權利之侵害。不過執行指引也強調,各會員國相關監理機關應該注意到,所謂的「平等對待」不必然意味著所有終端使用者都將體驗相同的網路效能或服務品質。
新加坡個人資料保護法修正草案新加坡通訊及新聞部(Ministry of Communications and Information, MCI)與新加坡個人資料保護委員會(Personal Data Protection Commission, PDPC)於西元2020年5月14日至28日間針對其「個人資料保護法修正草案」進行民眾意見諮詢,總共收到87份回覆。綜合民眾回覆之意見後,同年10月5日,於議會提出了「個人資料保護法修正草案」,修正重點如下: 提高外洩個人資料者罰鍰金額,至該公司在新加坡年營業額10%或1000萬美元。MCI / PDPC說明,實際上於裁罰前會綜合考量個案事實與相關因素(如:嚴重性、可歸責性、影響狀況、組織有無採取任何措施減輕個資外洩造成的影響等),作為裁罰金額的判斷依據。此外,新加坡的個人資料保護法也加入了個資外洩通知義務,但與歐盟一般資料保護規範(General Data Protection Regulation, GDPR)仍有不同,例如:其多了評估是否通知的機制。 組織基於商業改善之目的,且遵守法定條件下,得未經同意使用個人資料,此處商業改善目的包含:(1)改善或加強提供之商品或服務,或開發新的商品或服務;(2)改善或發展新的營運方式;(3)瞭解客戶喜好;(4)客製化商品或服務所需。 在公司併購、重組、出售股份以及經營權轉讓等關於公司資產處置情形,得例外無需經當事人同意而蒐集、處理與利用個人資料。 新增資料可攜權相關規定。 處罰未經授權者處理個人資料之行為。針對民眾回覆之疑慮(認為草案內容不明確),MCI / PDPC說明預計在《法規與諮詢指南》中闡明有關授權行為的細節性規定,包含採取的形式。
韓國人工智慧風險管理趨勢研析韓國人工智慧風險管理趨勢研析 資訊工業策進會科技法律研究所 2020年6月25日 人工智慧技術正不斷地突飛猛進,後更因深度學習應用帶來令人難以置信的進步,迅速成為眾多產業轉型的重要推手。然而,當眾人專注於追求人工智慧的逐利時,也隱然意識到人工智慧與現實世界的互動,似已超越人類認知能力,或依當下技術知識經驗仍難加以掌握。以自駕車為例,其利用感測器感知外界進行影像辨識、理解預測進而做出決策的整體流程上,不論是在路人、車輛等圖像辨識、現場就路人及車輛行動之預測,乃至後端根據前階段路人、車輛行動預測與現在位置判斷最佳路徑的過程,處處是不可測的風險。申言之,從辨識正確率、現場狀況理解度至演算法決策來說,吾人所得掌控者有限。主因在於人工智慧的複雜與靈活性特色,實難通過統一概念加以界定。次者是人工智慧的自動化決策本身,事實上難以被確實地預見。甚至,就人工智慧可控性上,亦充斥各類不確定要素,特別是訓練資料偏差、又或設計者主觀意識之偏頗都可能造成預想之外的結果。 截至目前為止,人工智慧應用已然帶來已引發諸多風險議題,包含於開發、設計及製造端所論及之風險議題涵蓋歧視與偏見,如資料偏差、樣本資料結構性不平等[1]致使機器學習或有偏誤,進而影響判斷,產出具有歧視或偏見之結果[2];個人資料及隱私保護上,則係因人工智慧訓練對資料具有大量需求,涉及個人資料部分,將面臨蒐集(踐行告知程序)、處理和利用(於當事人同意之範圍內處理、利用)是否善盡保護義務與合乎法規要求;演算法黑箱帶來不透明的決策,難以預測與檢驗決策流程、判準是否有誤[3]。就此,考慮到人工智慧之重要性與風險,或有必要立基於風險預防理念進行相關風險控管,甚或以風險責任分擔角度,討論相關權責分配,以應對未來可能衍生的危害或重大風險。 人工智慧風險控管之法律基礎無法悖於倫理道德基礎。觀諸國際間討論,韓國早在2007年即已倡議機器人道德理念,並在2008年起接連有相關立法舉措。本文將以之為中心,探究其人工智慧在風險控管之相關立法政策措施,盼可從韓國做法中反思我國推行人工智慧風險管理之方向。 壹、事件摘要 一、韓國智慧機器人相關法制措施 (一)《智慧機器人發展和促進法》風險管控介紹 2008年9月韓國《智慧機器人發展和促進法》(지능형 로봇 개발 및 보급 촉진법)正式生效。該法旨在鋪設智慧機器人產業發展之法律基礎,包含在法律中嘗試引入智慧機器人定義(指通過識別外部環境並判斷狀況後自動運行之機器設備,包含機器設備運行所必要軟體),以此作為後續促進產業發展、規劃機器人責任歸屬或保險等討論之開展基礎;另外也以促進產業發展觀點,訂定產品安全開發與布建之支持法源依據;挹注國家科研能量確保技術穩定;建置智慧機器人產業分類系統,依此做為機器人產業統計基礎,為國家在機器人管理及政策提供相關數據。 其中,特別的是除了促進性規範外,亦首度於法律提出機器人倫理道德的概念,賦予主管機關訂定與「機器人倫理道德憲章」(로봇윤리헌장)相關內容之義務。 所謂「機器人倫理道德憲章」,係指針對智慧機器人功能及其智慧化發展,規範製造和使用人員之指導方針,以防杜危險發生並避免機器人不利於人類生活品質。換言之,機器人倫理道德憲章可認為是針對智慧機器人開發、製造、使用上的準則,盼可用以防止因智慧機器人功能而衍生之社會損害。就此,韓國工商部曾擬定《機器人倫理道德憲章草案》,可參考如下: 第一條(目標)機器人倫理道德憲章目標係為人類和機器人共存共榮,並確認以人類爲中心的倫理規範。 第二條(人與機器人的共同原則)人類和機器人應當維護相互之間生命的尊嚴、資訊和工程倫理。 第三條(人類倫理)人類在製造和使用機器人時,必須使用良好的方法判斷和決定。 第四條(機器人倫理)機器人是順從人類命令的朋友或是協助者、夥伴,不得傷害人類。 第五條(製造商倫理規範)機器人製造商有義務製造維護人類尊嚴之機器人,同時,必須承擔回收機器人、資訊保護義務。 第六條(使用者倫理)機器人使用者應當尊重機器人爲人類的朋友,禁止非法改造和濫用機器人。 第七條(實施的承諾)政府和地方政府應實施有效措施,以體現《憲章》的精神[4]。 觀察《智慧機器人發展和促進法》內涵,富有藉重法律效果與效能引領智慧機器人產業發展之精神,企圖形成政府政策借助立法促成經濟層面活動向上發展。然而,隨智慧機器人技術逐漸深入社會,韓國旋即意識到人工智慧在權益維護、風險管控上仍有進一步補強之必要,進而提出《機器人基本法草案》,並開展韓國在機器人倫理道德、歸責原則之相關討論,以順應社會整體的變革。 (二)《機器人基本法草案》 如前所述,意識到人工智慧發展已然滲入日常生活,有必要在機器人普及化的社會接受過程中,應對各類問題預先防範。韓國國會議員遂於2017年7月19日提出《機器人基本法草案》(로봇기본법)以反映機器人發展趨勢與問題。 《機器人基本法草案》主要目的是為機器人融入社會過程中的政策方向、原則進行引導,以有助於機器人產業健全發展。是以,該法在風險控管部分,通過二類做法予以調控,一是建立倫理道德準則之原則、二是嘗試提出歸責原則以釐清相關應用所生之爭議。 一者,藉道德倫理界線之提出使產業更為允當運用人工智慧。借用產品生命週期之概念,分就設計、製造以及使用者責任三階段規範。在設計階段,著重於產品內部構造、軟體介面設計的安全性,另就不侵犯人權及社會利益上,強調預先從設計確保產品永續性、倫理性及使用上的安全性;在製造階段,則從遵法性、說明義務及產品維護修繕責任等,揭示製造商在產品製造、銷售應行之事項;最後,則從使用者角度,以應用階段各項自律、他律規範,明示遵法義務與道德倫理原則,並特別指明宜避免過度成癮。 次者,在責任分配與歸屬上,於現行法令無以適用情況下,允許受損害者得向機器人之銷售者或提供者求償。然而,為免製造商或銷售者過度承擔賠償責任之風險,亦設置免責條款,規定當產品因缺陷致使損害發生,而該缺陷係以當時技術水準所無法發現之情況,或是該缺陷是製造商遵守當時機器人法令所規定標準所肇致,則將免除製造商之損害賠償責任。 綜合前述,《機器人基本法草案》在倫理道德及責任分配歸屬的風險管控上,提出諸多可資參考之方式,然而在基本法審議過程中,韓國政府認為雖有必要管制風險,卻不宜過早以立法手段介入遏止創新,而未能通過韓國國民議會。 (三)韓國人工智慧國家戰略 雖然《機器人基本法草案》未能立法通過,然而韓國相關立法脈絡已展現除關注於促進智慧機器人產業發展外,在倫理道德、責任上的風險調控亦不可偏廢態勢,且從智慧機器人進一步聚焦於人工智慧。 2019年12月第53屆總理會議(국무회의)[5],韓國擬定涵蓋科學資通訊技術部在內所有部會共同推動之「人工智慧國家戰略」(AI 국가전략)作為橫跨經濟和社會的創新專案[6],以攻守兼備方式發展人工智慧。分從技術、產業、社會三方面著手,為韓國發展人工智慧半導體產業取得先機,進而拔得在相關領域的頭籌;次者,完備先進資通訊技術基礎設施,借力人工智慧積極轉型為新世代數位政府;其三,從教育扎根,建設人工智慧教育體系以培植相關領域專業人才;第四,秉持「以人為本」精神發展人工智慧,建立人工智慧倫理原則、擴張就業安全網保障勞工,使人工智慧所產生之效益可散發至社會各個角落。預計通過該戰略,將可在2030年壯大韓國之數位競爭力,使人工智慧經濟產值增長至4550000億韓圜(約3800億美元),提升國民生活品質[7]。 整體而言,該戰略建立基於技術的立法、以人為本的道德以及改善整體社會法律體系三者為核心。基於技術的立法,如《信用資訊法》修訂,允許假名化資料利用,以鬆綁人工智慧資料應用需求,並平衡隱私保障;以人為本的道德,像是參考國際間道德倫理之標準,推行「人工智慧道德標準行動計畫」(AI 윤리기준 및 실천방안 마련),加速研擬建立在安全、責任或是擔保上的規範[8];改善整體社會法律體系,包含修正《國民就業援助法》擴大就業安全網,透過保險、教育、就業支援等方式協助受人工智慧衝擊影響之勞工、《就業政策基本法》中研擬為人工智慧業務建立相應人才教育。三者之推動,除帶動人工智慧產業蓬勃發展外,也兼顧社會層面道德、權益保障。 貳、重點說明 一、以剛性立法手段推進產業發展 觀察韓國,其人工智慧發展態度係以鼓勵為重。主因在於對企業來說,採用新興科技應用或可能囿於法遵成本、研發投資耗費過鉅、相關領域人才稀缺等多重因素而有所疑慮。有鑑於前開問題,韓國以正面態度,在風險控管措施上,嘗試藉由法規手段解消人工智慧發展所面臨之問題,即在賦予政府確實制訂與推進人工智慧發展政策責任,使業者可預期政府態度;次者,設置法律作為行政機關提供產品安全開發與布建支援依據,確保科研能量技術的穩定;再者,藉由智慧機器人分類系統建立產業管理與統計基礎,俾利後續依統計數據進行決策。 至於權益保障、風險如何評價及規範,雖有論者倡議另制定《機器人基本法草案》彌補《智慧機器人發展和促進法》於法律內部體系權利價值詮釋上的缺陷,然經立法成本與當時技術成熟度之衡量,並未過早規範技術之發展。 二、借軟性規範措施型塑兼容並顧之環境 另方面,觀察韓國在面對人工智慧機器人時的應對方式,發現在促進發展上,韓國無不餘力地大力採用剛性立法手段,以鋪設技術、投資所需之基礎建設及支援。而就尚難定論之技術風險管控,像是倫理道德、歸責原則調控等,考量技術尚未臻成熟,實難以剛性立法方式加之管理,而有以政策方式先試先行之傾向,形塑具有包容彈性之環境,鼓勵人工智慧機器人產業之投入,並依此作為後續法規調適之基礎。 鑒於人工智慧機器人所涉領域之多元,誠然有必要以宏觀角度全盤檢視與調適相應之規範及措施。故而,韓國2019年底提出富含權益保障與經濟逐利精神之「人工智慧國家戰略」,並鏈結不同部會共司建立彈性包容人工智慧機器人產業之環境。 參、事件評析 綜觀上述,韓國面對人工智慧及機器人,對內,以剛性立法手段,先行鋪設智慧機器人產業發展之基礎,包含界定智慧機器人範圍、賦予行政機關訂定倫理規範等一定義務、設置行政支持法源依據、以分類系統規劃作為數據統計基礎進行決策等,以拉抬、激勵企業投入研發,促成經濟層面活動之擴散與發酵;對外,以軟性規範宣示韓國政府發展智慧機器人產業態度、吸引國際間產學研能量挹注,並同步促成內部社會法體制之調整,不難看出韓國政府的企圖與決心,且整體上已約略有鼓勵、促進逐漸轉變為管理層面意味。 在我國方面,亦已意識到人工智慧風險管理之重要性,立法委員並在2019年5月倡議《人工智慧發展基本法草案》希望以制定基本法之方式,從研究、開發乃至整合等,厚植我國人工智慧實力,並嘗試建立人工智慧開發準則與倫理原則。韓國前述有關人工智慧之規範作法,或許可茲我國借鏡,就促進人工智慧技術經濟層面效益之面向,可由政府擬定具實質效力之法規範推動之;就現尚難明確定位之倫理準則及風險控管,採用軟性規範方式,先行以具包容性之政策、指引等作法試行,以待日後技術臻至成熟穩定,再行考量轉化為立法管理之必要。 [1] Crawford, K. et al. The AI Now Report: The Social and Economic Implications of Artificial Intelligence Technologies in the Near-Term, AI Now, 2016, https://ainowinstitute.org/AI_Now_2016_Report.pdf (last visited May. 22, 2019) [2] Cassie Kozyrkov, What is AI bias?, https://towardsdatascience.com/what-is-ai-bias-6606a3bcb814 (last visited May. 22, 2019) [3] BBC, The real risks of Artificial Intelligence, http://www.bbc.com/future/story/20161110-the-real-risks-of-artificial-intelligence(last visited May. 22, 2019). [4] 김성원 선임,지능정보사회의 도래와 법·윤리적 과제- 인공지능기술의 발달을 중심으로 -, National Industry Promotion Agency(2017/11/15), p10. [5] 總理會議係韓國特有的系統,主要由總統、總理以及15位至30位不等之國務院成員共同組成,成員包含各部會之首長。主要職能是做為國家決策的機構,並協調政策或行政事務。詳細資料可參見:http://theme.archives.go.kr/next/cabinet/viewIntro.do。 [6] 〈정부, AI 국가전략 발표…”AI 반도체 세계 1위 목표”〉,Bloter,2019/12/17,http://www.bloter.net/archives/364678 (最後瀏覽日:2020/2/1)。 [7] 〈인공지능(AI) 국가전략 발표〉,과학기술정보통신부,2019/12/17,https://www.msit.go.kr/web/msipContents/contentsView.do?cateId=_policycom2&artId=2405727 (最後瀏覽日:2020/2/1)。 [8]〈인공지능 국가전략〉,관계부처 합동,2019/12,頁36-38。