歐盟「人工智慧法」達成政治協議，逐步建立AI準則
歐盟「人工智慧法」達成政治協議，
逐步建立AI準則
資訊工業策進會科技法律研究所
2023年12月25日
隨著AI(人工智慧)快速發展，在各領域之應用日益廣泛，已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act，以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構，並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1]，尚待正式批准。
壹、發佈背景
歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議，尚待正式批准。在法案普遍實施前之過渡期，歐盟執委會將公布人工智慧協定(AI Pact)，其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。
歐盟人工智慧法係歐盟執委會於2021年4月提出，係全球首項關於人工智慧的全面法律架構，該項新法係歐盟打造可信賴AI之方式，將基於AI未來可證定義(future proof definition)，以等同作法直接適用於所有會員國[2]。
貳、內容摘要
AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的，並尊重人類基本權利及歐盟價值觀，在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害，遵循以風險為基礎模式(risk-based approach)，即風險越高，規則越嚴格，現階段將風險分為：最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比，此次臨時協定主要新增內容歸納如下：
臨時協議確立廣泛域外適用之範圍，包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣，該協定規定不適用於研究和創新目的之人工智慧系統，也不適用於非專業原因之個人AI使用。
臨時協議針對通用AI(General purpose AI)[5]模型，訂定相關規定以確保價值鏈之透明度；針對可能造成系統性風險之強大模型，訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。
考量到人工智慧系統可用於不同目的之情況，臨時協議針對通用AI系統整合至高風險系統，並就基礎模型部分商定具體規則，其於投放市場之前須遵守特定之透明度義務，另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。
臨時協議針對違反禁止之AI應用，罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%，提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。
參、評估分析
在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素，如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議，係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果，對其他國家未來立法及規範有一定之指引效果。
此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義，確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務，間接擴大歐盟在人工智慧領域之管轄範圍，並對於人工智慧系統的定義縮小，確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管，並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣，仍需業界、科學社群、民間及其他利害關係人討論準則之制定。
面對AI人工智慧之快速發展，各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論，財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境，將持續觀測各國法令動態，提出我國人工智慧規範之訂定方向及建議。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023).
[2] European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023).
[3] Artificial intelligence act,P5-7, https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023).
[4] GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
[5] General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
日本總務省之實現車聯網社會研究會（Connected Car 社会の実現に向けた研究会，下稱車聯網研究會），於2017年8月4日公布研究成果。車聯網研究會指出未來車聯網將面對①遠距離操作、網絡攻擊之威脅；②資料（Data）真實性之威脅；③隱私權之保護等三大威脅。針對遠距離操作、網絡攻擊之威脅，在汽車端及網路端皆應提出防止威脅之策略；在確保資料真實性方面，需建立機制，以防止資料中途被篡改；未來在車輛雲端資料之應用，應以隱私權保護為前提，始促進車輛資料之利用及活用，以保護相關人之隱私權。 車聯網研究會在促進實現車聯網社會策略中，希望透過①聯網計畫（Connected Network プロジェクト）、②互聯資料計畫（Connected Data プロジェクト）、③互聯平台計畫（Connected Platform プロジェクト）等三個計畫，共同建立推廣實證平台，以確立及實證必要之技術，建立資料利用及活用之模式及環境，架構開放性合作模式，並確保隱私及安全性。進而建設高度可靠性之無線通信網路、透過創新產業和商業模式促進資料之利用、創新環境的發展，達到解決日本之社會問題、實踐便利與舒適之生活、國家競爭力之強化與確保等車聯網社會三大目標，最終落實安全、安心、舒適的車聯網社會。
國際唱片協會發布標準，規範AI作品於音樂排行榜中之資格2026年7月，國際唱片協會（International Federation of the Phonographic Industry, IFPI）發布新聞稿，採納由各大唱片公司共同提出之生成式AI音樂進入官方榜單資格之全球標準。該標準明確劃分人類引導創作以及純AI生成或未授權AI工具作品，以此防範機器人之流量操作。 依據該標準，音樂作品若欲進入音樂排行榜，必須同時符合以下條件： 1. 合法授權：所使用之生成式AI工具必須取得授權且合法，禁止使用未獲授權之侵權訓練模型。 2. 人類實質創作：音樂必須是人類創作為主，得有AI輔助但不得為純AI生成之作品。 3. 無操縱疑慮：作品流量須為真實，且榜單資料應無人為或機器操縱。 此外，作品亦須遵守著作權及肖像權相關法規，符合AI服務條款，並配合串流平台之AI標示，使消費者能明確了解作品是否為純AI生成或經AI輔助之作品。 IFPI首先將此標準套用於其在中南美洲、中東、非洲及東南亞直接管理之官方音樂榜單，並同時與全球之國家級音樂/唱片協會合作，將該標準擴展至20多個官方榜單系統。此標準反應音樂產業界對音樂著作權保護及資料真實性之重視，並於全球範圍內劃定明確界線。 目前，IFPI之規範已逐步落實於部分官方音樂榜單實務中，如澳洲唱片業協會（Australian Recording Industry Association）即已跟進，要求所提交之音樂若有使用AI須標示使用比例，並禁止純AI製作音樂作品進入其榜單。韓國音樂著作權協會（Korea Music Copyright Association, KOMCA）亦於8月初提出禁止純AI生成音樂申請著作權登記，並曾一度頒布人類實質參與之AI輔助音樂登記，隨後因國會及主管機關認為該措施仍缺乏社會共識且牽涉著作權法效力故提出修正建議，KOMCA即於8月下旬決議撤銷該新措施，暫緩相關受理。
產學合作的推動-以株式會社東京大學TLO為例-產學合作的推動 -以株式會社東京大學TLO為例- 資策會科技法律研究所 法律研究員 林思妤 105年07月12日 壹、前言 我國政府日漸重視產學合作，各部會也相繼推出各項產學合作研究計畫及提供各式獎補助金方案，供學研單位及產業界申請，期能使學界的研發成果符合產業界的需求，產業界再將該研發成果的運用發揮至最大效益，成為國家經濟發展的潛能[1]。當中，大學的育成、技轉中心扮演著重要角色，其業務包含協助新創事業的成立以及管理研發成果的授權與移轉。而鄰近於我國的日本，以東京大學為例，其不僅有校內的產學協創推進本部（The Division of University Corporate Relations，DUCR）（以下簡稱DUCR）[2]，支持著東京大學與企業之間的共同研究，也有因應文部科學省（相當於我國教育部）推動國立大學法人化相關政策[3]而設立的株式會社東京大學TLO（Technology Licensing Organization）（以下簡稱東大TLO），促進東京大學研發成果的商品化[4]，在這樣校內、外組織長期合作下，東大TLO及DUCR皆對大學的研發成果有著深入的認識，針對每種研發成果安排合適的運用方式，使東京大學在研發成果商業化上有著亮眼的成績。本文將介紹東大TLO的組織及業務範圍，以供我國相關單位參考。 貳、株式會社東京大學 TLO的發展與運作 日本大學所設立的技術移轉中心TLO是根據1998年10月所制定的「大學技術移轉促進法」（「大学等における技術に関する研究成果の民間事業者への移転の促進に関する法律」）所設立的[5]。該法明定TLO為法人組織[6]，可為股份有限公司型態，對外公開發行股票，TLO主要工作為：研發成果之技術評鑑、接受國有研發成果之專屬授權、向經濟產業省的特許廳（相當於我國智慧財產局）提出專利等智慧財產權申請、提供技術資訊予私人企業、回饋一定比例之技術移轉效益予原研發單位。此外，推動大學、研究單位之創新公司（Start-up Company）或衍生公司（Spin-off Company），促使大學、研究機構設立創業育成中心（Incubator），提供新設公司必要資金，擴展研究機構與私人企業間之合作計畫等，皆屬TLO的重要任務[7]。 一、東京大學百分之百持股的技術控股股份有限公司 1998年8月3日，東京大學根據「大學技術移轉促進法」的宗旨自發性合資，以2000萬日圓的資本額成立「先端科学技術インキュベーションセンター」（Center for Advanced Science and Technology Incubation，CASTI）[8]，而CASTI就是東京大學的TLO，係屬法人組織，負責東京大學技術授權的對外窗口。2004年以前，因為日本國立大學不具法人身份，故校內研發人員的研發成果，歸私人而非校方所有，如何運用該研發成果校方難以干涉。2004年4月，因應「國立大學法人法」[9]的制定，CASTI保留股份有限公司的身份，正式編納入東京大學組織中，更名為株式會社東京大學TLO（TODAI TLO. Ltd.）[10]，是東京大學唯一百分之百持股的技術控股股份有限公司[11]。東大TLO藉由技術移轉扮演著學術界以及產業界間仲介橋樑任務，將大學及研究人員之研發成果進行智慧財產權信託[12]與專利申請等事務，將東大本身擁有的技術移轉至民間企業。透過技術移轉開創新產業目標，並將所得之收入再投入研發資金並回饋予大學，使大學之研發成果成為知識循環以及創新原動力[13]。 二、東大TLO的業務範圍 國立大學法人化後，教授的研發專利權歸屬校方而非教授本人，東大TLO會先與校方簽約，再代表東京大學與產業界洽談專利授權事宜。東大TLO一方面協助東大申請校內研發成果的專利權，依校方立場，判斷其是否具申請價值，並引導研發人員修整其專利申請方向，另一方面主動向企業界推銷校方公佈的專利，並將企業提出的需求意見整理供校內人員參考。 詳言之，東京大學研發產出之專利申請、取得及授權係由校外組織的東大TLO與校內組織DUCR協同運作完成，其處理流程為：（一）東京大學研究人員提出發明揭露給DUCR 作初步審查；（二）初步審查通過後發明揭露由DUCR轉給東大TLO；（三）東大TLO 與研究人員面談研議發明內容之專利性（Patentability）與市場性（Marketability）；（四）與研究人員面談後，東大TLO針對發明內容之專利性與市場性自為調查；（五）東大TLO 根據面談與調查結果提出專利申請建議給DUCR；（六）DUCR 決定是否續行專利申請；（七）東大TLO再聘請外部專利事務所進行專利申請；（八）專利申請提出後，東大TLO 即可著手進行授權作業[14]。東大TLO目前共有25位成員負責其業務。 另外，校內發明人創立新事業的過程中，資金的來源、人員的組成或創立的地點，東大TLO不會介入。但是涉及使用校內研發技術的部分，就必須透過東大TLO協助申請專利之後，再授權給發明人所開創的新事業[15]。 三、東大TLO享有的特別措施 日本的技術移轉中心TLO，因TLO本身「是否歸屬大學」分為承認型TLO以及認定型TLO。承認型TLO為大學所創設的技術移轉中心，係由大學同時向文部科學省及經濟產業省提出申請[16]。承認型TLO具申請獎補助金之資格，得接受政府各類獎助措施，且研發成果所有權移轉至TLO。認定型TLO則不屬大學機構所有，無法提出部分獎補助金之申請，但協助技術移轉之角色不變。再者，承認型TLO又根據其「存在方式」分為校內及校外TLO[17]；東大TLO即是承認、校外型的TLO。 而承認型TLO在「大學技術移轉促進法」、「產業技術力強化法」[18]以及「國立大學法人法」的規定下，有多項特別措施[19]，亦即東大TLO享有的特別措施。例：專利費用的減免[20]、專利處分的自主[21]、可獲國立大學法人出資[22]、信託業務的實施[23]及資金借款債務保證[24]，相信這樣的特別措施是有助於東大TLO將研發成果商業化的。 東大TLO自1998年運作至今，已完成了3,549件的技術移轉契約，達到約61億日圓的收入[25]，特別是2013年時，因為PeptiDream Inc.上市（藥物研發公司），使得該年度授權金收入達到將近7億日圓[26]。 參、評析 由東大TLO的運作發展觀之，可了解到產學合作的推廣，要注重學研單位及產業界之間的訊息流通，研發成果才有商品化的潛力。執行上，東京大學藉由校內DUCR對研發成果做出初步審查，佐以校外東大TLO對於技術移轉市場的專業判斷力，扮演著媒合的角色，使授權案件數量持續增長。更重要的是，政府對於設置TLO的支持與鼓勵，不僅放寬了限制，還給予多項特別措施，讓日本TLO有著穩定的發展，目前日本共有37個享有特別措施的承認型TLO[27]。 反觀我國，縱使根據經濟部於今年4月發佈的函釋[28]，國立大學可以擔任公司發起人，可以設置像東大TLO這樣的智慧財產研發成果管理公司，但卻受「國立大學校務基金設置條例」的規定，校方必須以自籌收入作為設立的資金來源[29]，無法將其從政府獲得的補助用於成立該類型公司。再者，若一國立大學將其因政府補助而取得的技術，固定交由其自身設立的TLO，是否仍適用現行的政府採購法等。總而言之，我國國立大學已有資格設立像東大TLO這樣的技術控股公司，但是相關的配套措施、因應機制及相關規範的調適仍待政府引領規劃。 [1] 經濟部中小企業處在各大專院校以及研究機構成立中小企業創新育成中心；科技部在各校成立技術移轉中心；教育部推出產學合作中心，為的都是促進產學合作。 [2] 日本東京大學産学協創推進本部DUCR，http://www.ducr.u-tokyo.ac.jp/（最後瀏覽日：2016/05/05）。 [3] 日本文部科學省國立大學法人化相關政策簡介，http://www.mext.go.jp/a_menu/koutou/houjin/03052704.htm，(最後瀏覽日：2016/06/27)。 [4] 株式會社東京大學TLO(TODAI TLO Ltd.)，http://www.casti.co.jp/en/#sect01 （最後瀏覽日：2016/05/04）。 [5] 「大學技術移轉促進法」（Act to Facilitate Technology Transfer from Universities to the Private Sector ），1998年，http://www.japaneselawtranslation.go.jp/law/detail/?ft=2&re=02&dn=1&yo=universities&x=0&y=0&ia=03&ky=&page=2 （最後瀏覽日：2016/5/4）。 [6] 日本「大學技術移轉促進法」第二條明定多項技術意轉組織成立方式，包含資金規模與公司人數（條文全文請參考前註連結）。 [7] 李素華，「日本施行大學及研究機構技術移轉促進法」，科技法律透析，1999年5月15日。 [8] Taking new challenges-RCAST historical Facts，http://www.rcast.u-tokyo.ac.jp/about/history/index_en.html（最後瀏覽日：2016/5/4） [9]国立大学法人法，2003年7月16日， http://law.e-gov.go.jp/htmldata/H15/H15HO112.html （最後瀏覽日：2016/06/29）。 [10] 林秉毅，論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」，2003年，頁3（肆、案例分析）。 [11]株式會社東京大學TLO(TODAI TLO Ltd.)，“TLO stands for Technology Licensing Organization, and TODAI TLO, the only wholly-owned subsidiary of the University of Tokyo, acts as a contact point for industry to access technologies developed at the University of Tokyo.” http://www.casti.co.jp/en/，（最後瀏覽日：2016/06/28）。 [12] 根據日本信託業法第52條，承認型TLO(東大TLO)得為信託業者。 [13]有鑒於TLO之特殊性，其不僅在組織型態上不限於股份有限公司，也不要求其必須使用商號，同時對於董事之兼職或主要股東之限制等規定亦均無適用餘地。（李智仁，「從日本經驗談智慧財產權信託與技術移轉問題」，銘傳大學法學論叢，7期，2007年6月，頁98。） [14] 經濟部中小企業處，「行政院所屬機關科長級以上跨領域科技管理研習國外專題報告」，日本東京大學智財管理、技轉與產學合作模式，2013年11月，頁27-28，http://goo.gl/jzEviM（最後瀏覽日：2016/5/5）。 [15] 林秉毅，論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」，2003年，頁10（肆、案例分析）。 [16]「特定大学技術移転事業の実施に関する計画承認実施要綱」（2008年最後修訂）第2條第1項：「法第四条第一項の規定に基づき実施計画の承認を受けようとする事業者は、様式第一による申請書を文部科学大臣及び経済産業大臣に提出するものとする」。 [17] 林秉毅，論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」，2003年，頁35~37。 [18]「産業技術力強化法」Industrial Technology Enhancement Act(Tentative translation)，2000年4月發佈，http://www.japaneselawtranslation.go.jp/law/detail/?ft=2&re=02&dn=1&yo=%E5%BC%B7%E5%8C%96&x=0&y=0&ia=03&ky=&page=3 （最後瀏覽日：2016/06/29）。 [19] 日本特許廳，特許料等の減免制度，http://www.jpo.go.jp/tetuzuki/ryoukin/genmensochi.htm (最後瀏覽日：2016/5/4)。 [20] 大學等技術移轉促進法第8條，承認TLO第1年到第10年的專利費得減免二分之一。 [21] 產業技術力強化法第19條，政府委託研究成果由大學取得之專利權，讓售（讓與）或授權他人實施時，不必經過國家認可。 [22] 國立大學法人法蒂22條，承認TLO可從國立大學法人獲得出資。 [23] 信託業法蒂52條，承認TLO實施信託業務時，不需要取得內閣總理大臣之執照。 [24] 大學技術移轉促進法蒂6條，承認TLO所需要的資金借款，可受到獨立行政法人中小企業基礎整備機構的債務保證。 [25] 株式會社東京大學TLO(TODAI TLO Ltd.)，Licensing Track Record，http://www.casti.co.jp/en/about/results.html (最後瀏覽日：2016/06/29)。 [26] 科技部中部科學園區管理局盧科員素璧日本考察報告，日本筑波科學城、相模原育成中心招商及產學合作研討會，2015年4月7日。 [27] 日本特許廳，承認、認定TLO（技術移轉機關）一覽，https://www.jpo.go.jp/kanren/tlo.htm（最後瀏覽日：2016/06/29）。 [28]經濟部函釋，國立大學可以擔任公司發起人，2016年4月19日，https://gcis.nat.gov.tw/elaw/query/ConSearchRLT.jsp?CONS_CD=8793 （最後瀏覽日：2016/06/29）。 [29]國立大學院校校務基金設置條例第10條第1項：「為確保校務基金永續經營，並提升其對校務發展之效益，國立大學校院於提出年度投資規劃並經管理委員會審議通過後，得投資下列項目：一、存放公民營金融機構。二、購買公債、國庫券或其他短期票券。三、投資於與校務發展或研究相關之公司及企業，除以研究成果或技術作價無償取得股權者外，得以自籌收入作為投資資金來源。四、其他具有收益性及安全性，並有助於增進效益之投資。」
英國政府將設置兩個新的網路安全機關，以維護國家網路安全英國政府在考量保護政府機關及民眾免於網路安全之威脅下，設置了網路安全辦公室(Office of Cyber Security，OCS)及網路安全營運中心(Cyber Security Operations Centre，CSOC)兩個新的網路安全機關，並將於2010年3月正式運作。同時，內閣辦公室(Cabinet Office)發出聲明表示，英國政府將網路安全訂為21世紀政府的安全防護重點，並認為透過設置這兩個新的機關協助維護國家安全，將是達成這個目標的重要步驟。 在英國政府的規劃下，OCS設於內閣辦公室下，負責提供政府跨部會的資訊安全策略，並整合協調政府部門間網路安全之工作；CSOC則是設置於英國政府通信總部下(Government's Communications Headquarters，GCHQ)，負責有效的監測網路空間之健全性並針對緊急事件提出應變措施、瞭解攻擊英國政府及使用者之技巧、提供對於企業及大眾有關網路安全風險應變之忠告與建議。內閣辦公室也表示，OCS將與移民署(Home Office)及警察局長協會(Association of Chief Police Officers，ACPO)合作，盡快制訂出有關防範網路犯罪之相關策略。 英國政府肯認網路安全對於政府在安全防護上的挑戰。因此內閣辦公室強調，網路安全防護策略之整合是重要的，其將透過企業，國際合作伙伴及民眾的力量，藉由專業知識及能力的提升、以及更為完善的策略，降低安全風險及發掘安全防護機會，發揮英國在網路安全防範之優勢。