歐盟「人工智慧法」達成政治協議，逐步建立AI準則
歐盟「人工智慧法」達成政治協議，
逐步建立AI準則
資訊工業策進會科技法律研究所
2023年12月25日
隨著AI(人工智慧)快速發展，在各領域之應用日益廣泛，已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act，以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構，並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1]，尚待正式批准。
壹、發佈背景
歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議，尚待正式批准。在法案普遍實施前之過渡期，歐盟執委會將公布人工智慧協定(AI Pact)，其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。
歐盟人工智慧法係歐盟執委會於2021年4月提出，係全球首項關於人工智慧的全面法律架構，該項新法係歐盟打造可信賴AI之方式，將基於AI未來可證定義(future proof definition)，以等同作法直接適用於所有會員國[2]。
貳、內容摘要
AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的，並尊重人類基本權利及歐盟價值觀，在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害，遵循以風險為基礎模式(risk-based approach)，即風險越高，規則越嚴格，現階段將風險分為：最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比，此次臨時協定主要新增內容歸納如下：
臨時協議確立廣泛域外適用之範圍，包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣，該協定規定不適用於研究和創新目的之人工智慧系統，也不適用於非專業原因之個人AI使用。
臨時協議針對通用AI(General purpose AI)[5]模型，訂定相關規定以確保價值鏈之透明度；針對可能造成系統性風險之強大模型，訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。
考量到人工智慧系統可用於不同目的之情況，臨時協議針對通用AI系統整合至高風險系統，並就基礎模型部分商定具體規則，其於投放市場之前須遵守特定之透明度義務，另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。
臨時協議針對違反禁止之AI應用，罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%，提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。
參、評估分析
在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素，如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議，係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果，對其他國家未來立法及規範有一定之指引效果。
此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義，確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務，間接擴大歐盟在人工智慧領域之管轄範圍，並對於人工智慧系統的定義縮小，確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管，並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣，仍需業界、科學社群、民間及其他利害關係人討論準則之制定。
面對AI人工智慧之快速發展，各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論，財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境，將持續觀測各國法令動態，提出我國人工智慧規範之訂定方向及建議。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023).
[2] European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023).
[3] Artificial intelligence act,P5-7, https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023).
[4] GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
[5] General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
- 美國聯網車監管制度與合規實務說明會
英國研究與創新總署（UK Research and Innovation, UKRI）於2026年5月18日公布「技轉共享辦公室」（shared Technology Transfer Office, Shared TTO）計畫成果，驗證透過跨校共享技術移轉與商業化專業服務，可協助研究規模較小或技轉資源有限的大學，提升研發成果商業化能力。Shared TTO並非指各校共享研發成果進行技術移轉，而是由多所大學共同使用智財管理、技術授權、衍生新創設立、法律諮詢、投資媒合及創業培訓等專業服務，以降低各大學重複建置技轉團隊成本，並提升研發成果運用效率。 該計畫於2024年11月至2025年4月執行，投入474萬英鎊，支持13項專案，串聯81個組織，如大學、律所、投資人、地方政府及醫院等。短短6個月內即促成6家衍生新創公司成立、推動323項商業化機會，並吸引逾850名學生及研究人員參與培訓，顯示Shared TTO有助加速研發成果商業化。 新創成果涵蓋工程、太空科技、永續時尚等領域，如Blast EcoShield開發防爆「活體牆」（living walls）技術、Circular Capital運用AI推動循環時尚、Frontier Space發展太空實驗室（SpaceLab）與太空生物製造平台（Space Biomanufacturing Platform）、Giving Hope推動母嬰支持服務、Reskinning Reality開發數位服裝技術，以及Voxshell開發自動化3D網格生成軟體。綜上，Shared TTO展現跨校共享技轉資源可有效提升成果商業化效率與衍生新創發展成效，為英國推動區域創新及成果落地的重要政策工具。
美國著作權局發布「具AI產出之著作註冊指引」，關鍵在人類智慧貢獻程度美國著作權局（US Copyright Office，USCO）於2023年3月16日頒布「具AI產出之著作註冊指引」（Copyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence），本指引之發布係由於近年美國著作權局時常收到人工智慧著作之註冊申請案，對於此類著作是否可以成功註冊，過去未有較明確之判斷準則，如此恐造成美國著作權體制之紊亂，著作權局遂發布本指引，以作為民眾申請註冊之著作包含利用AI創作內容時之指導依據。 本指引首先認定「著作人」之概念須為人類，此部分與美國憲法、美國著作權法及美國最高法院判例見解相同。 接著，本指引並描述到欲申請之著作，除前開之著作人須為人類外，人類須於該著作中傳達其原始精神理念（own original mental conception），不得為單純之透過機械運作所產生。惟此並非代表人類完全不得運用AI輔助創作，係取決於人類對該創作之創造性控制程度及該創作實際形成（Actually Formed）作者之傳統元素含量。 最後，本指引提出申請人於提出具AI產出著作時應提交之表格為標準表格（Standard Application），在創作者欄位中具體闡述人類作為作者之具體貢獻身份，且不能將AI列為作者或共同作者。至於在本指引發布前已提出之申請案，該指引提到申請人可以透過補充說明之方式，通知著作權局其著作中涉及AI產出部分，並就該部分聲明不專用，以符合新指引所要求之「揭露」。 綜觀以言，可以認定本指引之提出可作為著作人申請註冊時之遵循依據，初步解決過去未有AI著作申請註冊參考依據之弊病，然尚有許多細節待補充，且甚仰賴個案之判斷，惟本文認為未來隨AI科技之發展及廣泛利用，關「人類智慧」於著作貢獻程度更明確、更為具體之判斷標準勢必將應運而生，值得持續關注。
美國推動產業巨量資料(Big Data)新型應用分析--SunShot子計畫近年來，巨量資料(Big Data)狂潮來襲，各產業競相採用此種新型態模式，將充斥各領域之資料量，加以深度分析及集合、比對，篩選具價值性之各項資料。以美國為例，於2011年2月份正式啟動SunShot計畫，期透過聯邦政府的資源，加強推動不同領域之巨量資料分析，有利各領域之政府資源重整運用，以期使推動計畫更經濟效率且具競爭力。並且，美國政府更於2013年1月30日，宣布將挹資900萬元資助7項科專計畫，補助對象分別為: (1) SRI International; (2) 麻省理工學院(MIT); (3)北卡羅萊納大學 (Charlotte校區)； (4) Sandia 國家實驗室；(5) 國家再生能源實驗室；(6) 耶魯大學；(7) 德州大學奧斯汀分校，加強各領域推動及整合。 此項「巨量資料」參與計畫之研究團隊將與公私營金融機構(financial institutions)、事業單位(utilities)及州層級之行政機關(agencies)展開合作(partnership)，運用統計和電腦工具(statistical and computational tools)，解決產業面之難題(challenges)；同時，其將運用發展出之模型(Models)，測試分散全美不同地區領航計畫(pilot projects)創新研發之影響和規模。計畫中，美國政府亦將以200萬元的預算，分析數十年來的科學報告、專利、成本、生產等資料，期能拼湊出相關產業之全貌，加速發掘科技突破之方法並有效降低成本。以德州(Texas)為例，奧斯汀分校(UT Austin)研究團隊乃與六個不同事業單位(utilities)進行合作，研析經營所蒐集之資料(datasets)，以有效了解消費者的需求，提升太陽能未來安裝和聯結(installation and interconnection)之效率。 時值全球鼓勵產業轉型及資源整合，作為世界先進國家的美國，善用聯邦政府和高等學術研究機構之資源，進行整體產業之資料分析，殊值我國借鏡參考。
歐盟執委會提出「2050低碳經濟策略規劃藍圖」為邁向低碳經濟時代，建立歐洲成為具競爭力之低碳經濟體，歐盟執委會（European Commission）於2011年3月8日向歐洲議會（European Parliament）提出「2050低碳經濟策略規劃（A Roadmap for Moving to a Competitive Low-Carbon Economy in 2050）」，並設定2050年低碳總目標，宣示將透過加強低碳技術研究發展、推動能源效率使用等方式，降低對石化燃料依賴，並提昇區域內更多就業機會。 隨著近期中東與北非地區石油危機，原油價格節節高升，已嚴重影響歐洲國家每年能源支出經費，並降低未來各國經濟成長率。歐盟執委會認為，必須積極促進歐洲國家，經由投入科技研發、提昇能源效率，有效抑制不斷提昇的能源成本，推動歐盟邁向低碳經濟社會；並且，所設定目標及推動措施，倘若有所遲緩或推延，越晚投入將導致日後所需投入經費成本更為昂貴，悔不當初。「2050低碳經濟策略規劃」所設定之目標為，規劃透過各種符合成本效率（Cost-Efficient）措施及方法，推動歐盟區域內溫室氣體排放量至2030年降低40％、至2040年降低60％、至2050年降低80％（以1990年排放量為基準），達成低碳經濟願景目標。 歐盟執委會表示，未來應強化推動低碳技術之研究發展，促進未來更廣泛運用，並強調應更全面加強推動策略性能源科技研究計畫（Strategic Energy Technology Plan , SET-Plan），未來10年內歐盟將再額外增加50 billion歐元投資，加強推動能源科技相關研發工作，及未來可供運用之工具措施。 「2050低碳經濟策略規劃」中，詳細規劃推動步驟，並區分各大領域分別施行。以電力部門（Power Sector）領域為例，運用低碳技術、潔淨技術設備所產製電力，至2020年將達到降低45％--60％比例之排放量，到2050年，所有發電技術之溫室氣體排放量更將降低至可接近於0；而對於「工業部門」所設定目標，2050年達成降低80％之目標，對於「家庭及辦公建築」部份，設定2050年可降低90％之目標，而「運輸部門」則設定於2050年達成降低60％之目標。此外，歐盟執委會更指出投資「智慧電網（Smart Grid）」的重要性，將可促使「需求端（Demand-Side）」更具效率性，更廣泛且分散之電力調配中心，以及啟動運輸系統電力化之時代。 低碳經濟社會所帶來福祉，並可降低歐盟每年能源支出，及對於石化燃料進口依賴程度，也促成轉變改以低碳技術產製電力能源，作為可行的替代因應方案；以及，低碳經濟社會型塑推動，除了投入經費研發技術外，相關運用更須透過教育、訓練、推廣，廣泛使大眾接受且樂於使用新興技術，如此未來將可衍生種類與數量均會更多之就業機會，也有助益於經濟成長；此外，推動低碳經濟亦可改善生活品質及健康生活，未來實際效應可改善公共健康、減少醫療費用支出、及降低對生態環境消耗破壞，均屬良善效益。 然而，歐盟執委會這些推動措施，亦傳出有反對聲音。「歐洲商業（Business Europe）」團體就對外表示，他們反對「2050低碳經濟策略規劃」所設定的這些超高標準，他們認為相關推動措施，未來將會嚴重傷害歐盟境內企業發展，因為主要競爭者如中國、日本及美國，相較而言，均未設定這麼高的推動目標。未來歐盟執委會這些規劃藍圖是否落實達成，值得後續觀察。