歐盟「人工智慧法」達成政治協議,
逐步建立AI準則
資訊工業策進會科技法律研究所
2023年12月25日
隨著AI(人工智慧)快速發展,在各領域之應用日益廣泛,已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act,以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構,並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1],尚待正式批准。
壹、發佈背景
歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議,尚待正式批准。在法案普遍實施前之過渡期,歐盟執委會將公布人工智慧協定(AI Pact),其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。
歐盟人工智慧法係歐盟執委會於2021年4月提出,係全球首項關於人工智慧的全面法律架構,該項新法係歐盟打造可信賴AI之方式,將基於AI未來可證定義(future proof definition),以等同作法直接適用於所有會員國[2]。
貳、內容摘要
AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的,並尊重人類基本權利及歐盟價值觀,在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害,遵循以風險為基礎模式(risk-based approach),即風險越高,規則越嚴格,現階段將風險分為:最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比,此次臨時協定主要新增內容歸納如下:
臨時協議確立廣泛域外適用之範圍,包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣,該協定規定不適用於研究和創新目的之人工智慧系統,也不適用於非專業原因之個人AI使用。
臨時協議針對通用AI(General purpose AI)[5]模型,訂定相關規定以確保價值鏈之透明度;針對可能造成系統性風險之強大模型,訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。
考量到人工智慧系統可用於不同目的之情況,臨時協議針對通用AI系統整合至高風險系統,並就基礎模型部分商定具體規則,其於投放市場之前須遵守特定之透明度義務,另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。
臨時協議針對違反禁止之AI應用,罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%,提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。
參、評估分析
在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素,如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議,係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果,對其他國家未來立法及規範有一定之指引效果。
此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義,確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務,間接擴大歐盟在人工智慧領域之管轄範圍,並對於人工智慧系統的定義縮小,確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管,並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣,仍需業界、科學社群、民間及其他利害關係人討論準則之制定。
面對AI人工智慧之快速發展,各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論,財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境,將持續觀測各國法令動態,提出我國人工智慧規範之訂定方向及建議。
本文同步刊登於TIPS網站(https://www.tips.org.tw)
[1] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023).
[2] European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023).
[3] Artificial intelligence act,P5-7, https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023).
[4] GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
[5] General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
2024年1月29日,加州立法機關提出2020年加州消費者隱私法(California Consumer Privacy Act of 2020)之修正案,限制企業出售、分享、使用及揭露18歲以下消費者的個人資料。 2020年加州消費者隱私法旨在保護消費者之個人資料相關權利。依現行條文,企業向第三方出售、分享消費者個資前,應向消費者發出通知。而消費者有權拒絕出售、分享其個資,即便消費者曾經同意,亦有權隨時要求企業停止出售、分享行為。現行條文尚禁止企業在明知消費者未滿16歲的情況下,出售或分享消費者個資。除非年滿13歲消費者本人授權,或未滿13歲消費者父母授權,企業方可為之。 然該法修正案調整了前述條文,改為禁止企業在明知消費者未滿18歲的情況下,出售或分享消費者個資,除非企業取得年滿13歲消費者本人之授權,或取得13歲以下消費者父母之授權。 加州消費者隱私法修正案亦針對未成年人個資的使用與揭露增設限制。依現行條文,消費者有權限制企業只能在提供商品、服務的必要範圍內使用其敏感個資。若企業欲對敏感個資為原定目的外之使用或揭露、或敏感個資可能被用於或揭露予第三方,企業應向消費者發出通知。而消費者有權限制或拒絕企業之使用、揭露行為。而後該法修正案在同條增加未成年人個資使用、揭露相關規範,規範企業不得使用、揭露18歲以下消費者個資。除非年滿13歲消費者本人同意,或是未滿13歲消費者父母同意企業為之。 若修正案通過,再配合現行條文於行政執行(Administrative Enforcement)章節之處罰規定,將能有效擴大該法對未成年人的保護。該修正案亦以條文要求加州隱私保護局(California Privacy Protection Agency)在2025年7月1日前,廣泛徵求公眾意見並調整相應法規,以進一步實現該法目的。
新加坡因應AI新興技術發展發布《國家人工智慧戰略2.0》更新版,以強化國家競爭力與技術主權新加坡於今(2026)年5月20日發布《國家人工智慧戰略2.0》(Singapore National AI Strategy 2.0, NAIS2.0)更新版。由於AI發展快速(多模態模型、AI代理),2023年12月發布的NAIS2.0並無法因應變化,於是新加坡在兩年半後就NAIS2.0的內容進行更新,並針對優先事項調整,提出十大「賦能因素」(Enablers)作為滿足新加坡「為公共福祉運用AI」願景的達成手段。十大賦能因素可分為以下三大支柱: 一、活動驅動者(Activity Drivers):賦能因素包括「產業」、「政府」與「研究」,其定位在於目標設定與需求創造,透過「國家AI任務」確立產、官、研領域的核心課題,並鼓勵全球人才針對相關問題進行研發與創新。 二、人才與社群(People & Communities):賦能因素包括「人才」、「能力」與「生態系統整合」,其目標在於執行與連結,透過培育AI領域專業的雙語人才,以強化國際合作,提供研發創新所需的專業技術與支持環境。 三、基礎設施與環境(Infrastructure & Environment):賦能因素包括「算力」、「資料」、「信任環境」以及「思想與行動領導者」,其目的作為AI技術發展的重要基礎,提供AI發展充足的算力、資源及完善的信任治理框架,確保 AI 應用能在安全環境下被大規模部署。 此外,為了十大賦能因素的推動,新加坡於今(2026)年2月成立的「國家人工智慧委員會」(National AI Council, NAIC)將會作為國家級的統籌單位,確保NAIS2.0更新版可以落實與推動。 綜上,NAIS2.0更新版作為AI新興技術的治理調適,透過優先議題的規劃安排,將AI技術問題上升到國家競爭力、技術主權與國家安全層面,並從國家治理、人才培育到基礎設施的全方位調整以建構新加坡的AI戰略藍圖。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/)
日本政府將於東京都及愛知縣成立「自駕車實證一站式中心」日本政府於2017年9月4日所召開之國家戰略特區區域會議(下稱戰略區域會議),決定由政府、東京都及愛知縣,共同成立「自駕車實證一站式中心」,協助企業及大學之自駕車相關實證研究。在自動駕駛實驗開始前,中心接受道路交通法等各程序相關諮詢,必要時可將相關程序以其他方式置換,將複數程序整合為一,推動相關實驗。 戰略區域會議並決定將窗口設置於東京都及愛知縣,欲進行實驗之企業可至前述窗口諮詢,東京都及愛知縣應與相關省廳及所管轄之警察、交通部門進行協調,並將所需之資訊彙整後回覆予企業,如此一來,企業可減輕實驗前繁瑣程序所帶來之負擔,進而降低啟動實驗之門檻。 東京都小池百合子知事於會後向記者們表示「自駕系統於汽車產業中,已是國家間之競爭」,且東京都將致力於「沙盒特區」體制之推動,於必要時可暫時停止相關現行法規之限制。愛知縣大村秀章知事則期待「透過實證實驗累積技術,促使愛知縣能維持引領世界汽車產業聚集地之地位」。 針對上述特區的設置,未來實際落實情況以及法規排除作法與範圍,值得我國持續投入關注。
印度電力部公布「綠色氫能政策」,擬透過政策誘因建立綠氫產業鏈印度電力部(Ministry of Power)於2022年2月17日公布「綠色氫能政策」(Green Hydrogen Policy),宣告未來擬透過稅制、費用等誘因,建立綠色氫能產業鏈,以達到印度於COP26高峰會所承諾之減碳目標。 有鑑於綠色氫能是直接由再生能源電力所產生,故其相較於灰色氫能(註:由石化過程所產生之氫能)及藍色氫能(註:經碳封存之灰氫)而言,擁有更低之碳排放,有助於印度於COP26高峰會所承諾之減碳目標。然於技術或經濟層面而言,綠氫成本因為其產生、運輸、儲存過程要求相當高之費用以及成本,故遲遲無法普及,印度電力部為增進業者建立氫能產業鏈之經濟誘因,於2月17日公布前揭政策,以為因應。 印度電力部前揭政策,擬針對用地、電力市場等法規進行調適,相關法規調適重點如下: 定義綠色氫能為「直供」或「轉供」再生能源電力電解所得之氫能,也包含生物質能所生產之氫能。 於2025年6月30日前營運之綠色氫能生產業者,可免除25年之州際電力傳輸費用。 前揭綠色氫能生產業者,其所使用之電力可以是就地自再生能源發電設備取得(co-located),也可以是透過電力傳輸自其他再生能源發電設備所取得,不論該綠色氫能業者是否實際營運再生能源發電設備。 綠色氫能生產設備可被視為再生能源發電設備,被設置在相關用地上,並且,將開放綠色氫能設備設置於商港區域,以利綠氫出口。 因生產氫能所消耗或購買之再生能源電力,可計入RPS或RPO(Renewable Purchase Obligation)義務容量當中。 各州輸配電業,應允許綠色氫能生產業者加入電力交易市場。 承上,綠色氫能生產業者可進入餘電交易(banking)市場,並且餘電交易手續費應不超過「前一年度再生能源FIT價格」以及「當月日前交易市場之平均交易價格」間之差額。以避免氫能業者因經濟理由而被排除於餘電市場外。 但不論如何,對於印度而言,綠色氫能還只是發展初期階段,目前綠色氫能價格為每公斤3至6.5美元,而印度政府目標是於2030年將其降至1美元。對於大量仰賴能源進口之印度而言(85%石油及53%天然氣為進口),綠色氫能對於該國之能源自主有著相當重要的角色,因此印度政府將不餘遺力發展氫能。