歐盟「人工智慧法」達成政治協議，逐步建立AI準則
歐盟「人工智慧法」達成政治協議，
逐步建立AI準則
資訊工業策進會科技法律研究所
2023年12月25日
隨著AI(人工智慧)快速發展，在各領域之應用日益廣泛，已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act，以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構，並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1]，尚待正式批准。
壹、發佈背景
歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議，尚待正式批准。在法案普遍實施前之過渡期，歐盟執委會將公布人工智慧協定(AI Pact)，其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。
歐盟人工智慧法係歐盟執委會於2021年4月提出，係全球首項關於人工智慧的全面法律架構，該項新法係歐盟打造可信賴AI之方式，將基於AI未來可證定義(future proof definition)，以等同作法直接適用於所有會員國[2]。
貳、內容摘要
AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的，並尊重人類基本權利及歐盟價值觀，在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害，遵循以風險為基礎模式(risk-based approach)，即風險越高，規則越嚴格，現階段將風險分為：最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比，此次臨時協定主要新增內容歸納如下：
臨時協議確立廣泛域外適用之範圍，包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣，該協定規定不適用於研究和創新目的之人工智慧系統，也不適用於非專業原因之個人AI使用。
臨時協議針對通用AI(General purpose AI)[5]模型，訂定相關規定以確保價值鏈之透明度；針對可能造成系統性風險之強大模型，訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。
考量到人工智慧系統可用於不同目的之情況，臨時協議針對通用AI系統整合至高風險系統，並就基礎模型部分商定具體規則，其於投放市場之前須遵守特定之透明度義務，另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。
臨時協議針對違反禁止之AI應用，罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%，提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。
參、評估分析
在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素，如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議，係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果，對其他國家未來立法及規範有一定之指引效果。
此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義，確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務，間接擴大歐盟在人工智慧領域之管轄範圍，並對於人工智慧系統的定義縮小，確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管，並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣，仍需業界、科學社群、民間及其他利害關係人討論準則之制定。
面對AI人工智慧之快速發展，各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論，財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境，將持續觀測各國法令動態，提出我國人工智慧規範之訂定方向及建議。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023).
[2] European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023).
[3] Artificial intelligence act,P5-7, https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023).
[4] GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
[5] General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
2019年7月24日歐盟執行委員會公布保障歐洲安全之措施，其中針對網路安全部分，將以2017年宣布之網路安全措施為基礎，建立網路安全相關之研究與協調單位，以投資培植歐盟更強大和更具開拓性的網路安全能力。該研究與協調單位預計於歐盟範圍內，以成員國內660多個網路安全專家中心的專業知識基礎，建立一個相互聯繫的網路安全產業和研究系統。此舉有助歐盟及成員國積極推行網路安全產業政策，並為產業和公共部門面臨的網路安全挑戰提出突破性解決方案。建立的相關研究與協調單位分別為： 一、歐盟網路安全產業科技研究能力中心（The European Cybersecurity Industrial, Technology and Research Competence Centre）：此中心旨在培植網路安全能力社群，推動網路安全技術進程。並藉由分配補助金及執行採購來實踐數位歐洲及歐洲地平線計劃。 二、國家網路協調中心（Network of National Coordination Centres）：每個會員國提名一個國家協調中心，為國家級聯絡點，負責聯絡網路安全能力社群及歐盟網路安全產業科技研究能力中心。國家網路協調中心是受國家支持採取行動的守門人（gatekeeper），同時可以向國家、地方系統提供資金。 三、網路安全能力社群（The Cybersecurity Competence Community）：該社群為涉及網路安全技術的大型、開放及多樣化的組織。參與者有研究機構、供需產業雙方及國營部門。並為歐盟網路安全產業科技研究能力中心提供活動及工作計劃。
歐盟對其成員國、其他歐洲國家以及區域鄰國的創新績效進行比較分析並公布2017年歐洲創新計分板報告於2017年6月20日，歐盟對於歐盟成員國、其他歐洲國家以及區域鄰國的創新績效進行比較分析，並發布2017年度歐洲創新記分板(European Innovation Scoreboard, EIS)年度報告。它涵蓋歐盟成員國以及冰島、以色列、前南斯拉夫的馬其頓共和國、挪威、塞爾維亞、瑞士、土耳其和烏克蘭。在全球少數指標中，EIS也對澳大利亞、巴西、加拿大、中國、印度、日本、俄羅斯、南非、韓國及美國進行了評估。 EIS 2017排名與以前的版本不同，EIS 2017的測量框架由27個指標組成，區分4個主要類別的10個創新層面： 政策框架是創新績效的主要驅動力，涵蓋3個創新層面：人力資源、有吸引力的研究體系及創新環境。 投資包括公共及私人投資研究與創新，區分外部融資支持及內部資源投資。 創新活動吸取公司層面的創新工作，涵蓋3個方面：創新者、中間者及智慧財產權。 創新如何轉化為整體經濟效益之影響力：就業影響及銷售效應。 EIS顯示歐盟的創新績效繼續增長，特別是由於人力資源的改善、創新型環境、自有資源投資以及有吸引力的研究體系。而瑞典仍然是歐盟創新領導者，其次是丹麥、芬蘭、荷蘭、英國以及德國，創新指數比歐盟平均值高出百分之二十。立陶宛、馬爾他共和國、英國、荷蘭以及奧地利則是增長速度最快的創新者。在全球創新比較中，歐盟僅次於加拿大及美國，但韓國及日本正急起直追，而中國在國際競爭中是發展最快的國家。
GPL（General Public License，通用公共許可證）即將進行更新修訂FSF（ Free Software Foundation，自由軟體基金會）於日前公佈，將針對現行版本GPL Version 2進行更新修訂。由於GPL Version 2自1991 年使用至今未曾修改過，隨著軟體開發技術日新月異，新興網路應用議題亦不斷產生，故確時有必要更新修訂。FSF預定在2006年第一週會公布GPL v3草案，詳細說明每一條條文修改的原因及影響，並提供予IT產業、軟體使用者、以及和GPL v3有利害關係的各界人士，共同彙集多方的意見，以期獲得更廣大的效益。 然改寫GPL v3實屬不易。GPL是世界性的授權條款，但現今世界各國的著作權法與專利法等相關法令規範不一，再加上新興的網路應用技術與模式，GPL v3新規範應儘可能將上述要項考量納入增訂，以避免引發爭議；若是相關爭議順利解決的話，預料2007年年初就可將GPL v3擬訂完成。
美國加州網路中立法遭司法部提告美國加州州長Jerry Brown於2018年09月30日簽署該州的網路中立（Net Neutrality）Senate Bill 822法案，但美國司法部（Department of Justice，DoJ）隨即於同日對加州提起訴訟。DoJ指出Senate Bill 822法案牴觸聯邦政府於2018年對於網際網路採取解除管制之政策，該法案意圖阻撓聯邦政策的施行，有違美國憲法。 美國國會於1996年針對電信法（The Communications Act）制定「聯邦或州對網路低度管制（unfettered by Federal or State regulation）」之政策，美國聯邦通訊委員會（Federal Communications Commission，FCC）為符合該政策，於2002年發布命令，將寬頻網路接取服務列為資訊服務（information service），而美國不將資訊服務提供者以公共事業來看待並進行管理。雖然FCC於2015年就網路中立性訂立規則，要求網路服務提供者（Internet Service Provider）應平等處理所有資料，不得擅自降低流量速度、封鎖網站或服務，以確保任何人獲取資訊時不受不合理的限制。但FCC於2017年12月取消網路中立規定，並確保網際網路會在FCC之低度管制措施下，持續維持其自由與開放性。 DoJ及FCC均認為，網際網路本質上為跨州資訊服務，依據美國憲法第6條第2項規定，憲法、聯邦法律及美國對外條約為全國之最高法律，跨州之商務(interstate commerce)應屬聯邦管轄事項而非州管轄事項。因此，在聯邦政府已廢除網路中立性的情形下，且州政府沒有制定州際貿易規範的權限，則加州政府通過Senate Bill 822法案對網路立法監管，針對網路使用頒布違法且極端的法令，是企圖藉由Senate Bill 822法案破壞聯邦政府的規定，不當限制網路自由，與聯邦政府政策有所牴觸，此為違法及不利於消費者。故DoJ聲明其有責任捍衛聯邦政府的特權（prerogatives）以及維護憲法秩序。為此，DoJ起訴聲明為禁止加州執行Senate Bill 822法案，並請求法院判決Senate Bill 822法案無效。 雖然美國聯邦政府廢除網路中立性，但此政策受民主黨、Facebook、Amazon等著名大型科技公司及消費者的抨擊。因此，就DoJ起訴加州Senate Bill 822法案違法，法院是否認同DoJ所主張的牴觸美國憲法，以及美國對於網路中立性議題的後續發展，值得觀察。