歐盟「人工智慧法」達成政治協議，逐步建立AI準則
歐盟「人工智慧法」達成政治協議，
逐步建立AI準則
資訊工業策進會科技法律研究所
2023年12月25日
隨著AI(人工智慧)快速發展，在各領域之應用日益廣泛，已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act，以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構，並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1]，尚待正式批准。
壹、發佈背景
歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議，尚待正式批准。在法案普遍實施前之過渡期，歐盟執委會將公布人工智慧協定(AI Pact)，其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。
歐盟人工智慧法係歐盟執委會於2021年4月提出，係全球首項關於人工智慧的全面法律架構，該項新法係歐盟打造可信賴AI之方式，將基於AI未來可證定義(future proof definition)，以等同作法直接適用於所有會員國[2]。
貳、內容摘要
AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的，並尊重人類基本權利及歐盟價值觀，在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害，遵循以風險為基礎模式(risk-based approach)，即風險越高，規則越嚴格，現階段將風險分為：最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比，此次臨時協定主要新增內容歸納如下：
臨時協議確立廣泛域外適用之範圍，包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣，該協定規定不適用於研究和創新目的之人工智慧系統，也不適用於非專業原因之個人AI使用。
臨時協議針對通用AI(General purpose AI)[5]模型，訂定相關規定以確保價值鏈之透明度；針對可能造成系統性風險之強大模型，訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。
考量到人工智慧系統可用於不同目的之情況，臨時協議針對通用AI系統整合至高風險系統，並就基礎模型部分商定具體規則，其於投放市場之前須遵守特定之透明度義務，另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。
臨時協議針對違反禁止之AI應用，罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%，提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。
參、評估分析
在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素，如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議，係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果，對其他國家未來立法及規範有一定之指引效果。
此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義，確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務，間接擴大歐盟在人工智慧領域之管轄範圍，並對於人工智慧系統的定義縮小，確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管，並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣，仍需業界、科學社群、民間及其他利害關係人討論準則之制定。
面對AI人工智慧之快速發展，各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論，財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境，將持續觀測各國法令動態，提出我國人工智慧規範之訂定方向及建議。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023).
[2] European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023).
[3] Artificial intelligence act,P5-7, https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023).
[4] GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
[5] General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
隨著英國國家健康服務（National Health Service, NHS）的改革，英國於去（2012）年3月27日通過衛生和社會照護法（The Health and Social Care Act 2012）。當中一項主要的變革即是成立衛生與社會照護資訊中心（The Health and Social Care Information Centre, HSCIC）作為醫療健康資料的專責機構。而這樣的變革，也影響過去病歷資料的蒐集、分享和分析方式。依據衛生和社會照護法的規定，HSCIC若受到衛生部長（Secretary of State for Health）指示、或來自照護品質委員會（Care Quality Commission, CQC）、英國國家健康與臨床卓越研究院（National Institute for Health and Clinical Excellence, NICE）、醫院監管機構Monitor的命令要求時，在這類特定情況之下，可以無需尋求病患同意，而從家庭醫師（GP Practice）處獲得病患的個人機密資料（Personal Confidential Data, PCD）。 今(2013)年3月獲NHS授權， 由HSCIC於6月開始執行的care.data服務，即是依據前述立法所擬定之方案。care.data藉由定期蒐集醫療照護過程中的相關資料，對病患於國內所為的各項健康和社會照護資訊（例如病患的住院、門診、意外事故和緊急救護記錄）進行具延續性之連結。以提供即時、正確的NHS治療和照護資訊給民眾、門診醫師和相關部門之官員，進而達到care.data所設定的六項目標，支援病患進行治療的選擇、加強顧客服務、促進資訊透明性、優化成果產出、增加問責性，並驅動經濟成長。 然而，由於care.data是以英國民眾就醫行為中，屬於基礎醫療的家庭醫師（General Practitioner, GP）系統為基礎，所提取的資料包括家族歷史、接種疫苗、醫師診斷、轉診記錄、生理指標，以及所有NHS處方。其次，care.data在進行初級和次級資料連結時，將會透過NHS號碼、生日、性別和郵遞區號，這四項可識別資料的比對。因此雖然care.data在涉及敏感性資料時會加以排除，但此項服務仍引起社會上相當大的爭議。包括部分醫師、隱私專家和的社會團體皆提出質疑，質疑care.data是否有充分告知病人、HSCIC所宣稱的匿名性是否足夠、此項服務對醫病關係的衝擊、該服務所宣稱的資料分享退出機制（opt-out）並未妥善等。 care.data是NHS所推出的創新資料現代化服務，但同時也涉及病患隱私權保護之議題。反觀我國近來所推動的醫療健康資訊加值再利用政策，英國的案例值得我們持續觀察其發展。
中國大陸國務院於2014年11月19日通過其《促進科技成果轉化法修正案（草案）》，並將提請全國人大常委會審議中國大陸國務院常務會議於2014年11月19日通過其《促進科技成果轉化法修正案（草案）》，並將提請全國人大常委會審議。本次修法重視「國家制定政策，充分發揮市場在科技成果轉化中的決定性作用，建立科技成果轉化市場導向機制和利益分配機制」，其中明文規定中國大陸國務院和地方各級人民政府應當加強財政、稅收、產業、金融、政府採購等政策，以強化科技成果轉化相關活動，推動科技與經濟結合，加速科學技術進步，實現創新驅動發展。 按中國大陸《促進科技成果轉化法》係於1996年10月1日施行，歷經2007年之修訂，共計6章37條。本次通過的修正草案，增加至9章58條，其中保留和擴充現行法13條，修改合併20條，刪除4條，新增29條。本次修法加大其政府對於科技成果轉化的財政性資金投入，並可引導其他民間資金投入。此外，本次修法也放寬中國大陸高等院校和重點研究院所之科技成果的歸屬，讓其能夠順利地轉化至民間企業。例如：草案第8條規定利用財政性資金設立的科研機構、高等學校可以採取合作實施、轉讓、許可和投資等方式，向企業和其他組織轉移科技成果，並且國家鼓勵這類機構優先向中小企業轉移科技成果。 另，草案第10條亦規定科研機構、高等學校對其依法取得的科技成果，可以自主決定轉讓、許可和投資，通過協定定價、在技術市場掛牌交易等方式確定價格。相關修正大幅放寬成果運用的彈性，惟科研機構、高等學校仍應依草案第14條規定，向主管部門提交科技成果轉化情況年度報告；主管部門應當將科技成果轉化情況納入對科研機構、高等學校的考核評價體系。 本次修法還有一個重點是放寬中國大陸科研機構的研究員及大學教授從事科技成果轉化活動。例如：草案第13條規定利用財政性資金設立的科研機構、高等學校應當建立符合科技成果轉化工作特點的職稱評定、崗位管理、考核評價和工資、獎勵制度。而草案第19條第一項規定，科研機構、高等學校科技人員可以在完成本職工作的情況下兼職從事科技成果轉化活動，或者在一定期限內離職從事科技成果轉化活動。同條第二項亦規定科研機構、高等學校應當建立制度規定或者與科技人員約定兼職、離職從事科技成果轉化活動期間和期滿後的權利和義務。 綜上，本次修法除強化中國大陸研發成果之運用外，更替中國大陸大學教授打開一條前往民間服務或創業的康莊大道，影響不可謂不大，但修正草案最後尚須經中國大陸全國人大常委會審議通過，將持續觀察審議之最終結果。
美國聯邦通訊委員會通過「數位機會資料蒐集計畫附加規則」，將改善美國境內寬頻網路布建差距之辨識美國聯邦通訊委員會（Federal Communication Commission, FCC）於2021年1月19日通過「數位機會資料蒐集計畫」附加規則（Digital Opportunity Data Collection additional rules），將幫助FCC蒐集更精確與準確的網路寬頻布建資訊（broadband deployment data），以完成美國境內寬頻網路布建差距之辨識任務。該規則規範了需向主管機關報告關於網路近用性和/或網路覆蓋率相關資訊的報告主體，使需要報告的固網和行動寬頻服務供應商範圍更加明確。另外該規則亦有針對網路服務供應商提出關於固網速度與網路延遲相關報告時，所應遵守事項作規範。 該規則亦針對蒐集各州、地方與部落網路寬頻布建資訊的對應實體(mapping entities）、聯邦政府機構，與第三方單位，制定此三方進行辨識寬頻網路布建差距作業時所應遵守之注意事項，並為網路服務供應商提交固網和行動寬頻覆蓋率地圖資料時，設置其提交流程所應遵守之相關規範。該規則要求行動式網路服務供應商提交依據實際情況的相關基礎設施資訊或現場測試資料，作為FCC對行動式網路覆蓋範圍調查和驗證的資料，這些資料還將應用於擴大某些特定區域行動式網路寬頻覆蓋範圍的相關作業上，以增加該區域居民的使用數位機會。 「數位機會資料蒐集計畫」附加規則將使FCC確切知道寬頻網的可近用服務位置和不可近用服務位置，以及更了解美國的寬頻網路需求，以確保將來每位美國公民都能使使用高速網路服務，這同時也是「數位機會資料蒐集計畫」的目的。
歐盟人工智慧辦公室發布「通用人工智慧實踐守則」草案，更進一步闡釋《人工智慧法》之監管規範.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 歐盟人工智慧辦公室（European AI Office）於2024 年 11 月 14 日發布「通用人工智慧實踐守則」（General-Purpose AI Code of Practice）草案，針對《人工智慧法》（Artificial Intelligence Act, AIA）當中有關通用人工智慧（General Purpose Artificial Intelligence, GPAI）之部分，更進一步闡釋相關規範。 本實踐守則草案主要分為4大部分，分別簡介如下： （1）緒論：描述本守則之4個基本目標，包含協助GPAI模型提供者履行義務、促進理解人工智慧價值鏈（value chain）、妥適保障智慧財產權、有效評估且緩解系統性風險（systemic risks）。 （2）GPAI模型提供者：有鑒於GPAI模型對於下游系統而言相當重要，此部分針對模型提供者訂定具體責任。不僅要求其提供訓練資料、模型架構、測試程序等說明文件，亦要求制定政策以規範模型用途防止濫用。另於智慧財產權方面，則要求GPAI模型提供者遵守「歐盟數位單一市場著作權指令」（Directive 2019/790/EC）之規定。 （3）系統性風險分類法（taxonomy）：此部分定義GPAI模型之多種風險類別，諸如可能造成攻擊之資訊安全風險、影響民主之虛假資訊、特定族群之歧視、超出預期應用範圍之失控情形。 （4）高風險GPAI模型提供者：為防範系統性風險之危害，針對高風險GPAI模型提供者，本守則對其設立更高標準之義務。例如要求其於GPAI模型完整生命週期內持續評估風險並設計緩解措施。 本守則發布之次週，近千名利害關係人、歐盟成員國代表、國際觀察員即展開討論，透過參考此等回饋意見，預計將於2025年5月確定最終版本。