歐洲議會通過《人工智慧法案》朝向全球首部人工智慧監管標準邁進下一步
歐洲議會通過《人工智慧法案》
朝向全球首部人工智慧監管標準邁進下一步
資訊工業策進會科技法律研究所
2023年06月26日
觀察今年的科技盛事屬ChatGPT討論度最高，將人們從區塊鏈、元宇宙中，帶入人工智慧（AI）領域的新發展。ChatGPT於2022年11月由OpenAI開發的生成式人工智慧，透過深度學習模型，理解和生成自然語言，其功能包含回答各類型問題（如科學、歷史）、生成邏輯結構之文章（如翻譯、新聞標題）、圖形、影像等內容。然而對於人工智慧的發展，究竟如何去處理人機間互動關係，對於風險之管理及相關應用之規範又該如何，或許可從歐盟的法制發展看出端倪。
壹、事件摘要
面對人工智慧的發展及應用，歐盟執委會（European Commission）早在2018年6月成立人工智慧高級專家組（AI HLEG），並於隔年（2019）4月提出「可信賴的人工智慧倫理準則」（Ethics Guidelines for Trustworthy AI），要求人工智慧需遵守人類自主、傷害預防、公平、透明公開等倫理原則。於2021年4月21日歐盟執委會提出「人工智慧法律調和規則草案」（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts）（以下稱人工智慧法案），於2023年內部市場委員會（Internal Market Committee）與公民自由委員會（Civil Liberties Committee）通過並交由歐洲議會審議（European Parliament），最終《人工智慧法案》於2023年6月14日通過。後續將再歐盟理事會（Council of the European Union）與辯論協商，尋求具共識的最終文本[1]。
貳、重點說明
由於「歐盟議會通過」不等於「法案通過」，實際上歐盟立法機制不同於我國，以下透過法案內容說明的契機，概述一般情況下歐盟之立法流程：
一、歐盟立法過程
通常情況下，法案由歐盟執委會（下簡稱執委會）提出，送交歐盟理事會及歐洲議會，作為歐盟的「立法者」歐洲理事會（下簡稱理事會）與歐洲議會（下簡稱議會）將針對法案獨立討論並取得各自機關內之共識。大致上立法程序有可分為三階段，在一讀階段若理事會與議會對於執委會版本無修改且通過，則法案通過，若任一機關修改，則會進行到二讀階段。針對法案二讀若仍無法取得共識，則可召開調解委員會（Conciliation）協商，取得共識後進入三讀。簡單來說，法案是否能通過，取決於理事會與議會是否取得共識，並於各自機關內表決通過[2]。
目前《人工智慧法案》仍處於一讀階段，由於法案具備爭議性且人工智慧發展所因應而生之爭議迫在眉睫，議會通過後將與執委會、理事會進入「三方會談」（Trilogue）的非正式會議，期望針對法案內容取得共識。
二、人工智慧法案
（一）規範客體
《人工智慧法案》依風險及危害性程度分級，其中「不可接受風險」因抵觸歐盟基本價值原則禁止（符合公益目標，如重大或特定犯罪調查、防止人身安全遭受危害等例外許可）。「高風險」則為法案規範之重點，除針對系統技術穩健、資料處理及保存訂有規範外，針對人為介入、安全性等也訂定標準。
而針對高風險之範疇，此次議會決議即擴大其適用範圍，將涉及兒童認知、情緒等教育及深度偽造技術（Deepfake）納入高風險系統，並強調應遵循歐盟個人資料保護規範。此外對於社會具有高影響力之系統或社群平臺（法案以4500萬用戶做為判斷基準），由執委會評估是否列為高風險系統。針對目前討論度高的生成式人工智慧（ChatGPT），議會針對法案增訂其系統於訓練及應用目的上，應揭露其為生成式人工智慧所產出之內容或結果，並摘要說明所涉及之智慧財產權[3]。
（二）禁止項目
關於《人工智慧法案》對於高風險系統之要求，從執委會及理事會的觀點來看，原則上重點在於對弱勢的保護及生物資料辨識之權限。歐盟禁止人工智慧系統影響身理及心理，包含對於特定族群如孩童、身心障礙者等弱勢族群之不平等待遇。同時原則禁止即時遠端的生物辨識利用，包含對於人性分析、動作預測等對於人類評價、分類之應用，例外情況如犯罪調查、協尋失蹤兒童、預防恐怖攻擊、關鍵基礎設施破壞等情況時方被允許。此次議會決議提高禁止即時遠端生物辨識的標準，包含納入敏感資訊的蒐集如性別、種族、政治傾向等，及其他臉部辨識、執法、邊境管制、情緒辨識等項目[4]。
參、事件評析
有關《人工智慧法案》雖歐洲議會已一讀通過，然而後續仍要面對與歐盟理事會的協商討論，並取得共識才能規範整個歐盟市場。因此上述規範仍有變數，但仍可推敲出歐盟對於人工智慧（含生成式）的應用規範態度。在面對日新月異的新興科技發展，其立法管制措施也將隨著橫向發展，納入更多種面向並預測其走向趨勢。因人工智慧有應用多元無法一概而論及管制阻礙創新等疑慮，觀察目前國際上仍以政策或指引等文件，宣示人工智慧應用倫理原則或其風險之管理，偏重產業推動與自律。
觀察歐盟《人工智慧法案》之監管目的，似期望透過其市場規模影響國際間對於人工智慧的監管標準。倘若法案後續順利完成協商並取得共識通過，對於如OpenAI等大型人工系統開發商或社群平臺等，若經執委會評估認定為高風險系統，勢必對於未來開發、應用帶來一定衝擊。因此，歐盟對於人工智慧監管的態度及措施實則牽一髮而動全身，仍有持續觀察之必要。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]The AI Act, Future of Life Institute, https://artificialintelligenceact.eu/developments/ (last visited Jun. 20, 2023)
[2]The ordinary legislative procedure, Council of European Union, https://www.consilium.europa.eu/en/council-eu/decision-making/ordinary-legislative-procedure/ (last visited Jun. 19, 2023)
[3]EU AI Act: first regulation on artificial intelligence, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence (last visited Jun. 21, 2023)
[4]MEPs ready to negotiate first-ever rules for safe and transparent AI, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai(last visited Jun. 21, 2023)
- 【臺中場】113年度新創採購-招標作業廠商說明會
- 【高雄場】113年度新創採購-招標作業廠商說明會
- 南部場–商業服務業個資保護工作坊
- 北部場–商業服務業個資保護工作坊
- 品牌企業商標管理實務課程
- 數位發展部數位產業署113年資訊服務業者個資安維辦法宣導說明會
- 【北部場】營業秘密保護實務座談會
- 電商零售業法制宣導說明會暨產學研座談會
- 零售業個資保護宣導暨座談會
- 零售業個資保護及資訊安全教育講習
- 零售業個資保護及資訊安全教育講習
- 零售業個資安全宣導暨安全維護計畫規劃說明會
- (已額滿)114年「企業營業秘密保護實務座談會」(北部場)–營業秘密因應數位環境之保護風險及管理對策
- 數位經濟時代的隱私保護與商機－CBPR跨境隱私規則體系解析
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 零售業個資安全宣導暨安全維護計畫說明會（高雄場）
- 零售業個資安全宣導暨安全維護計畫說明會（台中場）
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
王凱嵐
法律研究員 編譯整理
英國國家統計局（Office for National Statistics）轄下之政府資料品質中心（Government Data Quality Hub）為實踐英國數位、文化、媒體暨體育部（Department for Digital, Culture, Media & Sport）發布之《國家資料戰略》（National Data Strategy），於2020年12月3日釋出《政府資料品質框架》（The Government Data Quality Framework），以達成國家資料戰略中「資料基礎（Data Foundation）」之核心目標。該框架提出「資料品質原則」（Data quality principles），旨在解決目前政府資料品質低落的問題。該原則包含以下五點： 一、確保資料品質：機關內部應建立有效的資料治理機制，例如培訓員工具備管理資料的能力、持續改進資料品質等。 二、了解使用者需求：機關應將使用者對資料品質的需求視為優先處理事項。 三、評估資料於資料生命週期各階段之品質：機關應密切關注資料於生命週期各階段之品質，並與使用者及利益關係人交換意見。 四、持續溝通資料品質：機關應持續與使用者交流資料品質現況，提供使用者有效的文件及中繼資料（metadata）。 五、了解造成資料品質低落的主因：分析造成資料品質低落的根本原因，從源頭徹底解決資料品質問題。 英國國家統計局政府資料品質中心希望藉由本框架揭示的資料品質原則，提升政府機關人員主動辨別及解決資料品質問題的能力，以改善政府資料品質、為人民帶來更高品質的資料，釋放資料價值並促進社會經濟發展。
美國聯邦通訊委員會與國家科學基金會以及國家電信暨資訊管理局簽署合作協議，以展現對頻譜革新倡儀的支持美國聯邦通訊委員會（Federal Communication Commission, FCC）於2021年2月1日與美國國家科學基金會（National Science Foundation, NSF）以及美國國家電信暨資訊管理局（National Telecommunications and Information Administration, NTIA）共同簽署合作協議，展現對NSF於2020年所發起的頻譜革新倡儀（NSF Spectrum Innovation Initiative）的支持，其目的在於美國面臨對頻譜使用的需求量增加之際，能在頻譜的研究與發展尋求創新的進步。 頻譜革新倡儀將致力於頻譜的研究與創新，具體行動如下： 建置國家無線電動態區域（National Radio Dynamic Zones, NRDZ）：藉由建立新的前導測試的測試範圍，使研究人員得對頻譜的使用者進行動態頻譜（dynamic spectrum）的研究和開發； 國家頻譜創新和勞動力發展計畫：建立頻譜相關研究人員聯繫管道，並增加頻譜相關勞動力，以支持未來頻譜之相關產業發展； 頻譜研究活動：藉此發展出更多涉及頻譜的應用，特別是跨領域性質的研究活動； 教育和勞動力發展計畫：透過教育和培訓計畫培養兼具專業且多元性的頻譜相關勞動力。 此份合作協議，目的在確保FCC和NTIA的專業人員可以提供其關於頻譜的專業知識，以幫助確保頻譜革新倡議在頻譜的研究、基礎設施和勞動力方面的投資與開發，能符合美國聯邦政府對頻譜的監管、政策目標、原則和策略。
瑞士ESG新法規正式生效全球多個國家目前正在促進企業推動「環境、社會和公司治理」（Environment, Social Responsibility, Corporate Governance, ESG）事務，以瑞士為例，有關ESG的新法規於2022年1月1日正式生效。 在2022年1月1日生效的提案中，主要是對《瑞士債法典》（The Swiss Code of Obligations, CO）提出修正，包含「涉及公共利益（public interest）的企業應提出ESG事項報告」與「企業應就有無使用童工及衝突地區的礦物金屬進行盡職調查（Due Diligence）」，分別說明如下： 一、公共利益企業應提出ESG事項報告 依《瑞士債法典》第32章新增的第6節「非財務事項之透明度」（Transparency on Non-Financial Matters）規定，符合條件的上市公司或受監管實體等公共利益企業，每年應提出一份單獨的非財務事項報告，內容須涵蓋環境事項、社會問題、員工相關問題、尊重人權和打擊腐敗等議題，以及公司對該等議題所提出的政策措施、風險評估和實施績效等資訊。此報告經企業內部最高管理層與治理機構批准後，須立即於網路上公開，並確保至少十年內可供公眾存取。 二、企業應就有無使用童工及衝突地區的礦物金屬進行盡職調查 依《瑞士債法典》第32章新增的第8節「與來自受衝突影響地區的礦物金屬以及童工相關的盡職調查和透明度」（Due Diligence and Transparency in relation to Minerals and Metals from Conflict-Affected Areas and Child Labour）規定，所在地、總部或主要營業地點位於瑞士的企業，如在瑞士自由流通或加工來自受衝突影響和高風險地區（conflict-affected and high-risk areas）的特定礦物或金屬，抑或產品或服務被合理懷疑是使用童工製造或提供而成，原則上即須遵守供應鏈中的盡職調查義務，每年亦應將其遵守情況編制成報告。此報告應在會計年度結束後的六個月內於網路上發布，並確保至少十年內可供公眾存取。
美國聯邦民航局發布《先進空中移動執行計畫》，以利全面整合並促進產業安全擴展美國聯邦民航局（Federal Aviation Administration, FAA）於2023年7月18日發布《先進空中移動執行計畫》（Advanced Air Mobility (AAM) Implementation Plan），詳述FAA與利害關係人於短期內實現AAM運作需採取之步驟。 AAM是一個新興航空生態系統，透過創新先進技術與新型航空器，包括電動航空器或電動垂直起降航空器（electric vertical takeoff and landing, eVTOL），提供交通運輸更具效率、永續與公平的選擇機會。不過，本執行計畫所稱之AAM僅適用於有人駕駛之客貨運輸類型。為促進日常相關服務，該計畫以現行飛航程序與基礎設施為利用基礎，並就航空器與飛行員認證、空域進出管理、飛行員培訓、基礎設施開發、安全維護、公眾參與等事項進行處理，以引領產業安全擴展。此外，本計畫還包含可應用於任何場域之計畫指南（planning guide），並臚列關鍵整合目標與順序。本次計畫著重之處簡述如下： （1）運作：飛行員將能按預定飛行計畫駕駛新先進移動航空器往返多地；AAM航空器將盡可能使用機場周圍等級B與C空域範圍內之既有或修正的低空目視飛行規則（Visual Flight Rules, VFR）路線，飛行於城市與大都市地區上空4000英尺（約1219.2公尺）。 （2）基礎設施：營運商、製造商、州與地方政府，以及其他利害關係人將負責計劃、發展與利用直升機場（heliport）或垂直機場（vertiport）基礎設施；起初AAM將運作於既有的直升機場、商業服務機場與通用航空（general aviation, GA）機場，故需針對充電站、停機坪與滑行空間等進行改造與安裝。 （3）電網（Power Grid）：電網可能需要升級以供AAM操作；FAA與美國國家再生能源實驗室（National Renewable Energy Laboratory, NREL）簽署機構間的協議，以確定航空器電氣化（electrification）對垂直機場、直升機場或機場電網的影響。 （4）安全：美國國土安全部（Department of Homeland Security, DHS）將確定必要的AAM安全類型；美國運輸安全管理局（Transportation Security Administration, TSA）與FAA亦評估基於先進技術的使用與操作協定（operational protocols）而提高資安要求之需求。 （5）環境：FAA將斟酌AAM運作的環境影響，包括噪音、空氣品質、視覺干擾及對野生生物的破壞等因素。 （6）公眾參與：為更了解公眾對AAM運作的擔憂（包括噪音與緩解措施），FAA將與機場、地方、州及社區進行合作；許多利害關係人（如AAM營運商、機場與垂直機場營運商）將於公眾參與中扮演重要角色。