歐盟執委會發布《受禁止人工智慧行為指引》
歐盟執委會發布《受禁止人工智慧行為指引》
資訊工業策進會科技法律研究所
2025年02月24日
歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。
壹、事件摘要
歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]：
1. 不可接受風險（Unacceptable risk）
2. 高風險（High risk）
3. 有限風險，具有特定透明度義務（Limited risk）
4. 最低風險或無風險（Minimal to no risk）
AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。
貳、重點說明
一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為
（一）概念說明
本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。
（二）禁止施行本行為之前提要件
1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。
2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。
3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。
4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。
5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。
二、AI Act本文第5條1（c）－社會評分行為
（一）概念說明
本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。
3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。
三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為
（一）概念說明
本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。
3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。
4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。
四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為
（一）概念說明
本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。
3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。
4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。
五、AI Act本文第5條1（f）－情緒辨識行為
（一）概念說明
本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該系統係用於推斷情緒。
3.因果關係：該行為發生於職場或教育訓練機構。
4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。
六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為
（一）概念說明
本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。
3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。
4.因果關係：前述分類依據為其生物辨識資訊。
5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。
七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為
（一）概念說明
本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。
（二）禁止施行本行為之前提要件
1.該行為必須涉及對即時RBI系統的「使用」行為。
2.應用目的：使用目的須為執法需要。
3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。
4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。
參、事件評析
人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。
為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。
[1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025).
[2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025).
[3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025).
[4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。
[5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。
[6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。
[7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。
[8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。
[9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。
[10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).
為重塑美國先進製造技術領導地位，發展創新研發與就業，美國總統歐巴馬陸續啟動先進製造國家戰略計畫、先進製造夥伴計畫（Advanced Manufacturing Partnership, AMP）與國家製造創新網絡（National Network of Manufacturing Innovation, NNMI）等框架計畫，並於2014年10月由美國總統執行辦公室和科技顧問委員會發布「先進製造夥伴2.0」（Advanced Manufacturing Partnership 2.0, AMP2.0）。 其中新版的先進製造夥伴計畫，除續行原先之計畫目標，例如：對於「研發技術政策形成」、「區域創新機構」與「全國製造創新網絡」等要項外，「先進製造夥伴2.0」框架強調「製造業資源如何有效匯集」，另透過「組織角度設計」、「法制環境建構」與「商業化運用促進」等面向提出具體執行建議。
美國修正通過外國情報偵察法（FISA）美國近期通過「外國情報偵察法」（Foreign Intelligence Surveillance Act, FISA）之修正案，其中，原先於１月份到期的第七章（Title VII）702條款（Section 702），重新延長授權6年，直至2023年12月31日。 此法案於1978年生效，為美國第一個要求政府須先獲得法院許可，始能進行電子監視的法律。法案宗旨係為平衡國家安全以及人民權利，基於憲法第四修正案對人民的保障，使身處美國領土內的人民免於被恣意監視，國家在通常情況下，須獲得外國情報偵察法院（Foreign Intelligence Surveillance Court, FISC）搜索票（warrant）才可對人民進行搜查。 本次法案修正通過後，使聯邦調查局能夠持續使用情報數據資料庫，以獲取有關美國人的信息，但法案新增要求聯邦調查局在預測性刑事調查中（predicated criminal investigation）如要索取與國家安全無關的內容，必須事先經FISC法院審查許可（court order）。 因911恐攻事件後出現的反恐需要，2008年增訂第七章702條款為FISA的正式條款，原本在今年1月到期，法案修正通過後，此條款延長授權6年。目的為美國公民提供隱私保護，禁止政府針對美國公民和位於美國境內的外國人為監視對象；僅處於國外的外國人，涉及外國情報資訊才可被列為本條進行監視的目標。允許情報部門，在三個政府部門（外國情報偵察法院，行政部門和國會）的監督下，收集關於國際恐怖分子，武器散布者以及其他位於美國境外的重要外國情報。 此項修正案保留702條款的操作靈活性，並加入了一些增強隱私措施及要求。惟，受質疑且具爭議的是，702條款條文內容規範，允許美國政府的情報機構--國家安全局（National Security Agency, NSA）基於該條款，例外不需法院搜索票，可向Google、Apple、微軟、Facebook或電信業者等美國企業蒐集、調閱國外非美國人用戶的海外通訊內容（包含電子郵件、電話、其他私人信息等），當這些被監聽的國外用戶之通訊對象係涉及美國人時亦同；意即，若美國人曾接觸被鎖定的國外對象，也會被納入調查並取得通訊紀錄等個資，且禁止業者通知受影響的用戶。曾有國會參議員試圖修改此法案，加入隱私保護條款，但最終並未獲多數同意。
英國展開「碳排放交易框架」修正意見徵集，擬將溫室氣體移除技術納入現行機制英格蘭、蘇格蘭、威爾斯政府，以及北愛爾蘭農業、環境和鄉村事務部於2024年5月23日共同提出「溫室氣體移除納入碳交易框架」（Integrating Greenhouse Gas Removals in the UK Emissions Trading Scheme）聯合諮詢文件，擬將「溫室氣體移除」（Greenhouse Gas Removals, GGRs）技術納入現行英國碳排放交易體系。GGRs係指主動將大氣中的溫室氣體移除之方法，又稱「二氧化碳移除」（Carbon Dioxide Removal, CDR）、「負碳技術」（Negative Emission Technologies, NETs），此類技術被認為能協助「難減排產業」減少排放。 此次意見徵集主要針對以下四大面向： 1.基本原則：將GGRs整合進UK ETS，須以維持減碳誘因、確保市場誠信、創造長期有效率的碳權交易市場、環境友善、具備可操作性、最小干預性、未來靈活性保障、考量財務影響等原則為基本前提。 2.總量管制：UK ETS於納入GGRs後，預計仍將維持當前總量上限，以避免實質上增加企業的排放容許量。 3.配額發給：GGRs能獲得的配額，擬採取「事後發給」的方式，於移除完成並經過驗證後，才發給配額，以維持交易市場的可信性。 4.市場整合：英國目前暫不考慮建立獨立的溫室氣體移除交易市場，擬將GGRs完全整合進既有的UK ETS中，並透過總量及需求控制或免費配額等措施調節市場供需，穩定並促進市場發展。 英國政府相信，透過將GGRs納入現行UK ETS中，可以增加企業對於碳移除之需求，提高負碳技術的投資誘因，進而持續對於淨零排放的目標有所貢獻。
歐盟聯合研究中心公布智慧電網計畫及智慧電表部署的成本效益分析指導原則智慧電網是歐洲未來低碳能源政策的核心議題，但要更新整個電力系統所費不貲，根據國際能源署（International Energy Agency, IEA）研究指出，從2007年至2030年，若要從生產、輸電到配電全部更新，需要花費1.5兆歐元（EUR 1.5 trillion），故基於投資的考量，有必要依據電網示範計畫所獲得的實際數據，來評估智慧電網發展的成本效益。因此，歐盟聯合研究中心（Joint Research Centre, JRC）分析了歐洲過去及現在正在進行的智慧電網示範計畫的成果，提出全面性的成本效益分析（cost-benefit analysis, CBA）評估架構，並選定葡萄牙InovGrid計畫作為參考實例以調整相關內容，於2012年初公布「智慧電網計畫的成本效益分析指導原則（Guidelines for conduction a cost-benefit analysis of Smart Grid projects，以下簡稱「智慧電網CBA指導原則」）」。 這是第一次具體的將CBA使用在智慧電網的實際案例評估之上，「智慧電網CBA指導原則」是為協助使用者分析不同地區的考量因素，以瞭解利益與成本，並分析關鍵要素，包括計畫的規模大小（例如每年接受服務的消費者、能源消費等）、工程特色（例如所採用的技術、主要設備的功能性）、電網當地特色、利益關係者（哪些人的成本及利益應納入考慮）、計畫的明確目的及預期對社會經濟的衝擊，以瞭解像分散式能源整合的可能性、電價及租稅的衝擊、環境成本等。「智慧電網CBA指導原則」是在提供建議，依據電力研究機構（Electric Power Research Institute, EPRI）的研究框架，逐步地提供了評估架構，作為分析考量時的核對清單。由於納入了地區性因素的考量，因此分析的結果最終將取決於各計畫的開發者及相關決策者的專業判斷。 此外，JRC亦公布「智慧電表部署的成本效益分析指導原則（Guidelines for conduction a cost-benefit analysis of Smart Metering Deployment，以下簡稱「智慧電表CBA指導原則」）」。「智慧電表CBA指導原則」之內容主要提供會員國在評估智慧電表的部署時，有一套分析的標準。如同「智慧電網CBA指導原則」一般，「智慧電表CBA指導原則」亦考量計畫規模、工程特色、電網當地特色、利益關係者、計畫的明確目的及預期對社會經濟的衝擊等因素，但非針對不同地區提供細節性的指示，因此仍須仰賴各計畫的開發者及相關決策者的專業判斷，以評估智慧電表部署的可行性。