歐盟執委會發布《受禁止人工智慧行為指引》
歐盟執委會發布《受禁止人工智慧行為指引》
資訊工業策進會科技法律研究所
2025年02月24日
歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。
壹、事件摘要
歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]：
1. 不可接受風險（Unacceptable risk）
2. 高風險（High risk）
3. 有限風險，具有特定透明度義務（Limited risk）
4. 最低風險或無風險（Minimal to no risk）
AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。
貳、重點說明
一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為
（一）概念說明
本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。
（二）禁止施行本行為之前提要件
1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。
2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。
3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。
4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。
5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。
二、AI Act本文第5條1（c）－社會評分行為
（一）概念說明
本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。
3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。
三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為
（一）概念說明
本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。
3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。
4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。
四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為
（一）概念說明
本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。
3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。
4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。
五、AI Act本文第5條1（f）－情緒辨識行為
（一）概念說明
本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該系統係用於推斷情緒。
3.因果關係：該行為發生於職場或教育訓練機構。
4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。
六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為
（一）概念說明
本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。
3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。
4.因果關係：前述分類依據為其生物辨識資訊。
5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。
七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為
（一）概念說明
本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。
（二）禁止施行本行為之前提要件
1.該行為必須涉及對即時RBI系統的「使用」行為。
2.應用目的：使用目的須為執法需要。
3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。
4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。
參、事件評析
人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。
為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。
[1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025).
[2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025).
[3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025).
[4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。
[5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。
[6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。
[7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。
[8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。
[9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。
[10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).
為因應有害化學物質所產生之公安事件，2015年6月8號美國職業安全管理局(Occupational Safety and Health Administration,簡稱(OSHA))發佈一項措施，針對具危險性化學物質之運輸過程，規範處理程序，包括製造商須提供物質安全數據表，以及可能具有風險的有害物質說明書等。 為此，OSHA考量到此將影響化學製造商營業秘密保護，遂提出判斷準則，以釐清對於化學製造商而言，何種情況將構成營業秘密，包括：(1)在一定的程度內該資訊是否已被外界所知；(2)在一定程度內，該資訊對於員工或其他參與者是否已知；(3)是否有一定程度對於該資訊內容進行保護措施；(4)該資訊對於競爭對手是否有價值；(5)是否投入大量時間和金錢開發該資訊；(6)該資訊對企業而言是否得被他人簡易取得與複製。 進而在符合上述營業祕密要件時，企業即無須對一般員工(非研發工程師)揭露化學公式等內容，其中包括一般操作人員或者運輸人員等。然而考量到此等人員接觸化學物質情況頻繁，倘若操作人員或者運輸人員工作過程中，因有害但屬營業祕密之化學物質造成意外傷害，為平衡公眾安全與營業秘密之保障，OSHA要求化學製造商必須立即提供醫護人員有害化學物質方程式等內容，但可要求醫護人員簽訂保密協議，藉此兼顧公安與營業秘密之保障。
當被授權人挑戰授權專利之有效性--美國法院對上訴條件「受有損害」的認定標準2021年4月7日美國聯邦巡迴上訴法院（United States Court of Appeals for the Federal Circuit，下稱CAFC）發布了關於Apple Inc. v. Qualcomm Inc.的裁決，指出因Apple Inc.（下稱Apple）未能滿足提起上訴的資格「證明授權專利的有效性會對授權協議義務產生具體的損害影響」，故駁回其對於專利審理暨訴願委員會（Patent Trial and Appeal Board ，下稱PTAB）做出之US7,844,037與US8,683,362專利（下稱爭議專利）有效性決定的上訴。 此案爭議專利是由Qualcomm Inc.（下稱Qualcomm）持有，Qualcomm曾以Apple侵犯爭議專利提起侵權訴訟，Apple隨後在PTAB對爭議專利提出多方複審程序（Inter partes review,下稱IPR），以挑戰爭議專利的有效性，但最後沒有成功。隨後，Apple與Qualcomm達成專利侵權和解協議並簽署了授權契約，授權的專利組合中也包含爭議專利。 在專利侵權和解協議後，Apple還是針對IPR的結果向CAFC提起上訴。由於提起上訴條件之一是上訴人需有受到損害的事實，Apple以其需持續支付權利金的義務主張有受到損害的事實。但CAFC認為，Apple並沒有證明若爭議專利被視為無效，則根據其與Qualcomm授權契約所應承擔的付款義務會發生改變。因此，法院裁定Apple不符合對IPR的結果提起上訴的資格。 由上述可知，作為專利被授權人，若要在授權契約條件下對爭議專利有效性決定提上訴，需要設法證明爭議專利的有效性會對授權協議義務產生具體的影響，否則被授權人將難以因其具有實質的損害從而讓法院啟動上訴作業。
歐盟EDPB認為防範Cookie疲勞應確保資訊透明及簡化歐盟資料保護委員會（European Data Protection Board, EDPB）於2023年12月13日回覆歐盟執行委員會（European Commission, EC）有關Cookie協議原則草案（Cookie Draft Pledge Principles）之諮詢。該草案旨在處理「Cookie疲勞」（Cookie fatigue）所造成的隱私權保護不周全之處。 在電子通訊隱私指令（ePrivacy Directive）以及GDPR規範下，由於現行同意機制複雜，造成用戶對Cookie感到疲勞，進而放棄主張隱私偏好。 為了避免「Cookie疲勞」，EDPB提出以下原則和建議，大致可以分為三點： 一、簡化Cookie不必要的資訊 1.基本運作所需之Cookie（essential cookies）無需用戶同意，故不必呈現於同意選項，以減少用戶需閱讀和理解的資訊。 2.關於接受或拒絕Cookie追蹤的後果，應以簡潔、清楚、易於選擇的方式呈現。 3.一旦用戶拒絕Cookie追蹤，一年內不得再次要求同意。 二、確保資訊透明 1.若網站或應用程式的內容涉及廣告時，應在用戶首次訪問時進行說明。 2.不僅是同意追蹤的Cookie，用於選擇廣告模式的Cookie，仍需單獨同意。 三、維持有效同意 1.應同時顯示「接受」和「拒絕」按鈕，提供用戶拒絕Cookie追蹤的選項。 2.在提供Cookie追蹤選項時，除了接受全部的廣告追蹤或付費服務外，應提供用戶另一種較不侵犯隱私的廣告形式。 3.鼓勵應用程式提前記錄用戶的Cookie偏好，但強調在用戶表達同意時必須謹慎處理，預先勾選的「同意」不構成有效同意。 EC表示，該草案目的在於簡化用戶對Cookie和個人化廣告選擇的管理，雖然為了避免Cookie疲勞而簡化資訊，仍應確保用戶對於同意Cookie追蹤，是自願、具體、知情且明確的同意。將於後續參考EDPB之建議，並與利害關係人進行討論後，制定相關法規。
美國指控中國兩大電信通訊商威脅國家安全，呼籲各機關及私人企業拒絕向其購買設備及技術美國眾議院情報委員會終於發佈了對中國兩大電信通訊商「中興」(ZTE)和「華為」（Huwei）的調查報告，報告結論指出，「中興」和「華為」確實危及美國的國家安全。 情報委員會呼籲美國政府機關和企業，尤其是政府機關，不應該讓「中興」、「華為」成為資訊系統相關設備或零組件的供應商，因為他們會安裝「後門程式」（backdoor）為中國政府和軍方進行間諜活動和網路攻擊，並敦促美國企業的經營者，應該阻絕未來收購、購併「中興」、「華為」的可能性。情報委員會亦呼籲美國國民不要購買任何由「中興」、「華為」製造的任何電子設備，包括手機、平板電腦、數據機等，否則個人資料將在不知不覺中全數洩漏給中國。 「華為」的建立者任正非（Ren Zengfe），同時也是「華為」執行長，1987年離開中國軍方創立「華為」，情報委員會認為他始終與中國政府和軍方保持密切聯繫，而「華為」拒絕配合情報委員會的調查，「中興」也不願提供完整的內部資料，報告指出：「中興」和「華為」應該讓公司內部架構、組織和財務管理及經營運作更加透明化，盡到美國法制要求的應盡義務」。 但英國政府表明支持「華為」，只是會採取必要的保護措施維護國家安全。「華為」在英國具有相當龐大的影響力，2001年在英國正式營運，投資了一億五千萬英鎊，並創造了650個工作機會，主要提供英國電信業者於寬頻服務的相關硬/軟體設備。另外英國手機營運商EE（Everything Everywhere）所發行英國首套的4G商用網，當中的行動作業系統便是使用「華為」的技術，EE的發言人表示：「我們有一套嚴格的安全檢查程序，確保合作伙伴和合作內容都符合EE的要求和標準，而「華為」是值得信賴和尊敬的伙伴」。 其他國家如加拿大和澳洲，則採取保守態度，評估這兩家電信通訊商的可信度和可用性。