歐盟執委會發布《受禁止人工智慧行為指引》
歐盟執委會發布《受禁止人工智慧行為指引》
資訊工業策進會科技法律研究所
2025年02月24日
歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。
壹、事件摘要
歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]：
1. 不可接受風險（Unacceptable risk）
2. 高風險（High risk）
3. 有限風險，具有特定透明度義務（Limited risk）
4. 最低風險或無風險（Minimal to no risk）
AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。
貳、重點說明
一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為
（一）概念說明
本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。
（二）禁止施行本行為之前提要件
1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。
2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。
3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。
4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。
5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。
二、AI Act本文第5條1（c）－社會評分行為
（一）概念說明
本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。
3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。
三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為
（一）概念說明
本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。
3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。
4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。
四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為
（一）概念說明
本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。
3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。
4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。
五、AI Act本文第5條1（f）－情緒辨識行為
（一）概念說明
本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該系統係用於推斷情緒。
3.因果關係：該行為發生於職場或教育訓練機構。
4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。
六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為
（一）概念說明
本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。
3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。
4.因果關係：前述分類依據為其生物辨識資訊。
5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。
七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為
（一）概念說明
本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。
（二）禁止施行本行為之前提要件
1.該行為必須涉及對即時RBI系統的「使用」行為。
2.應用目的：使用目的須為執法需要。
3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。
4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。
參、事件評析
人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。
為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。
[1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025).
[2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025).
[3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025).
[4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。
[5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。
[6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。
[7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。
[8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。
[9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。
[10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).
由美國共和黨所倡議的法案「Internet Stopping Adults Facilitating the Exploitation of Today's Youth Act of 2009」（S. 436,H.R. 1076），於今年2月13日交由參、眾兩院進行審議；鑒於網路色情危害青少年之問題相當嚴重，該法案訂定了加重色情犯罪刑度及其他數項保護措施，旨在減少網路色情對於兒童的危害。但其中一項措施要求電子通訊服務者、遠端電腦服務提供者，對於隨機配置之暫時性網路位置等相關可識別用戶身份的紀錄及資料，應保存至少兩年，引發業者及隱私權保護團體極大的反彈聲浪。 業者反彈的原因在於依據18 U.S.C §2510對於「電子通訊服務」（electronic communication service）之定義，係指「提供使用者接收、傳送有線或電子通訊的服務」，幾乎囊括所有類型的資通訊服務提供者；倘若法案通過，則如AT&T、Verizon電信業者、Comcast有線電視營運商、網路電話業者、提供Wi-Fi接取點服務者、及動態主機隨機配置IP位置之服務提供者等，未來皆須依規定負有保存記錄至少兩年的義務，將導致其儲存設備之成本大增。 此外，保衛隱私權團體大力抨擊此種無差別強制保存用戶特定紀錄的作法，形成潛在傷害隱私權的危機，若是保管不當而造成資料外洩、或資料遭不當使用，其受害規模將難以估算。由於業者及民間反彈聲浪相當大，參、眾兩院是否通過此法案，或做出若干調整，仍待後續觀察。
CODEX增訂低量摻雜重組DNA植物成分之食品安全評估準則經過兩年的研議溝通，由國際食品標準委員會（Codex Alimentarius Commission，CODEX）生技衍生食品小組（Task Force on Foods Derived from Biotechnology，TFFBT）所研擬的「重組DNA植物成分低量摻雜之重組DNA植物來源食品安全評估準則之附件草案」（Draft Annex to the Guideline for the Conduct of Food Safety Assessment of Foods Derived from Recombinant-DNA Plants on Low-Level Presence of Recombinant-DNA Plant Material，LLP草案），終於日前送交CODEX大會決議通過。 關於植物來源食品內基改物質低量呈現（Low-Level Presence）的問題之所以受到國際間高度關切，其背景因素，其實是來自於全球各地域對於基因改造食品之食品安全審查進度狀態不一之情況使然。以最明顯的美國和歐盟為例，因為，對於植物來源食品而言，其所使用的植物原料，例如穀物、豆類、油菜種子等，在種植、運送至成品途中，尤其是在採收過程中，無可避免地均有可能會混雜到某些鄰近的合法基改植物原料；而目前國際現況是，許多在美國已通過食品安全評估之基改食品植物原料，在歐盟卻遲未獲得許可，而那些意外混雜了在美國為合法基改植物原料的食品，出口至尚未核准那些經混雜基改原料食品之國家時，則會因此被拒絕進口，而形成貿易上阻礙。 針對此問題，自2006年起，TFFBT特別召集成立一個工作小組，由美國出任小組主席，並與德國及泰國擔任共同主席，負責研擬LLP草案，以提供一套較簡易評估程序，專門針對這些混雜了低量的在出口國家已經合法、但在進口國家尚未通過食品安全檢驗之重組DNA植物成分食品之情形，提俱一套安全評估方法供進口國家政府參考，藉此，一方面確保這些摻雜低量重組DNA食品之安全性，另方面也不致令進口者因其產品含有低度摻雜而銷耗掉太過的貿易利益。 LLP草案對於摻雜低量重組DNA成份之進口國家而言，其較重要具實質意義的部份，係在於資料庫之建立、共享資訊之快速使用（rapid access）等機制的導入。研議期間，工作小組即表示會與相關國際組織聯繫，搭配建立適當之資訊資料庫。而負責籌設該資料庫的國際糧農組織（FAO）則表示，其除將運用其已建立的「國際食品安全及動植物健康入口網」（International Portal on Food Safety, Animal and Plant Health，IPFSAPH）外，並計劃與經濟合作發展組織（OECD）進行合作，引用「OECD生物追蹤產品資料庫」（OECD BioTrack Database）內依CODEX「重組DNA植物來源食品安全評估準則」（Guideline for the Conduct of Foods Safety Assessment of Foods Derived from Recombinant-DNA Plants (CODEX Plant Guideline)，CODEX植物準則）所蒐羅之資訊，彙集各類相關資訊為一整合網站，並開放給公眾使用。
歐洲議會通過《無線電設備指令》修正法案要求充電規格統一採用USB Type-C接頭為減少電子垃圾污染以及便利消費者使用消費電子產品，歐洲議會（European Parliament）於2022年10月4日表決通過《無線電設備指令》（Radio Equipment Directive, 2014/53/EU）修正法案，未來在歐盟銷售的電子產品，統一採Type-C規格的充電接頭。 這項修正法案，以602票贊成、13票反對、8票棄權的壓倒性多數通過，2024年底前強制除筆記型電腦以外，所有在歐盟境內銷售的消費電子產品一律需配備USB Type-C規格的充電接口。 屆時，所有功率達100瓦支援有線充電的消費電子產品，例如手機、平板、相機、耳機、掌上遊戲機、電子閱讀器、鍵盤、滑鼠、便攜式導航器等，都必須配備USB Type-C規格的充電接頭。而筆記型電腦也必須在2026年統一採用USB Type-C規格的充電接頭。 據此，在新修正法案施行後，同一充電器得用於各種電子設備，消費者無需於購買新設備時再重新購置充電器，除提高消費者便利性外，更能有效遏止電子垃圾的產生。 對此議題，也引發我國法制上的檢討聲浪，立法院交通委員會於2022年10月5日通過臨時提案，希望NCC加強落實手機充電器規格與統一作業，儘速作業規劃。故繼歐盟之後，未來我國行動電子裝置可望也將統一採USB Type-C規格。 由上可見，歐盟《無線電設備指令》修正法案，是全球未來可預期的調整法制動向與趨勢，蓋其賦予消費者能做出可具永續性的選擇，同時兼顧環境保護與經濟發展。我國目前相關法制規範確有所不足，應及早因應現今實務需求引介外國法制加以移植修正，以符實際。
英HFEA同意該國婦女利用PGD技術「訂製嬰兒」現今生殖醫學進步相當快速，透過諸如胚胎殖入前之基因診斷（ PGD ）、組織配對（ tissue match ）等新興生物技術，人們將有能力選擇未來孩子的外表、智力、健康甚至性別等，故就現今的科技發展而言，篩選具有某種特徵之嬰兒的技術能力早已具備，反而是相關的倫理、道德及社會共識等等卻是最難的部分，這也是有關「訂製嬰兒」（ design babies ）之爭議焦點。 近幾年，訂製嬰兒的討論在英國非常熱烈，在英國，人工生殖之進行應依人工生殖與胚胎學法規定，獲得 「人類生殖與胚胎管理局」 （ Human Fertilization and Embryology Authority, HFEA ）之許可，至於進行人工生殖之同時，父母親是否得附加進一步的條件以「訂製嬰兒」，則一直有爭議。英國高等法院在 2002 年 12 月 20 日的一項判決中曾認為，國會制訂人工生殖與胚胎學法之目的，乃是在協助不孕婦女能夠生兒育女，至於組織配對的行為，則不在該法授權目的之內，因此 HFEA 無權就此等行為給予准駁。惟 2003 年 4 月 8 日 ，上訴法院推翻了高等法院的判決結果，但也進一步指出，這並不代表未來所有在進行 PGD 的同時加做組織配對之行為都是被允許的，想要施行這項技術之任何人，仍然需於事前取得 HFEA 的許可，新近 HFEA 已放寬管制規範，准許對更多種遺傳性疾病進行篩檢。 英國泰晤士報最近報導，一名英國女子已獲得英國 HFEA 同意 ，讓醫師將其透過體外受精方式培養出來的胚胎，利用基因篩檢技術，選擇出健康之胚胎植入其子宮內，以避免將她所罹患的遺傳性眼癌「視網膜母細胞瘤」基因傳給下一代。 本案婦女雖經 HFEA 同意「訂製嬰兒」，但仍會使「胚胎殖入前之基因診斷」（ PGD ）程序的爭議加劇，反對人士堅稱，基因篩檢的過程中勢必摧毀部分胚胎，且 為了某些目的而製造胚胎，將使人類被商品化，被訂製之嬰兒在長大成人後，若得知其出生之目的乃是在於治療其它親人，其心裡會對自己產生懷疑，並影響對自己人格的認同與其心理狀態。隨著生物技術發展飛快，許多可能背離社會良俗的行為恐將不斷出現，而法規能否隨之跟上則是生技產業能否興盛與倫理道德可否兼顧之重要關鍵。