歐盟執委會發布《受禁止人工智慧行為指引》

歐盟執委會發布《受禁止人工智慧行為指引》

資訊工業策進會科技法律研究所

2025年02月24日

歐盟繼《人工智慧法》[1](Artificial Intelligence Act, 下稱AI Act)於2024年8月1日正式生效後,針對該法中訂於2025年2月2日始實施之第5條1,有關「不可接受風險」之內容中明文禁止的人工智慧行為類型,由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。

壹、事件摘要

歐盟AI Act於2024年8月1日正式生效,為歐盟人工智慧系統引入統一之人工智慧風險分級規範,主要分為四個等級[3]:

1. 不可接受風險(Unacceptable risk)

2. 高風險(High risk)

3. 有限風險,具有特定透明度義務(Limited risk)

4. 最低風險或無風險(Minimal to no risk)

AI Act之風險分級系統推出後,各界對於法規中所說的不同風險等級的系統,究竟於實務上如何判斷?該等系統實際上具備何種特徵?許多內容仍屬概要而不確定,不利於政府、企業遵循,亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統,推出相關指引,目的在明確化規範內涵規範,協助主管機關與市場參與者予以遵循。

貳、重點說明

一、AI Act本文第5條1(a)、(b)-有害操縱、欺騙與剝削行為

(一)概念說明

本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削,使他人淪為實現特定目的工具之行為,以保護社會上最為脆弱且易受有害操控與剝削影響的群體。

(二)禁止施行本行為之前提要件

1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」(placing on the market)[4]、「啟用」(putting into service)[5]或「使用」(use)[6]。

2.應用目的:該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」,此種扭曲明顯削弱個人或團體做出正確決定的能力,導致其做出的決定偏離正常情形。

3.技術特性:關於(a)有害的操縱與欺騙部分,係指使用潛意識(超出個人意識範圍)、或刻意操控或欺騙的技術;關於(b)有害地利用弱勢群體部分,是指利用個人年齡、身心障礙或社會經濟狀況上弱點。

4.後果:該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。

5.因果關係:該人工智慧系統所採用的技術、個人或團體行為的扭曲,以及由此行為造成或可合理預見將造成的重大傷害之間,具備相當因果關係。

二、AI Act本文第5條1(c)-社會評分行為

(一)概念說明

本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果,以及引發與歐盟價值觀不相容的社會控制與監視行為。

(二)禁止施行本行為之前提要件

1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。

2.應用目的:該人工智慧系統必須用於對一定期間內,自然人及群體的社會行為,或其已知、預測的個人特徵或人格特質進行評價或分類。

3.後果:透過該人工智慧系統所產生的社會評分,必須可能導致個人或群體,在與評分用資料生成或蒐集時無關的環境遭受不利待遇,或遭受與其行為嚴重性不合比例的不利待遇。

三、AI Act本文第5條1(d)-個人犯罪風險評估與預測行為

(一)概念說明

本禁止行為規定之目的,旨在考量自然人應依其實際行為接受評判,而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等,即逕予評估或預測個人犯罪風險。

(二)禁止施行本行為之前提要件

1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。

2.應用目的:該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。

3.後果:前述風險評估結果僅依據於對自然人的剖析,或對其人格特質與個人特徵的評估。

4.除外規定:若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實,針對個人涉入犯罪活動之程度進行評估,則不適用本項禁止規定。

四、AI Act本文第5條1(e)-無差別地擷取(Untargeted Scraping)臉部影像之行為

(一)概念說明

本禁止行為規定之目的,旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像,用以建立或擴充人臉辨識資料庫,將嚴重干涉個人的隱私權與資料保護權,並剝奪其維持匿名的權利。

(二)禁止施行本行為之前提要件

1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。

2.應用目的:該行為以建立或擴充人臉辨識資料庫為目的。

3.技術特性:填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。

4.因果關係:建立或擴充人臉辨識資料庫之影像來源,須為網路或監視器畫面。

五、AI Act本文第5條1(f)-情緒辨識行為

(一)概念說明

本禁止行為規定之目的,旨在考量情緒辨識可廣泛應用於分析消費者行為,以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力,以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異,缺乏明確性、較不可靠且難以普遍適用,因此應用情緒辨識可能導致歧視性結果,並侵害相關個人或群體的權利,尤以關係較不對等的職場與教育訓練環境應加以注意。

(二)禁止施行本行為之前提要件

1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。

2.應用目的:該系統係用於推斷情緒。

3.因果關係:該行為發生於職場或教育訓練機構。

4.除外規定:為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中,情緒辨識可協助偵測憂鬱症、預防自殺等,具有正面效果。

六、AI Act本文第5條1(g)-為推測敏感特徵所進行之生物辨識分類行為

(一)概念說明

本禁止行為規定之目的,旨在考量利用人工智慧之生物辨識分類系統(Biometric Categorisation System)[7],可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊,並可能在當事人不知情的情況下依據此資訊對自然人進行分類,進而可能導致不公平或歧視性待遇。

(二)禁止施行本行為之前提要件

1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。

2.應用目的:該行為係針對個人進行分類;而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。

3.技術特性:該系統必須為利用人工智慧,並依據自然人的生物辨識資料,將其歸類至特定類別之生物辨識分類系統。

4.因果關係:前述分類依據為其生物辨識資訊。

5.除外規定:本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記(Labelling)或過濾(Filtering)行為,如用於執法目的等。

七、AI Act本文第5條1(h)-使用即時遠端生物辨識(Remote Biometric Identification, RBI)系統[8]執法[9]之行為

(一)概念說明

本禁止行為規定之目的,旨在考量在公共場所使用即時RBI系統進行執法,可能對人民權利與自由造成嚴重影響,使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外,RBI系統的不準確性,將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。

(二)禁止施行本行為之前提要件

1.該行為必須涉及對即時RBI系統的「使用」行為。

2.應用目的:使用目的須為執法需要。

3.技術特性:該系統必須為利用人工智慧,在無需自然人主動參與的情況下,透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料,從而達成識別自然人身份目的之RBI系統。

4.因果關係:其使用情境須具備即時性,且使用地點須為公共場所。

參、事件評析

人工智慧技術之發展固然帶來多樣化的運用方向,惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為,亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」,對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。

為在促進創新與保護基本權利及歐盟價值觀間取得平衡,歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見,推出《受禁止人工智慧行為指引》,針對各項禁止行為提出「概念說明」與「成立條件」,期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性,並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織,則亦可作為實務參考,有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。

[1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025).

[2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025).

[3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025).

[4]依據本指引第2.3點,所謂「投放於歐盟市場」(placing on the market),係指該人工智慧系統首次在歐盟市場「提供」;所謂「提供」,則係指在商業活動過程中,以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。

[5]依據本指引第2.3點,所謂「啟用」(putting into service),係指人工智慧系統供應者為供應使用者首次使用或自行使用,而於歐盟內供應人工智慧系統。

[6]依據本指引第2.3點,「使用」(use)之範疇雖未在AI Act內容明確定義,惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後,其生命週期內的任何使用或部署;另參考AI Act第5條的規範目的,所謂「使用」應包含任何受禁止的誤用行為。

[7]依據AI Act第3條(40)之定義,生物辨識分類系統係指一種依據自然人的生物辨識資料,將其歸類至特定類別之人工智慧系統。

[8]依據AI Act第3條(41)之定義,RBI系統係指一種在無需自然人主動參與的情況下,透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料,從而達成識別自然人身份目的之人工智慧系統。

[9]依據AI Act第3條(46)之定義,「執法(law enforcement)」一詞,係指由執法機關或其委任之代表,代替其執行目的包括預防、調查、偵測或起訴刑事犯罪,或執行刑事處罰,並涵蓋防範與應對公共安全威脅等範疇之行為。

[10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).

你可能會想參加
※ 歐盟執委會發布《受禁止人工智慧行為指引》, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9322&no=16&tp=1 (最後瀏覽日:2026/11/20)
引註此篇文章
你可能還會想看
聖淘沙開發公司就″Sentosa″商標對醫材企業提起侵權訴訟

  新加坡聖淘沙發展局(Sentosa Development Corporation, SDC)(以下簡稱聖淘沙發展局)於今(2018)年1月30日向新加坡高等法院(High court)起訴,主張一家名為Vela的醫療器材企業(包含Vela Operations Singapore, Vela Diagnostics等子公司,以下合稱Vela公司),在其一系列檢測HIV及茲卡病毒的醫材產品中使用″Sentosa″(下稱系爭商標)之行為,侵害了聖淘沙發展局的商標權,要求其停止使用。   聖淘沙發展局隸屬於新加坡貿易與工業部,為專責推動聖淘沙觀光活動的法人機構,系爭商標早在2005年於新加坡申請註冊,其保護範圍以服裝、飾品、書籍、玩具與飲品等涉及觀光之類別為主。截至2015年止,聖淘沙發展局更將保護範圍擴及馬來西亞、印尼及中國大陸。該局表示,系爭商標在過去長達45年的經營下,已成為新加坡著名商標。Vela公司將之作為其醫材品牌的行為,不僅會淡化,甚至減損系爭商標的識別性,造成消費者混淆誤認,將該檢測醫材與聖淘沙發展局產生不當連結,為蓄意藉機炒作。   事實上,Vela公司曾欲將″Sentosa″申請註冊商標,卻於2012年11月被駁回。這次Vela公司則提起商標無效之反訴回應聖淘沙發展局的訴訟,其認為系爭商標係指稱新加坡當地觀光渡假勝地的地理名詞,縱非地理名詞,在馬來語中亦屬稱頌和平寧靜之用語,無法代表特定之服務或產品,根本欠缺商標識別性要件,系爭商標應屬無效。   本案涉及新加坡司法實務有關地理名詞是否具備商標識別性之判斷標準,故其後續發展,值得追蹤觀察。 「本文同步刊登於TIPS網站(https://www.tips.org.tw)」

日本智慧交通挑戰計畫

  日本經濟產業省於2018年召開「IoT和AI可能衍生之新型態交通服務研究會」(IoTやAIが可能とする新しいモビリティサービス関する研究会),並於2019年4月公布「朝向新型態交通服務之活性化」(新しいモビリティーサービスの活性化に向けて)報告;國土交通省亦自2018年底起召開「都市與地方新型態交通服務懇談會」(都市と地方の新たなモビリティサービス懇談会),於2019年3月公布中間結果。經產省和國土省根據上述會議結論,自2019年4月起,發起支援地方政府挑戰推動新型態交通服務之新計畫「智慧交通挑戰」(スマートモビリティチャレンジ)。   「智慧交通挑戰」計畫之目的,在於促使地方政府與企業合作,以實現自動駕駛社會,並透過新型態交通服務解決既有交通問題和加速地方活性化,其具體措施包括︰(1)透過設置「智慧交通挑戰推進協議會」及舉辦論壇,促進地方政府和企業間共享資訊,形成工作網路;(2)經濟產業省補助新型態交通服務實用化、計畫制定和效果分析等計畫;(3)國土交通省補助MaaS等新型態交通服務實驗,以及建構以解決地區交通服務為目的之模型等計畫。經產省與國土省分別自4月起對外公開募集提案,最終於75個提案中選出28個計畫,將於今年起陸續施行。

歐盟預計投入4700萬歐元強化中小企業智慧財產權的保護

  歐盟執委會及歐盟智慧財產局(European Union Intellectual Property Office, EUIPO)於2022年1月10日共同宣布啟動第二輪的歐盟中小企業基金(EU SME Fund),以強化中小企業的智財管理與布局。   歐盟於2020年11月發布了《智慧財產權行動計畫(Action Plan on Intellectual Property)》,並推出中小企業基金,在2021年間共補助12,989家的中小企業,補助金額達680萬歐元。由於成效不錯,因此歐盟推出第二輪的中小企業基金,其金額高達4700萬歐元,補助期間為2022年至2024年。歐盟指出,中小企業在保護創新上需要有相關的工具及資金,目前規劃的補助項目如下: 補助中小企業申請智財檢視服務(IP Scan service)90%的費用。該項服務是在2021年6月推出,內容為中小企業智財布局的諮詢,以及協助檢視其無形資產(intangible assets)的創新潛力。 補助中小企業向各會員國智財局、歐盟智財局(EUIPO)、比荷盧智財局(Benelux Office for Intellectual Property, BOIP)申請商標、設計註冊75%的費用。 補助中小企業向世界智慧財產權組織(WIPO)取得國際商標和設計保護50%的費用。 2022年將補助中小企業向各會員國專利局申請專利註冊50%的費用。 2023年預計進一步納入補助的項目包含:補助中小企業進行專利先前技術檢索、專利申請的部分費用;律師諮詢費(如專利註冊、授權協議、智財鑑價、替代性紛爭解決機制等事項的諮詢。)   歐盟希望透過上述的方式,協助中小企業在疫情期間加速數位轉型,強化無形資產的智財布局和管理,以提升歐盟中小企業的競爭力。 「本文同步刊登於TIPS網站(https://www.tips.org.tw)」

歐盟為簡化監管提出醫療器材與體外診斷醫療器材法規修正草案

歐盟醫療器材(Medical Devices Regulation, MDR)和體外診斷醫療器材法規(In Vitro Diagnostic Medical Devices Regulation, IVDR)自2021年5月26日及2022年5月26日生效以來加強了醫療器材的安全監管。然而法規要求嚴格、第三方驗證機構(notified bodies, NB)認證能力有限、認證程序不具預測性、各國執行標準不一、法規與風險不成比例,導致製造成本及行政負擔過高,甚至取消或延後產品上市。為此,歐盟執委會(European Commission)於2025年12月16日正式提出MDR/IVDR修正草案,旨在簡化監管流程、減輕廠商與NB負擔,同時維持公共健康。 該修正案重點如下: 1.簡化與比例原則:確保法規要求與實際風險成正比,放寬中低風險或成熟技術的過度監管。 2.減輕行政負擔:減少重複性的文書作業、過於頻繁報告更新。 3.特定病患群體或情境的創新與產品可及性:確保利基型、創新或危急時所需的醫材能快速進入市場。 4.認證程序的可預測性與成本效益:提升NB審查透明度、效率,並降低資金門檻。 5.去中心化系統內的協調與治理:解決各成員國及各NB之間解釋法規不一致的問題,強化中央協調。 6.推動數位化:推動無紙化與電子化合規工具。 7.促進國際合作:促進全球法規協調,減少多重市場認證。 整體而言,此次修正草案預期可降低遵循成本與行政負擔,並提高監管制度可預測性與作業效率,讓認證與監管流程更為順暢。再者,透過風險導向與數位化管理,維持高水準之公共健康保障,對中小企業與創新醫材而言,有助於於提升醫材研發與上市誘因。

TOP