歐盟執委會發布《受禁止人工智慧行為指引》
歐盟執委會發布《受禁止人工智慧行為指引》
資訊工業策進會科技法律研究所
2025年02月24日
歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。
壹、事件摘要
歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]：
1. 不可接受風險（Unacceptable risk）
2. 高風險（High risk）
3. 有限風險，具有特定透明度義務（Limited risk）
4. 最低風險或無風險（Minimal to no risk）
AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。
貳、重點說明
一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為
（一）概念說明
本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。
（二）禁止施行本行為之前提要件
1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。
2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。
3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。
4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。
5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。
二、AI Act本文第5條1（c）－社會評分行為
（一）概念說明
本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。
3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。
三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為
（一）概念說明
本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。
3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。
4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。
四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為
（一）概念說明
本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。
3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。
4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。
五、AI Act本文第5條1（f）－情緒辨識行為
（一）概念說明
本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該系統係用於推斷情緒。
3.因果關係：該行為發生於職場或教育訓練機構。
4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。
六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為
（一）概念說明
本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。
3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。
4.因果關係：前述分類依據為其生物辨識資訊。
5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。
七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為
（一）概念說明
本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。
（二）禁止施行本行為之前提要件
1.該行為必須涉及對即時RBI系統的「使用」行為。
2.應用目的：使用目的須為執法需要。
3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。
4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。
參、事件評析
人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。
為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。
[1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025).
[2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025).
[3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025).
[4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。
[5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。
[6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。
[7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。
[8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。
[9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。
[10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).
美國聯邦第七巡迴上訴法院於2018年08月16日宣告，美國伊利諾伊州杜佩奇縣內珀維爾市（Naperville）所經營之「獨占性」公用售電業，以裝設智慧電表手段蒐集用電戶即時（Real Time）用電資料，並保存長達三年之行為，並無違反美國憲法第四條修正案以及伊利諾州憲法第一條第六項所宣示之不得以不合理手段對於民眾居住隱私資料進行搜索之限制。 美國聯邦第七巡迴上訴法院闡明，本案爭點有二：第一，內珀維爾市（Naperville）所經營之獨占性公用售電業以裝設智慧電表手段蒐集用電戶即時用電資料，並保存長達三年之行為，是否構成美國憲法第四條修正案以及伊利諾州憲法第一條第六項所謂之「對於民眾居住隱私資料之搜索」？第二，如內珀維爾市（Naperville）所經營之獨占性公用售電業以裝設智慧電表手段蒐集用電戶即時用電資料係構成「對於民眾居住隱私資料之搜索」，則內珀維爾市（Naperville）所經營之獨占性公用售電業是否有更高之公益，可合理化此一對於「對於民眾居住隱私資料之搜索」之行為？ 美國聯邦第七巡迴上訴法院認定內珀維爾市電業以智慧電表手段蒐集民眾用電資訊，確實是構成美國憲法第四條修正案以及伊利諾州憲法第一條第六項所謂之「對於民眾居住隱私資料之搜索」。但是由於珀維爾市電業蒐集這些用電資訊，是基於更高之公益目的，因此仍屬以合理手段對於民眾居住隱私資料進行搜索。因此判決本案珀維爾市電業勝訴。 於第一爭點，美國聯邦第七巡迴上訴法院認定智慧電表之紀錄內容包含「電器負載特徵（load signature）」以及「用電戶電力消耗慣性」，對比Kyllo v. United States, 533 U.S. 27, 31-32（2001）乙案下警方以熱感應器方式偵測住宅整體熱能有無之行為，更高度細緻化、具有侵入性，且智慧電表之設置，於現今尚非普及（not in general public use），因此構成對於民眾居住隱私資料之搜索。又內珀維爾市（Naperville）所經營之獨占性公用售電業雖辯稱用電戶於裝設智慧電表時，皆已經同意電業蒐集其個人用電資訊，然美國聯邦第七巡迴上訴法院認定，內珀維爾市（Naperville）所經營之公用售電業具有高度獨占性，故用電戶裝設智慧電表之同意難謂有效，且用電戶同意用電，不代表用電戶即同意分享其用電資訊。 惟於第二爭點，美國聯邦第七巡迴上訴法院認定，由於內珀維爾市（Naperville）所經營之獨占性公用售電業已經聲明不會將此類用電資訊分享予有關政府機關，且本案對於用電戶用電資訊之蒐集，其目的亦與刑事追訴無關，是以應以低密度審查標準看待本案即可，又本案內珀維爾市（Naperville）所經營之獨占性公用售電業裝設智慧電表之目的在於促使電網現代化，並且可使發電業供應更加穩定之電力，並且也可以透過時間電價（Time-Based Pricing）之方式促使用電戶節電，並且減少電網負載，同時也可以使發電業節省查表之人事成本，因此雖然內珀維爾市（Naperville）所經營之公用售電業透過裝設智慧電表之手段蒐集用電戶即時用電資訊係構成對於用電戶之民眾居住隱私資料之搜索，然由於其具有更高之公益性，因此仍可合理化此一對於「對於民眾居住隱私資料之搜索」之行為。 綜上，本案美國聯邦第七巡迴上訴法院判定內珀維爾市（Naperville）所經營之獨占性公用售電業勝訴。
美國聯邦加強導入節能績效保證專案，並規劃採購實務增訂規範美國總統歐巴馬於2011年12月發布備忘錄（Presidential Memorandum），要求美國聯邦政府應加強「導入節能績效保證專案（Implementation of Energy Savings Projects and Performance-Based Contracting for Energy Savings）」，並宣布未來24個月內最少將投入20億（billion）美元經費，推動聯邦機構採購實施節能績效保證專案，以改善建築物能源效率。基於政策指示，美國能源部（Department of Energy）下屬聯邦能源管理推動機構（Federal Energy Management Program，以下簡稱FEMP），研議規劃配套機制，協助導入「節能績效保證專案（Energy Savings Performance Contract，以下簡稱ESPC）」，更精簡、效率、低成本之實施模式，並助益美國能源技術服務產業（Energy Service Companies，以下簡稱ESCO）發展。 美國FEMP於2012年2月公告ESPC採購關於「資金（Financing）」部分之「資訊徵求意見書（Request for Information，RFI）」，廣詢實務各界意見，希望能繼而落實於政府採購規範及契約範本之研議，並協助ESCO業者能更順利取得資金，並協助ESCO業者能更順利取得資金，及降低資金取得成本，如此亦可有利益於所採購導入之聯邦機構。 FEMP主要係規劃探討關於ESPC融資資金，最合理且有吸引力之利率，所應考慮各項要件及利率定價模式，並且規劃建立資金協助者之優先名單（Preferred Financiers），以利配套選用。再者FEMP為推動整合，特別探討ESPC跨專案（Project Aggregation (Combining)）時，可能影響資金協助者之融資與財務評估，例如數ESPC專案、數ESCO業者、由同一資金協助者承接，或是數ESPC專案、數實施地點、同一ESCO業者，同一資金協助者，亦或者數ESPC專案、數實施地點、數ESCO業者、但同一政府機構、且同一資金協助者，研析相關影響要件。 以及，FEMP並探討ESPC實施「量測驗證（Measurement and Verification），對於取得融資評估過程是否增加複雜影響因素，以及資金協助者對於量測驗證機制，是否認為將增加風險並致更高融資利率，均為重要探討議題。此項意見徵求書，未來將落實於聯邦機構政府採購之實務規範上，相關內容再持續觀察追蹤。
Google提供免費大量的專利及商標資料美國專利商標局(下稱USPTO)於6月2日和Google簽訂一協議，為期兩年Google將免費協助USPTO提供超過10TB(terabytes)大量的專利及商標相關資訊，提供使用者一次下載大量資料。其下載網站為http://www.google.com/googlebooks/uspto.html，該網站載明，所有的原始資料都來自於USPTO，Google未修改任何資料，只將檔案轉為zip壓縮檔。 早期專利及商標的資料是由使用者付費後方可由政府的DVD取得，所以公司往往花費龐大的費用在於取得所需要的資料。 USPTO表示，IP群體渴望USPTO可提供大批機器可閱讀的格式，然而USPTO未具備相關的技術能力。目前此協議是過渡的解決方案，USPTO正發展策略，希望未來能讓合作承包商獲得大量專利商標相關資料，並提供給大眾使用。 Google工程經理Jon Orwant表示，Google非常高興能與USPTO合作，以促進專利及商標資料更具存取性(accessible)及有用性，更重要的為，使公開的資料更容易蒐集與分析。 為可經由Google下載相關專利及商標資料，包括已獲證圖像(grant images)，已獲證全文(grant full text)，已獲證目錄資料(grant bibliographic data)，已公開申請案(published applications)，轉讓(assignment)，維護費用事項(maintenance fee events)，USPTO Red Book及分類資料(classification information)等。USPTO表示，未來將與Google再合作提供額外的資料，包括專利及商標申請歷史檔案及其相關資料。
英國發布「人工智慧:機會與未來決策影響」政策報告，並聚焦人工智慧運用及管理英國科學辦公室於2016年11月9日，發布一份政策報告：「人工智慧:機會與未來決策影響(Artificial intelligence: opportunities and implications for the future of decision making)」，介紹人工智慧對於社會及政府的機會和影響，此份政策報告並提出以下各項重要建議： （一）關於人工智慧及應用界定與發展 人工智慧是指由人工製造系統所表現出來的智慧。不僅是將現有的流程自動化，還包含制定目標，並利用電腦程式實現這些目標，常見案例包括線上翻譯、語音辨識、搜尋引擎篩選排序、垃圾郵件過濾、透過用戶回饋改善線上服務、預測交通流量、環境或社會經濟趨勢發展觀察等。 （二）未來對社會及政府利益及衝擊 人工智慧針對提高生產力有巨大的潛力，最明顯的就是幫助企業或個人更有效地運用資源，並簡化大量資料的處理，例如Ocado 及 Amazon這樣的公司正充份利用人工智慧改善倉儲及銷售網路系統，使得客戶可便利快速購得網購商品。 目前，政府也日益增加相關技術的運用，以提高公共服務效率，使資源達到最佳化分配；減少決策者被誤導的可能；使政府決策透明化；確保各部門更了解人民的意見。然政府在利用人工智慧及巨量資料時，應遵守倫理使用指南，並遵守英國資料保護法及歐盟一般資料保護規則等相關法規。 在巨量資料、機器人、自動系統對於勞動市場的衝擊一直都是關注的議題，對於面臨未來工作結構的轉型及相關技術人員的進修及培養，應及早規劃，以適應未來的轉變。 （三）關於相關道德及法律風險管理課題 人工智慧可能潛在相關道德倫理問題。許多專家認為政府應積極管理並降低風險發生可能性，可從以下兩個面向思考： (1)研究機器學習與個人資料運用結合時，對個人自由、隱私和同意等概念的影響。 (2)調適由人工智慧作決策行為時的歸責概念和機制。 有關實際案例之研究，則包括，執法單位在應用預測技術時，應避免以種族、國籍、地址作為標準，並嚴守無罪推定原則，以防止民眾受到歧視或不公平的指控；透過人工智慧可從公開資料推測出某些私人訊息或其親朋好友的消息，此訊息即可能超出原先個人同意披露的內容；原先匿名化及去識別化的訊息，因人工智慧功能加強，導至可能被重新識別，故須定期檢視該保護措施是否足夠。另外，人工智慧的演算偏差可能導致偏見的風險，為了降低這種風險，技術人員應採取對應措施。 針對責任及疏失的判斷，目前尚無太多的實務案例，但為保持對使用人工智慧的信任，仍需有明確的歸責制，可能有必要讓首席執行長或高級主管對人工智慧做出的決策負最終責任。許多專家也建議，部分技術內容須保持透明度，以確定技術使用時是否有盡到相關注意義務。 人工智慧已成為未來發展趨勢之一，對於社會整體層面影響將越來越深，新的技術除了可提升生產力，帶來便利的生活，同樣也會帶來衝擊。為促進相關產業發展及推展新技術的使用，應打造技術發展友善環境，並對於公眾安全進行相關風險評估，如果風險屬於現有監管制度範圍，應評估是否可充分解決風險，或是須要做相對應的調適。另外，在人工智慧融入現實世界同時，相關業者應注意相關產品安全性、隱私權保護和從業人員的倫理教育，以提高大眾對新技術的接受及信賴，並確保對於未來挑戰及轉變已做好萬全準備。