歐盟執委會發布《受禁止人工智慧行為指引》
歐盟執委會發布《受禁止人工智慧行為指引》
資訊工業策進會科技法律研究所
2025年02月24日
歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。
壹、事件摘要
歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]：
1. 不可接受風險（Unacceptable risk）
2. 高風險（High risk）
3. 有限風險，具有特定透明度義務（Limited risk）
4. 最低風險或無風險（Minimal to no risk）
AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。
貳、重點說明
一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為
（一）概念說明
本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。
（二）禁止施行本行為之前提要件
1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。
2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。
3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。
4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。
5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。
二、AI Act本文第5條1（c）－社會評分行為
（一）概念說明
本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。
3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。
三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為
（一）概念說明
本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。
3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。
4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。
四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為
（一）概念說明
本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。
3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。
4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。
五、AI Act本文第5條1（f）－情緒辨識行為
（一）概念說明
本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該系統係用於推斷情緒。
3.因果關係：該行為發生於職場或教育訓練機構。
4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。
六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為
（一）概念說明
本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。
（二）禁止施行本行為之前提要件
1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。
2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。
3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。
4.因果關係：前述分類依據為其生物辨識資訊。
5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。
七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為
（一）概念說明
本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。
（二）禁止施行本行為之前提要件
1.該行為必須涉及對即時RBI系統的「使用」行為。
2.應用目的：使用目的須為執法需要。
3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。
4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。
參、事件評析
人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。
為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。
[1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025).
[2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025).
[3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025).
[4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。
[5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。
[6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。
[7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。
[8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。
[9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。
[10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).
為完善現行著作權登錄制度與加速解決著作權爭議，韓國文化體育觀光部提出著作權法修正案，該修正案於2020年1月9日經國會同意通過，並已在同年2月4日公布，預計於同年8月5日施行，韓國此次著作權的修法主要有三個重點。 一是韓國現行的著作權爭議調解制度，若當事者有一方不同意調解就破局，當事人僅能透過訴訟解決爭議，這樣的調解形式意外增加了韓國司法上的負擔，故此次修法適當的調整了著作權爭議調解制度。標的金額未滿一千萬韓元的案件，或當事人一方無法提出合理的拒絕調解理由，當事人就不能拒絕韓國著作權委員會的調解，此次修法賦予了韓國著作權委員職權調解的權力。 二為現行韓國的著作權係採取創作保護主義，登錄並非是取得著作權之法定要件，故韓國在運行著作權登錄制度時並不會對登錄的著作物做實質審查，這也讓著作權虛偽登錄或錯誤登錄的情況很難被避免，而這次著作權修法賦予了著作權委員會有依職權撤銷這些虛偽登錄、錯誤登錄著作物的權力。 三係若是出於公共利益之目的，如基於調查需求複製著作物、編輯教科書而想利用已刊登的著作物等情形，可以不受著作權的拘束，自由的利用著作物。韓國文化體育觀光部也表示透過此次的修法，希望能為韓國打造一個更適合著作發展的環境並為韓國著作權活用帶來正面的影響。 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」
歐盟通過網路與資訊系統安全指令歐盟於2016年7月6日公布了網路與資訊系統安全指令（Directive on Security of Network and Information Systems, NIS Directive），該指令目的是希望歐盟內之關鍵基礎服務營運商及數位服務提供者就資訊交換、合作及共通安全要求上有建立及規劃之基本能力，以提高歐盟內部市場之功能。 故至2018年11月前，各會員國須確認境內的關鍵基礎服務營運商並建立一份清單，包含能源、運輸、銀行、金融市場基礎建設、衛生部門、飲水供應及分配、數位基礎設施等部分，其判斷標準為（a）提供維持社會重要或經濟活動之服務；（b）倚賴網路或資訊系統供應之服務；（c）該服務之提供易受顯著破壞影響者。該指令之適用範圍亦納入數位服務，如線上市場、搜尋引擎及雲端服務之數位服務提供者，而上述兩者所適用之規範略有不同，如數位服務提供者在規劃資訊安全措施及資安事件發生之通知義務時，另需將其系統及設施之安全性、事件處理、業務管理之持續性、監測、稽核及測試、符合國際標準等因素列入考量。 此外，為了促進會員國間之策略合作及資訊交換，歐盟將會設立一個合作小組，亦將建立電腦安全事件因應小組（Computer Security Incident Response Teams, CSIRTs），主要負責監測國家資安事件、並對資安風險為預警、因應及分析等，另為確保各會員國彼此間在運作上之迅速與效率，並建立電腦安全事件因應小組網路（CSIRTs network），提供各會員國交換資安風險或事件相關資訊之平台。 該指令於今年8月生效，會員國須於指令生效後21個月內即2018年5月，將指令之內容適用至本國法並公布之，該指令之內容可做為我國訂定資安法規之參考。
歐盟電子通訊市場之事前管制與界定 中國大陸重新開放電子遊戲遊藝設備生產銷售中國大陸重新開放電子遊戲遊藝設備生產銷售 科技法律研究所 專案經理 劉得正 法律研究員 丘瀚文 104年08月03日 在2000年中國大陸國務院發布「國務院辦公廳轉發文化部等部門關於開展電子遊戲經營場所專項治理意見的通知」禁止遊戲遊藝設備在陸進行銷售、流通以來，歷經15年黑暗期後，終於在2015年6月24日中國大陸文化部發佈「文化部關於允許內外資企業從事遊戲遊藝設備生產和銷售的通知」重新開放電子遊戲遊藝設備生產銷售後，迎來主機遊戲產業復甦的曙光。以下本文將簡介中國大陸對於遊戲遊藝設備的規範歷程，以及本次開放重點： 一、2000年－中國大陸全面管制電子遊戲經營場所與遊戲遊藝設備 中國大陸國務院2000年發布「國務院辦公廳轉發文化部等部門關於開展電子遊戲經營場所專項治理意見的通知」起，明白表示自通知發布之日起：1.禁止新設電子遊戲經營場所；2.現有電子遊戲經營場不得增添或更新任何類型電子遊戲遊藝設備；3.除加工出口外，嚴格限制任何電子遊戲遊藝設備及其零、附件生産、銷售。自此宣示中國大陸境內，不論任何企業或個人，均不得從事境內之電子遊戲裝置及零件生產、銷售活動，以避免傷害社會秩序以及妨礙青少年身心發展成長，此一禁令造成家用主機的販售進入地下化，水貨主機與盜版遊充斥市場。 二、2013年－上海自貿區區域開放電子遊戲遊藝設備生產銷售 在主機遊戲產業因上述禁令進入黑暗期的同時，中國大陸數位遊戲市場結構產生了莫大變化。頁遊、手遊取代了主機遊戲成為市場主流，而伴隨著中國官方對外國遊戲內容審批的嚴格落實，中國大陸本地遊戲開發商逐漸累積了開發遊戲的經驗與能力。有論者認為[1]，現今本地商已具備相當實力進入主機遊戲開發市場，而此也成為中國大陸重新開放遊戲遊藝設備生產銷售的契機。從而，在2013年9月、12月分別發佈的「中國(上海)自由貿易試驗區總體方案」與「國務院關於在中國(上海)自由貿易試驗區內暫時調整有關行政法規和國務院檔規定的行政審批或者准入特別管理措施的決定」規範下，自由貿易區內暫時停止實施關於電子遊戲遊藝設備相關禁止規定。至此，自由貿易區內遊戲遊藝設備銷售、生產已完全開放。 三、2015年6月－全面開放電子遊戲遊藝設備生產銷售 在2013年於上海自貿區開放試點後，微軟、索尼便先後與大陸本地公司合資於上海設立公司，並在歷經2年試行下，如今中國大陸文化部於今(2015)年6月24日發佈「文化部關於允許內外資企業從事遊戲遊藝設備生產和銷售的通知」，正式全面重新開放電子遊戲遊藝設備，以下簡介規範重點： (一)規範廣泛適用於各類遊戲遊藝設備（街機、家用主機、掌機） 遊戲遊藝設備定義指通過專用設備向消費者提供遊戲內容和遊戲過程的電子、機械類裝置，包括營業場所使用的電子遊戲遊藝設備、與電視接收機設備配套使用的電子遊戲遊藝設備及手持類電子遊戲遊藝設備等。 (二)遊戲內容主題仍有限制 儘管對於主機已為開放，中國大陸仍不改以往作法的是，對於內容仍持高度管制的態度。配合此次主機開放，文化部另行制定了「遊戲遊藝設備內容審核管理辦法」，禁止違反善良風俗、煽動民族仇恨、破壞國家安全[2]以及賭博性遊戲[3]內容發行，違反者則由省級文化行政部門責令改正，未改正的，由省級文化行政部門將其列入文化市場經營異常名單。 (三)審批決定原則由省級部門於受理申請20日內作成 對應前述內容限制，遊戲遊藝設備內容審核管理辦法便規定由省級文化行政部門負責遊戲遊藝設備內容審核工作，並應在行政審批服務大廳及有關政務網站，公佈遊戲遊藝設備內容審核的法規依據、實施機關、審核條件、審核程式、審核時限、聯繫方式等資訊服務。 省級文化行政部門自受理申請日[4]起20日應作出決定，審核通過者，即可獲得「遊戲遊藝設備內容審核批准單」，並可向全國銷售遊戲遊藝設備，異地之文化行政部門不可重複審核。內容之審核，省級文化部門可自行由公安、文化部門、行業專家、協會組織評審專家委員會審核。若對內容難以界定者，可向文化部申請覆審，覆審期間不列入20日之計算。 (四)強制建立遊戲內容自我審查制度 遊戲遊藝產業應建立遊戲內容自我審查制度，並加強對審核人員培訓。從事遊戲遊藝設備生產和銷售的內外資企業，未建立內容自審制度者，省級文化行政部門可以將其列入文化市場經營異常名錄。 四、結論-對於台灣業者的挑戰 管制鬆綁對於業者多半可解讀為利多，然此次電子遊戲遊藝設備的開放，對於台灣業者乃至於全球各地遊戲業者而言，是否等同開啟前進中國遊戲市場的大門，仍有待進一步觀察： (一)直接受惠者非屬台灣業者擅長之主機遊戲 主機遊戲市場長期受到微軟、任天堂、索尼三大主機開發商所把持，台灣業者除非具備主機遊戲的開發能力並調整遊戲開發方向，否則難以從中直接獲利。 (二)主機開發商仍須與中國本地公司合作 自上海自貿區開放遊戲主機生產銷售以來，微軟、索尼進入中國市場便是採合資模式。之所以如此，主要在於網路服務仍屬高度管制業務，須取得資料中心業務和機上盒業務等牌照。回顧近十年遊戲產業發展，未具備連線功能的單機版遊戲已逐漸式微，取而代之的是搭配社群服務乃至於線上對戰功能之連線遊戲，而本次開放按照「遊戲遊藝設備內容審核管理辦法」第六條第二項規定，涉及網路下載和網路服務功能者，該遊戲產品仍應通過「網絡遊戲管理暫行辦法」內容審查或者備案。故外資主機開發商策略上仍須與中國本地網路服務業者合作，以確保主機功能與遊戲內容得以完整。某種程度上，也給予中國本地業者學習主機遊戲開發、經營的空間與機會。 (三)主機遊戲審批程序得否落實有待實證研究 按照本次遊戲遊藝設備內容審核管理辦法規定，即便遊戲本身並未涉及網路服務功能，仍應完成內容審核後始得上市。即使該管理辦法所規範之審核程序已縮短時限（文化行政部門自受理申請日起20日應作出決定），但仍有模糊空間，例如20日的起算係以提出申請時起算，抑或是申請文件備齊時起算。由於審查係以各省文化行政部門為主體，各地方審查作業是否能落實一致，仍有待後續的實證研究。 整體而言，本次管制鬆綁對於中國遊戲市場的發展仍具正面意義，業者可適時構思搶進市場之時點與策略作法。不過，除了評估上述規範風險外，如何改變長期以來習慣於「低價」甚至「免費」網路遊戲的中國玩家的消費習慣，商業模式的策略規劃，亦是不可忽略的根本問題。 更多中國大陸數位內容法令可參考<中國大陸數位內容法令彙編>APP Android版： https://play.google.com/store/apps/details?id=com.sdt.legal iOS版： https://itunes.apple.com/us/app/zhong-guo-da-lu-shu-wei-nei/id938015717?mt=8%20。 [1] 北京電子報，〈15年重生曙光 游戏机重返“地上”前途几何〉，2015年04月14日，http://epaper.ynet.com/html/2015-04/14/content_126904.htm?div=-1，最後瀏覽日期：2015年7月29日。 [2] 遊戲遊藝設備內容審核管理辦法第4條：「面向國內生產和銷售的遊戲遊藝設備禁止含有下列內容： （一）違反憲法確定的基本原則的； （二）危害國家統一、主權或者領土完整的； （三）危害國家安全，或者損害國家榮譽、利益的； （四）煽動民族仇恨、民族歧視，傷害民族感情或者侵害民族風俗、習慣，破壞民族團結的； （五）違反國家宗教政策，宣揚邪教、迷信的； （六）宣揚淫穢、賭博、暴力以及與毒品有關的違法犯罪活動，或者教唆犯罪的； （七）違背社會公德或者民族優秀文化傳統的； （八）侮辱、誹謗他人，侵害他人合法權益的； （九）法律、行政法規禁止的其他內容。」 [3]遊戲遊藝設備內容審核管理辦法第5條：「面向國內生產和銷售的遊戲遊藝設備的外觀、遊戲內容、遊戲方法說明應當使用我國通用語言文字，不得具有退幣、退分、退鋼珠等賭博功能。」 [4]審核條件依遊戲遊藝設備內容審核管理辦法第6條，申請人應檢附下列六款資料：（一）《遊戲遊藝設備內容審核申請表》；（二）企業營業執照影本，經營範圍應當含有遊戲遊藝設備生產或者銷售；（三）遊戲遊藝設備內設遊戲內容全過程的視頻檔或者軟體的視頻演示（DEMO）檔；（四）能夠反映產品整體外觀並與實際銷售產品一致的電子圖片。其中一張正面圖，兩張側面圖，格式統一為“*.JPG”，圖片解析度不低於1280X720；（五）遊戲遊藝設備使用的音訊檔、名稱清單和歌詞的電子文本。電子文本應當是遊戲遊藝設備中使用的全部背景音樂、歌曲的名稱清單、音訊檔和歌詞文本，如為外文歌曲須提供中外文對照文本；（六）遊戲遊藝內容中對白、旁白、描述性文字以及操作說明文本，如涉及外文的應當提交中外文對照文本。