歐盟執委會發布指引以因應《人工智慧法》「禁止的人工智慧行為」條文實施
歐盟執委會於2025年2月4日發布「關於禁止的人工智慧行為指引」（Commission Guidelines on Prohibited Artificial Intelligence Practices）（下稱「指引」）」，以因應歐盟《人工智慧法》（AI Act，下稱AIA）第5條關於「禁止的人工智慧行為」之規定。該規定自2月2日起正式實施，惟其內容僅臚列禁止行為而未深入闡釋其內涵，執委會特別制定本指引以避免產生歧義及混淆。
第5條明文禁止使用人工智慧系統進行有害行為，包括：利用潛意識技術或利用特定個人或群體之弱點進行有害操縱或欺騙行為、實施社會評分機制、進行個人犯罪風險預測、執行無特定目標之臉部影像蒐集、進行情緒識別分析、實施生物特徵分類、以及為執法目的而部署即時遠端生物特徵識別系統等。是以，指引就各禁止事項分別闡述其立法理由、禁止行為之具體內涵、構成要件、以及得以豁免適用之特定情形，並示例說明，具體詮釋條文規定。
此外，根據AIA規定，前述禁令僅適用於已在歐盟境內「投放市場」、「投入使用」或「使用」之人工智慧系統，惟對於「使用」一詞，並未予以明確定義。指引中特別闡明「使用」之定義，將其廣義解釋為涵蓋「系統投放市場或投入使用後，在其生命週期任何時刻的使用或部署。」
指引中亦指出，高風險AI系統的特定使用情境亦可能符合第5條的禁止要件，因而構成禁止行為，反之亦然。因此，AIA第5條宜與第6條關於高風險AI系統的規定交互參照應用。
AIA自通過後，如何進行條文內容解釋以及法律遵循義務成為各界持續討論之議題，本指引可提升AIA規範之明確性，有助於該法之落實。
- Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act, European Commission - Shaping Europe’s digital future
- ANNEX To The Communication To The Commission Approval Of The Content Of The Draft Communication From The Commission -Commission Guidelines On Prohibited Artificial Intelligence Practices Established By Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final (Feb. 4, 2025)
沈娟娟
法律研究員 編譯整理
Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act, European Commission - Shaping Europe’s digital future, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act#:~:text=These%20guidelines%20provide%20an%20overview%20of%20AI%20practices,potential%20risks%20to%20European%20values%20and%20fundamental%20rights. (last visited Feb. 26, 2025).
ANNEX To The Communication To The Commission Approval Of The Content Of The Draft Communication From The Commission -Commission Guidelines On Prohibited Artificial Intelligence Practices Established By Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final (Feb. 4, 2025), https://ec.europa.eu/newsroom/dae/redirection/document/112367 (last visited Feb. 26, 2025).
世界經濟論壇（World Economic Forum, WEF）於2020年11月10日發表「2020年十大新興科技報告」（Top 10 Emerging Technologies 2020），報告中提出10個近年出現，且被認為在未來5年內最具有正面改變社會潛力的新興科技，並說明除了關注這些科技帶來的改變外，也應關注其引發的風險。 2020年全球最密切關注的議題為健康與氣候變遷，也因此2020年被認為具有發展潛力的新興技術均與這兩個議題有關，包含：（1）無痛注射與測試用的微針技術（Microneedles）；（2）太陽能化學（Sun-Powered Chemistry）利用可見光將二氧化碳轉換為普通材料，可作為合成藥物、清潔劑、化學肥料和紡織品的材料；（3）虛擬患者（Virtual Patients），替代人類做人體臨床試驗，比一般試驗更快更安全；（4）空間計算（Spatial Computing）以強化虛擬生活和現實的連結；（5）數位醫療（Digital Medicine）應用程式之發展可以診斷甚至治癒疾病；（6）電動飛航（Electric Aviation）裝置，例如電動推進器可以清除直接碳排放（direct carbon emissions），減少九成的燃料成本、五成維護成本和七成噪音汙染，降低整體航空旅程環境污染並提高效率；（7）低碳水泥（Lower-Carbon Cement）的發展作為氣候變遷下的新興建築材料；（8）量子感測（Quantum Sensing）做為高精準度計算方式，將於未來三到五年進入市場，並首重用於醫療和國防應用產業上；（9）新興零碳能源如綠氫（Green Hydrogen），可補充風力和太陽能；（10）全基因合成（Whole-Genome Synthesis）作為下一代細胞工程（cell engineering）尖端科技，使未來醫學得以治癒更多遺傳疾病。 報告中指出，雖然這些新興技術具有改變社會和產業的潛力，但卻無法確保技術本身是否能被妥善使用（Good is not guaranteed）。首先，這些技術仍需要龐大資金以達到成熟度和可利用的價格點（price point），才能與相關產業達成整合化、規模化。此外面對這些新興科技，決策者必須迅速針對可能引發的風險提出對應策略，例如數位醫療在手機應用程式上會引發政府許可、資料利用、隱私等問題。因此，政策與產業如何協作，使用相關科技、限制濫用並控制技術中風險等，是面對是類新興科技應積極考量的方向。
俄羅斯聯邦政府發布第299號法令，得不經授權利用「不友好國家」的專利權俄羅斯聯邦政府於2022年3月7日發布第299號法令（Постановление Правительства Российской Федерации № 299，下稱本法令），規定於有國家利益考量之情況下，得不經授權利用「不友好國家」的專利權。而我國也在前述「不友好國家」名單之列。 具體而言，本法令之解釋脈絡應從俄羅斯民法（Гражданский кодекс Российской Федерации）第1360條談起，該條規定在確保國家安全或保護公民生命與健康之極端必要情況下，俄羅斯聯邦政府有權決定，未經專利權人同意，使用相關發明、新型和工業品外觀設計，惟需儘快通知專利權人，並支付相應之補償金。 2021年10月18日，俄羅斯聯邦政府按民法第1360條第2項規定，頒布第1767號法令（Постановление Правительства Российской Федерации № 1767）確定補償數額為受專利保護之商品與服務所產生實際收益之0.5%。 然而，因烏俄戰爭持續延燒致俄羅斯聯邦政府採取反西方制裁措施之故，其發布第299號法令，針對第1767號法令再次增修補償數額之認定方法，規定：「倘專利權人來自『不友好國家』，則俄羅斯實體或個人未經專利權人同意，使用相關發明、新型或工業設計進行生產、銷售商品、提供勞務及服務時，須向權利人支付權利金為前述活動所產生實際收益之0%」。 基此，第299號法令應限縮在有國家利益考量之情況下（如：與國家安全或保護俄羅斯公民的生命、健康相關），針對使用特定的專利或商品，可免支付專利強制授權的補償金。換言之，本法令不應解讀為，任何專利在俄羅斯都可恣意利用，而無需經權利人同意或支付適當補償。惟因無法預期未來俄羅斯聯邦政府對「不友好國家」會否有其他強制授權情事，故我國經濟部智慧財產局發函通知專利權人，應密切關注相關議題，並預作準備以降低風險。
歐洲創新委員會發布2024年工作計畫，將對策略性科技公司及新創公司提供超過12億歐元的資金歐洲創新委員會（European Innovation Council, EIC）於2023年12月12日發布2024年工作計畫，其中三項計畫將對策略性科技公司及新創公司提供超過12億歐元的資金： （1）「探路器計畫」（EIC Pathfinder）：本計畫經費共2.56億歐元，將補助「有潛力帶領技術突破」的多元學科（multi-disciplinary）研究團隊；每案補助金額不超過400萬歐元。 （2）「轉型器計畫」（EIC Transition）：本計畫經費共0.94億歐元；「轉型器計畫」係協助「探路器計畫」、「歐洲研究院概念驗證計畫」（European Research Council Proof of Concept projects）、「展望歐洲計畫」（Horizon Europe）之研發成果銜接創新應用；此計畫每案補助金額不超過250萬歐元。 （3）「加速器計畫」（EIC Accelerator）：本計畫經費共6.75億歐元，補助對象為「有能力創造新市場及促進顛覆性技術創新研發」的新創企業及中小企業。此計畫每案補助金額為250萬歐元以下，但若由EIC基金進行投資者，每案補助金額為50萬歐元至1500萬歐元。 除上述補助外，EIC對於研發計畫管理亦扮演積極主動的角色，可協助受補助者連結歐盟境內外資源，形塑良好的創新生態系。
奧克蘭市（Oakland）成為美國第三個禁止公部門使用人臉辨識技術的城市近年來，人臉辨識（Face recognition）技術迅速發展，增加便利性的同時，也伴隨了種種隱憂，如：對隱私權的侵害、公部門權力濫用等，是以加州舊金山市（San Francisco）和麻薩諸塞州薩默維爾市（Somerville）分別在今年（2019）5月和6月發布公部門使用人臉辨識技術的相關禁令，加州奧克蘭市（Oakland）並於7月16日跟進，成為美國第三個禁止公部門使用人臉辨識技術的城市。 2018年麻省理工學院曾針對人臉辨識技術的正確率做過研究，其研究結果報告顯示黑人女性辨識錯誤率超過30%，遠不如白人男性；美國公民自由聯盟（American Civil Liberties Union, ACLU）也針對Amazon人臉辨識軟體Rekognition做過測驗，結果該系統竟誤將28名美國國會議員顯示為嫌疑犯，這兩項研究顯示，人臉辨識技術存有極高錯誤率且對種族間存有很大的偏見與歧視。對此奧克蘭市議會主席卡普蘭（Rebecca Kaplan）一項聲明中表示：「當多項研究都指出一項新興技術具有缺陷，且造成寒蟬效應的時候，我們必須站出來」。 卡普蘭並表示：「建立社區和警察間信任與良好關係以及導正種族偏見是很重要的，人臉辨識技術卻反而加深此問題」、「對於隱私權和平等權的保護是最基本的」，故奧克蘭市通過禁止公部門使用人臉辨識技術的法令，原因如下： 人臉辨識系統所依賴的資料集，具高度不準確性。 對於人臉辨識技術的使用與共享，尚缺乏標準。 這項技術本身具有侵犯性，如：侵犯個人隱私權。 政府如果濫用該技術所得之資訊，可導致對弱勢族群的迫害。 雖然目前美國僅有三個城市通過政府機關禁止使用人臉辨識技術的法令，但依照目前的發展狀態，其他的城市甚至州在未來也可能會跟進頒布禁令。