歐盟執委會發布指引以因應《人工智慧法》「禁止的人工智慧行為」條文實施
歐盟執委會於2025年2月4日發布「關於禁止的人工智慧行為指引」（Commission Guidelines on Prohibited Artificial Intelligence Practices）（下稱「指引」）」，以因應歐盟《人工智慧法》（AI Act，下稱AIA）第5條關於「禁止的人工智慧行為」之規定。該規定自2月2日起正式實施，惟其內容僅臚列禁止行為而未深入闡釋其內涵，執委會特別制定本指引以避免產生歧義及混淆。
第5條明文禁止使用人工智慧系統進行有害行為，包括：利用潛意識技術或利用特定個人或群體之弱點進行有害操縱或欺騙行為、實施社會評分機制、進行個人犯罪風險預測、執行無特定目標之臉部影像蒐集、進行情緒識別分析、實施生物特徵分類、以及為執法目的而部署即時遠端生物特徵識別系統等。是以，指引就各禁止事項分別闡述其立法理由、禁止行為之具體內涵、構成要件、以及得以豁免適用之特定情形，並示例說明，具體詮釋條文規定。
此外，根據AIA規定，前述禁令僅適用於已在歐盟境內「投放市場」、「投入使用」或「使用」之人工智慧系統，惟對於「使用」一詞，並未予以明確定義。指引中特別闡明「使用」之定義，將其廣義解釋為涵蓋「系統投放市場或投入使用後，在其生命週期任何時刻的使用或部署。」
指引中亦指出，高風險AI系統的特定使用情境亦可能符合第5條的禁止要件，因而構成禁止行為，反之亦然。因此，AIA第5條宜與第6條關於高風險AI系統的規定交互參照應用。
AIA自通過後，如何進行條文內容解釋以及法律遵循義務成為各界持續討論之議題，本指引可提升AIA規範之明確性，有助於該法之落實。
- Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act, European Commission - Shaping Europe’s digital future
- ANNEX To The Communication To The Commission Approval Of The Content Of The Draft Communication From The Commission -Commission Guidelines On Prohibited Artificial Intelligence Practices Established By Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final (Feb. 4, 2025)
沈娟娟
法律研究員 編譯整理
Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act, European Commission - Shaping Europe’s digital future, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act#:~:text=These%20guidelines%20provide%20an%20overview%20of%20AI%20practices,potential%20risks%20to%20European%20values%20and%20fundamental%20rights. (last visited Feb. 26, 2025).
ANNEX To The Communication To The Commission Approval Of The Content Of The Draft Communication From The Commission -Commission Guidelines On Prohibited Artificial Intelligence Practices Established By Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final (Feb. 4, 2025), https://ec.europa.eu/newsroom/dae/redirection/document/112367 (last visited Feb. 26, 2025).
繼美國聯邦巡迴上訴法院於2009年底於The Forest Group Inc v. Bon Tool Co. 一案中將美國專利法35 U.S.C. § 292條中關於不實專利標示(false patent marking)的罰金計算方式認定為罰金之計算是以每一個標示錯誤專利資訊的產品為基礎，並將原案發回地方法院(the U.S. District Court for the Southern District of Texas)重審後，地方法院於今年4月27日裁定基於專利法第292條具懲罰性之本質，針對標示錯誤或標示無效專利號之產品之罰金應以該產品之最高售價而非被告基於販售該產品所獲得之利潤或經濟利益來計算。 於此案中，The Forest Group產品之售價介於美金 $103至 $180元間，法院因而裁定處以The Forest Group每一標示錯誤專利資訊產品 $180元之罰金。 Atlas 法官提到藉由將標示不實專利資訊者處以該產品之最高售價之罰金，The Forest Group所需賠償之罰金將超過其藉由販售該產品所獲取之利益，達到第292條遏制之目的。 預計此案之判決將對其他地方法院於處理類似案件之判定產生引響，尤其對那些將錯誤專利資訊標示在大量產品上的被告而言。此外，正如各界所預料，繼去年聯邦巡迴上訴法院對第292條提出罰金計算基礎之解釋後，提起相關訴訟案件之數量已大量提升，至今已累積約140案。另，聯邦巡迴上訴法院亦剛於6月10日於Pequignot v. Solo Cup 一案中針對標示過期專利、舉證責任等與第292條相關之爭議做出解釋，後續效應直得企業持續關注。
德國2015年6月5日通過電動車法(EmoG)德國聯邦議會通過電力驅動車輛優惠法(下稱電動車法(Gesetz zur Bevorrechtigung der Verwendung elektrisch betriebener Fahrzeuge ,Elektromobilitätsgesetz-EmoG)，該法遂於於2015年6月5日生效。 德國為了達到減碳目標，不但大力推動再生能源，且亦於五年前成立國家電動車平台，希望於2020年達到全國有100萬輛電動車在街道上行駛之目標，德國政府為達此一目標，修法讓電動車可享地方政府提供的停車位以及可使用巴士車道兩項優惠。 該法對電動車之定義為(1)電池驅動車輛(2)可充式之油電混合車輛及(3)燃料電池車輛(電動車法第2條)，並提供優惠予(1)公用道路巷道之停放(2)全部或一部特定公用道路巷道之特別使用(3)進入或通過禁行區域，例外地許可之(4)公用道路巷道停放時之規費，免除之(電動車法第3條第4項)。 另外，為推廣使用，依道路交通秩序法第46條第1a項，電動車輛亦得黏貼特殊標識行駛於交通管制區、禁行區域及需繞道之路段。供巴士行駛道路亦同。而為了電動車之辨識，本法第4條亦規定電動車標識應具備之內容，並於2015年9月26日發相關之電動車標示規則。
美國紐約州通過《政府自動化決策監督法》規範州政府使用自動化決策系統紐約州州長於2024年12月21日簽署《政府自動化決策監督法》（Legislative Oversight of Automated Decision-making in Government Act, LOADinG Act），用以規範紐約州政府使用人工智慧自動決策系統的方式以及相關義務，成為美國第一個通過這類法律的州。 該法所定義之「自動化決策系統」係指任何使用演算法、計算模型或人工智慧技術，或其組合的軟體，用於自動化、支援或取代人類決策；這類系統亦包括應用預定義規則或機器學習演算法進行資料分析，並在自動產生結論、建議、結果、假設、預測。 針對政府使用自動化決策系統之情形，《政府自動化決策監督法》有三大重點：人類監督、影響評估以及資訊揭露。 一、人類監督 州政府在提供社會福利資源或其他可能實質影響人民權益與法定權利的業務時，除非是在「有意義的人工審查」下進行操作，否則不得使用自動化決策系統。同時，此法也強調，州政府亦應確保其員工現有權利不會受到自動化決策系統的影響，例如不得因此受到解雇、調職或減薪等。 前述有意義的人工審查，係指對自動化決策流程進行審查、監督及控制的工作人員，必須是受過訓練、對該系統有一定之了解且擁有權力干預、變更系統最終決策的人。 二、影響評估 州政府如欲使用自動化決策系統，應進行影響評估且每兩年應至少重新評估一次；系統在進行重大更新前，也應重新進行影響評估。若評估發現系統產生歧視性或有偏見的結果，機關必須停止使用該系統及其生成的資訊。 影響評估的項目除了性能、演算法及訓練資料外，亦應進行準確性、公平性、偏差歧視、以及個人資料安全等相關測試。 三、資訊揭露 影響評估需在系統實施前至少30天提交給州長與州議會，並在相關機關的網站上公布；僅機關在特殊情況下（例如涉及公共安全考量），州政府可針對報告揭露之資訊進行必要的刪改，但必須說明做出此決定的原因。此外，州政府亦需於本法通過後向州議會提交報告，說明包括系統描述、供應商資訊、使用開始日期、用途、人類決策的支持或取代情況、已進行的影響評估摘要等。 本法強調對人工智慧技術的審慎應用，特別關注其對勞工權益的影響。該法明確規定，禁止在無人類監督的情況下，使用自動化系統進行失業救濟或育兒補助等福利的審核決策，並保障州政府員工不因人工智慧的實施而減少工作時間或職責。此類規定在現行立法中較為罕見，顯示出立法者對勞工權益的高度重視。該法的實施效果及影響，值得未來持續保持關注。
德國聯邦資料保護暨資訊自由官聲明病人資料保護法恐違反GDPR德國聯邦資料保護暨資訊自由官（Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit,BfDI）Ulrich Kelber教授於2020年8月19日指出，2020年7月3日甫由德國議會通過的病人資料保護法（Gesetz zum Schutz elektronischer Patientendaten in der Telematikinfrastruktur; Patientendaten- Schutzgesetz, PDSG），恐違反歐盟一般資料保護規則（GDPR）。 該法規定自2021年起，健康保險業者必須向被保險人（病人），提供電子病歷（ePA）。而自2022年起，病人有權要求醫生將病人相關資料記錄於電子病歷，包括健檢結果、醫學報告或X光片、預防接種卡、孕婦手冊、兒童體檢手冊、牙科保健手冊等，而被保險人更換健康保險業者時，可要求移轉其電子病歷至新的健保公司。另外，2021年起將可透過手機，下載電子處方並至藥局領取處方藥。2022年1月1日起，將全面強制使用電子處方，病人將可透過智慧手機或平板電腦，決定他人對於電子病歷之近用權限。病人若無手機，可至健保公司查看電子病歷。依照規劃，目前電子病歷的使用仍採自願性。病人可決定保存或刪除哪些資料，以及誰可以近用該文件。自2023年起，被保險人可自願提供電子病歷資料作為研究用途，而因上述研究可處理病人資料之醫師、診所和藥劑師等，有義務確保其資料安全。 BfDI於立法過程中多次強調，在導入電子病歷使用時，病人必須可完全控制自己的資料。而該法規範僅提供病人使用部分設備，例如智慧手機或平板電腦，設定其電子病歷之存取權限，此意謂著將有一段空窗期，病人無法決定其電子病歷中各文件之存取權限。而對於電子病歷中，可否僅開放部分資料供瀏覽或存取，亦受到聯邦資料保護暨資訊自由官質疑。另外，對於無法或不想在手機或平板電腦上使用上述功能的人，本法並未進一步規定，亦即2022年起，上述病人為了能夠檢查或接受醫療，必須強迫病人控制其相關資料，但目前顯然尚缺乏相關配套。此外，以資料保護角度而言，目前電子病歷之認證程序有安全疑慮，尤其是未使用電子健康卡的替代驗證程序尚不夠嚴謹，因此命令相關單位應於2021年5月前完成改善。 電子病歷是對醫療保健改善的重要一步，因此相關健康資料保護需要符合GDPR規範水平。電子病歷雖已逐漸受到認可與重視，惟當前病人資料保護法恐無法完全保護病人資料安全。因此，BfDI將透過監管手段，確保健康保險公司不會因提供電子病歷而違反GDPR。