歐盟執委會發布指引以因應《人工智慧法》「禁止的人工智慧行為」條文實施
歐盟執委會於2025年2月4日發布「關於禁止的人工智慧行為指引」（Commission Guidelines on Prohibited Artificial Intelligence Practices）（下稱「指引」）」，以因應歐盟《人工智慧法》（AI Act，下稱AIA）第5條關於「禁止的人工智慧行為」之規定。該規定自2月2日起正式實施，惟其內容僅臚列禁止行為而未深入闡釋其內涵，執委會特別制定本指引以避免產生歧義及混淆。
第5條明文禁止使用人工智慧系統進行有害行為，包括：利用潛意識技術或利用特定個人或群體之弱點進行有害操縱或欺騙行為、實施社會評分機制、進行個人犯罪風險預測、執行無特定目標之臉部影像蒐集、進行情緒識別分析、實施生物特徵分類、以及為執法目的而部署即時遠端生物特徵識別系統等。是以，指引就各禁止事項分別闡述其立法理由、禁止行為之具體內涵、構成要件、以及得以豁免適用之特定情形，並示例說明，具體詮釋條文規定。
此外，根據AIA規定，前述禁令僅適用於已在歐盟境內「投放市場」、「投入使用」或「使用」之人工智慧系統，惟對於「使用」一詞，並未予以明確定義。指引中特別闡明「使用」之定義，將其廣義解釋為涵蓋「系統投放市場或投入使用後，在其生命週期任何時刻的使用或部署。」
指引中亦指出，高風險AI系統的特定使用情境亦可能符合第5條的禁止要件，因而構成禁止行為，反之亦然。因此，AIA第5條宜與第6條關於高風險AI系統的規定交互參照應用。
AIA自通過後，如何進行條文內容解釋以及法律遵循義務成為各界持續討論之議題，本指引可提升AIA規範之明確性，有助於該法之落實。
- Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act, European Commission - Shaping Europe’s digital future
- ANNEX To The Communication To The Commission Approval Of The Content Of The Draft Communication From The Commission -Commission Guidelines On Prohibited Artificial Intelligence Practices Established By Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final (Feb. 4, 2025)
沈娟娟
法律研究員 編譯整理
Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act, European Commission - Shaping Europe’s digital future, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act#:~:text=These%20guidelines%20provide%20an%20overview%20of%20AI%20practices,potential%20risks%20to%20European%20values%20and%20fundamental%20rights. (last visited Feb. 26, 2025).
ANNEX To The Communication To The Commission Approval Of The Content Of The Draft Communication From The Commission -Commission Guidelines On Prohibited Artificial Intelligence Practices Established By Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final (Feb. 4, 2025), https://ec.europa.eu/newsroom/dae/redirection/document/112367 (last visited Feb. 26, 2025).
華盛頓特區於今〈2010〉年8月5日由阿肯薩州及維及尼亞州參議院議員Pryor及John Rockefeller所倡議之「個人資料安全及外洩通報法」〈Data Security and Breach Notification Act of 2010〉，其旨趣，在於統一美國各州不同個資外洩通報法，並嘗試為消費者個人資料之安全及隱私設定全國性的標準。 Pryor法案曾於2007年提出，惟當時未能通過，其立法緣由係為處理美國各州、聯邦及國際間政府對個資安全與日俱增之重視。其規範內容，在要求處理及儲存消費者私人資訊，諸如「社會安全碼」〈social security numbers〉之企業，一旦發生資料外洩事件，需對國家提出通報，如該事件對消費者產生現實的「身分盜竊」〈identity theft〉或「帳戶詐欺」〈account fraud〉風險，則應於發現個資外洩六十日內通知受影響之消費者。 Pryor法案之適用對象甚廣，故有認為，該法一旦通過，其將成為繼美國金融服務法〈the Gramm-Leach-Bliley Act，簡稱GLBA〉後的模範法典，其適用對象包括受GLBA規範之金融機構及任何個人〈any individual〉、合夥〈partnership〉、公司〈corporation〉、信託〈trust〉、工地產產業〈estate〉、合作社〈cooperative〉、協會〈association〉、維持或傳送「敏感的會計資訊」或「敏感的個人資訊」之業主〈entity that maintains or communicates “sensitive account information” or “sensitive personal information”〉，但並不包括任何政府辦事處或其他聯邦、州政府單位、地方政府〈any agency or other unit of the federal,state, or local government〉或任何其下所再劃分之單位〈any subdivision thereof〉。 惟此一倡議中之資料安全立法不論法令遵循或執行皆有一定難度，因該法雖要求對超出「損害門檻」之資料外洩需對消費者通報，但對「損害門檻」並無明確定義。此外，受影響之企業似無實行適當風險評估之誘因，除需耗費大量成本評估外洩事件是否超過損害門檻外，尚需面臨企業名譽受損與客戶不滿之損失，在個資外洩要素風險指導原則付之闕如之情形下，企業恐無法客觀地評估自身個資外洩之風險。故有建議，解決之道，應明定損害門檻，並聘請外部專家或使用市場新工具，訂定客觀的指導原則，使企業在處理個資外洩問題時能減輕混亂及鼓勵評估結果的一致性並縮短風險評估的時間。 就資訊安全部分，此法案揭櫫於其通過一年內，美國商務、科學及交通委員會〈Committee on Commerce, Science, and Transportation〉應頒布規定，要求擁有或處理含有個人資料或契約之企業，必須建立並執行蒐集、使用、出售，及其他傳播、維持個人資訊之資訊安全政策，以達保護個人資料之目的。
防疫也須防弊！美國加州檢察總長針對醫療照護機構遭受勒索軟體攻擊提出適當措施與事故通報指引由於近日頻傳醫院遭受勒索軟體攻擊（ransomware attacks），美國加州檢察總長於2021年8月24日發布官方公告（bulletin）：在加州州法「醫療資訊保密法」（Confidentiality of Medical Information Act, CMIA）與聯邦法「健康保險可攜與責任法」（Health Insurance Portability and Accountability Act of 1996, HIPAA）規範下，蒐集、處理和利用醫療健康資料的醫療照護機構，有採取適當措施與事故通報的義務，以維護醫療健康資料保密性。 針對「採取適當措施」的內容，美國加州檢察總長於本次官方公告中，提出明確指引（guidance）：醫療照護機構須至少採取下列5項防範措施（preventive measures），以避免勒索軟體威脅： 確保所有存取醫療健康資料的作業系統與軟體，均升級至最新版本； 安裝防毒軟體，並維護其運作； 定期為員工舉辦教育訓練，包含教導員工不要點擊可疑網址和防範釣魚電子郵件（phishing email）； 限制員工下載、安裝和運作未經批准的軟體； 維護和定期測試資料備份與救援計畫，以便於事故發生時，控制對資料和系統的影響範圍及程度。 此外，針對「資料外洩事故通報義務」（breach notification obligations），美國加州檢察總長指出：依據「加州民法」（California Civil Code）第1798.82條，擁有或經授權使用含有個人資料的「電腦化資料」（computerized data）的醫療照護機構，於發生，或可合理確信發生，影響超過500位加州居民的資料外洩事故時，即負有將該事故通報檢察總長辦公室的義務。
資訊社會法制架構初探－以2003年聯合國資訊社會高峰會之決議為借鏡 科羅拉多州議會通過《重大決策領域之自動化決策技術法案》，擬取代《人工智慧消費者保護法》科羅拉多州參議院於 2026 年 5 月 7 日三讀通過 SB26-189《重大決策領域之自動化決策技術法案》（A Bill for an Act Concerning the Use of Automated Decision Making Technology in Consequential Decisions，以下簡稱 ADMT 法案），隨後於 5 月 9 日獲眾議院表決通過。本法已於5月14日經州長簽署，預計將於 2027 年 1 月 1 日起生效施行： （一）核心規範：自動化決策技術 本草案僅就涉及個人權利具有「重大決策」（Consequential Decisions）影響之自動化決策技術，其應用領域包括：教育、就業、住宅、金融貸款服務、保險、醫療保健服務，以及必要之政府服務。顯示出科羅拉多州意在針對可能引發系統性偏見、歧視或實質損害之高風險領域加強保障消費者。 （二）開發者與部署者義務 1. 開發者之資訊揭露義務： 開發者必須向部署者提供詳盡之技術文件，其內容應涵蓋模型預期用途、訓練資料特性、已知之技術侷限、適當使用說明及人工審核指引。此外，若技術發生重大更新，開發者須即時通知下游，並保留相關記錄至少3年，以備法遵查核。 2. 部署者之消費者保護義務： 須在消費者與AI互動時提供「清晰且顯著」之告知義務外，若產生不利結果，必須在30日內以淺白語言向消費者說明該技術於決策中所扮演之角色。此外，部署者也須保障消費者的救濟權利，包含須建立錯誤資料更正流程，並確保消費者在面臨不利決定時，有權請求「具意義之人工審核」（Meaningful Human Review）。與開發者相同，部署者亦須履行至少3年之記錄保留義務。 本法案之提出，其用意在取代2024年《科羅拉多州AI消費者保護法案》（Consumer Protections for Artificial Intelligence Act，SB24-205）。於法制層面而言，監管重心由「高風險人工智慧系統」（High-Risk AI Systems）轉向監管應用於重大決策領域之「自動化決策技術」（ADMT）。此變化反映出美國立法趨勢可能由廣義的技術風險管理，逐步調整為自動化決策工具對公民權益實質影響之精準規範。