歐盟執委會發布指引以因應《人工智慧法》「禁止的人工智慧行為」條文實施
歐盟執委會於2025年2月4日發布「關於禁止的人工智慧行為指引」（Commission Guidelines on Prohibited Artificial Intelligence Practices）（下稱「指引」）」，以因應歐盟《人工智慧法》（AI Act，下稱AIA）第5條關於「禁止的人工智慧行為」之規定。該規定自2月2日起正式實施，惟其內容僅臚列禁止行為而未深入闡釋其內涵，執委會特別制定本指引以避免產生歧義及混淆。
第5條明文禁止使用人工智慧系統進行有害行為，包括：利用潛意識技術或利用特定個人或群體之弱點進行有害操縱或欺騙行為、實施社會評分機制、進行個人犯罪風險預測、執行無特定目標之臉部影像蒐集、進行情緒識別分析、實施生物特徵分類、以及為執法目的而部署即時遠端生物特徵識別系統等。是以，指引就各禁止事項分別闡述其立法理由、禁止行為之具體內涵、構成要件、以及得以豁免適用之特定情形，並示例說明，具體詮釋條文規定。
此外，根據AIA規定，前述禁令僅適用於已在歐盟境內「投放市場」、「投入使用」或「使用」之人工智慧系統，惟對於「使用」一詞，並未予以明確定義。指引中特別闡明「使用」之定義，將其廣義解釋為涵蓋「系統投放市場或投入使用後，在其生命週期任何時刻的使用或部署。」
指引中亦指出，高風險AI系統的特定使用情境亦可能符合第5條的禁止要件，因而構成禁止行為，反之亦然。因此，AIA第5條宜與第6條關於高風險AI系統的規定交互參照應用。
AIA自通過後，如何進行條文內容解釋以及法律遵循義務成為各界持續討論之議題，本指引可提升AIA規範之明確性，有助於該法之落實。
- Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act, European Commission - Shaping Europe’s digital future
- ANNEX To The Communication To The Commission Approval Of The Content Of The Draft Communication From The Commission -Commission Guidelines On Prohibited Artificial Intelligence Practices Established By Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final (Feb. 4, 2025)
沈娟娟
法律研究員 編譯整理
Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act, European Commission - Shaping Europe’s digital future, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act#:~:text=These%20guidelines%20provide%20an%20overview%20of%20AI%20practices,potential%20risks%20to%20European%20values%20and%20fundamental%20rights. (last visited Feb. 26, 2025).
ANNEX To The Communication To The Commission Approval Of The Content Of The Draft Communication From The Commission -Commission Guidelines On Prohibited Artificial Intelligence Practices Established By Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final (Feb. 4, 2025), https://ec.europa.eu/newsroom/dae/redirection/document/112367 (last visited Feb. 26, 2025).
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施： （1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。 （2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。 （3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。 （4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。 （5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。 CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
歐盟通過《外國補貼規則》並於2023年1月正式生效2023年1月12日，歐盟《外國補貼規則》（Foreign Subsidies Regulation, FSR）正式生效。其旨為歐盟欲有效打擊因領有外國補貼而具不公平競爭優勢之企業，以保護歐盟市場公平競爭。 2021年5月5日，歐盟執委會（European Commission）提出《外國補貼規則》草案以防範上述企業在歐盟市場進行危害競爭之行為。該規則於2022年11月分別經歐洲議會（European Parliament）與歐盟理事會（European Council）通過後，同年12月23日刊載於歐盟官方公報，並於2023年1月正式生效。 歐盟執委會於2023年2月6日公布《外國補貼規則》執行細則草案，詳細規範踐行企業併購及參與公共採購程序通知義務所應提交之資訊、調查期程及受調查企業之權利等。根據新規，執委會可調查非歐盟國家之企業財務補助（financial contribution）情形，就調查結果決定是否限制其在歐盟市場從事企業併購、參與公共採購以及其他可能影響市場競爭之經濟活動。 若併購一方的歐盟營業額達5億歐元（€500 million），且外國注資達5,000萬歐元（€50 million），相關企業須向歐盟執委會報告。另外，執委會有權解除未履行通知義務但已執行之交易。而公共採購標案方面，標案金額預估達2.5億歐元（€250 million），且參與投標之企業受外國補貼達400萬歐元（€4 million），該企業即應通知執委會，執委會得禁止接受補貼之企業或違規者得標。 歐盟執委會將考量利害關係人意見回饋後預計自2023年7月12日起實施，而部分通知義務將自同年10月12日起實施。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
北歐能源科技觀點報告討論建築能源效率等為達碳中和所採措施 中國人行等十部委發布《關於促進互聯網金融健康發展的指導意見》為鼓勵金融創新，促進互聯網金融健康發展，明確監管責任，規範市場秩序，中國人民銀行、工業和信息化部、公安部、財政部、國家工商總局、國務院法制辦、中國銀行業監督管理委員會、中國證券監督管理委員會、中國保險監督管理委員會、國家互聯網信息辦公室，在經中國共產黨中央、國務院同意後，於7月18日聯合發布了《關於促進互聯網金融健康發展的指導意見》。(下稱《指導意見》) 該《指導意見》首次讓中國的互聯網金融正式從「野蠻生長」、「監管真空」，走向了「分類監管」和「有法可依」，按照《指導意見》，未來在監管職責劃分上，人民銀行將負責互聯網支付業務的監督管理；銀監會負責包括個體網路借貸和網路小額貸款在內的網路借貸以及互聯網信託和互聯網消費金融的監督管理；證監會負責股權式群眾募資和互聯網基金銷售的監督管理；保監會負責互聯網保險的監督管理。 同時，《指導意見》提出了一系列鼓勵創新、支援互聯網金融穩步發展的政策措施，積極鼓勵互聯網金融平臺、產品和服務創新，鼓勵從業機構相互合作，拓寬從業機構融資管道，堅持簡政放權和落實、完善財稅政策，推動信用基礎設施建設和配套服務體系建設。 值得注意的是，近年高速發展的借貸式群眾募資、股權式群眾募資以及網路支付等目前在中國互聯網金融領域主要的行業型態，在《指導意見》中形成框架性政策，上至監管原則，下至第三方存管等具體事項上，均有所涉及。由於《指導意見》是經由中共黨中央、國務院同意，再經中國人民銀行等十部委所發布，也說明了該意見的出臺是在中國共產黨中央和國務院的認可下制訂，是故若政策未出現重大轉向，該《指導意見》的規定待相關機關部門細化後，未來可預見將以法律、或行政法律等形式進一步頒布落實。