歐盟執委會發布指引以因應《人工智慧法》「禁止的人工智慧行為」條文實施
歐盟執委會於2025年2月4日發布「關於禁止的人工智慧行為指引」（Commission Guidelines on Prohibited Artificial Intelligence Practices）（下稱「指引」）」，以因應歐盟《人工智慧法》（AI Act，下稱AIA）第5條關於「禁止的人工智慧行為」之規定。該規定自2月2日起正式實施，惟其內容僅臚列禁止行為而未深入闡釋其內涵，執委會特別制定本指引以避免產生歧義及混淆。
第5條明文禁止使用人工智慧系統進行有害行為，包括：利用潛意識技術或利用特定個人或群體之弱點進行有害操縱或欺騙行為、實施社會評分機制、進行個人犯罪風險預測、執行無特定目標之臉部影像蒐集、進行情緒識別分析、實施生物特徵分類、以及為執法目的而部署即時遠端生物特徵識別系統等。是以，指引就各禁止事項分別闡述其立法理由、禁止行為之具體內涵、構成要件、以及得以豁免適用之特定情形，並示例說明，具體詮釋條文規定。
此外，根據AIA規定，前述禁令僅適用於已在歐盟境內「投放市場」、「投入使用」或「使用」之人工智慧系統，惟對於「使用」一詞，並未予以明確定義。指引中特別闡明「使用」之定義，將其廣義解釋為涵蓋「系統投放市場或投入使用後，在其生命週期任何時刻的使用或部署。」
指引中亦指出，高風險AI系統的特定使用情境亦可能符合第5條的禁止要件，因而構成禁止行為，反之亦然。因此，AIA第5條宜與第6條關於高風險AI系統的規定交互參照應用。
AIA自通過後，如何進行條文內容解釋以及法律遵循義務成為各界持續討論之議題，本指引可提升AIA規範之明確性，有助於該法之落實。
- Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act, European Commission - Shaping Europe’s digital future
- ANNEX To The Communication To The Commission Approval Of The Content Of The Draft Communication From The Commission -Commission Guidelines On Prohibited Artificial Intelligence Practices Established By Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final (Feb. 4, 2025)
沈娟娟
法律研究員 編譯整理
Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act, European Commission - Shaping Europe’s digital future, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act#:~:text=These%20guidelines%20provide%20an%20overview%20of%20AI%20practices,potential%20risks%20to%20European%20values%20and%20fundamental%20rights. (last visited Feb. 26, 2025).
ANNEX To The Communication To The Commission Approval Of The Content Of The Draft Communication From The Commission -Commission Guidelines On Prohibited Artificial Intelligence Practices Established By Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final (Feb. 4, 2025), https://ec.europa.eu/newsroom/dae/redirection/document/112367 (last visited Feb. 26, 2025).
鑒於中國大陸製造微電子之能力，日益趨近美國；為建立美國在科技領域之領導地位，與振興全球微電子產業。以美國參議員Charles E. Schumer和Tom Bryant Cotton為首，於2020年6月提出《美國晶圓代工業法案》(American Foundries Act)。法案重點為：(1)資助發展微電子產業與研發設備；(2)創建、擴展與現代化提升微電子產業之設備，與維護國家安全之能力；(3)增加預算確保美國在微電子產業之領先地位；(4)訂定國家微電子之研發計畫；(5)建置產業諮詢委員會；(6)訂定多邊出口控制計畫；(7)禁止資金與國外競爭者相關；(8)限制計畫、承包商、分包商，和預算來源為國防部者採購國內微電子設計與代工服務。 該法案授權國防部長及國家安全局長基於國家安全之需求，由國防部資助微電子產業的建構、研究與發展。資助、輔助微電子產業在製造、裝備、檢測、外觀與研發上的發展，以及在採購設備和智慧財產權上的現代化。此外，美、中的競爭亦延伸至國家關鍵科技保護的面向。該法案規定倘微電子公司在敏感技術的研發，技術的許可、轉讓或投資，係中國政府或其他國際競爭者所有、受其控制或影響，美國政府將收回對該公司之資助，並禁止其參與計畫。 在商業製造上，亦須降低風險，包含對微電子研發的分類和出口管制，確認管理流程，以及減輕供應鏈的安全風險；且須注意在國家安全方面的要求。並為確保美國在微電子產業上的領導地位，國家經費授權國防高階研究計畫機構(the Defense Advanced Research Projects Agency)拓展電子復興計畫(the Electronics Resurgence Initiative)，發展具破壞性的微電子科技，包含發展足以支持國產微電子企業的研究量能；並由國家科學基金會(the National Science Foundation)、能源局(the Department of Energy)與國家標準技術研究所(National Institute of Standards and Technology)，負責執行微電子的科學研究與開發。
日本資訊信託功能認定指引第二版日本於2018年6月公布「資料信託功能認定指引第一版」（情報信託機能の認定に係る指針ver1.0），期待藉此推動資料銀行發展，促進資料流通和利用。第一版指引係以資料銀行應具備之功能為中心，惟伴隨資料銀行業務發展，指引內除資料銀行基本功能外，亦應規範個人資料管理及向第三方提供資料之條件等內容，加上有論者認為第一版內有關資料銀行定義過於偏重功能描述，故總務省和經濟產業省於2019年1月起召開檢討會，重新檢討上開指引，最終於2019年10月8日公布「資料信託功能認定指引第二版」（情報信託機能の認定に係る指針ver2.0）。 第二版指引更新重點包括︰（1）修正資料銀行定義︰第一版指引僅強調資料銀行之功能，第二版則增加資料銀行之目的和資料銀行與個人間關係等內容；（2）重新定義並詳細說明資料種類和蒐集方法；（3）修正資料信託功能認定基準︰新增複數業者共同經營資料銀行，隱私保護對策以及確保資料銀行透明性和個人資料之自主控制等規定；（4）新增資料信託功能模範條款之應記載事項︰包括與限制行為能力人締結契約之程序，以及向第三方提供資料之條件等規定。為確保資料銀行透明性和個人資料之自主控制，第二版指引新增資料倫理審查會規定，要求資料銀行設置資料倫理審查會並定期向其報告，審查會則應就個人與資料銀行間契約、個資利用目的、向第三方提供資料之條件等事項提供建議。
資通安全法律案例宣導彙編 第5輯 美國加州「Asilomar人工智慧原則決議」美國加州議會於2018年9月7日通過Asilomar人工智慧原則決議（23 Asilomar AI Principles, ACR-215），此決議表達加州對於「23條Asilomar人工智慧原則」之支持，以作為產業或學界發展人工智慧、政府制定人工智慧政策之指標，並提供企業開發人工智慧系統時可遵循之原則。依此法案所建立之重要指標如下： （1）於研究原則上，人工智慧之研究應以建立對於人類有利之人工智慧為目標。 （2）於研究資助上，人工智慧之研究資助應著重幾個方向，如：使人工智慧更加健全且可抵抗外界駭客干擾、使人工智慧促進人類福祉同時保留人類價值以及勞動意義、使法律制度可以順應人工智慧之發展。 （3）於科學政策之連結上，人工智慧研究者與政策擬定者間應有具有建設性且健全之資訊交流。 （4）於研究文化上，人工智慧研究者應保持合作、互信、透明之研究文化。 （5）於安全性上，人工智慧研究團隊應避免為了研究競爭而忽略人工智慧應具備之安全性。 （6）人工智慧系統應該於服務期間內皆具備安全性及可檢視性。 （7）人工智慧系統之編寫，應可使外界於其造成社會損失時檢視其出錯原因。 （8）人工智慧系統如應用於司法判斷上，應提供可供專門人員檢視之合理推論過程。 （9）人工智慧所產生之責任，應由設計者以及建造者負擔。 （10）高等人工智慧內在價值觀之設計上，應符合人類社會之價值觀。 （11）高等人工智慧之設計應可與人類之尊嚴、權利、自由以及文化差異相互調和。 （12）對於人工智慧所使用之資料，其人類所有權人享有擷取、更改以及操作之權利。 （13）人工智慧之應用不該限制人類「客觀事實上」或「主觀知覺上」之自由。 （14）人工智慧之技術應盡力滿足越多人之利益。 （15）人工智慧之經濟利益，應為整體人類所合理共享。 （16）人類對於人工智慧之內在目標應享有最終設定權限。 （17）高等人工智慧所帶來或賦予之權力，對於人類社會之基本價值觀應絕對尊重。 （18）人工智慧所產生之自動化武器之軍備競賽應被禁止。 （19）政策上對於人工智慧外來之發展程度，不應預設立場。 （20）高等人工智慧系統之研發，由於對於人類歷史社會將造成重大影響，應予以絕對慎重考量。 （21）人工智慧之運用上，應衡量其潛在風險以及可以對於社會所帶來之利益。 （22）人工智慧可不斷自我循環改善，而可快速增進運作品質，其安全標準應予以嚴格設定。 （23）對於超人工智慧或強人工智慧，應僅為全體人類福祉而發展、設計，不應僅為符合特定國家、組織而設計。