歐盟人工智慧辦公室發布「通用人工智慧實踐守則」草案，更進一步闡釋《人工智慧法》之監管規範
歐盟人工智慧辦公室（European AI Office）於2024 年 11 月 14 日發布「通用人工智慧實踐守則」（General-Purpose AI Code of Practice）草案，針對《人工智慧法》（Artificial Intelligence Act, AIA）當中有關通用人工智慧（General Purpose Artificial Intelligence, GPAI）之部分，更進一步闡釋相關規範。
本實踐守則草案主要分為4大部分，分別簡介如下：
（1）緒論：描述本守則之4個基本目標，包含協助GPAI模型提供者履行義務、促進理解人工智慧價值鏈（value chain）、妥適保障智慧財產權、有效評估且緩解系統性風險（systemic risks）。
（2）GPAI模型提供者：有鑒於GPAI模型對於下游系統而言相當重要，此部分針對模型提供者訂定具體責任。不僅要求其提供訓練資料、模型架構、測試程序等說明文件，亦要求制定政策以規範模型用途防止濫用。另於智慧財產權方面，則要求GPAI模型提供者遵守「歐盟數位單一市場著作權指令」（Directive 2019/790/EC）之規定。
（3）系統性風險分類法（taxonomy）：此部分定義GPAI模型之多種風險類別，諸如可能造成攻擊之資訊安全風險、影響民主之虛假資訊、特定族群之歧視、超出預期應用範圍之失控情形。
（4）高風險GPAI模型提供者：為防範系統性風險之危害，針對高風險GPAI模型提供者，本守則對其設立更高標準之義務。例如要求其於GPAI模型完整生命週期內持續評估風險並設計緩解措施。
本守則發布之次週，近千名利害關係人、歐盟成員國代表、國際觀察員即展開討論，透過參考此等回饋意見，預計將於2025年5月確定最終版本。
本文為「經濟部產業技術司科技專案成果」
鄒雅蓓
副法律研究員 編譯整理
EUROPEAN COMMISSION, First Draft of the General-Purpose AI Code of Practice published, written by independent experts, Nov. 14, 2024, https://digital-strategy.ec.europa.eu/en/library/first-draft-general-purpose-ai-code-practice-published-written-independent-experts (last visited Dec. 4, 2024).
沈娟娟，〈歐盟公布人工智慧法，建立全球首部AI全面監管框架〉，資訊工業策進會科技法律研究所，2024年7月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9213（最後瀏覽日：2024/12/04）。
陳姿文，〈歐盟「人工智慧法」達成政治協議，逐步建立AI準則〉，資訊工業策進會科技法律研究所，2024年1月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9105&no=64 （最後瀏覽日：2024/12/04）。
為建構政府雲發展的妥適環境，美國於今年度啟動「聯邦風險與認可管理計畫」（Federal Risk and Authorization Management Program, FedRAMP），由國家技術標準局（National Institute of Standards and Technology, NIST）、公共服務行政部(General Service Administration)、資訊長聯席會(CIO Council)及其他關連私部門團體、NGO及學者代表共同組成的跨部會團隊，針對外部服務提供者提供政府部門IT共享的情形，建構一個共同授權與持續監督機制。在歷經18個月的討論後，於今（2010）年11月提出「政府雲端資訊安全與認可評估」提案（Proposed Security Assessment & Authorization for U.S Government Cloud Computing），現正公開徵詢公眾意見。 在FedRAMP計畫中，首欲解決公部門應用雲端運算所衍伸的安全性認可問題，因此，其將研議出一套跨部門共通性風險管理程序。尤其是公部門導入雲端應用服務，終究會歸結到委外服務的管理，因此本計劃的進行，是希望能夠讓各部門透過一個機制，無論在雲端運算的應用及外部服務提供之衡量上，皆能依循跨機關的共通資訊安全評定流程，使聯邦資訊安全要求能夠協調應用，並強化風險管理及逐步達成效率化以節省管理成本。 而在上述「政府雲端資訊安全與認可評估」文件中，可分為三個重要範疇。在雲端運算安全資訊安全基準的部份，主要是以NIST Special Publication 800-535中的資訊安全控制項作為基礎；並依據資訊系統所處理、儲存與傳輸的聯邦資訊的敏感性與重要性，區分影響等級。另一部份，則著重在持續性的系統監控，主要是判定所部署的資訊安全控制，能否在不斷變動的環境中持續有效運作。最後，則是針對聯邦資訊共享架構，出示模範管理模式、方策與責任分配體系。
美國聯邦交易委員會延展紅旗規則之施行日美國聯邦交易委員會（Federal Trade Commission，FTC）因應眾議院之要求，再次延展了紅旗規則（Red Flags Rule）之施行日，目前將由原先預定之2009年11月1日，延後至2010年6月1日施行。此規則最初預計於2008年11月1日施行，此次已是第四次延展。 所謂紅旗規則，原為「公平與正確信用交易法（Fair and Accurate Credit Transactions Act）」中之規定，依該法眾議院指示美國聯邦交易委員會及相關部門制定法規，用以規範金融機構及授信單位降低身分盜用之風險。基於此一指示，金融機構及授信單位必須研擬防止身分盜用的方案。詳言之，紅旗規則係要求凡管理使用包括性帳戶（covered account）者都應研擬並執行防止身分盜用之書面計劃。所謂的包括性帳戶係指：1.用於多次消費計算用途之帳戶，如信用卡帳戶、汽車貸款帳戶、手機帳戶、支票帳戶等；2.所有預期會產生身分盜用風險的帳戶，並不僅指於金融機構中所設立之帳戶。而前述應研擬之計畫將用以協助確認、偵測並解決身分盜用之行為。 由於只要用於支付計算，或有可能產生身分盜用風險之帳戶，均為包括性帳戶，而用於支付會計師款項之帳戶亦包含在內。惟美國會計師協會（American Institute of Certified Public Accountants, AICPA）要求FTC免除註冊會計師適用紅旗規則，該協會執行長Barry Melancon認為：「我們很在意紅旗規則的廣泛應用，因為我們並不認為當CPA之客戶付款時，會產生相當的身分冒用風險。」他指出該紅旗規則所帶來之負擔已超過其風險。AICPA並要求各州會計師協會去函對FTC表達排除適用之意見。而Melancon贊同FTC延後適用紅旗原則之決定，其並認為紅旗規則並無須廣泛運用於會計業，因為作為值得信賴的顧問，會計師對於其客戶應該都很熟悉，也會要求對身分資訊採取嚴格的隱私保護標準。 為了推動紅旗規則之適用，FTC已於紅旗規則之官方網站提供了該規則之適用綱領，並以座談會之方式對各團體進行運用之培訓。同時以出版企業之應用綱領，大量之文宣及宣導短片，對民眾提供諮詢服務等方式推廣紅旗規則。 而司法實務界對於此一規則之適用範圍亦開始表達其見解，在2009年10月30日，哥倫比亞地方法院判決律師業不適用紅旗規則。不過此次的延展施行公告並不會影響相關案件的進行及上訴流程，也不會影響其他聯邦部門對於金融機構及授信單位的監督。
防範網路釣魚──事後追究有其侷限，多管齊下始屬正途 美國通過《非自願私密影像移除法》 以遏止利用AI深偽技術之性犯罪2025年5月19日美國總統川普簽署《非自願私密影像移除法》（Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act, TAKE IT DOWN Act），該法散播未經同意之親密影像，如深偽色情（deepfake porn）和報復性色情（revenge porn）視為犯罪行為。 長久以來非自願私密影像（Non-Consensual Intimate Image, NCII）所造成的傷害一直無法被有效處理，AI深偽技術出現之後讓問題變得更加複雜。美國目前僅有20個州對深偽影像設有專法，但各州對 NCII 的定義、刑責與處理方式差異甚大，受害者亦難以在第一時間快速將影像移除，導致二次創傷。 為解決前述問題，共和黨與民主黨展現高度共識，眾議院於2025年4月28日以409票同意、2票反對，壓倒性通過《非自願私密影像移除法》，並於同年5月19日獲川普總統簽署生效，此為眾議院首部管理人工智慧引發危害的重大立法。 《非自願私密影像移除法》重點與相關討論整理如下。 一、散布未經同意的私密影像屬刑事犯罪 依據《非自願私密影像移除法》，任何人若透過互動式電腦服務（interactive computer service）故意揭露或威脅散布可辨識個人之親密影像即構成刑事犯罪。親密影像包含真實私密影像（Authentic intimate visual depictions）或數位偽造影像（Digital forgeries）兩種情形，後者係指透過軟體、機器學習、人工智慧，或任何其他電腦產生或技術方式所創建之親密影像，包括改編、修改、操弄或變造真實影像，且從整體上來看，一般人難以與真實影像區分者。 二、受規範平台（covered platforms）應即時協助受害者移除相關影像 受規範平台係指係向公眾提供服務之網站、線上服務或行動應用程式，且該服務主要是提供一個平台，讓用戶得以分享其自行產製之內容（user-generated content），如訊息、影像、音訊、遊戲等；若該服務涉及發布、策劃、託管或提供未經同意的私密影像，亦屬本法所規範之平台。 受規範平台應自《非自願私密影像移除法》頒布日起一年內，建立一套機制供受害者或其代理人申請移除未經同意散布的私密影像。平台在收到移除請求後，應於48小時內移除該影像，並在合理範圍內努力搜尋並刪除所有明顯為該影像之複製品。若平台未能遵守此一規範，會被視為違反《聯邦貿易委員會法》（Federal Trade Commission Act）所定義之「不公平或欺騙性商業行為」，並適用該法的相關處罰機制，例如民事懲罰（civil penalty）等。 三、執法單位是否能有效執行是關鍵 《非自願私密影像移除法》授權聯邦貿易委員會（Federal Trade Commission, FTC）作為執法單位，然而由於川普政府近期大幅刪減聯邦機構的開銷與人力，FTC能否在48小時內移除相關私密影像備受質疑；亦有論者擔憂這項機制被濫用，恐成為政府打壓言論自由的政治工具，川普總統即公開表示他會利用這部法律來審查批評者的言論。此外，《非自願私密影像移除法》未設立反濫用條款，任何人都可要求平台刪除影像內容，加上平台有時間壓力可能會預防性刪除內容而非實質審查，形同變相限縮言論自由的空間。 《非自願私密影像移除法》是一部試圖回應數位性暴力與AI深偽技術新興威脅的里程碑式立法，反映出立法者對於保障隱私與防止科技濫用的高度共識。然而，該法利益良善但仍需面臨現實端的檢驗，能否公正且有效率的執法將成為成敗的關鍵。