美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署
美國國土安全部（Department of Homeland Security, DHS）於2024年3月17日發布「2024人工智慧路線圖」（2024 Artificial Intelligence Roadmap）（下稱AI路線圖），設立三大目標，將偕同旗下機關與產官學研各界合作，確保AI的安全開發與部署，保護國家關鍵基礎設施安全，以強化國家安全。
美國拜登總統於2023年10月30日簽署的第14110號總統行政命令《安全可靠且值得信賴的人工智慧開發暨使用》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）（下稱AI總統行命令），要求DHS應管理使用於關鍵基礎設施與資通安全的AI、制定全球AI標準並推廣、降低利用AI造成具有大規模殺傷力武器攻擊之風險、保護AI智慧財產權、以及吸引AI領域人才，以促使、加強AI開發與部署等事項。為踐行上述事項，DHS制定AI路線圖，其三大目標如下：
（1） 負責任的使用AI以推進國安任務（Responsibly Leverage AI to Advance Homeland Security Mission）：透過建置AI基礎建設、建立AI系統測試與評估（Testing and Evaluation, T&E）、推動AI人才培育計畫等行動措施，帶領主管機關負責任的使用AI，以保護國家安全及避免AI對關鍵基礎設施的風險，確保AI於使用過程中係尊重個人隱私、保護公民權利與自由。
（2） 促進AI安全與資安（Promote Nationwide AI Safety and Security）：利用AI技術改善與預防關鍵基礎設施之安全與資安風險、制定關鍵基礎設施之AI使用指引、以及成立AI安全與資安委員會（AI Safety and Security Board, AISSB），彙集產官學研各界專家意見。
（3） 透過擴大AI國際合作來引領AI發展（Continue to Lead in AI Through Strong, Cohesive Partnerships）：將透過與產官學研各界合作，擴大AI的國際合作，並持續與公眾進行意見交流與分享，推廣AI政策或相關行動措施；DHS亦將持續與參眾議院及其他主管機關匯報AI相關之工作進度與未來規劃，以提升部門AI的透明度，並建立公眾對AI的信任。
本文為「經濟部產業技術司科技專案成果」
劉心妍
副法律研究員 編譯整理
U.S. Department of Homeland Security, 2024 Artificial Intelligence Roadmap, Mar. 17, 2024, https://www.dhs.gov/sites/default/files/2024-03/24_0315_ocio_roadmap_artificialintelligence-ciov3-signed-508.pdf (last visited May 7, 2024).
陳政陽，〈日本公布設立AI安全研究所與著手訂定AI安全性評鑑標準〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9157〈最後瀏覽日：2024/5/7〉。
周晨蕙，〈日本經產省和總務省共同發布AI業者指引草案，公開徵集意見〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9146〈最後瀏覽日：2024/5/7〉。
吳彬詣，〈歐盟執委會發布人工智慧創新政策套案〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9143〈最後瀏覽日：2024/5/7〉。
科法觀點
2025年12月初，澳洲數位轉型局（Digital Transformation Agency，下稱DTA）發布《政府負責任使用AI政策2.0》（Policy for the responsible use of AI in Government 2.0），旨在進一步強化公部門在AI的透明度、問責性與風險管理能力，於2025年12月15日生效，取代 2024年9月實施的過渡版本。 一、適用範圍 政策適用於所有非企業型聯邦實體（Non-corporate Commonwealth entities），即不具獨立法人地位、直接隸屬於政府的機關或單位。企業型聯邦實體則被鼓勵自願遵循。政策定位為「補充與強化既有法制」，非另訂獨立規範，因此在實務中須與公務員行為準則、資安規範及資料治理制度併行適用。 二、政策重點 在政策施行的12個月內，適用機關須完成以下要求，以確保落實AI治理架構： （一）制度建置 1. AI 透明度聲明：機關須在政策生效後 6 個月內發布「AI 透明度聲明」，公開 AI 使用方法與現況。聲明中須說明機關風險管理流程、AI 事件通報機制及內外部申訴管道，確保使用過程透明、可追蹤。 2. 人員指定與培訓： 機關須指定制度問責人員（Accountable officials）以及AI使用案例承辦人（Accountable use case owners）。 所有員工皆須進行關於負責任使用AI的培訓，機關並依員工職務權責提供個別員工進階訓練。 3. 建立內部AI使用案例註冊清單（Internal AI use case register），以供後續追蹤 該清單至少包含： （1）使用案例負責人（Accountable use case owners）：記錄並持續更新範疇內 AI 使用案例的指定負責人。 （2）風險等級（Risk rating）：AI使用案例的風險等級資訊。 （3）異動紀錄：當使用案例的風險評級或負責人變更時，須即時更新清單。 （4）自定義欄位：各機關可根據其需求，自行增加欄位。 （二）AI 使用案例範疇判斷 機關須在評估所有新案例，依以下特徵判斷AI應用是否屬於「範疇內（In-scope）」的應用： 1.對個人、社群、組織或環境造成重大損害。 2.實質影響行政處分或行政決策。 3.在無人工審查的情況下，大眾將直接與AI互動或受其影響。 4.涉及個人、敏感資料等資訊。 （三）進階風險評估 依AI影響評估工具（Impact Assessment Tool）針對公眾近用權；不公平歧視；加重刻板印象；損害人、組織或環境；隱私顧慮；資料敏感之安全顧慮；系統建置之安全顧慮；公眾信任等8類別，加以判斷範疇內AI應用，若有任一類別被評為「高風險」，即判定為「高風險」；若所有類別中最高的分數為「中風險」，則整體判定為中風險。 判定為中、高風險之AI應用，均需進行全面審核。中風險須列出所有中風險項目及其控管措施，主要為內部控管；而高風險則要求向DTA報告，且每年至少進行一次全面審核與風險再評估。 澳洲欲透過發布AI透明度聲明、更新AI使用案例註冊清單、強制執行AI應用之風險評估及人員培訓，確保公部門對AI的負責任使用與問責。而我國企業可參考資策會科法所創意智財中心發布之《重要數位資料治理暨管理制度規範（EDGS）》，落實AI資料管理與追蹤。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
從歐洲法院實務看資料保護在智慧聯網時代下發展－以資料保存指令無效案和西班牙Google案為例 美國FDA醫療器材與放射健康中心發布2024財政年度醫療器材指引美國食品藥物管理署（U.S. Food and drug administration, FDA）之醫療器材與放射健康中心（Center of Devices and Radiological Health, CDRH）於今（2023）年10月10日發布2024財政年度指引，其內容依據預算配置的優先順序，將2024年醫療器材與放射產品相關指引分為「A級」、「B級」及「回顧性審查」三份清單。而CDRH希望將訊息公佈後，針對這些指引的優先處理順序、修改或刪除徵求外部建議，以下節錄這三份清單內容： （1）A級清單：FDA擬於2024 財政年度優先發佈的醫療器材指引文件清單，內容包含醫材的再製造及短缺管理、預訂變更控制計畫、運用真實世界證據輔助監管之決策，及基於人工智慧/機器學習之醫材的軟體生命週期管理指引等。 （2）B級清單：FDA 在 2024 財政年度於資源許可的前提下，擬發佈的指引文件清單，內容包括醫材製造商的故障主動報告計畫、製造與品質系統軟體之確效管理，及診斷測試用之3D列印醫材管理指引。 （3）回顧性審查清單：為1994年、2004年和2014年發佈至今，目前仍適用的指引文件綜合清單，詢問是否有需與時俱進之處。 具體而言，CDRH希望徵求外界對現有清單優先順序配置合宜性的建議，同時也開放各界提出哪些醫材相關主題的指引文件草案可待補充。對於回顧性審查清單，如有修訂或刪除之必要，亦應檢具建議與具體理由。 從此三份清單及後續外界的意見，我們可藉此掌握美國在醫材短缺管理、預定變更控制、運用真實世界證據決策，及醫材軟體生命週期與確效管理等領域，政府資源配置與投入的規劃，同時也作為我國醫材政策之借鏡。
澳洲國家交通委員會針對駕駛法規之修正進行公眾諮詢，聚焦自駕系統實體法律義務澳洲國家交通委員會(National Transport Commission, NTC)於2017年10月3日提出「修正駕駛法律以支持自動駕駛車輛(Changing driving laws to support automated vehicles)」討論文件，向相關政府機關與業界徵詢修正駕駛法規之意見。此文件目的在於探討法規改革選項，並釐清目前針對駕駛人與駕駛行為法規對於自駕車之適用，並試圖為自動駕駛系統實體（automated driving system entities, ADSEs）建立法律義務。文件中並指出改革上應注意以下議題： 目前車輛法規皆以人類駕駛為前提； 自動駕駛系統並不具有法律人格，無法為其行為負法律責任； 目前的法律並未提供法律實體之定義或規範（即自動駕駛系統實體ADSEs）來為自動駕駛系統行動負責； 目前有些法律上人類駕駛應負之義務，無法直接於自動駕駛時由ADSEs負擔； 車輛之安全義務於自動駕駛時，可能需由非駕駛之他人執行； 法律中並未定義自動駕駛系統車輛的「控制」與「恰當控制」； 目前沒有規範何時人類應有義務將駕駛控制權力自自動駕駛系統轉移回來，來確保人類駕駛保持足夠之警覺性； 目前的遵循與實施規範可能不足以確保自動駕駛系統的安全運作。 NTC並提出建議應定義自動駕駛系統之法律實體，重新規範人類與自動駕駛系統法律實體間的義務。澳洲國家交通委員會將進一步將諮詢結果與法律改革選項於2018年5月提供給澳洲交通部。