美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署
美國國土安全部（Department of Homeland Security, DHS）於2024年3月17日發布「2024人工智慧路線圖」（2024 Artificial Intelligence Roadmap）（下稱AI路線圖），設立三大目標，將偕同旗下機關與產官學研各界合作，確保AI的安全開發與部署，保護國家關鍵基礎設施安全，以強化國家安全。
美國拜登總統於2023年10月30日簽署的第14110號總統行政命令《安全可靠且值得信賴的人工智慧開發暨使用》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）（下稱AI總統行命令），要求DHS應管理使用於關鍵基礎設施與資通安全的AI、制定全球AI標準並推廣、降低利用AI造成具有大規模殺傷力武器攻擊之風險、保護AI智慧財產權、以及吸引AI領域人才，以促使、加強AI開發與部署等事項。為踐行上述事項，DHS制定AI路線圖，其三大目標如下：
（1） 負責任的使用AI以推進國安任務（Responsibly Leverage AI to Advance Homeland Security Mission）：透過建置AI基礎建設、建立AI系統測試與評估（Testing and Evaluation, T&E）、推動AI人才培育計畫等行動措施，帶領主管機關負責任的使用AI，以保護國家安全及避免AI對關鍵基礎設施的風險，確保AI於使用過程中係尊重個人隱私、保護公民權利與自由。
（2） 促進AI安全與資安（Promote Nationwide AI Safety and Security）：利用AI技術改善與預防關鍵基礎設施之安全與資安風險、制定關鍵基礎設施之AI使用指引、以及成立AI安全與資安委員會（AI Safety and Security Board, AISSB），彙集產官學研各界專家意見。
（3） 透過擴大AI國際合作來引領AI發展（Continue to Lead in AI Through Strong, Cohesive Partnerships）：將透過與產官學研各界合作，擴大AI的國際合作，並持續與公眾進行意見交流與分享，推廣AI政策或相關行動措施；DHS亦將持續與參眾議院及其他主管機關匯報AI相關之工作進度與未來規劃，以提升部門AI的透明度，並建立公眾對AI的信任。
本文為「經濟部產業技術司科技專案成果」
劉心妍
副法律研究員 編譯整理
U.S. Department of Homeland Security, 2024 Artificial Intelligence Roadmap, Mar. 17, 2024, https://www.dhs.gov/sites/default/files/2024-03/24_0315_ocio_roadmap_artificialintelligence-ciov3-signed-508.pdf (last visited May 7, 2024).
陳政陽，〈日本公布設立AI安全研究所與著手訂定AI安全性評鑑標準〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9157〈最後瀏覽日：2024/5/7〉。
周晨蕙，〈日本經產省和總務省共同發布AI業者指引草案，公開徵集意見〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9146〈最後瀏覽日：2024/5/7〉。
吳彬詣，〈歐盟執委會發布人工智慧創新政策套案〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9143〈最後瀏覽日：2024/5/7〉。
科法觀點
壹、義大利最新AI法案簡介 義大利於2025年9月17日通過《人工智慧規範與政府授權》立法法案（Disposizioni e delega al Governo in materia di intelligenza artificiale，下稱1146‑B法案），為該國首次針對AI全面立法，亦為歐盟成員國內AI專法先驅。義大利將歐盟《人工智慧法》（AI Act，下稱AIA）框架轉化為國內法，並設立獨立窗口與歐盟對接。為確保落地效率並兼顧國家安全與資料治理，本法採「雙主管機關制」，由隸屬於總理府（Presidenza del Consiglio dei Ministri）之數位局（Agenzia per l’Italia Digitale，AgID）及國家網路安全局（Agenzia per la Cybersicurezza Nazionale，ACN）共同執行。AgID 負責AI技術標準、互通性與公共行政實務執行；ACN則負責資安韌性、事故通報與高風險AI安全性。 目前該法案已由參議院（Senato della Repubblica）審議並表決通過，2025年9月25日已載於義大利《官方公報》（Gazzetta Ufficiale），再經過15天緩衝期後，預計於2025年10月10日正式生效。然截至2025年10月27日為止，未有官方宣布該法案正式生效之證明，故法案是否依該版本內容正式施行仍待確認。其中醫療為AIA顯示之高風險領域之一，亦涉及資料隱私與病患權益等敏感法益，可謂本法落地機制中具代表性之政策面向，故本文特以醫療AI應用為分析重點。 貳、設立醫療AI應用平臺，輔助專業醫護及強化醫療服務取得 1146‑B法案第10條規定，將由義大利衛生服務局（Agenzia nazionale per i servizi sanitari regionali，AGENAS）主導設立該國家醫療AI應用平臺。該平臺定位為全國級資料治理與AI導入審查機制工具，主要功能為對醫療專業人員提供照護病患與臨床實踐時無法律約束力之建議，並對病患提供接觸社區醫療中心AI服務之管道與機會。該平臺僅得依「資料最小化原則」（dati strettamente necessary）蒐集以上醫療服務所需之必要資料，經向衛生部（Ministero della salute）、資料保護局（Garante per la protezione dei dati personali）及CAN徵詢意見後，由 AGENAS 負責資料處理，並經地方常設協調會議同意後，得以公告方式制定符合歐盟《一般資料法規》（General Data Protection Regulation，GDPR）之風險控管與敏感健康資料處理細則。 在確保資料安全合規後，法案強調對醫療保健之服務可及性（accesso ai servizi）進行改善，病人能透過此平臺更便利地接觸到社區醫療中心所提供之各類AI健康醫療服務，如診斷輔助、數位健康檔案調閱等，亦符合AIA強調AI發展應確保社會公益等權利之宗旨。 參、醫療用AI之限制與目標 法案第7條第5項規定AI僅能作為醫療決策輔助工具提供無拘束力之建議，重申前述醫療平臺相關規定；AI亦不得根據歧視性標準選擇或限制病人獲取醫療服務。病人享有「知情權」（diritto di essere informato），即有權知悉診療過程中是否使用有使用AI、使用方式（如僅為輔助）及其限制。針對健康資料之隱私處理方面，如病歷、基因資料、診斷紀錄等，要求醫用AI系統須持續監測、定期驗證與更新，以降低錯誤風險，維護病人健康安全，亦明文強調醫療AI之使用應以改善身心障礙者生活為目標。 四、總結 1146-B法案在醫療 AI 治理上，透過雙主管機關制平衡歐盟對接、技術發展與風險控管，符合AIA要求並避免權責衝突。建立由 AGENAS 主導的醫療 AI 應用平臺，在相關部門意見下運作，確保資料處理與服務推動合規與安全。病人權利方面，強調知情權、健康資料隱私與地方醫療AI普及，符合資料最小化與 GDPR 規範，展現義大利在醫療 AI 上兼顧創新、透明與權益保障之立場，往後應持續關注AGENAS釋出之關於該平臺使用之相關細則。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
WTO歐盟生技產品案解析（上） 英國數位、文化、媒體暨體育部發布資料道德與創新中心公眾諮詢英國數位、文化、媒體暨體育部（Department for Digital, Culture Media & Sport, DCMS）於2018年6月13日發布有關資料道德與創新中心（Centre for Data Ethics and Innovation）之公眾諮詢，本次諮詢將於2018年9月5日截止。 在資料使用與人工智慧皆快速發展且對生活模式產生重大改變之背景下，英國政府認為企業、公民以及公部門對於資料及人工智慧的安全及道德創新都需要有明確規範以資遵循，以因應該領域快速發展而生的問題。為此，英國政府欲新建一個資料倫理與創新中心，該中心本身並不會對於資料及人工智慧的使用作出規範，主要係通過吸收各界的經驗及見解，統整這些經驗或見解並轉化為對政府現行監管方面缺陷之建議，該中心具有獨立諮詢之地位（independent advisory status），提供政府對資料及人工智慧相關議題之治理建議。 諮詢文件內指出中心作用及目標旨在提供政府政策指導，並與監管機構、研究機構、公民社會密切合作，以制定正確的政策措施；對於中心的活動及產出，政府認為中心可進行對於資料及人工智慧的分析及預測，並擬定最佳實務作法（如開發有效及合乎道德的資料及AI使用框架），進而向政府提供有助資料及人工智慧之安全及道德創新發展的相關建議。 本次公眾諮詢主要針對資料道德與創新中心之營運方式及重點工作領域徵詢意見，所提出問題大致上包括是否同意中心目前的職責及目標？中心該如何與其他機構進行合作？中心應採取哪些行動？是否同意目前建議的行動類型？中心需要哪些法定權力？中心如何向政府提交建議？是否應將中心提交之建議向大眾公開？ 我國行政院於今（2018）年1月18日提出為期4年之「台灣AI行動計畫（2018-2021）」，計畫內容之五大重點為：（1）AI領航推動；（2）AI人才衝刺；（3）建構國際AI創新樞紐；（4）創新法規、實證場域與資料開放；（5）產業AI化，其中，第4點細部內容提及將建立高資安防護及親善介面之資料開放與介接平台，顯見我國政府正全力推動AI發展，亦對資料開放相關議題頗為重視。是以，英國資料道德與創新中心之發展在未來我國推動AI普及與產業AI化之進程上，似可提供我國參考方向，以健全AI發展之法制環境。
歐盟根據資料治理法及實施規則，透過通用標章管理資料中介服務提供者及資料利他主義組織歐洲執委會（European Commission）根據2022年6月23日生效的資料治理法（Data Governance Act, DGA）第11條及第17條，於2023年8月9日公布資料治理法及實施規則（Commission Implementing Regulation (EU) 2023/1622 of 9 August 2023），該規則明定可用於識別「受認證的歐盟資料中介服務提供者（data intermediation services providers）及資料利他主義組織（data altruism organisations）」的通用標章（Common logos）之細節，且該通用標章已申請商標註冊，以保護其免於遭受不當利用。 經歐盟認證的「資料中介服務提供者」向服務利用者提供服務時，應確保服務利用者（個人及公司）可以有效的控制自己的資料，包含共享資料的對象及時間、可在不同裝置間共享資料等。經歐盟認證的「資料利他主義組織」則應以全歐盟通用之統一格式的歐洲利他主義同意書（data altruism consent form）在各成員國之間蒐集資料，並應確保資料主體（data subject）可以隨時撤回其同意。 識別受認證的「資料中介服務提供者」及「資料利他主義組織」是實施資料治理法的一環。受認證的「資料中介服務提供者」及「資料利他主義組織」選擇使用通用標章時，不僅須將通用標章清楚標示在所有線上的出版品上，亦須將通用標章清楚標示在所有線下的出版品。經歐盟認證的「資料利他主義組織」在標示通用標章時須附上可連結到「歐盟認證的『資料利他主義組織』之公開登記資料庫（public register of data-altruism organisations）」的QR code，歐盟將於2023年9月24日開始提供該公開登記資料庫。在歐盟層面，這些通用標章的利用可以易於識別被認證的「資料中介服務提供者」及「資料利他主義組織」與其他未經認證的服務提供者，有助於提高整體資料市場的透明度。 由於數位資料具有易於竄改、複製等特性，因此需要透過「可信任工具」來證明其來源正確、內容真實等，歐盟即以「通用標章」來識別「資料中介服務提供者」及「資料利他主義組織」。我國法務部、司法院、高等檢察署、法務部調查局和內政部警政署等機關共同推動司法聯盟鏈，並於2022年推出「b-JADE證明標章」，透過認證機制確保鏈下之數位資料於上鏈前具有可信任性。通過驗證並取得「b-JADE證明標章」的機關、機構或團體等組織，對外可證明其具備資料治理暨管理能力及保護數位資料之能力，且可取得申請加入「司法聯盟鏈」之機會。 本文同步刊登於TIPS網站（https://www.tips.org.tw）