美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署
美國國土安全部（Department of Homeland Security, DHS）於2024年3月17日發布「2024人工智慧路線圖」（2024 Artificial Intelligence Roadmap）（下稱AI路線圖），設立三大目標，將偕同旗下機關與產官學研各界合作，確保AI的安全開發與部署，保護國家關鍵基礎設施安全，以強化國家安全。
美國拜登總統於2023年10月30日簽署的第14110號總統行政命令《安全可靠且值得信賴的人工智慧開發暨使用》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）（下稱AI總統行命令），要求DHS應管理使用於關鍵基礎設施與資通安全的AI、制定全球AI標準並推廣、降低利用AI造成具有大規模殺傷力武器攻擊之風險、保護AI智慧財產權、以及吸引AI領域人才，以促使、加強AI開發與部署等事項。為踐行上述事項，DHS制定AI路線圖，其三大目標如下：
（1） 負責任的使用AI以推進國安任務（Responsibly Leverage AI to Advance Homeland Security Mission）：透過建置AI基礎建設、建立AI系統測試與評估（Testing and Evaluation, T&E）、推動AI人才培育計畫等行動措施，帶領主管機關負責任的使用AI，以保護國家安全及避免AI對關鍵基礎設施的風險，確保AI於使用過程中係尊重個人隱私、保護公民權利與自由。
（2） 促進AI安全與資安（Promote Nationwide AI Safety and Security）：利用AI技術改善與預防關鍵基礎設施之安全與資安風險、制定關鍵基礎設施之AI使用指引、以及成立AI安全與資安委員會（AI Safety and Security Board, AISSB），彙集產官學研各界專家意見。
（3） 透過擴大AI國際合作來引領AI發展（Continue to Lead in AI Through Strong, Cohesive Partnerships）：將透過與產官學研各界合作，擴大AI的國際合作，並持續與公眾進行意見交流與分享，推廣AI政策或相關行動措施；DHS亦將持續與參眾議院及其他主管機關匯報AI相關之工作進度與未來規劃，以提升部門AI的透明度，並建立公眾對AI的信任。
本文為「經濟部產業技術司科技專案成果」
劉心妍
副法律研究員 編譯整理
U.S. Department of Homeland Security, 2024 Artificial Intelligence Roadmap, Mar. 17, 2024, https://www.dhs.gov/sites/default/files/2024-03/24_0315_ocio_roadmap_artificialintelligence-ciov3-signed-508.pdf (last visited May 7, 2024).
陳政陽，〈日本公布設立AI安全研究所與著手訂定AI安全性評鑑標準〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9157〈最後瀏覽日：2024/5/7〉。
周晨蕙，〈日本經產省和總務省共同發布AI業者指引草案，公開徵集意見〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9146〈最後瀏覽日：2024/5/7〉。
吳彬詣，〈歐盟執委會發布人工智慧創新政策套案〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9143〈最後瀏覽日：2024/5/7〉。
科法觀點
新加坡發佈《代理金融運行時安全防護框架》產業白皮書，協助金融AI代理之風險治理 資訊工業策進會科技法律研究所 2026年08月18日 今（2026）年7月3日，新加坡金融管理局（Monetary Authority of Singapore, 簡稱MAS）聯合多家國際金融機構與金融科技公司共同發布《代理金融運行時安全防護框架》（Safeguards for Agentic Finance at Runtime，簡稱SAFR）產業白皮書[1]，針對金融領域AI代理（AI agents）提出前瞻性的治理框架。 壹、事件摘要 MAS於2025年11月發佈BuildFin.ai計畫，其目的是要讓金融機構、科技業者與研究機構一起解決金融業導入AI時的共同問題。簡單來說，BuildFin.ai計畫提供了金融科技業者一個應用共創平台，由業者提出問題，再讓產、官、研各界共同思索對策以促進金融業的AI應用，並同時強化其風險治理[2]。另外，隨著AI代理的新興技術發展，新加坡資訊通信媒體發展局（Infocomm Media Development Authority, IMDA）亦已於今年5月20日發布《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI）第1.5版，透過風險評估機制、人類問責制、技術管控流程、終端使用者注意義務等面向建構AI代理的治理機制[3]。 因而，MAS在前述新加坡的政策趨勢下，也同步意識到金融領域導入AI代理技術的發展，包括金融AI代理可以發起支付、提交交易訂單、核准信用申請、申報監管報告，以及結算保險理賠等自主執行能力，其風險特性與傳統AI不同，因此有及早規劃因應的必要性。於是，MAS透過BuildFin.ai計畫與螞蟻國際、Circle、匯豐銀行、摩根大通、宏利、萬事達卡、華僑銀行和Visa等八大金融業界開會討論，決定共同撰寫SAFR產業白皮書，提供一套可操作性的治理框架，協助金融業者可以應用此方法以有效提升金融業導入AI代理的風險治理。 貳、重點說明 以下就SAFR分為兩部分進行簡要說明，第一部分為金融AI代理的系統風險，第二部分則為金融AI代理的治理架構： 一、金融AI代理的系統風險 （一）執行前保障（pre-execution assurance）的機制欠缺 傳統AI的風險治理主要管控在「部署前」與「使用後」，前者主要透過模型風險管理（model risk management）的方式，於部署前對AI系統進行驗證；後者則以審計（audit）方法去檢視事後發生的情況進行追蹤。然而，這兩種常規風險管理機制，都無法及時在AI代理決策執行前的當下就問題發生進行識別與處理，因此凸顯出對執行前保障的機制欠缺[4]。 （二）人機治理介面流於形式 現行人類審核機制目地主要應付於權宜之計，比如，一則通知、一封電子郵件警示，並未有具體的制度化與管理流程。換言之，沒有處理期限、缺乏標準的決策格式，也沒有審計記錄，SAFR批評這是流於形式、缺乏實質內容的人工監督[5]。 （三）碎片化的系統格式 新加坡的金融業者都各自於AI部署系統建立自身專屬的防護網（guardrails），其結果導致各系統間無法互相操作（non-interoperable），且無法在整個機構內部以一致的格式進行審計。因此，其風險並無法有效整合識別，不僅耗費成本過多，也無法讓金融業者能攜手合作處理[6]。 二、金融AI代理的治理架構 SAFR針對前述三大問題提出了應對方案，透過結構化的升級協議和統一的治理模式以解決AI系統的安全治理與監管挑戰。換言之，SAFR為AI代理定義了資料結構、評估邏輯與升級協議，並提出「治理封裝」（governance envelop）的技術概念，作為AI代理執行動作前的數位申請書，將其執行動作的參數、推理軌跡與身分元資料統合打包，並依SAFR的四階段治理流程進行管理以確保AI代理執行的即時把關[7]。 （一）身分驗證（Agent identity） AI代理的每項行動會綁定至一個已被認可且註冊的AI代理身分帳號，在進行任何其他評估流程之前，檢核系統必須先對照該AI代理的註冊身分進行驗證，並於AI代理帳號的註冊庫中進行查詢比對。另外由於AI代理會執行不同動作，一個AI代理可在不同行為註冊複數個身分帳號，檢核系統就會比對與判定該AI代理帳號的行為與身分是否吻合一致，若身分驗證失敗，檢核系統會拒絕AI代理的執行動作，並記錄於審計日誌中[8]。 （二）控制安全機制（Controls Repository） 控制安全機制是系統用來驗證其規則的場域，由於金融AI代理經過身分驗證後，其執行行為是否符合內部組織政策、金融法規、產品規則與使用者的授權範圍等，需要進一步的控管與檢核。因此，該系統會就允許的行動類型、決策邏輯、行為條件、有效期限與責任歸屬進行編碼操作，來逐一檢視AI代理的行為是否符合控制安全機制的要求[9]。 （三）結果處置引擎（Disposition Engine） 在結果處置引擎階段會根據控制安全機制的檢核結果給予裁示判斷，其判斷有四種結果，拒絕、升級、自動執行與觀察。拒絕為禁止其行動，升級則是要由人工審核，自動執行是通過並允許其行為，觀察則是認為有疑慮但損害不大者，可放行其行為但會被記錄在案供後續追蹤[10]。整體而言，透過不同層級的檢核標準以確認AI代理執行的範圍與權限。 （四）審計日誌（Audit Log） 最後審計日誌將會如實紀錄上面三階段的系統審核流程，並以「只能新增、無法修改」且「具備防篡改特徵（tamper-evident）」的形式，記錄了每一次的治理決策。每一筆記錄都包含了六個要素：提交時的治理封裝、作為行動檢查依據的授權令、結果處置引擎產生的結果、所套用的具體規則、得出該結果的依據，以及在每個階段所耗費的時間。透過此審計日誌具權威效力的記錄，可用於風險治理與生命週期的監督[11]。 參、事件評析 整體而言，SAFR藉由技術操作流程的治理框架來應對AI代理的新興發展，並藉由治理封裝的技術概念來實行四階段的驗證流程，以確保AI代理的有效監督。另外，SAFR又提供務實的解決方案，由於AI代理的運作早已有業者開發或部屬，如要用SAFR的治理機制其技術成本高昂，故提供匝道模式（gateway pattern）建立整體的外掛防護機制，不需要針對每個AI代理系統使用原生內嵌（native instrumentation）方式[12]。亦即，採取「先求有、再求好」的務實策略，雖然沒辦法提供最精準、最深層的檢核流程，但至少匝道模式能提供最基礎的技術防護措施，確保AI代理的風險可以於一定程度內控制，然後再針對新開發的AI代理要求以原生內嵌模式進行系統改良。 回到臺灣，目前金融領域已有大規模的AI導入，未來亦可預見AI代理的應用，其風險治理則必須謹慎對待。目前，金融監督管理委員會（下稱金管會）已於2024年6月20日發布「金融業運用人工智慧（AI）指引」，作為金融機構導入、使用及管理AI的參考[13]。為了因應AI代理趨勢的發展，行政院於今年7月核定頒布的「人工智慧風險分類框架」已針對AI代理的使用納入風險識別的子項目之一[14]，並且金管會正研議將前沿AI（Frontier AI）[15]與AI代理[16]的應用作為金融風險治理的一環。 因此，新加坡與業界合作撰寫的產業白皮書對金管會而言是很好的借鏡經驗，透過業界第一手的實務觀察，再與政府和研究機構攜手合作，思考相對應的治理對策，並提出具操作性與前瞻性的技術防護措施，強化AI代理的風險治理。同時，SAFR的具體指導方針讓金融業者可以採用與施行，以降低AI代理的系統性風險，甚至金融專業領域自主形成的產業治理框架，對其他目的事業具有一定程度的示範效果。總的來說，新加坡AI代理的治理模式對於金融領域具有參考價值的重要性。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1] Monetary Authority of Singapore, Safeguards for Agentic Finance at Runtime (SAFR), https://www.mas.gov.sg/publications/monographs-or-information-paper/2026/safeguards-for-agentic-finance-at-runtime (last visited August 18, 2026). [2] Monetary Authority of Singapore, MAS’ Financial AI Builder Programme - Buildfin.ai, https://www.mas.gov.sg/schemes-and-initiatives/buildfinai(last visited August 18, 2026). [3] 陳益智，新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9511（最後瀏覽日：2026年9月9日）。 [4] Monetary Authority of Singapore, Safeguards for Agentic Finance at Runtime (SAFR) Version 1.0, p. 6. [5] id [6] id [7] id. at 7. [8] id. at 10. [9] id. at 10-11. [10] id. at 11-12. [11] id. at 12-13. [12] id. at 16. [13] 金融監督管理委員會，金管會發布「金融業運用人工智慧(AI)指引」，https://www.fsc.gov.tw/ch/home.jsp?id=96&parentpath=0,2&mcustomize=news_view.jsp&dataserno=202406200001&dtable=News（最後瀏覽日：2026年9月9日）。。 [14] 參考（B6）AI自主代理之授權外行為：AI Agent系統具備自主規劃、呼叫外部工具與持續執行複雜任務之能力，可能因目標設定不完整或環境變化，導致行為逐漸偏離原始指令，乃至自主取得超出授權範圍之系統存取權限。多代理人協作系統更可能因代理人間相互觸發，產生開發者與使用者均未預期的連鎖反應，使人類難以及時介入糾正。 [15] 金融監督管理委員會，金管會提醒金融業強化前沿AI模型攻擊風險整備，https://www.fsc.gov.tw/ch/home.jsp?id=96&parentpath=0,2&mcustomize=news_view.jsp&dataserno=202607140002&dtable=News（最後瀏覽日：2026年9月9日）。 [16] 經濟日報，金管會推動金融科技 規劃三大監理方向 建立「AI管 AI」新架構，https://money.udn.com/money/story/5613/9486677（最後瀏覽日：2026年9月9日）。
USPTO 宣佈將加速綠色科技專利案件審查美國專利商標局USPTO日前宣佈一項專為綠色科技(Green Technologies)而設的前導計劃(Pilot Program)，透過這項計劃期望能將相關溫室氣體排減、節約能源等申請案加速其審查、公開及訴願程序，至少縮短流程一年。目前平均來說從申請至最終結果出爐需耗時40個月。這項消息係由美國商務部長駱家輝(Gary Locke)所宣佈，普遍被認為是為了呼應於哥本哈根舉行的聯合國氣候變化框架公約第15次締約方會議。 符合條件的申請案必須於2009年12月8日前送件，而且必須是尚未收到第一次官方通知(First Office Action，包括限縮專利範圍的通知)，另外申請人還必須於2010年12月8日前以電子檔提交「特別審查程序」(petition to make special)並符合下列要求： ●必須是正式發明申請案(non provisional utility application)，不適用於再領證(reissue) 與再審查(re-examine) 專利 ●必須是上述前導計劃中所包括的約79項專利項目之一 ●申請案必須不包含超過3個獨立項與20個專利申請範圍 ●如欲提早公告需附上申請書 (petition) ●如果USPTO判定為超過一項的發明，申請人必須同意用電話做出選擇 雖然USPTO預估目前有25,000件審核中的專利符合加速審理的資格，但他們預計只受理最初的3000件申請以評估這項計劃的效益與工作量。至於有意提出申請者則需要審慎評估快速審查之外的其他利弊，例如提早公告，限縮的運用範圍與專利申請範圍等。這項計劃公佈的同時USPTO的局長 David Kappos 亦承諾將定期對外更新該計劃的進度，並將成立一個網上的交流平台讓大眾可以對此計劃提出意見。
美國正式推行「聯邦政府風險與授權管理計畫」2010年，美國聯邦政府展開「聯邦政府風險與授權管理計畫」（Federal Risk and Authorization Management Program，FedRAMP），在經過2年的研究與整備後，聯邦政府總務管理局於2012年06月06日宣佈FedRAMP正式運作。 FedRAMP是由國土安全部、聯邦政府總務管理局、國防部、國家安全局以及國家科技研究所共同撰寫及建置。該計畫的目的是建立一套全國政府機關可遵循依據，針對雲端服務的風險評估、授權管理的標準作業規範。 根據FedRAMP，雲端服務業者欲通過該計畫的評估，其評估程序可分為提出申請、檔案安全控管、進行安全測試、完成安全評估等四個階段。未來所有雲端產品與服務業者，都必須達到該計畫的標準規範，才能為美國政府機關提供雲端產品及服務。 對於雲端服務業者的評估，必須經由FedRAMP認證的第三方機構來進行審查，第三方評估機構欲通過認證，除了要符合FedRAMP的需求外，還必須具備雲端資訊系統的評估能力、備妥安全評估計畫、以及安全評估報告等，另外亦同時引進了ISO/IEC17020以及ISO/IEC17011之規定，來驗證檢驗機構的品質與技術能力。目前為止，聯邦政府總務管理局已經公佈十個獲得授權的機構。 聯邦政府總務管理局同時並期待在2012年的年底之前，能夠有三個雲端服務提供者通過審查，然而，由於制度才剛上路不久，是否能夠跟上產業變遷的腳步並順利達成目標，仍有待進一步觀察。
韓國公平交易委員會推動制定《平臺競爭促進法》韓國公平交易委員會（Fair Trade Commission, FTC）於2023年12月19日宣布將制訂《平臺競爭促進法》（Platform Competition Promotion Act, PCPA），針對市場中大型線上平臺業者，提前認定為具有市場主導地位，禁止提供優惠待遇（preferential treatment）及搭售（tie-sale）等不公平競爭行為，保護小型企業及避免消費者受到大型線上平臺業者壟斷市場的影響。 《平臺競爭促進法》將透過營業收入、使用者數量、市場份額及市場參進障礙等特定條件，認定平臺業者是否具有市場主導地位，被指定具有主導地位的業者則會被禁止從事以下行為：（1）自我偏好行為，禁止平臺業者在平臺上以較競爭者更有利之方式，曝光其本身販售的產品；（2）搭售行為，迫使平臺使用者在購買平臺所提供的產品或服務時，必須同時購買其他產品；（3）限制多棲（multi-homing）或禁止使用者使用其他平臺；（4）要求比其他平臺更優惠的交易條件。 依據韓國《公平交易法》現行法規規定，企業從事不公平競爭行為，最多僅能處以其營業額6％的罰鍰；若於《平臺競爭促進法》制定後，被認定具有市場主導地位的平臺業者從事不公平競爭行為時，將依《平臺競爭促進法》最高可處其營業額10％之罰鍰。平臺業者被委員會指定為具市場主導地位的平臺時，業者仍可在（1）指定前提交意見；（2）指定後提出異議，或以（3）提出行政訴訟等方式保障其權利。 我國公平交易委員會於2022年12月提出數位經濟競爭政策白皮書，內容包含數位經濟下可能面臨的議題及執法立場與方向。近來韓國科技產業與社會經濟發展屢次成為我國相關產業比較對象，未來可持續關注韓國對於跨領域科技產業影響市場公平競爭之治理發展，作為我國因應數位經濟競爭法相關議題之參考基礎。