美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
澳洲政府於2025年11月25日宣布，將於2026年初設立AI安全研究所(AI Safety Institute)。澳洲AI安全研究所的設立目標，為提供相關的專業能力，以監管、測試與共享AI在技術、風險、危害層面的資訊。經由辨識潛在的風險，提供澳洲政府與人民必要的保護。AI安全研究所將以既有之法律與監管框架為基礎，因應AI風險，協助政府各部門調整相關規範。其主要業務如下： ．協助政府掌握AI技術的發展趨勢，動態應對新興的風險與危害； ．強化政府對先進AI技術發展及潛在影響的理解； ．共享AI資訊與作為協調政府各部門的樞紐； ．經由國家AI中心(National AI Centre，NAIC)等管道，提供事業、政府、公眾與AI相關的機會、風險和安全的指導； ．協助澳洲履行國際AI安全協議的承諾。 AI安全研究所並為2025年12月2日，工業、科學與資源部(Department of Industry, Science and Resources)發布的國家AI計畫(National AI Plan，下稱澳洲AI計畫)中，保障應用AI安全性的關鍵項目。澳洲AI計畫指出，AI安全研究所將關注AI的上游風險(upstream AI risks)，與下游危害(downstream AI harms)。所稱之上游風險，係指AI模型和系統的建構、訓練方式，與AI本身的能力，可能產生的疑慮。下游危害，則係指使用AI系統時，可能的實質影響。 AI安全研究所將支援與國際、政府各部門間之合作；並共享新興的AI技術能力，以及對AI上游風險的見解，發布安全研究成果，提供產業與學術界參考。AI安全研究所監測、分析與共享資訊，提出政府各部門，對AI下游危害，可採取的一致性應對建議。 綜上所述，澳洲政府提出國家AI計畫，於既有的法制體系，滾動調整相關規範，以應對AI風險。並成立AI安全研究所，追蹤國際AI發展脈動，及時提供澳洲政府應對建議，協調各部門採取一致性的行動。澳洲政府對新興AI技術，所採取策略的具體成效，仍有待觀察。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
美國聯邦民航局發布《先進空中移動執行計畫》，以利全面整合並促進產業安全擴展美國聯邦民航局（Federal Aviation Administration, FAA）於2023年7月18日發布《先進空中移動執行計畫》（Advanced Air Mobility (AAM) Implementation Plan），詳述FAA與利害關係人於短期內實現AAM運作需採取之步驟。 AAM是一個新興航空生態系統，透過創新先進技術與新型航空器，包括電動航空器或電動垂直起降航空器（electric vertical takeoff and landing, eVTOL），提供交通運輸更具效率、永續與公平的選擇機會。不過，本執行計畫所稱之AAM僅適用於有人駕駛之客貨運輸類型。為促進日常相關服務，該計畫以現行飛航程序與基礎設施為利用基礎，並就航空器與飛行員認證、空域進出管理、飛行員培訓、基礎設施開發、安全維護、公眾參與等事項進行處理，以引領產業安全擴展。此外，本計畫還包含可應用於任何場域之計畫指南（planning guide），並臚列關鍵整合目標與順序。本次計畫著重之處簡述如下： （1）運作：飛行員將能按預定飛行計畫駕駛新先進移動航空器往返多地；AAM航空器將盡可能使用機場周圍等級B與C空域範圍內之既有或修正的低空目視飛行規則（Visual Flight Rules, VFR）路線，飛行於城市與大都市地區上空4000英尺（約1219.2公尺）。 （2）基礎設施：營運商、製造商、州與地方政府，以及其他利害關係人將負責計劃、發展與利用直升機場（heliport）或垂直機場（vertiport）基礎設施；起初AAM將運作於既有的直升機場、商業服務機場與通用航空（general aviation, GA）機場，故需針對充電站、停機坪與滑行空間等進行改造與安裝。 （3）電網（Power Grid）：電網可能需要升級以供AAM操作；FAA與美國國家再生能源實驗室（National Renewable Energy Laboratory, NREL）簽署機構間的協議，以確定航空器電氣化（electrification）對垂直機場、直升機場或機場電網的影響。 （4）安全：美國國土安全部（Department of Homeland Security, DHS）將確定必要的AAM安全類型；美國運輸安全管理局（Transportation Security Administration, TSA）與FAA亦評估基於先進技術的使用與操作協定（operational protocols）而提高資安要求之需求。 （5）環境：FAA將斟酌AAM運作的環境影響，包括噪音、空氣品質、視覺干擾及對野生生物的破壞等因素。 （6）公眾參與：為更了解公眾對AAM運作的擔憂（包括噪音與緩解措施），FAA將與機場、地方、州及社區進行合作；許多利害關係人（如AAM營運商、機場與垂直機場營運商）將於公眾參與中扮演重要角色。
OECD發布「促進人工智慧風險管理互通性的通用指引」研究報告經濟合作發展組織（Organisation for Economic Co-operation and Development，下稱OECD）於2023年11月公布「促進AI風險管理互通性的通用指引」（Common Guideposts To Promote Interoperability In AI Risk Management）研究報告（下稱「報告」），為2023年2月「高階AI風險管理互通框架」（High-Level AI Risk Management Interoperability Framework，下稱「互通框架」）之延伸研究。 報告中主要說明「互通框架」的四個主要步驟，並與國際主要AI風險管理框架和標準的風險管理流程進行比較分析。首先，「互通框架」的四個步驟分別為： 1. 「定義」AI風險管理範圍、環境脈絡與標準； 2. 「評估」風險的可能性與危害程度； 3. 「處理」風險，以停止、減輕或預防傷害； 4.「治理」風險管理流程，包括透過持續的監督、審查、記錄、溝通與諮詢、各參與者的角色和責任分配、建立問責制等作法，打造組織內部的風險管理文化。 其次，本報告指出，目前國際主要AI風險管理框架大致上與OECD「互通框架」的四個主要步驟一致，然因涵蓋範圍有別，框架間難免存在差異，最大差異在於「治理」功能融入框架結構的設計、其細項功能、以及術語等方面，惟此些差異並不影響各框架與OECD「互通框架」的一致性。 未來OECD也將基於上述研究，建立AI風險管理的線上互動工具，用以協助各界比較各種AI風險管理框架，並瀏覽多種風險管理的落實方法、工具和實踐方式。OECD的努力或許能促進全球AI治理的一致性，進而減輕企業的合規負擔，其後續發展值得持續追蹤觀察。
開放非銀行從事預付式行動付款服務法制議題之研究