美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
2020年6月、9月及11月，印度電子及資訊科技部（Ministry of Electronics and Information Technology, MeitY）分別發布三項公告，內容為封鎖數款具資安風險之應用程式，並直接列出名單，總數一共高達220款。三項公告分別如下： 政府封鎖59款有害印度主權之完整性、防禦力、國家安全及公共利益的手機應用程式（Government Bans 59 mobile apps which are prejudicial to sovereignty and integrity of India, defence of India, security of state and public order）。 政府封鎖118款有害印度主權之完整性、防禦力、國家安全和公共利益的手機應用程式（Government Blocks 118 Mobile Apps Which are Prejudicial to Sovereignty and Integrity of India, Defence of India, Security of State and Public Order）。 政府禁止國內使用者使用43款手機應用程式（Government of India blocks 43 mobile apps from accessing by users in India）。 三項公告皆指出依照資訊技術法（Information Technology Act 2000）第69A條之規定，中央政府為保護印度主權之完整性、國家安全、公共利益而有必要，得透過命令封鎖、監視或解密由特定電腦資源（computer resource）產生、傳送、儲存或管理的資料。依照同法第2條第1項第k款，電腦資源係指電腦設備、電腦網路、軟體或應用程式。 電子及資訊科技部進一步表示，經民眾檢舉後調查發現，在手機Android及iOS系統之應用程式商店中，有許多應用程式未經使用者授權就存取其重要資料，並傳輸到印度境外的伺服器，不僅對印度人民隱私造成威脅，更損害印度國家安全與公共利益。有鑑於此，電子及資訊科技部決定封鎖此類具資安風險之應用程式，將名單中所列應用程式自應用程式商店中下架，名單中包括TikTok、WeChat、淘寶、支付寶、微博等應用程式。由於名單中大多數皆屬中國企業開發之應用程式，外界普遍認為是今年6月中印軍隊於邊界西段加勒萬河谷（Galwan Valley）發生衝突，因此印度透過封鎖中國資通訊服務之手段以牽制對方，預計此舉將導致兩國關係更加緊張。
G7發布金融機關因應勒索軟體危脅之基礎要點由於近年來勒索軟體對國際金融帶來重大影響，七大工業國組織G7成立網路專家小組CEG（Cyber Expert Group），並於2022年10月13日訂定了「金融機關因應勒索軟體危脅之基礎要點」（Fundamental Elements of Ransomware Resilience for the Financial Sector），本份要點是為因應勒索軟體所帶來之危脅，提供金融機關高標準之因應對策，並期望結合G7全體成員國已施行之政策辦法、業界指南以及最佳之實踐成果，建立處置應變之基礎，加強國際金融的韌性。該份要點內容著重於民營之金融機關（private sector financial entities），或關鍵之第三方提供商（critical third party providers），因其本身有遵守反洗錢和反恐怖主義之融資義務，但也可依要點訂定之原意，在減少自身受到勒索軟體之損害上，或在處置與應變上有更多的彈性。而日本金融廳於2022年10月21日公布該份要點之官方翻譯版本，要點所提列之重點如下： 1.網路安全策略與框架（Cybersecurity Strategy and Framework）： 將因應勒索軟體威脅之措施，列入金融機關整體的網路安全策略與框架之中。 2.治理（Governance）： 支付贖金本身可能於法不容許，也可能違背國家政策或業界基準，金融機關須在事件發生前，檢視相關法規，並針對潛在的被制裁風險進行評估。 3.風險及控制評估（Risk and Control Assessment）： 針對勒索軟體之風險，應建立控制評估機制並實踐之。因此可要求金融機關簽訂保險契約，填補勒索軟體造成的損害。 4.監控（Monitoring）： 針對潛在的勒索軟體，金融機關有監控其活動進而發現隱藏風險之義務，並向執法與資通安全機關提供該惡意行為之相關資訊。 5.因應處置、回覆（Response）： 遭遇勒索軟體攻擊之事件，就其處置措施，須依原訂定之計劃落實。 6.復原（Recovery）： 遭遇勒索軟體攻擊之事件，將受損之機能復原，須有明確的程序並加以落實。 7.資訊共享（Information Sharing）： 須與組織內外之利害關係人共享勒索軟體之事件內容、資訊以及知識。 8.持續精進（Continuous Learning）： 藉由過往之攻擊事件獲取知識，以提高應變勒索軟體之能力，建立完善的交易環境。 此要點並非強制規範，因此不具拘束力，且整合了2016年G7所公布的「G7網路安全文件之要素」（G7 Fundamental Elements of Cybersecurity document）之內容。綜上述CEG所提列重點，針對我國金融機關在抵禦網路攻擊之議題上，應如何完善資安體制，與日本後續因應勒索軟體之政策，皆值得作為借鏡與觀察。
中國民航局公布《關於推動「人工智慧+民航」高品質發展的實施意見》，以加速推動AI於民用航空領域的創新與產業發展中國民用航空局於2025年11月19日公布《關於推動「人工智慧+民航」高品質發展的實施意見》（关于推动“人工智能+民航”高质量发展的实施意见），旨在貫徹《國務院關於深入實施「人工智慧+」行動的意見》（国务院关于深入实施 “人工智能+”行动的意见）及《關於「人工智慧+交通運輸」的實施意見》（关于 “人工智能+交通运输”的实施意见）的要求，以加速推動AI於民用航空領域的創新與產業發展。 本文件說明，中國政府將於安全、物流、監管、建設等領域，持續推動AI驅動的創新產業發展，深化產業與AI的結合。2027年將首先實現AI於民航安全、物流之發展，預計屆時民航領域的高品質資料、基礎設施平台、產業模型演算法等AI核心要素已見成效，形成具指標性的前瞻示範案例以及具有競爭力的智慧產品與應用；而預計至2030年，民航AI治理體系與安全保障體系已逐步建立，成為民航領域發展的基礎。 本文件針對AI具發展優勢之民航領域，提出其於安全、運行、監管等層面的應用場景，例如飛機故障預測性維護、入侵物辨識、鳥情監控、航班編制、航程調度、智慧旅客服務、自動化倉儲管理、執法輔助、風險控管機制等多元應用。此外，為推動民用航空AI算力基礎設施的建設，也鼓勵建造算力與資料中心，期能建立標準化、資料共享的可信資料基礎建設。 而為指導民航單位落實AI應用，本文件亦於附件中編入《民航人工智慧應用場景參考指引》（民航人工智能应用场景参考指引），該指引中介紹發展程度較高的42個航空領域AI應用場景，說明各應用場景的基本應用概念及技術發展成熟度，以作為各單位根據自身條件制定AI導入應用策略的參考依據。
英國資訊委員辦公室（Information Commissioner’s Office，ICO）認定英國電子零售業者Carphone Warehouse違反《Data Protection Act 1998》資料保護法英國電子零售業者Carphone Warehouse在2015年遭到網路攻擊，造成逾300萬客戶及1000名員工的資料外洩，外洩的資料包括客戶的姓名、地址、電話號碼、出生日期、婚姻狀況及1.8萬名客戶的金融卡資訊。 英國資訊委員辦公室（Information Commissioner’s Office，ICO）認為涉及之個人資料嚴重影響個人隱私，使得個人資料有被誤用的風險。ICO進一步調查後並發現，駭客僅是透過有效的登入憑證，就能藉由WordPress軟體存取系統，此事件亦暴露該組織技術安全措施之不足，因受影響系統中使用的軟件的重要元素已過時，且公司未能執行例行的安全測試。ICO認為，像Carphone Warehouse此類規模龐大的公司，應積極評估其資料安全系統，確保系統穩健而避免類似的攻擊。 據此，ICO判定該公司缺乏妥善的安全措施保障使用者資訊，已嚴重違反《Data Protection Act 1998》資料保護法，判罰40萬英鎊。 從今年5月25日起，隨著GDPR的生效，法律將更加嚴格。對此，ICO亦發布了有用的指導，包括GDPR指南，現在採取的12個步驟和工具包。國家網絡安全中心（NCSC）也為組織為保護自己所採取的步驟提供了有用的指導。