美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
德國聯邦議會於2015年通過資訊科技安全法(IT-Sicherheitsgesetz)，主管機關為聯邦資訊安全局(Bundesamt für Sicherheit in der Informationstechnik, BSI)，隸屬於德國聯邦內政部(Bundesministerium des Innern)。目的是為保障德國公民與企業使用的資訊系統安全，特別是在全國數位化進程中，攸關國家發展的關鍵基礎設施，讓德國成為全球資訊科技系統及數位基礎設施安全的先驅與各國的模範，同時藉此強化德國資訊科技安全企業的競爭力，提升外銷實力。 該法案主題包括，在關鍵基礎設施上改進企業資訊科技安全、保護公民的網路安全、確保德國聯邦資訊科技、加強聯邦資訊技術安全局的能力與資源、擴展聯邦刑事網路犯罪的調查權力。 該法主要係針對關鍵基礎設施營運者(Kritische Infrastrukturbetreiber) 進行安全要求，例如在能源、資訊科技、電信、運輸和交通、醫療、水利、食品、金融與保險等領域的企業。德國聯邦政府要求關鍵基礎設施的營運商，要滿足資訊科技安全的最低標準，且須向聯邦資訊安全局通報資訊安全事件。聯邦資訊安全局要對關鍵基礎設施營運商的資訊進行評估分析，並提供給關鍵基礎設施營運商彙整改善，以提高其基礎設施的保護。
美國參議院通過《2021美國創新暨競爭法案》 眾議院通過《美國國家科學基金會未來法案》美國參議院於2021年6月8日通過《2021年美國創新暨競爭法案》（the United States Innovation and Competition Act of 2021, USICA），是一項重大支出的全面性法案，批准了2500億美元於未來五年投入科學研究，旨在提振美國科技研發核心能力，並藉此因應中國的挑戰。 該法案分為六大部分： 《晶片製造法與5G等無線技術應用》（CHIPS Act and ORAN 5G Emergency Appropriations） 《無盡邊疆法》（Endless Frontier Act） 《2021戰略競爭法》（Strategic Competition Act of 2021） 《國土安全與政府事務委員會相關條款》（Homeland Security and Government Affairs Committee Provisions） 《2021回應中國挑戰法》（Meeting the China Challenge Act of 2021） 其他（如：教育與醫學研究競爭力與安全、司法委員會）。 其內容包括提撥520億美元支援半導體產業、15億美元支援5G供應鏈生產與技術研發，同時防範關鍵技術外洩，並透過與國內外民間、外國政府合作推動半導體、人工智慧、通訊、能源與生物技術等領域的基礎研究與創新，提供多種獎勵措施。 同月28日眾議院則提出自己版本以取代USICA並加以通過，分別是《美國國家科學基金會未來法案》（National Science Foundation for the Future Act）以及《美國能源部未來科學法案》（Department of Energy Science for the Future Act），預計在未來五年撥款1280億美元，供美國國家科學基金會（NSF）與能源部（DOE）提升研發能力。 參眾兩院意見分歧而需再展開協商，預計於今年9至10月間於兩院協商委員會通過。
歐盟和德國對於自動駕駛及智慧交通系統之個人資料保護發展 Me Too醫療器材上市前許可指引美國食品藥物管理局（The Food and Drug Administration，簡稱FDA）於2014年7月更新並公布了醫療器材上市前許可（premarket notification）的指引（guidance）（該指引名稱為510(k) Program: Evaluating Substantial Equivalence in Premarket Notification Guidance for Industry and Food and Drug Administration Staff，以下簡稱510(k)指引），針對醫療器材業者將其生產製造的醫療儀器申請上市的過程做了新的調整及規範。此指引主要是讓業界及FDA人員了解FDA在評估醫療器材申請過程中所評估的因素及要點，並藉由FDA在審查醫療器材的實務規範及審查標準來當作標準並訂定510(k)修正，以提高510(k)評估的可預測性、一致性及透明度，讓業界有一定的遵循標準。雖然FDA的指令文件並不受法律強制規範，但可供醫材業者更清楚FDA所重視的審查程序及內容。 歐盟對醫療器材上市前之審查亦有相關指令，分別為一般醫療器材指令（Medical Device Directive，簡稱MDD）、活體植入醫材指令（Active Implantable Medical Devices Directive，簡稱AIMDD）及。歐盟規定醫療器材在上市前，必須符合上市前所規定之內容以正當在歐盟、歐洲經濟地區（European Economic Area）及瑞士市場販售使用。然而特別的是，不同於美國上市前的醫療器材由主管機關FDA進行審查，歐洲藥物管理局（The European Medicines Agency of the EU）並不參與醫療器材的審核程序，而是交由歐盟會員國的私人認證機構對醫療器材做評估。