美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
美國FDA（Food and Drug Administration）於2019年11月22日發布「保密證書（Certificates of Confidentiality, CoC）」指引草案。保密證書之目的在於防止研究人員在任何聯邦、州或地方之民事、刑事、行政、立法或其他程序中被迫揭露有關研究參與者可識別個人之敏感性資料，以保護研究參與者之隱私。保密證書主要可分為兩種，對於由聯邦所資助，從事於生物醫學研究、行為研究，臨床研究或其他研究，於研究時會收集可識別個人之敏感性資料之研究人員而言，保密證書會依法核發予該研究人員，稱為法定型保密證書（mandatory CoC）；而對於從事非由聯邦所資助之研究的研究人員而言，原則上保密證書不會主動核發予該研究人員，惟當研究涉及FDA管轄之產品時，可由FDA自行裁量而核發保密證書，稱為裁量型保密證書（discretionary CoC），本指引草案旨在提供裁量型保密證書之相關規範。 FDA建議裁量型保密證書之申辦者先自問以下四個問題，且所有問題之答案應該皆為肯定：(1)申辦者所參與之人體研究是否收集可識別個人之敏感性資料？(2)申辦者是否為該臨床研究之負責人？(3)申辦裁量型保密證書之人體研究是否涉及受FDA管轄之產品的使用或研究？(4)申辦者之研究措施是否足以保護可識別個人之敏感性資料之機密性？ 於FDA完成審查後，將向申辦人傳送電子回覆信件，表明是否核准裁量型保密證書。若結果為核准，則該電子回覆信件即可作為保密證書。該保密證書之接受者應執行法律所規定以及FDA於電子回覆信件中所要求之保證事項，以保護人體研究參與者之隱私。
日本IT總合戰略本部提出數位程序修正法案，簡化行政流程並提高使用便利性日本IT總合戰略本部於2019年3月18日公告提出「數位程序法案（デジタル手続法案）」，本法案係集結多部法律修正案之包裹法案，包含行政程序網路化法（行政手続オンライン化）、居民基本簿冊法（住民基本台帳法）、官方個人認證法（公的個人認証法）、及個人編號法（マイナンバー法）。該法案的目的，在於應用資通訊技術簡化行政運作並提高使用便利性，藉此增進行政效率，因此在相關法令中明文擬定行政數位化的基本原則，增修推動行政程序線上辦理的共通規定與配套措施，賦予行政機關應履行的各項法定義務，同時為落實各領域推展行政數位化的規劃，制定個別具體規範。 於制定行政數位化基本原則、與增訂推動行政程序線上辦理的共通規定與配套措施之部分，主要為修正原「行政程序網路化法」，更名為「數位行政推進法（デジタル行政推進法）」，定位該法目標與功能為促進社會整體數位化，使國家、地方公共團體、民間業者、國民與其他人於從事各種社會活動時，均能享受到資通訊技術帶來的便利性。該法要求的基本原則，包含數位優先（digital first， 藉由數位手段一體化完成各項手續或服務）、免去重複提供資訊（once only，曾提供的資訊得被保留供再次使用）以及一步到位（connected one-step，謀求複數的程序或服務簡化為一步到位）。至於推動行政程序線上辦理的共通規定與配套措施，則包含要求地方公共團體須致力於達成行政程序線上辦理的目標，授權主管機關訂定得辦理網路身分認證與支付手續費等數位化法定程序、要求行政機關提出實現行政程序線上辦理與廢除紙本附件流程的資訊系統整備計畫等。 另一方面，針對各領域推展行政數位化的具體規範，該法案預備修正「居民基本簿冊法」、「官方個人認證法」以及「個人編號法」，主要內容包含：1. 保存個人電子認證資訊等相關官方服務的適用對象擴及旅外國民，同時得發行旅外國民之官方個人認證之電子證明書與個人編號卡，使其得透過網路使用相關的行政電子化服務；2. 長期且確實保存本人過去的居住遷徙紀錄，增設住民票註銷後原有相關記錄仍予以保留的「除票」制度，使國民過去的居住地紀錄，不會因為變更戶籍、依法註銷原戶籍地的住民票而消失；3. 過去使用官方個人認證之電子證明書與個人編號卡時須輸入密碼，官方個人認證法修正案則授權主管機關增設其他不需輸入密碼的使用方式，以呼應擴大電子證明書使用範圍的政策規劃；4. 賦予個人編號IC卡（マイナンバーカード）作為獨立有效之身分證明文件的地位，廢止原依法需和個人編號IC卡併用的紙本通知卡（通知カード）制度，免去個人住所等基本資料變更時，需同步更正通知卡紙本登載資訊的行政程序，減輕主管機關負擔。
歐盟提出人工智慧法律調和規則草案歐盟執委會（European Commission）於2021年4月21日提出「人工智慧法律調和規則草案」（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts）（簡稱AI規則草案），旨在平衡「AI運用所帶來的優勢」與「AI對個人或社會所帶來的潛在負面衝擊」，促使會員國在發展及運用AI時，能採取協調一致的態度及方法，共同維護歐洲公民基本權利與歐盟價值。 歐盟自2019年起即倡議發展「值得信賴的AI」（Trustworthy AI）。AI規則草案之提出，除了落實執委會2019年至2024年之政策願景外，亦呼應2020年歐洲議會（European Parliament）之建議—針對AI應用之機會與利益採取立法行動，並確保合乎倫理原則。惟鑒於歐盟在環境、健康、公共事務、金融、交通、農業等領域對AI應用之高度需求，以及企業仰賴AI技術提升競爭優勢等因素，執委會係以「風險為基礎」之概念取向（risk-based approach）制定AI規則草案，避免對新技術發展造成不必要的限制或阻礙。 本規則草案將AI系統，依其「對歐盟基本權利或價值所創造的風險程度」，分為下列三種類型，並施以不同程度的監理方式： 一、不可接受之風險：原則上禁止使用此類型AI系統或使其進入歐盟市場。例如：利用潛意識技術操控個人、在公共場合利用「即時遠端生物辨識系統」進行執法、公務機關普遍對個人進行社會評分等。 二、高風險：於附錄中列出所謂高風險AI系統，要求高風險AI系統之提供者遵循風險管理、資料治理、文件紀錄保存、透明性與資訊揭露、人為監督、健全性、準確性與資安等要求；且AI系統進入歐盟市場前，需進行符合性評估（conformity assessment），進入市場後，則需持續監控。 三、非不可接受之風險亦非高風險：鼓勵AI系統提供者或使用者，自願建立行為準則（codes of conduct）。 AI規則草案亦鼓勵會員國建立AI監理沙盒（regulatory sandbox）機制，且以中小企業、新創公司為優先對象，使創新AI系統進入市場之前，能於可控環境中依明確計畫進行開發、測試與驗證。
IMDRF於2025年3月提出《醫療器材監管依賴計畫操作手冊》草案，促進國際監管的一致性與產品流通性一、緣起與目標 「依賴制度（reliance）」指一國有效利用他國的審查結果，而減少重複作業、提升效率，並促進病人更快取得安全、有效產品的政策。為此，國際醫療器材法規管理論壇（International Medical Device Regulators Forum, IMDRF）於2025年3月提出《醫療器材監管依賴計畫操作手冊》（Playbook for Medical Device Regulatory Reliance Programs）草案，協助各國建立與管理依賴制度。惟此制度並非「無條件接受他國決策」或「國際換證」，而須由各國自行決定如何利用依賴制度，並承擔最終監管責任。 二、應用範圍 該手冊適用於所有醫療器材（含體外診斷器材）或輔具，並涵蓋產品生命週期各階段（如技術文件審查或品質管理系統驗證等）。 三、依賴機制的類型 手冊歸納三類依賴機制並舉例說明： 1.工作共享（Work-sharing）：指多國協作進行監管任務，可為聯合評估、聯合檢查，或共同推出監管標準等。如IMDRF推出的「醫療器材單一稽查計畫」，訂定多國之驗證機構對製造商的統一稽核標準，使廠商受稽後所作成的稽查報告可一次性符合數國法規。 2.簡化審查（Abridged Review）：以他國完整的審查成果作為基礎，僅針對當地「特有」及「新增」的風險進行審查。如新加坡健康科學局已實施簡審制度。 3.承認（Recognition）：正式接受他國監管決策結果作為判斷依據，可分為單、雙、多邊的承認。如CE標誌的醫材可在歐盟27個成員國內通行。 四、結語 IMDRF並非藉由該手冊推行「最佳模式」，而是協助各國依需求發展適合的監管依賴策略，加強協作與資源共享，進而促進全球監管上的一致性與產品流通性。近年世界衛生組織及區域組織（如歐盟、東協、非洲聯盟發展署）越加重視各國監管法規的一致性，並將審查資源移向人工智慧或高風險醫材的監管探索中，此監管趨勢值得我國持續關注。