美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
中小企業創新核心計畫（Zentrales Innovationsprogramm Mittelstand ,以下簡稱ZIM）是一項覆蓋全國範圍、不限制技術領域和行業的補助計畫，補助對象除中小企業外，還包括與之合作的研究機構。該計畫整合過往其他許多補助計畫，德國聯邦經濟與能源部於2015年1月公佈了最新的ZIM計畫實施方針，擴大受補助中小企業的範圍，且提高資助資金的數額，將對企業補助的最高數額從35萬提高到38萬，對研究機構補助的最高數額從17.5萬提高到19萬歐元，以持續提升德國中小企業的創新能力與競爭力；企業與合作研究機構可以在補助的架構下針對先進技術研發獲得資金，研發主題不限，重點在於創新內容與市場價值。 ZIM計畫中的中小企業為員工人數不超過499人，同時年營業額低於5000萬歐元或資產負債表總額低於4300萬歐元的企業。在此基礎上，ZIM計畫中分為以下三種補助類型： 1.ZIM個人計畫(ZIM-Einzelproejkte)：補助個別經營企業的研發計畫。 2.ZIM合作計畫(ZIM-Kooperationsprojekte)：補助兩個或兩個以上的企業或研發機構之共同研發計畫。 3.ZIM網狀型合作計畫(ZIM-Kooperationsnetzwerke)：補助在創新網狀架構下至少六個中小企業合作之全面性研發計畫。
美國聯邦通訊委員會與國家科學基金會以及國家電信暨資訊管理局簽署合作協議，以展現對頻譜革新倡儀的支持美國聯邦通訊委員會（Federal Communication Commission, FCC）於2021年2月1日與美國國家科學基金會（National Science Foundation, NSF）以及美國國家電信暨資訊管理局（National Telecommunications and Information Administration, NTIA）共同簽署合作協議，展現對NSF於2020年所發起的頻譜革新倡儀（NSF Spectrum Innovation Initiative）的支持，其目的在於美國面臨對頻譜使用的需求量增加之際，能在頻譜的研究與發展尋求創新的進步。 頻譜革新倡儀將致力於頻譜的研究與創新，具體行動如下： 建置國家無線電動態區域（National Radio Dynamic Zones, NRDZ）：藉由建立新的前導測試的測試範圍，使研究人員得對頻譜的使用者進行動態頻譜（dynamic spectrum）的研究和開發； 國家頻譜創新和勞動力發展計畫：建立頻譜相關研究人員聯繫管道，並增加頻譜相關勞動力，以支持未來頻譜之相關產業發展； 頻譜研究活動：藉此發展出更多涉及頻譜的應用，特別是跨領域性質的研究活動； 教育和勞動力發展計畫：透過教育和培訓計畫培養兼具專業且多元性的頻譜相關勞動力。 此份合作協議，目的在確保FCC和NTIA的專業人員可以提供其關於頻譜的專業知識，以幫助確保頻譜革新倡議在頻譜的研究、基礎設施和勞動力方面的投資與開發，能符合美國聯邦政府對頻譜的監管、政策目標、原則和策略。
日本農業數據協作平台WAGRI開始自主營運「日本農業數據協作平台」（簡稱WAGRI）於2017年內閣府計畫的支持下，委由慶應義塾大學建立，該平台具備農業數據相容、數據共有與數據提供三大機能，日本IT企業NTT、富士通、農機大廠久保田、洋馬等均已加入WAGRI試營使用行列。今（2019）年該平台將移轉予國立研究開發法人農業食品產業技術總合研究機構（下簡稱農研機構），正式開始進入商業模式營運。欲利用WAGRI之機關除須向WAGRI協議會（由農業法人、農機製造商、ICT供應商、學研機構組成，以提出建議改善、普及WAGRI為其立會宗旨）遞交「入會申請書」外，亦須向農研機構遞交「利用規約」、「數據提供利用規約」與「規約同意書兼利用申請書」。 自主營運後，原先不收費方式已變更，欲利用WAGRI之機關依據以下兩種利用平台方式，須繳納不同的費用： 數據利用（利用WAGRI數據者）、數據利用提供者（利用WAGRI數據且提供數據予WAGRI者） 平台利用月費5萬日圓 若利用有償數據時，須另外支付數據使用費 數據提供者（提供數據予WAGRI者） 平台利用月費3萬日圓 僅提供無償數據的數據提供機關，原則上不需要繳納平台利用費 我國為發展智慧農業，智慧農業共通資訊平台有提供免費OPEN DATA介接功能，近年發展智慧農業之農企/機關團體，亦有建立平台作為內部蒐集、利用數據之用，例如弘昌碾米工廠建置水稻健康管理與倉儲資訊服務平臺，未來該類平台均有可能朝商業模式發展。WAGRI建立一套商業模式嘗試自主營運，後續將持續追蹤WAGRI營運狀況作為我國智慧農業平台之運作參考。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
歐盟發布「人工智慧白皮書」以因應人工智慧未來可能的機遇與挑戰人工智慧目前正快速發展，不論是在醫療、農業耕作、製造生產或是氣候變遷等領域上，均帶來了許多改變，然而在人工智慧應用之同時，其也存在許多潛在風險如決策不透明、歧視或其他倫理與人權議題。 歐盟為求在全球競爭激烈的背景下，維護其於人工智慧相關領域的領先地位，並確保人工智慧技術於改善歐洲人民生活的同時，亦能尊重(respecting)人民權利，乃於今年(2020年)2月發布「人工智慧白皮書」(White Paper on Artificial Intelligence)，將採投資及監管併用之方式，促進人工智慧應用與解決其相關風險，其對於未來促進人工智慧的應用(promoting the uptake of AI)與相關風險解決，計畫朝向建立卓越生態系統(An Ecosystem of Excellence)及信任生態系統(An Ecosystem of Trust)兩方面進行。 在建立信任生態系統中，歐盟提到因為人工智慧具有變革性的潛力，所以就信任的建立乃至關重要，未來歐洲人工智慧的監管框架除了須確保遵守歐盟法規外(包括基本權利保護與消費者權益維護之規範)，對於高風險性之人工智慧應用，其將強制要求需於銷售前進行合格評定(mandatory pre-marketing conformity assessment requirement)。而有關高風險性之定義，歐盟於該白皮書指出須符合以下兩個要件： 考量人工智慧應用之一般活動特徵，其預計會有重大風險的發生，例如在醫療保健、運輸、能源和可能屬於高風險的公共領域；以及 在預期用途或應用上都可能對個人(individual)或企業(company)帶來重大的風險，特別是在安全性(safety)、消費者權益(consumer rights)與基本權利(fundamental rights)上。 歐盟委員會目前針對於以上白皮書之內容與附隨報告，將向公眾徵詢意見至今年5月19日。