美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
歐洲議會於2024年3月12日全體會議投票通過《資安韌性法》（Cyber Resilience Act）草案，後續待歐盟理事會正式同意後，於官方公報發布之日起20天後生效。該草案旨於確保具有數位元件之產品（products with digital elements, PDEs）（下簡稱為「數位產品」）具備對抗資安威脅的韌性，並提高產品安全性之透明度。草案重點摘要如下： 一、數位產品進入歐盟市場之條件 課予數位產品之製造商及其授權代理商、進口商與經銷商法遵義務，規定產品設計、開發與生產須符合資安要求（cybersecurity requirements），且製造商須遵循漏洞處理要求，產品始得進入歐盟市場。 二、數位產品合規評估程序（conformity assessment procedures） 為證明數位產品已符合資安及漏洞處理要求，依數位產品類別，製造商須對產品執行（或委託他人執行）合規評估程序：重要（無論I類或II類）數位產品及關鍵數位產品應透過第三方進行驗證，一般數位產品得由製造商自行評估。通過合規評估程序後，製造商須提供「歐盟符合性聲明」（EU declaration of conformity），並附標CE標誌以示產品合規。 三、製造商數位產品漏洞處理義務 製造商應識別與記錄數位產品的漏洞，並提供「安全更新」（security updates）等方式修補漏洞。安全更新後，應公開已修復漏洞之資訊，惟當製造商認為發布相關資訊之資安風險大於安全利益時，則可推遲揭露。 四、新增開源軟體管理者（open-source software steward）之義務 開源軟體管理者應透過可驗證的方式制定書面資安政策，並依市場監管機關要求與其合作。當開源軟體管理者發現其所參與開發的數位產品有漏洞，或遭受嚴重事故時，應及時透過單一通報平臺（single reporting platform）進行通報，並通知受影響之使用者。
歐盟執委會宣布「軟體開源授權及複用」決定歐盟執委會於2021年12月8日宣布「軟體開源授權及複用」決定（COMMISSION DECISION on the open source licensing and reuse of Commission software）。本決定規範執委會軟體之開源授權條件與複用方式，其軟體開源授權流程如下： 一、執委會依本決定（下同）第5條授予其軟體的開源授權證應為歐盟公共授權（the European Union Public Licence, EUPL），除因（1）適用第三方軟體的互惠條款，而強制使用其他開源授權證，或替代開源授權證比EUPL更便於人民使用該軟體；（2）適用第三方軟體之授權條款，存在多個開源授權標準（不含EUPL），則應優先選擇授予最廣泛權利的開源授權。 二、透過第8條對智慧財產權進行核實，包括：（1）軟體識別（2）對軟體的智慧財產權進行驗證；及（3）安全驗證。 三、依第6條規定將所有開源軟體置於資料庫，供公民、公司或其他公共服務有潛在利益者取得。 另外，依第四條規定，本規則不適用於以下情形：（1）因第三方智慧財產權問題，無法允許複用的軟體；（2）該原始碼之發布或共享，對執委會、其他歐洲機構或團體的資訊系統或資料庫安全構成實質或潛在風險；（3）因法律規定、契約義務或性質，其內容須被視為機密之軟體；（4）依（EC）1049/2001第4條所列之情形，包含但不限於：因公共利益、國家安全、隱私保護、商業利益、訴訟或審計之利益等，該軟體須被排除，或只能由特定之一方取得或管理；（5）委託由執委會進行研究產生之軟體，若公開將干擾臨時研究結果之驗證或構成拒絕註冊有利於執委會之智慧財產權的理由。
歐洲區塊鏈數位基礎設施聯盟預計於2024年正式開始運作，將進一步擴大推動區塊鏈的公共應用服務歐洲區塊鏈夥伴關係（European Blockchain Partnership, EBP）的成員於2023年6月正式向歐盟執委會（European Commission, EC）申請成立區塊鏈的「歐洲數位基礎設施聯盟」（European Digital Infrastructure Consortium, EDIC），若審核通過，未來歐盟將有一個正式的機構負責推動區塊鏈的發展與應用。 歐盟執委會於2023年1月發布了「2030年數位十年政策計畫」（Digital Decade Policy Programme 2030, DDPP），為促進歐盟數位轉型的大規模部署及能力建構，達到DDPP所設定的具體目標，執委會提出跨（多）國專案（Multi-Country Projects, MCPs）的概念，期待整合歐盟、各成員國、私部門的資源，以實現單一成員國無法獨立部署的數位化基礎設施。 執委會參考2009年開始陸續成立的「歐洲研究基礎設施聯盟」（European Research Infrastructure Consortium, ERIC），提出了「歐洲數位基礎設施聯盟」（EDIC）的規劃。EDIC並非由歐盟的資助計畫支持，而是由成員國申請（至少要包含3個成員國）成立以執行MCPs，EDIC具有法人格，並有獨立的財務來源；此外，EDIC成立後開放私部門參加。 2023年3月執委會發布的「數位歐洲2023~2024年工作計畫」（Digital Europe Work Programme 2023-2024）中，即將「區塊鏈」列為MCPs的重要發展項目之一。2023年6月15日於瑞典舉辦的歐盟數位大會（Digital Assembly 2023）上，執委會表示EBP及歐洲區塊鏈服務基礎設施（European Blockchain Services Infrastructure, EBSI）的相關成員國已遞交EDIC的申請。 斯洛維尼亞共和國（Republic of Slovenia）的區塊鏈小組負責人Nena Dokuzov是成立聯盟的主要推動者之一，其受訪時表示，EBSI從2018年以來，主要是由執委會以專案方式支持，未來聯盟成立以後，將能集結更充足的資源，強化歐洲區塊鏈的治理和穩定性，進一步地擴大推動歐洲區塊鏈的公共應用服務。我國「司法聯盟鏈」於2022年成立，為我國第一個跨部會、大規模的區塊鏈應用案例，並制定了跨組織協作標準規範（簡稱b-JADE），未來可持續觀測歐盟區塊鏈聯盟的發展，作為我國的參照。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
日本農業數據協作平台WAGRI開始自主營運「日本農業數據協作平台」（簡稱WAGRI）於2017年內閣府計畫的支持下，委由慶應義塾大學建立，該平台具備農業數據相容、數據共有與數據提供三大機能，日本IT企業NTT、富士通、農機大廠久保田、洋馬等均已加入WAGRI試營使用行列。今（2019）年該平台將移轉予國立研究開發法人農業食品產業技術總合研究機構（下簡稱農研機構），正式開始進入商業模式營運。欲利用WAGRI之機關除須向WAGRI協議會（由農業法人、農機製造商、ICT供應商、學研機構組成，以提出建議改善、普及WAGRI為其立會宗旨）遞交「入會申請書」外，亦須向農研機構遞交「利用規約」、「數據提供利用規約」與「規約同意書兼利用申請書」。 自主營運後，原先不收費方式已變更，欲利用WAGRI之機關依據以下兩種利用平台方式，須繳納不同的費用： 數據利用（利用WAGRI數據者）、數據利用提供者（利用WAGRI數據且提供數據予WAGRI者） 平台利用月費5萬日圓 若利用有償數據時，須另外支付數據使用費 數據提供者（提供數據予WAGRI者） 平台利用月費3萬日圓 僅提供無償數據的數據提供機關，原則上不需要繳納平台利用費 我國為發展智慧農業，智慧農業共通資訊平台有提供免費OPEN DATA介接功能，近年發展智慧農業之農企/機關團體，亦有建立平台作為內部蒐集、利用數據之用，例如弘昌碾米工廠建置水稻健康管理與倉儲資訊服務平臺，未來該類平台均有可能朝商業模式發展。WAGRI建立一套商業模式嘗試自主營運，後續將持續追蹤WAGRI營運狀況作為我國智慧農業平台之運作參考。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」