美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
歐盟執委會(European Commission)在2014年5月28日提出源安全政策，此係歐洲針對各個會員國的能源依賴程度進行調查後所提出之政策。 歐洲多數國家對於能源需求有超過50%仰賴進口，且近來烏克蘭與俄羅斯政治紛爭引起許多的關注，尤其在天然氣使用部分，多半從俄羅斯透過管線運送方式進口，因此可能產生的能源短缺危機不容忽視。為此，歐盟再次針對能源使用的安全性問題提出政策方針。 政策訂定之目標可分為八項，分別為短期、中期及長期三個階段，每階段皆應採取具體執行措施，以因應能源安全問題: 強化能力，克服2014年及2015年冬天將面臨的能源短缺問題。 加強緊急應變措施，包括風險評估、偶發事件計畫以及維持既有的公共設施。 減緩能源的需求 建構具良好功能與全面整合的內部市場 增加歐盟地區的能源產出 進一步發展能源科技 使提供能源的來源國家以及相關公共設施多樣化 促進國家間能源政策的合作，並和外部交流。 其中，具體的措施包括執委會利用能源安全壓力測試(energy security stress test)模擬仿冬天天然氣供應短缺的問題，採用逆流(reverse flows)輸送、使用化石燃料替代能源、增加可提供出口能源的國家，不再侷限俄羅斯、阿爾及利亞、利比亞以及挪威國家等等。 此項政策後續的相關計畫內容已於6月26日及27日由歐盟由各國代表出席歐盟執委會會議討論，其是否能解決歐洲能源短缺問題，作為其他國家之參考借鏡，值得觀察。
歐盟執委會推遲個人資料保護指令修正計畫歐盟執委會主席Barroso在今年年初設立了負責「正義、基本權與公民」（Justice Fundamental Right and Citizenship）事務的新任務單位。而負責此單位的執委會委員Reding自年初以來已多次宣示對個人資料保護以及隱私權的重視。在今年三月份的演講中，Reding更宣布將在年底前提出修正歐盟個人資料保護指令的內容。惟此承諾在歐盟會員國的壓力下恐怕無法踐履了。歐盟執委會於日前已表示將提出一份新的行動宣示來取代原先的修法計畫。 歐盟目前的個人資料保護指令乃在1995年制定，迄今已有15年之久，雖然其許多原則在今日仍然適用，但面對新科技、新應用，如社交網站、雲端應用等的發展，該指令仍不免顯出不足之處。此外，在原先的架構下，執委會也無法介入所謂歐盟「第三支柱」下的事務（亦即與犯罪相關的警政、司法合作事務），但此狀況在里斯本條約通過後理應有所改變。以上兩點也正是Reding提議修正個人資料保護指令的理由。但由於部分歐盟會員國政府認為Reding所提有窒礙難行之處，例如法國即直言Reding的修法時程不切實際，執委會及Reding也因此放棄原先規劃。至於新的行動宣示到底會不會真的納入歐盟個人資料保護指令的修正計畫，其時程與內容如何，值得持續注意。
中國大陸財政部及科技部印發《國家重點研發計畫資金管理辦法》於2016年12月30日，中國大陸財政部及科技部為規範國家重點研發計畫管理，切實提高資金使用效益聯合發佈了《國家重點研發計畫資金管理辦法》。 該計畫以支援解決重大科技問題為目標，以“優化資源配置、完善管理機制、提高資金效益”為重點，辦法全文共8章57條，根據國家重點研發計畫特點，從預算編制到執行、結題驗收到監督檢查，針對全過程提出了資金管理的要求，明確《辦法》制定的目的和依據、重點研發計畫資金支援方向、管理使用原則和適用範圍，就重點專項概預算管理、專案資金開支範圍、預算編制與審批、預算執行與調劑、財務驗收、監督檢查等具體內容和流程、職責做了明確規定。 與原科技計畫資金管理辦法相比，《辦法》主要有以下變化： 1.建立了適應重點研發計畫管理特點的概預算管理模式。 2.遵循科研活動規律，落實“放、管、服”改革。適應科研活動的不確定性的特點，《辦法》堅持簡政放權，簡化預算編制，下放預算調劑許可權。 3.突出以人為本，注重調動廣大科研人員積極性。 為推動辦法有效落實，財政部及科技部並要求相關部門、專案承擔單位需要共同做好以下工作： 1.相關主管部門應當督促所屬承擔單位加強內控制度和監督制約機制建設、落實重點專項項目資金管理責任。 2.財政部、科技部將組織開展宣傳培訓，指導各有關部門和單位開展學習，全面提高對《辦法》的認識和理解，為政策執行到位提供保障。 3.科技部、財政部將通過專項檢查、專項審計、年度報告分析、舉報核查、績效評價等方式，對專業機構、專案承擔單位貫徹落實《辦法》情況進行監督檢查或抽查。
網路拍賣之法制趨勢