美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
為建構政府雲發展的妥適環境，美國於今年度啟動「聯邦風險與認可管理計畫」（Federal Risk and Authorization Management Program, FedRAMP），由國家技術標準局（National Institute of Standards and Technology, NIST）、公共服務行政部(General Service Administration)、資訊長聯席會(CIO Council)及其他關連私部門團體、NGO及學者代表共同組成的跨部會團隊，針對外部服務提供者提供政府部門IT共享的情形，建構一個共同授權與持續監督機制。在歷經18個月的討論後，於今（2010）年11月提出「政府雲端資訊安全與認可評估」提案（Proposed Security Assessment & Authorization for U.S Government Cloud Computing），現正公開徵詢公眾意見。 在FedRAMP計畫中，首欲解決公部門應用雲端運算所衍伸的安全性認可問題，因此，其將研議出一套跨部門共通性風險管理程序。尤其是公部門導入雲端應用服務，終究會歸結到委外服務的管理，因此本計劃的進行，是希望能夠讓各部門透過一個機制，無論在雲端運算的應用及外部服務提供之衡量上，皆能依循跨機關的共通資訊安全評定流程，使聯邦資訊安全要求能夠協調應用，並強化風險管理及逐步達成效率化以節省管理成本。 而在上述「政府雲端資訊安全與認可評估」文件中，可分為三個重要範疇。在雲端運算安全資訊安全基準的部份，主要是以NIST Special Publication 800-535中的資訊安全控制項作為基礎；並依據資訊系統所處理、儲存與傳輸的聯邦資訊的敏感性與重要性，區分影響等級。另一部份，則著重在持續性的系統監控，主要是判定所部署的資訊安全控制，能否在不斷變動的環境中持續有效運作。最後，則是針對聯邦資訊共享架構，出示模範管理模式、方策與責任分配體系。
歐盟食品安全與標示近期發展－以歐盟法院Teekanne案為例 何謂瑞士新創事業計畫（CTI Startup）?新創事業計畫（CTI Startup）於1996年推出，為創業家提供創業輔導服務。該計畫挑選有創新商品想法的年輕企業家，藉由在創業過程中，從旁給予實質指導的方式使創新想法可以落實，成立有競爭力的新創企業。為使補助與輔導資源能夠充分的發揮作用，入選新創事業計畫有非常嚴格的程序，大致可分為四個階段，第一階段CTI會針對申請團隊的想法是否創新、技術上是否可行為標準對商業構想進行初步的篩選，並從旁協助申請者註冊新創事業計畫。完成註冊後，將進入第二階段進行更為具體的專業審查，評估的標準包主要包括技術、市場、可行性與管理團隊的能力等層面。通過審查後，即進入專業指導階段，每一個團隊將被授予一位專業的「創業導師」，在團隊創業的過程中，協助其進一步發展與優化企業的戰略、流程與商業模式，並針對新創企業遇到的具體經營問題給予指導與建議。專業指導階段旨在輔導新創事業取得「CTI新創事業標章」（CTI Startup Label），新創事業標章的審查相當嚴格。
日本經濟產業省所屬研究機構提議「日本能源基本計畫修正研析建議」報告日本經濟產業省（Minister of Economy, Trade and Industry）所屬「自然資源及能源諮詢委員會（Advisory Committee for Natural Resources and Energy）」於2011年12月提出一份「日本能源基本計畫修正研析建議（Establishment of a New Basic Energy Plan for Japan）」，對於現有日本能源基本計畫，研析討論重要議題，並提出修正建議。 日本能源基本計畫，係因日本政府為因應2020年應達25％減碳目標（相較1990年水準），於2010年所規劃擬訂之推動計畫。而自然資源及能源諮詢委員會則是陸續招開會議研商討論，並提供建議給日本經濟產業作為省調修參考。此份報告指出，此份報告指出，能源基本計畫之推動架構必須重新思考，包括提議能源政策應強調重視「需求端（Demand Side）」，與兼顧「消費者（Consumers）」、「社會公民（Ordinary Citizens）」、「區域社區（Regional Communities）」等方面意見及利益，並建立社會公眾信心（Public’s Trust），以及必須能達到多元化不同電力能源之來源應用，並對於日本國家所需能源組成結構（Desired Energy Mix）進行討論議訂。 並且，對於推動實施，建議能源政策改革應朝向，以改革需求端架構（Reform of the Demand Structure）來達到能源節約社會目標,，以及改革供給端（Reform of the Supply Structure）來達到下一代分散式能源系統目標，並且倡議以創新技術來協助國家能源組成結構轉型，與能源供給端至需求端應備建設（Energy Supply-Demand Structure）之改革工作。 此研究報告於2011年12月提出後，歷經多次修改（最新更新為2012年1月），未來提交給經濟產業省供政策參考後，將產生如何影響內容，將再持續觀察最新進度。