美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）
美國國家標準與技術研究院（National Institute of Standards and Technology, NIST）於2023年1月26日公布「人工智慧風險管理框架1.0」（Artificial Intelligence Risk Management Framework, AI RMF 1.0），該自願性框架提供相關資源，以協助組織與個人管理人工智慧風險，並促進可信賴的人工智慧（Trustworthy AI）之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢，獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時，是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新，期待各產業發展出適合自己的使用方式。
本框架首先說明人工智慧技術的風險與其他科技的差異，定義人工智慧與可信賴的人工智慧，並指出設計該自願性框架的目的。再來，其分析人工智慧風險管理的困難，並用人工智慧的生命週期定義出風險管理相關人員（AI actors）。本框架提供七種評估人工智慧系統之信賴度的特徵，包含有效且可靠（valid and reliable）：有客觀證據證明人工智慧系統的有效性與系統穩定度；安全性（safe）：包含生命、健康、財產、環境安全，且應依照安全風險種類決定管理上的優先次序；資安與韌性（secure and resilient）；可歸責與資訊透明度（accountable and transparent）；可解釋性與可詮譯性（explainable and interpretable）；隱私保護（privacy-enhanced）；公平性—有害偏見管理（fair – with harmful bias managed）。
本框架亦提出人工智慧風險管理框架核心（AI RMF Core）概念，包含四項主要功能：治理、映射（mapping）、量測與管理。其中，治理功能為一切的基礎，負責孕育風險管理文化。各項功能皆有具體項目與子項目，並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」（AI RMF Playbook），提供實際做法之建議，並鼓勵業界分享其具體成果供他人參考。
本文為「經濟部產業技術司科技專案成果」
陳箴
專案經理 編譯整理
National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0) (2023), https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf (last visited Feb. 16, 2023).
NIST AI Risk Management Framework Playbook, National Institute of Standards and Technology, https://pages.nist.gov/AIRMF/ (last visited Feb. 16, 2023).
AI RISK MANAGEMENT FRAMEWORK, National Institute of Standards and Technology, https://www.nist.gov/itl/ai-risk-management-framework (last visited Feb. 16, 2023).
對於該框架之意見，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=66&tp=1&d=8727（最後瀏覽日：2023/02/16）。
美國參議院於2022年4月提出《演算法問責法案》對演算法治理再次進行立法嘗試，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8912&no=64（最後瀏覽日：2023/02/16）。
美國情報體系發布「情報體系運用人工智慧倫理架構」，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8520（最後瀏覽日：2023/02/16）。
加拿大政府提交予國會《人工智慧資料法案》，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8888&no=64（最後瀏覽日：2023/02/16）。
英國政府提交予國會「人工智慧監管規範政策報告」，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8891&no=64（最後瀏覽日：2023/02/16）。
美國行政管理預算局（United States Office of Management and Budget, OMB）於2020年1月發布「人工智慧應用監管指南（Guidance for Regulation of Artificial Intelligence Applications）」備忘錄草案。該備忘錄草案係基於維護美國人工智慧（AI）領導地位之目的，而依據美國總統川普（Donald John Trump）於2019年2月簽署之「維持美國人工智慧領導地位（Maintaining American Leadership in Artificial Intelligence）─行政命令13859號」，並在啟動美國人工智慧計畫後180天內，經OMB偕同科技政策辦公室（Office of Science and Technology Policy, OSTP）、美國國內政策委員會（United States Domestic Policy Council）與美國國家經濟委員會（National Economic Council）與其他相關機構進行協商，最後再由OMB發布人工智慧應用監管指南備忘錄草案，以徵詢公眾意見。 該備忘錄草案不僅是為了規範新型態AI應用技術，更希望相關的聯邦機構，在制定AI應用產業授權技術、監管與非監管方法上，能採取彈性的制定方向，以避免過度嚴苛的規定，反而阻礙AI應用的創新與科技發展，繼而保護公民自由、隱私權、基本權與自治權等價值。同時，為兼顧AI創新與政策之平衡，應以十大管理原則為規範制定之依據，十大管理原則分別為： 培養AI公眾信任（Public Trust in AI）； 公眾參與（Public Participation）； 科學研究倫理與資訊品質（Scientific Integrity and Information Quality）； AI風險評估與管理（Risk Assessment and Management）； 獲益與成本原則（Benefits and Costs）； 彈性原則（Flexibility）； 公平與反歧視（Fairness and Non-Discrimination）； AI應用之揭露與透明化（Disclosure and Transparency）； AI系統防護與措施安全性（Safety and Security）； 機構間之相互協調（Interagency Coordination）。 此外，為減少AI應用之阻礙，機構制定AI規則時，應採取降低AI技術障礙的方法，例如透過聯邦資料與模型方法來發展AI研發（Federal Data and Models for AI R&D）、公眾溝通（Communication to the Public）、自發性共識標準（Voluntary Consensus Standards）之制定及符合性評鑑（Conformity Assessment）活動，或國際監管合作（International Regulatory Cooperation）等，以創造一個接納並利於AI運作的環境。
世界經濟論壇2020年十大新興科技報告，與健康和環境相關之前瞻科技發展備受矚目世界經濟論壇（World Economic Forum, WEF）於2020年11月10日發表「2020年十大新興科技報告」（Top 10 Emerging Technologies 2020），報告中提出10個近年出現，且被認為在未來5年內最具有正面改變社會潛力的新興科技，並說明除了關注這些科技帶來的改變外，也應關注其引發的風險。 2020年全球最密切關注的議題為健康與氣候變遷，也因此2020年被認為具有發展潛力的新興技術均與這兩個議題有關，包含：（1）無痛注射與測試用的微針技術（Microneedles）；（2）太陽能化學（Sun-Powered Chemistry）利用可見光將二氧化碳轉換為普通材料，可作為合成藥物、清潔劑、化學肥料和紡織品的材料；（3）虛擬患者（Virtual Patients），替代人類做人體臨床試驗，比一般試驗更快更安全；（4）空間計算（Spatial Computing）以強化虛擬生活和現實的連結；（5）數位醫療（Digital Medicine）應用程式之發展可以診斷甚至治癒疾病；（6）電動飛航（Electric Aviation）裝置，例如電動推進器可以清除直接碳排放（direct carbon emissions），減少九成的燃料成本、五成維護成本和七成噪音汙染，降低整體航空旅程環境污染並提高效率；（7）低碳水泥（Lower-Carbon Cement）的發展作為氣候變遷下的新興建築材料；（8）量子感測（Quantum Sensing）做為高精準度計算方式，將於未來三到五年進入市場，並首重用於醫療和國防應用產業上；（9）新興零碳能源如綠氫（Green Hydrogen），可補充風力和太陽能；（10）全基因合成（Whole-Genome Synthesis）作為下一代細胞工程（cell engineering）尖端科技，使未來醫學得以治癒更多遺傳疾病。 報告中指出，雖然這些新興技術具有改變社會和產業的潛力，但卻無法確保技術本身是否能被妥善使用（Good is not guaranteed）。首先，這些技術仍需要龐大資金以達到成熟度和可利用的價格點（price point），才能與相關產業達成整合化、規模化。此外面對這些新興科技，決策者必須迅速針對可能引發的風險提出對應策略，例如數位醫療在手機應用程式上會引發政府許可、資料利用、隱私等問題。因此，政策與產業如何協作，使用相關科技、限制濫用並控制技術中風險等，是面對是類新興科技應積極考量的方向。
德國聯邦政府公布人工智慧戰略，制定AI發展及跨領域應用框架德國聯邦政府於2018年11月15日公布聯邦政府人工智慧戰略（Strategie Künstliche Intelligenz der Bundesregierung），除了針對人工智慧一詞定義外，並概述德國人工智慧戰略的3項基本原則，14項目標和12項行動領域。 第一項原則係透過該戰略，為德國在人工智慧（AI）的發展和應用制定整體政策框架，促進德國成為人工智慧最佳研究環境，以及人工智慧在產業與中小企業之應用，以確保德國未來競爭力。第二項原則係人工智慧在社會各領域有多種應用可能性，將可明顯促進社會進步和公民利益，因此重點將強調AI的應用對於人類和環境可帶來的益處，並加強社會各界對於人工智慧主題的密集交流及討論，確保AI朝負責且共同利益為出發點的開發及應用。第三項原則將透過廣泛的社會對話和積極的政策框架，將道德，法律，文化和制度結合人工智慧之應用融入整體社會。 該戰略列舉之工作項目同時包括評量標準，包含建置德法創意網（虛擬中心）、起草國家級且持續性的教育策略、加強相關創業投資力道、針對相關新創公司提供綜合性諮詢和推廣服務、針對自願提供且符合隱私規範之共享資料與建立資料分析基礎設備者研擬獎勵及促進框架、利用風險投資、創業融資和成長科技基金計畫擴展籌資機會、建立至少12個AI應用中心、將人工智慧列為研發機構跳躍式創新的焦點，未來5年加強產學研合作項目推廣、將環境與氣候的人工智慧應用列為發展亮點、共同決策人工智慧技術的導入與應用、透過中小企業4.0中心每年至少與1000家企業建立聯繫並進行AI訓練、將AI實驗室應用情境移轉至工作場所、進一步發展人工智慧平台學習系統、設計擘劃跨領域社會科學之「未來數位化工作與社會基金」、進一步制定相關數位化轉型專家策略、建立德國人工智慧觀測站、組織以人為中心的人工智慧工作環境之歐洲和跨大西洋對話、促進具自決權，社會與文化參與性及保護公民隱私之創新應用、聯邦政府於2025年前將投資約30億歐元於人工智慧發展、開發人工智慧生態系統、培養至少100名相關領域新教授、與資料保護監督機關及商業協會召開圓桌會議。
德國聯邦內政部公布《資訊科技安全法草案》