美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0)

美國國家標準與技術研究院(National Institute of Standards and Technology, NIST)於2023年1月26日公布「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework, AI RMF 1.0),該自願性框架提供相關資源,以協助組織與個人管理人工智慧風險,並促進可信賴的人工智慧(Trustworthy AI)之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢,獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時,是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新,期待各產業發展出適合自己的使用方式。

本框架首先說明人工智慧技術的風險與其他科技的差異,定義人工智慧與可信賴的人工智慧,並指出設計該自願性框架的目的。再來,其分析人工智慧風險管理的困難,並用人工智慧的生命週期定義出風險管理相關人員(AI actors)。本框架提供七種評估人工智慧系統之信賴度的特徵,包含有效且可靠(valid and reliable):有客觀證據證明人工智慧系統的有效性與系統穩定度;安全性(safe):包含生命、健康、財產、環境安全,且應依照安全風險種類決定管理上的優先次序;資安與韌性(secure and resilient);可歸責與資訊透明度(accountable and transparent);可解釋性與可詮譯性(explainable and interpretable);隱私保護(privacy-enhanced);公平性—有害偏見管理(fair – with harmful bias managed)。

本框架亦提出人工智慧風險管理框架核心(AI RMF Core)概念,包含四項主要功能:治理、映射(mapping)、量測與管理。其中,治理功能為一切的基礎,負責孕育風險管理文化。各項功能皆有具體項目與子項目,並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」(AI RMF Playbook),提供實際做法之建議,並鼓勵業界分享其具體成果供他人參考。

本文為「經濟部產業技術司科技專案成果」

相關連結
※ 美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0), 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8974&no=64&tp=1 (最後瀏覽日:2026/03/04)
引註此篇文章
你可能還會想看
德國推行氣候保護協議和綠色領導市場措施,加速基礎工業氣候中和技術發展

德國經濟及氣候保護部科學顧問委員會於2023年2月8日公布《向氣候中和產業轉型:綠色領導市場和氣候保護協議》(Transformation zu einer klimaneutralen Industrie: Grüne Leitmärkte und Klimaschutzverträge)報告,擬透過綠色領導市場(Grüne Leitmärkte)和氣候保護協議(Klimaschutzverträge)兩種工具措施,在基礎⼯業中⼤規模推廣氣候中和⽣產技術。 科學顧問委員會指出,目前僅靠碳定價已無法調整在氣候保護面向的市場失靈問題,加上基礎工業(例如鋼鐵、水泥、合成氨等)的氣候友好型技術投資上缺乏經濟效益,因此政府需要採取額外措施來實現基礎工業的氣候中和。 綠⾊領導市場則是國家建立或支持以氣候中和⽅式⽣產的原物料(例如綠⾊鋼鐵)的市場,政府採購中可優先使⽤綠⾊原料,也可以透過監管措施,規定私⼈和企業在⼀定範圍內只能使⽤含有⼀定⽐例綠⾊原料的產品。氣候保護協議則是國家與企業間,就⽣產氣候友好型產品簽訂契約,保證企業將獲得15年的補償⾦,以補償採行氣候中和⽣產術所產生較⾼的成本,同時亦保護企業免受碳定價波動和其他⾵險的影響。

雲端運算所涉法律議題

  雲端運算(Cloud Computing),是一種基於網際網路的運算方式,用以共享軟硬體資源、依需求提供資訊給電腦和其他裝置。本質上其實就是分散式運算 Distributed Computing,其主要應用是讓不同的電腦同時協助你處理運算,故只要具備兩台以上電腦,讓他們之間互相溝通,協助您處理工作,就是基本的分散式運算。   雲端運算是繼1980年代大型電腦到用戶端-伺服器的大轉變之後的又一種巨變。使用者不再需要了解「雲端」中基礎設施的細節,不必具有相應的專業知識,也無需直接進行控制。雲端運算概念下描繪了一種基於網際網路而新增加的新興IT服務、使用和交付模式,藉由網際網路來提供各種不同的資源、服務功能而且經常是虛擬化的。 「雲端運算」供應模式以及實用定義如下: ‧ 軟體服務化 (SaaS):透過網際網路存取雲端的應用程式 (例如:Salesforce.com、趨勢科技 HouseCall)。 ‧ 平台服務化 (PaaS):將客戶開發的應用程式部署到雲端的服務 (例如:Google AppEngine 與 Microsoft Azure)。 ‧ 基礎架構服務化 (IaaS):有時亦稱「公用運算」(Utility Computing),意指處理器、儲存、網路以及其他資源的租用服務 (例如:Amazon 的 EC2、Rackspace 以及 GoGrid)。   雲端運算服務所涉及的法律議題相當廣泛,包含隱私權、個人資料保護、資料管轄權、契約責任、智慧財產權保護與營業秘密等。在隱私權問題方面,使用者的隱私或機密風險,乃至權利義務狀態會因為雲端供應商所提供之服務與隱私權政策(privacy policy)而有顯著不同,也可能因為資訊型態或雲端運送使用者類型不同而有差異。在雲端運算服務契約方面,發生資訊安全事件導致資料失竊或毀損時,供應商責任或注意義務如何於契約中合理分配風險,亦是契約方面重要議題。

日本總務省公告第一次Startup×Act計畫成果

  2017年底,日本總務省(総務省)宣布實施Startup×Act計畫,委由知名智庫野村綜合研究所(株式会社野村総合研究所)辦理執行,希望透過與新創團隊共同協作的模式,運用資通信科技(Information Communication Technology, ICT)緩解日本高齡化、少子化、都市防災、城鄉差距等問題。該計畫第一期已於2018年2月執行完畢,並於2018年3月8日在東京舉行了計畫成果發表會。根據日本總務省新聞稿表示,Startup×Act計畫是參考美國的新創駐進計畫(Startup in Residence, STiR;或譯創業家居留計畫)進行設計。   STiR係舊金山公民創新市長辦公室(San Francisco Major’s Office of Civic Innovation)於2014年成立的計畫,該計畫強調以公私共同協作的方式解決政府所面臨的民生問題。STiR運作方式雖在個別城市略有差異,但大致係由地方政府選定特定數個待解決的都市問題,再以工作坊的形式與有興趣之新創團隊進行討論。整個計畫以16周為期,以公私共同開發出產品或服務原型為目標,最後由新創團隊進行提案報告,為都市問題提供解決方法。提案可能被市政府採納並在市政府的協助之下以該都市做為實證場域,未來更可能與市政府簽訂合作契約,進一步使該新創團隊成為一成熟型新創公司。據統計,平均每年參與STiR的新創團隊有半數獲得了與當地市政府的合約。目前STiR已經推行至全美包含華盛頓DC在內的11個城市,並在荷蘭阿姆斯特丹與海牙皆設有姊妹站,由此可見STiR模式獲得相當大的迴響與肯定,並具有跨域、跨文化之普適性。   日本參考STiR所推出的Startup×Act計畫於2017年底啟動,第一個參與的地方政府為京都府京丹後市,之後陸續有北海道天塩町、香川縣高松市、熊本縣熊本市加入計畫。Startup×Act的Act為Applications for Cities and Town之縮寫,彰顯城市作為新創產品或服務實證場域的計畫特色。   Startup×Act擇定健康醫療與社福照顧、育兒與教育、安全安心生活、城鄉發展與交通以及產業振興提升就業為五大都市問題。在Startup×Act計畫之下,地方政府毋須提供政府採購的需求說明書(Request for Proposal, RFP),僅需提出希望解決之問題。舉例而言,香川市就提出「希望能讓被取消駕照資格的高齡者繼續享受出門購物的樂趣」,最後該案由一間VR新創公司提出解決方案。   STiR與Startup×Act這種類工作坊的高密度、高強度的腦力激盪與供需兩端直接溝通是其特色。時程短、彈性高,資源共享與知識流通量巨大,並且以解決問題為導向,能破除新創企業參與政府採購的障礙。新創團隊除了可以在短時間內累積大量地方社群與政府人脈,增加彼此信任度,更可以從具體的實證經驗當中學習並進一步拓展市場。

受美國聯邦最高法院Alice案影響,各級法院傾向宣告商業方法之電腦軟體專利無效

  依據美國專利法第101條規定,任何人發明或發現一新的、有用的程序、機器、製造物、組合物,或做出任何新的或有用的改良,並符合專利法所定之其他條件或要求,即可以取得專利權;然而,今年(2014年06月19日)美國聯邦最高法院於Alice Corp. v. CLS Bank International一案,認定原告透過第三方中介電腦系統 促進交易雙方交換資訊,以降低交易風險之技術,只是將抽象概念(第三方中介交易之商業方法)以一般方式於電腦軟體運行,故無法取得專利。   司法實務上,各級法院開始遵循此一判決先例,宣告與此性質類似之專利無效。例如:於Buysafe, Inc. v. Google, Case No. 2012-1575 (Fed. Cir. Sept. 3, 2014)一案,法院認定原告用來擔保線上交易安全之技術,只是將擔保契約關係此抽象概念運用於網路,故無法取得專利;於Loyalty Conversion Systems v. American Airlines, Inc., Case No. 2:13-CV-655 (E.D. Tex. Sept. 2, 2014)一案,法院認定原告以獎勵點數換取消費點數之技術,只是將貨幣交換此抽象概念透過電腦進行,故亦無法取得專利。   由各級審法院判決可以觀察到,以商業方法(抽象概念)為內容的電腦軟體專利有逐漸被宣告無效的趨勢,尤其是涉及到:縱使不以電腦軟體運行,但似乎亦可完成的交易方法。由此可見,各級法院對於專利法第101條已經開始採取較嚴格的審查標準。未來無論在專利申請或專利訴訟時,都宜一併考量Alice Corp. v. CLS Bank International案所帶來的影響。

TOP