美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0)

美國國家標準與技術研究院(National Institute of Standards and Technology, NIST)於2023年1月26日公布「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework, AI RMF 1.0),該自願性框架提供相關資源,以協助組織與個人管理人工智慧風險,並促進可信賴的人工智慧(Trustworthy AI)之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢,獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時,是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新,期待各產業發展出適合自己的使用方式。

本框架首先說明人工智慧技術的風險與其他科技的差異,定義人工智慧與可信賴的人工智慧,並指出設計該自願性框架的目的。再來,其分析人工智慧風險管理的困難,並用人工智慧的生命週期定義出風險管理相關人員(AI actors)。本框架提供七種評估人工智慧系統之信賴度的特徵,包含有效且可靠(valid and reliable):有客觀證據證明人工智慧系統的有效性與系統穩定度;安全性(safe):包含生命、健康、財產、環境安全,且應依照安全風險種類決定管理上的優先次序;資安與韌性(secure and resilient);可歸責與資訊透明度(accountable and transparent);可解釋性與可詮譯性(explainable and interpretable);隱私保護(privacy-enhanced);公平性—有害偏見管理(fair – with harmful bias managed)。

本框架亦提出人工智慧風險管理框架核心(AI RMF Core)概念,包含四項主要功能:治理、映射(mapping)、量測與管理。其中,治理功能為一切的基礎,負責孕育風險管理文化。各項功能皆有具體項目與子項目,並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」(AI RMF Playbook),提供實際做法之建議,並鼓勵業界分享其具體成果供他人參考。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0), 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8974&no=64&tp=1 (最後瀏覽日:2026/11/10)
引註此篇文章
你可能還會想看
美國發布2012「更佳建築倡議」計畫進度報告

  美國於2011年2月份啟動「更佳建築倡議」(Better Building Initiative)計劃,期在2020年達成降低工業和商業之能源密集度百分之二十的目標。展望2013年,美國能源部於2012年底發布該倡議之進度報告(Progress Report)。報告開宗明義指出若干有礙建築能源效率之投資障礙,擬如下: (1) 尚缺少能源效率投資成本節省之實證數據 (2) 尚缺少潛在市場和技術解決方案之相關資訊 (3) 能源效率作為商業最佳實踐尚未普遍被接受。基此,能源部致力於發展以下策略: (1) 創新產業研發 (2)促進能源效率投資 (3) 培育清潔能源之技術人員 (4) 強化聯邦公部門示範作用。   在創新產業研發面向,能源部成立「更佳建築聯盟」(Better Buildings Alliance),此乃結合零售、食品、商業房地產、醫療照護、高等教育產業,預計於2013年將擴大到州和地方層級;聯盟成員將承諾設定節能目標,擇定高效率之建築科技進行採購。其次,在促進能源效率投資上,報告指出,因市場尚缺乏相關數據資訊(data information),難就能源效率之市場價值(value)進行驗證;將建立起相關機制,作為未來融資和建築物改善的基礎。最後,在強化公部門示範作用上,透過聯邦能源管理計畫(Federal Energy Management Program, FEMP)和節能績效契約(Energy Savings Performance Contract, ESPC),持續強化能源技術服務公司(Energy Service Companies, ESCO)進行聯邦建築物節能效益之提升和擔保。   綜上,可得知建築能源效率數據資訊之欠缺乃目前美國能源部在推展「更佳建築倡議」面臨的最大問題。查美國國會於2012年12月初通過「美國製造業能源技術修正法案」(American Energy Manufacturing Technical Corrections Act),就前述聯邦能源管理計畫(FEMP)和資料蒐集標準(Data Collection)進行規範,相關法制政策趨勢殊值注意。

英國國家統計局政府資料品質中心發布《政府資料品質框架》

  英國國家統計局(Office for National Statistics)轄下之政府資料品質中心(Government Data Quality Hub)為實踐英國數位、文化、媒體暨體育部(Department for Digital, Culture, Media & Sport)發布之《國家資料戰略》(National Data Strategy),於2020年12月3日釋出《政府資料品質框架》(The Government Data Quality Framework),以達成國家資料戰略中「資料基礎(Data Foundation)」之核心目標。該框架提出「資料品質原則」(Data quality principles),旨在解決目前政府資料品質低落的問題。該原則包含以下五點: 一、確保資料品質:機關內部應建立有效的資料治理機制,例如培訓員工具備管理資料的能力、持續改進資料品質等。 二、了解使用者需求:機關應將使用者對資料品質的需求視為優先處理事項。 三、評估資料於資料生命週期各階段之品質:機關應密切關注資料於生命週期各階段之品質,並與使用者及利益關係人交換意見。 四、持續溝通資料品質:機關應持續與使用者交流資料品質現況,提供使用者有效的文件及中繼資料(metadata)。 五、了解造成資料品質低落的主因:分析造成資料品質低落的根本原因,從源頭徹底解決資料品質問題。   英國國家統計局政府資料品質中心希望藉由本框架揭示的資料品質原則,提升政府機關人員主動辨別及解決資料品質問題的能力,以改善政府資料品質、為人民帶來更高品質的資料,釋放資料價值並促進社會經濟發展。

美國倡建無人機系統整合先導計畫

  考量無人機系統與國家空域系統及有人駕駛飛機的有效協作,除能提升產業效能與生產力外,同時也強化國家公領域安全的管理。基此,美國總統川普遂發布總統備忘錄倡議建立無人機系統整合先導計畫,期能透過該計畫促進創新應用,並以公私協力的方式進行無人機系統與國家空域系統之整合。

爭議多時的日本P2P軟體Winny開發者,獲無罪判決確定

  日本著名的P2P(Peer to Peer)檔案共享軟體Winny因有侵害著作權法之公開傳輸權之爭議,兩名利用該軟體的使用者於2003年11月被日本群馬地檢起訴。隔年5月Winny軟體開發者「金子勇」因涉嫌構成幫助犯,被京都地檢起訴。全案歷經2006年京都地裁一審之有罪判決、2009年大阪高裁二審判決逆轉無罪、而檢方再上訴日本最高裁判所等程序。檢方於日前撤回上訴,並於2011年12月20日經最高裁判所裁定維持大阪高裁無罪判決,全案定讞。   大阪高裁認為,軟體的開發者未必能認識使用者會將軟體使用在非法目的上,難謂構成幫助之行為,因此,開發者本身對軟體的非法使用並不需要負責。不法行的情形應該是軟體開發者去鼓勵使用者利用軟體進行非法行為。   金子勇在20日召開記者會表示,網路上下載未經授權著作的問題還很多,將竭力解決相關問題,對自己之前開發的軟體而引起之相關侵權訴訟感到遺憾,並呼籲使用者誤濫用Winny,以實現更好的資訊社會。   而日本「電腦軟體著作權協會」(the Association of Copyright for Computer Software)向來致力於著作權之保護工作,協會對此結果表示並不否定P2P技術本身的價值中立性,但是將來會與相關著作權保護團體攜手合作,對於類似Winny的共享軟體之非法侵害,持續推動應對之策,並運用各種手段實現著作權受保護之健全環境。

TOP