美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0)

美國國家標準與技術研究院(National Institute of Standards and Technology, NIST)於2023年1月26日公布「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework, AI RMF 1.0),該自願性框架提供相關資源,以協助組織與個人管理人工智慧風險,並促進可信賴的人工智慧(Trustworthy AI)之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢,獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時,是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新,期待各產業發展出適合自己的使用方式。

本框架首先說明人工智慧技術的風險與其他科技的差異,定義人工智慧與可信賴的人工智慧,並指出設計該自願性框架的目的。再來,其分析人工智慧風險管理的困難,並用人工智慧的生命週期定義出風險管理相關人員(AI actors)。本框架提供七種評估人工智慧系統之信賴度的特徵,包含有效且可靠(valid and reliable):有客觀證據證明人工智慧系統的有效性與系統穩定度;安全性(safe):包含生命、健康、財產、環境安全,且應依照安全風險種類決定管理上的優先次序;資安與韌性(secure and resilient);可歸責與資訊透明度(accountable and transparent);可解釋性與可詮譯性(explainable and interpretable);隱私保護(privacy-enhanced);公平性—有害偏見管理(fair – with harmful bias managed)。

本框架亦提出人工智慧風險管理框架核心(AI RMF Core)概念,包含四項主要功能:治理、映射(mapping)、量測與管理。其中,治理功能為一切的基礎,負責孕育風險管理文化。各項功能皆有具體項目與子項目,並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」(AI RMF Playbook),提供實際做法之建議,並鼓勵業界分享其具體成果供他人參考。

本文為「經濟部產業技術司科技專案成果」

相關連結
※ 美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0), 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8974&no=64&tp=1 (最後瀏覽日:2026/04/14)
引註此篇文章
你可能還會想看
紐西蘭人工智慧論壇所發佈人工智慧原則

  紐西蘭人工智慧論壇(AI Forum)協會成立於2017年,為非營利組織,是紐西蘭政府的重要智庫單位。該協會的AI法律、社會和倫理工作組於2020年3月4日發表了紐西蘭第一份《紐西蘭可信賴的AI指導原則》, 此指導原則目的在提供簡潔有力的人工智慧參考點,以幫助大眾建立對紐西蘭人工智慧的開發和使用的信任。此份AI指導原則對政府具有重要的參考價值。   《紐西蘭可信賴的AI指導原則》,內容摘要如下: 一、公平和正義 (一)適用紐西蘭及其他相關管轄地包含科克群島、紐埃、托克勞、南極羅斯屬地法律; (二)須保護紐西蘭國內法及國際法所規範的人權; (三)須保障《懷唐伊條約》中毛利人的權利; (四)民主價值觀包含選舉的過程和在知情的情況下進行公眾辯論; (五)平等和公正的原則,要求人工智慧系統不會對個人或特定群體造成不公正地損害、排斥、削弱權力或歧視。 二、可靠性、安全性和私密性 AI利益相關者須確保人工智慧系統及資料的可靠、準確及安全性,並在人工智慧系統的整個生命週期中,保護個人隱私以及持續的識別和管控潛在風險。 三、透明度 人工智慧系統的運作應是透明的、可追溯的、並在一定的程度上具可解釋性,在面對責問時能夠被解釋且經得起質疑。 四、人類的監督和責任 AI利益相關者,應該對人工智慧系統及其產出進行適當的監督。 在利益相關者確定適當的問責制度和責任之前,不應使用會對個人或群體造成傷害的技術。 五、福利 AI利益相關者應在適當的情況下設計、開發和使用人工智慧系統,盡可能促進紐西蘭人民和環境的福祉,像是健康、教育、就業、可持續性、多樣性、包容性以及對《懷唐伊條約》獨特價值的認可。   此份AI指引較大的特色有兩點,第一,紐西蘭人工智慧論壇協會的成員組成,其中女性成員比例超過半數。第二,在其指導原則中第一點的「公平和正義」及第五點「福利」中,都特別提到須遵守《懷唐伊條約》以確保毛利人的權益。在這樣的基礎下,能更期待紐西蘭在發展AI技術的過程,能夠更切實的做到公平正義、無歧視。

EU要求OFCOM落實固網批發價格管制

  在2009年6月26日,英國電信業者Opal Telecom針對英國電信(BT) 的固網批發價格的問題(Fixed Termination rate),向OFCOM提起爭議仲裁。不過在OFCOM做出裁決之前,歐盟執委會(The European Commission)已要求OFCOM應該就固定網路的批發價為適當之價格管制,並提供所有通訊業一致性的固定費率。   執委會做出這樣要求的原因,是著眼於今日英國在終端服務(termination services),業者仍然處於壟斷狀態,且有調高終端服務費用之可能,恐不利於促進競爭。   基於改善這樣的現象,並為促進市場競爭和歐盟規範的一致性,執委會提出要求: 應無差別(non-discrimination)使所有業者均得利用原有之固定網路來提供服務,並確保在相同環境、相同條件下進行公平競爭;同時,建議採取對於固定網路費率之管制,以促進市場競爭,其結果對固定通訊服務的競爭者與消費者而言,最為有利。   OFCOM已在2009年10月23日公布裁決結果,基於通訊市場公平競爭和歐洲市場一致的發展的原則下,BT提供Opal固定網路通路(network access)和服務互通(service interoperability)尚屬適當,至於費率部份,則以適用BT在電信業者價格表(Carrier Price List)的批發價為宜。

App Store是否得申請作為商標---Apple與Microsoft開啟戰火

  2011年1月Microsoft針對Apple欲將App Store申請作為商標一案,向美國專利商標局(USPTO)提出即決判決(summary judgment)之申請,請求USPTO拒絕允許App Store註冊為商標。Microsoft主張「App Store」一詞係由「形容產品的普通名詞」加上「形容店面的普通名詞」而組成的詞彙,屬於普通性字眼(generic terms),如同「Computer Store」一詞之前也被認定為屬於普通性詞彙,不得註冊為商標。此外,Microsoft還主張App Store這個詞語已經被許多同業、新聞媒體、消費者甚至Apple本身,作為普通性詞彙加以廣泛使用,例如黑苺公司使用App World、三星公司使用Samsung App、惠普公司使用App Catalog來形容自家的應用程式專賣店。因此,App Store不應被註冊為商標,否則將造成他人無法正常使用此普通性詞彙。   另一方面,Apple於2011年3月向美國專利商標局提出說明,反駁Microsoft的指控,Apple並舉The Paper Store、The Container Store等商標法先例,說明這些名詞最後皆被認定為具有爭議性之「描述性詞彙(descriptive terms) 」,而得以註冊登記為商標。Apple進一步認為Microsoft聘請的專家所提出可證明「App Store」一詞為普通性詞彙的相關證據,其取樣係有問題。因其是以app store小寫字樣為關鍵字,並輸入在Westlaw資料庫中進行查詢,而這樣的採樣方式,當然會導向app store一詞的使用情境偏向於普通性詞彙使用(generic use)。另外,Apple也以Microsoft十多年來大眾對其WINDOWS商標屬於普通性詞彙之爭議及指控為例,認為在衡量系爭詞彙是否屬於普通性名詞而無法作為商標使用的判斷上,須就系爭詞彙整體觀之,透過蒐集大量事實以評估系爭詞彙對相關大眾(relevant public)之主要意義(primary significance)為何。例如相關大眾就app store此詞彙的主要認知是聯想到「Apple」所經營的線上應用程式專賣商店,抑或相關大眾看到app store一詞直接想到其意指一般應用程式商店。   在雙方激烈唇槍舌戰中,究竟這場App Store商標申請准駁戰,會由Apple還是Microsoft取得勝利?容我們拭目以待。

加拿大CRTC制訂無線通訊服務契約之準則

  加拿大廣播電視和電信委員會(Canadian Radio-television and Telecommunications Commission,CRTC)將制訂新的準則,規範關於加拿大電信業者無​​線通訊服務契約之條款內容,所謂的無線通訊服務包含行動電話以及其他個人行動裝置,該準則之制訂並將透過網路諮詢收集公眾意見。   在多數的國家,無線服務已經與民眾日常生活密不可分,但難以理解的契約文字、有問題的條款、高昂的漫遊費用或繁重的契約解除費用等事項,時常是消費者對無線通訊服務抱怨的來源。加拿大無線通訊協會(Canadian Wireless Telecommunications Association,CWTA)曾在2009年推出一個業者自律的行為守則,在沒有政府管制的前提下,希望能提供較好的消費者保護。   然而由於加拿大各地方政府的消保規範不一致,除了對消費者權益保護不足外,相關無線通訊業者也感到難以遵行,因此於2012年3月呼籲應由中央管制機關制訂統一的規範。2012年10月,CRTC審視無線通訊市場,認為服務契約條款內容對民眾確實影響重大,許多加拿大民眾表示,對行動電話或其他個人行動服務的許多契約內容感到困惑,如去年(2011),消費者有關無線通訊服務的投訴量,即相當於其他電信服務之總和。故CRTC決定制定具有約束力的準則,幫助消費者選擇無線通訊服務。 本次CRTC邀請加拿大民眾透過網路討論以下問題: 關於無線服務契約之準則應該包含哪些內容? 有關的業者違反準則時,應如何投訴解決呢? 無線服務契約準則應如何推動及審查,以確保其能正常運作呢?   對此,CRTC主席Jean-Pierre Blais表示:「我們希望加拿大民眾參加網路討論,表達對於無線服務契約準則之意見,例如如何使服務契約能更清晰、更容易理解等。」在這份準則制訂完成後,將提供無線通訊服務之業者在制訂服務條款時,有一個明確的、一貫的遵循內容。

TOP