美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0)

美國國家標準與技術研究院(National Institute of Standards and Technology, NIST)於2023年1月26日公布「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework, AI RMF 1.0),該自願性框架提供相關資源,以協助組織與個人管理人工智慧風險,並促進可信賴的人工智慧(Trustworthy AI)之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢,獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時,是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新,期待各產業發展出適合自己的使用方式。

本框架首先說明人工智慧技術的風險與其他科技的差異,定義人工智慧與可信賴的人工智慧,並指出設計該自願性框架的目的。再來,其分析人工智慧風險管理的困難,並用人工智慧的生命週期定義出風險管理相關人員(AI actors)。本框架提供七種評估人工智慧系統之信賴度的特徵,包含有效且可靠(valid and reliable):有客觀證據證明人工智慧系統的有效性與系統穩定度;安全性(safe):包含生命、健康、財產、環境安全,且應依照安全風險種類決定管理上的優先次序;資安與韌性(secure and resilient);可歸責與資訊透明度(accountable and transparent);可解釋性與可詮譯性(explainable and interpretable);隱私保護(privacy-enhanced);公平性—有害偏見管理(fair – with harmful bias managed)。

本框架亦提出人工智慧風險管理框架核心(AI RMF Core)概念,包含四項主要功能:治理、映射(mapping)、量測與管理。其中,治理功能為一切的基礎,負責孕育風險管理文化。各項功能皆有具體項目與子項目,並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」(AI RMF Playbook),提供實際做法之建議,並鼓勵業界分享其具體成果供他人參考。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0), 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8974&no=64&tp=1 (最後瀏覽日:2026/06/27)
引註此篇文章
你可能還會想看
歐洲汽車供應商協會發表關於標準必要專利之政策指南,以期有關單位能給予汽車產業更明確的指示

歐洲汽車供應商協會(European Association of Automotive Suppliers,俗以CLEPA簡稱之)於2023年3月7日發表〈關於標準必要專利之政策指南—一個可因應汽車產業數位轉型現象的歐盟專利規則〉(Standard Essential Patents Policy guidelines—For an EU patent regulation that adapts to the digital transformation in the mobility ecosystem),以期有關單位能給予汽車產業更明確的指示,舉凡:SEP專利權人可向何人為授權、「合於FRAND原則之授權條款」應如何被認定等。 CLEPA提及,由於在一技術領域中有SEP時,其他的技術無「迴避設計」(design-around)可能性,而必得實施該被選為標準之技術,故在該技術領域中,無其他技術可與「受該SEP保護」的技術相抗衡;是以該SEP的價值必須被審慎且精確評估。此外,CLEPA指出,由於汽車產業會投資、研發、銷售有助於未來「移動性」(mobility)發展的下世代產品,故此產業與智慧財產權議題有高關聯性(例如:此產業每年會申請超過39,000筆專利權),應予其在SEP議題上有足夠的明確性(certainty)及可預測性(predictability),使其在「投資於廣泛實施標準的『新技術』」上,更可依循。而創建一個「利益平衡」(balanced)的環境,將有助於授權雙方進行合於「誠信原則」(good-faith)的授權協議。 CLEPA為以上目的,提出五點建議: (1)應有一「歐盟層級」的立法 一個「歐盟層級」(EU-level)的法架構體系是較足以為SEP專利權人及專利實施者間,提供較「利益平衡」的環境,且較可抑制不公平的SEP授權行為。 (2)「供應鏈中任一層級,均可得授權原則」 凡任何欲得授權者,不論其位於供應鏈中何層級,均應予其有「在符合FRAND原則」下,被授權的機會。又,由於一技術之所以會成為「標準」,係因被「商討」(coordination)而出,倒不一定是因其在市場競爭上,真的有大勝於其他技術的優勢,故授權權利金應僅可反映該技術本身的價值,而不可將「因標準化而可帶來的其他廣大利益」摻入。 (3)對於SEP授權條款應有明確指示 政策制定者及各「標準制定組織」(Standard Setting Organization, SSO)應對「何謂合於FRAND原則之授權條款」提供指南;此外,也應提出就一SEP及其有被納入的「專利組合」(portfolios)的評價方法。 (4)供應鏈中的授權狀況應明瞭 專利實施者應清楚明瞭其是否應獲授權,或其上游元組件供應商是否已獲授權。 (5)應有完整的法體制 政策制定者應制定法體制或應提供關於法體制的指南,以避免SEP專利權人不當申請「禁制令」(injunction),以強使授權協議之可被達成。

英國將修法廢除非營利團體合理使用錄音著作相關規定

  英國的1988年智慧財產權法(The Copyright, Designs and Patents Act of 1988)長久以來,對於慈善及非營利團體在公開場合或活動中播放音樂,一直給予合理使用的空間。然當相關團體受惠於此一規定時,創作人跟表演人卻不樂見此情形。因此,英國主管機關針對此一合理使用規範,在2008年對相關團體進行了意見徵詢。   在2008年10底截止的意見徵詢中,對於改變錄音著作與表演人權利的公開演播合理使用空間,提供了下列三個選項: 一、 完全廢除此一合理使用空間 二、 縮小適用的團體範疇 三、 廢除合理使用空間,但權利人只能以對雙方都公平的費率收取權利金   近日,英國政府宣布根據前述的意見徵詢結果,將廢除慈善與非營利團體的合理使用規定,從2010年4月開始這些團體將必須負擔一個固定的年費,才能在活動或公開場合中使用音樂,但截至目前為止,使用的費率為何尚未確定,但主管機關表示,希望一年不超過100英鎊。   主管機關接下來將對費率部分開始徵詢意見,對於1988年智慧財產權法也預期會進行修正,並於2010年4月開始落實相關規範。這樣的改變對於慈善團體而言固然感到失望,相關團體也以未來在活動場合中,不播放音樂或不付權利金來做為要脅,但整體發展仍有待後續觀察。

日本總務省展現電信產業改革決心,提出「電信創生計畫」

  日本總務省於2014年10月31日公布了「電信創生計畫(モバイル創生プラン)宣示其對電信產業改革之決心。鑒於智慧型手機已成為日本國民生活中不可或缺的一環,加上以智慧型手機為行動中心,另結合可攜式裝置、機器間通信(Machine to Machine, M2M)及智慧聯網(Internet of Things, IoT)技術之普及,電信產業將會廣泛地影響社會整體之經濟活動,因此總務省喊出了「更自由、更貼近、更快速、更便利」的政策口號。   首先在自由化的部分,總務省於本月宣布了自明年2015年5月開始,日本將全面解除「SIM卡解鎖限制」,未來電信用戶將可以自由地帶機或攜碼,移轉到通信費率更適合自己的電信業者,並同時展開「SIM卡解鎖指南」(SIMロック解除に関するガイドライン)改正案之意見募集。未來,電信業者有義務為提出需求的消費者進行解鎖,此外,若無任何理由予以回絕,將會受「電氣通信事業法」下授權之業務改善命令之約束。然而,對於消費者而言,若有尚未履行完畢之契約,亦應於繳交違約金後,才得以進行解鎖。   第二,為了使消費者能夠安心、安全地使用智慧型手機,日本政府開始積極推動虛擬行動網路(Mobile Virtual Network Operator, MVNO)之服務。所謂的MVNO係指通訊網路與服務分離之概念,業者本身無須擁有通訊網路,但須申請經營執照,並可向其他傳統電信業者(Mobile Network Operator, MNO)租用系統,經營自有品牌之行動通訊業務。因此日本政府為了盡快推行MVNO之服務,已開始與相關業者做系統整備之促進協議。   第三,為了使電信網路之傳輸更快速,除了持續推行3.5G網路外,自2016年將開始進行4G之商業化。最後在便利化之方面,鑒於未來之電信產業將會涵蓋更多樣化的服務,如自動更新導航地圖、提供居家安全服務等,因此日本政府認為,應透過法規制度之改善,給予電信業者於提供服務時,更友善之環境。除了已在近期開始促進,MVNO業者利用MNO業者之資訊管理資料庫協議外。並預計在下期國會提出之「電氣通信事業法」草案進行以下變更:(1)鬆綁對電信業者之規定,例如從促使業者跨界合作之角度,鬆綁不公平競爭之處理;(2)進一步推動電信業者(包括MNO跟MVNO等)費率之調降。   總務省預測,在整體政策同時推動之下,2016年相較2013年底,將增加約兩倍之MVNO契約(從670萬份倍增到1500萬份);而2016年,相關電信產業之規模將比現行之34.3兆日圓增至45兆日圓。

日本經產省公布AI、資料利用契約指引

  伴隨IoT和AI等技術發展,業者間被期待能合作透過資料創造新的附加價值及解決社會問題,惟在缺乏相關契約實務經驗的狀況下,如何締結契約成為應首要處理的課題。   針對上述狀況,日本經濟產業省於2017年5月公布「資料利用權限契約指引1.0版」(データの利用権限に関する契約ガイドラインVer1.0),隨後又設置AI、資料契約指引檢討會(AI・データ契約ガイドライン検討会),展開後續修正檢討,在追加整理資料利用契約類型、AI開發利用之權利關係及責任關係等內容後,公布「AI、資料利用契約指引草案」(AI・データの利用に関する契約ガイドライン(案)),於2018年4月27日至5月26日間公開募集意見,並於2018年6月15日正式公布「AI、資料利用契約指引」(「AI・データの利用に関する契約ガイドライン)。   「AI、資料利用契約指引」分為資料篇與AI篇。資料篇整理資料契約類型,將資料契約分為「資料提供型」、「資料創造型」和「資料共用型(平台型)」,說明個別契約架構及主要的法律問題,並提示契約條項及訂定各條項時應考慮的要點,希望能達成促進資料有效運用之目的。   AI篇說明AI技術特性和基本概念,將AI開發契約依照開發流程分為(1)評估(assessment)階段;(2)概念驗證(Proof of Concept, PoC)階段;(3)開發階段;(4)進階學習階段,並針對各階段契約方式和締結契約時應考慮的要點進行說明,希望達成促進AI開發利用之目的。

TOP