美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0)

美國國家標準與技術研究院(National Institute of Standards and Technology, NIST)於2023年1月26日公布「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework, AI RMF 1.0),該自願性框架提供相關資源,以協助組織與個人管理人工智慧風險,並促進可信賴的人工智慧(Trustworthy AI)之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢,獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時,是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新,期待各產業發展出適合自己的使用方式。

本框架首先說明人工智慧技術的風險與其他科技的差異,定義人工智慧與可信賴的人工智慧,並指出設計該自願性框架的目的。再來,其分析人工智慧風險管理的困難,並用人工智慧的生命週期定義出風險管理相關人員(AI actors)。本框架提供七種評估人工智慧系統之信賴度的特徵,包含有效且可靠(valid and reliable):有客觀證據證明人工智慧系統的有效性與系統穩定度;安全性(safe):包含生命、健康、財產、環境安全,且應依照安全風險種類決定管理上的優先次序;資安與韌性(secure and resilient);可歸責與資訊透明度(accountable and transparent);可解釋性與可詮譯性(explainable and interpretable);隱私保護(privacy-enhanced);公平性—有害偏見管理(fair – with harmful bias managed)。

本框架亦提出人工智慧風險管理框架核心(AI RMF Core)概念,包含四項主要功能:治理、映射(mapping)、量測與管理。其中,治理功能為一切的基礎,負責孕育風險管理文化。各項功能皆有具體項目與子項目,並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」(AI RMF Playbook),提供實際做法之建議,並鼓勵業界分享其具體成果供他人參考。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0), 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8974&no=64&tp=1 (最後瀏覽日:2026/09/25)
引註此篇文章
你可能還會想看
LG反將Sony一軍,企圖禁止PS3遊戲機在美國銷售

  去年12月底,Sony在美國國際貿易委員會(ITC)對LG提起控訴,指控LG的進口銷售的手機侵害其專利,請求該委員會禁止LG銷售被控侵害之手機。據稱LG也不甘示弱,因而在今年2月初,也向美國國際貿易委員會對Sony提出控訴,指控Sony的PlayStation 3遊戲機侵害其四項專利,請求該委員會禁止該遊戲機進口到美國。   根據LG所提出的訴狀,LG指控Sony的PlayStation 3遊戲機及其組件構成了直接、幫助和引誘侵權,而受侵害的四項專利分別為美國專利號7,701,835、7,577,080、7,619,961、7,756,398,都是有關藍光光碟(Blu-ray Disc)的播放技術。其中’080和’091專利是和複製藍光光碟上資料的技術有關;’835專利是和複製多資料流(multiple data streams)的操控技術有關;’398專利則和複製藍光光碟上的字幕流及更新其色調資訊的技術有關。據此,LG請求美國國際貿委員針對PlayStation 3的藍光播放器及其組件發動立即調查(immediate investigation),並發出禁止其進入美國,停止其他行銷、服務等行為之命令。   據報導指出,LG除了在美國國際貿易委員會提出控訴外,也在加州聯邦法院提起類似的訴訟,以請求金錢損害賠償。此二大公司間的專利訴訟發展,仍有待後續觀察。

歐盟食品管理局擬建立風險評估外部專家資料庫

  近年來,由於(European Food Safety Authority, 簡稱EFSA)對GM產品之管理並未能進行足夠之科學分析,同時,亦過份仰賴業者所提供之數據資料等原因,而造成歐盟某些會員國家對EFSA所作出之評估報告於公正及客觀性方面產生質疑;甚至,歐洲食品業者亦對目前EFSA是否將會因為專家人力不足而導致整體風險評估能力下降之問題表示關切。一位EFSA官員指出:我們需要更多科學專家來協助處理與風險評估有關之事務。   其次,隨著各界因對GMO產品不當之批判與歐洲整體食品安全評估工作量增加等因素,EFSA於日前決定,欲透過建立一外部專家資料庫(External Expert Database),來協助其風險評估工作之執行並促進評估專家招募過程之透明化,以達成免除外界對於歐洲食品安全評估過程疑慮之目的。不過,這些將提供協助之專家,並不會因此而真正成為EFSA科學評估小組成員(其將被視為是由人民主動對該小組執行評估工作提供協助)。除EFSA擬徵求歐盟境內專家學者外,未來其亦將邀請歐盟以外其他國家並在該領域為重要研究先驅之專家提供協助,以增加風險評估之品質與客觀性。   再者,綠色和平組織歐洲發言人Mark對於EFSA現階段執行之工作狀況也表示意見並指出:目前EFSA是在一種配備不良(ill-equipped)之狀態下,來勉強執行其所執掌之事務;不過,更讓人感到憂心者,則是由EFSA科學評估小組所做出科學性之意見,於不同會員國家間或於歐盟以外其他國家其是否仍將會被完全採納之問題。有鑒於此,相關人士認為:應再次強化EFSA於風險評估方面之能力!   最後,一位非政府機組織專家也提醒:僅單純地透過專家庫之建立,其實,並不能圓滿地解決當前EFSA於決策機制中所遭遇之困難;而只有當EFSA在未來欲邀請外部專家提供協助與支援時,一併將資金及相關政策配套措施納入考量後,才是此問題真正解決之道。

日本將數位廣告業者列入特定數位平台之透明性及公正性提升法適用對象

  日本於2022年7月5日閣議決定修正政令將數位廣告(デジタル広告)的大型數位平台(デジタルプラットフォーム)業者列入「特定數位平台之透明性及公正性提升法」(特定デジタルプラットフォームの透明性及び公正性の向上に関する法律)適用對象,修正政令於2022年7月8日正式公布,並預計自2022年8月1日開始施行。   日本於2020年5月27日通過特定數位平台之透明性及公正性提升法(以下簡稱本法),要求特定數位平台業者公開提供服務條件,主動積極採取因應措施並進行自我評估,以提升特定數位平台透明性與公正性,促進國民經濟健全發展。隨著數位平台重要度與日俱增,數位廣告的數位平台企業影響力亦逐漸擴大,甚至將對媒體事業收益結構帶來重大改變。日本於2021年6月18日閣議決定「2021經濟財政營運及改革基本方針」(経済財政運営と改革の基本方針2021)與「成長戰略實行計畫」(成長戦略実行計画),均提出須關注數位市場競爭環境,因應新時代統整數位廣告市場規則,將數位廣告的大型數位平台業者列入本法適用對象,整合數位平台透明性與公平性規則。   本次修正政令列入本法適用對象的數位廣告業者包含:一、日本國內營業額在1000億日圓以上的媒體整合型廣告數位平台。二、日本國內營業額在500億日圓以上的廣告仲介型數位平台。日本期望能藉由統整數位廣告市場規則,解決數位廣告市場的垂直整合問題,同時強化消費者隱私保護。

何謂防禦型聯盟(Defensive Patent Aggregator)?其是否為NPE的重要類型?

  防禦型專利聯盟係為NPE之一種重要類型,主要以抵制NPE侵擾為出發點,防禦型聯盟儘可能搶先攻擊型如NPE者去進行專利的授權或購買,加入防禦型聯盟者則可付出比與NPE進行和解所支付費用較少的金錢,成員其會員以取得不被NPE侵擾的地位。   NPE中屬於防禦型聯盟(Defensive Patent Aggregator)者,RPX(Rational Patent)之運作模式常可作為主要類型化參考對象之一。RPX為上市公司,其主要核心業務在於「緩和其會員被訴之可能」。RPX取得專利之資金主要來自會員年費,而各會員可取得RPX所有專利之「授權」,而收費結構不當然等於獲取專利之成本之分攤,以使會員已低於一般訴訟和解、或取得爭議專利等更為低的代價來防止被訴。在此同時,RPX本身也不會對他人起訴。   RPX所提供的防禦性聯盟策略,先行於其他NPE取得前那些潛在「危險性」的目標專利,甚至有可能向NPE取得專利,必要時,直接於訴訟仍在進行之時去取得專利。而在防禦以外,如其他非會員向會員起訴,會員也可以以RPX所有之專利進行反訴。   目前RPX會費在6萬5千美元至6900萬美元之間,依照會員本身營運規模之不同定之,但「會費等級」(rate card)會自加入之初鎖定不再更動,實際每年繳交費用則可能依據RPX所取得的所有專利價值增加而上昇 。而除此主要運作模式外,RPX也運用其廣泛取得專利之經驗,提供個別企業服務服務,得以較低的躉售價格取得專利(Syndicated Acquisitions),反之企業自行購買專利可能需要付出較高的「零售」價格   RPX的運作模式對於加入成為其「會員」者有兩項優勢:第一,減少「專利蟑螂」可取得的專利數量;其次,因可理解為全體會員合力進行防禦型專利取得故能減低這些專利取得之成本。

TOP