美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0)

美國國家標準與技術研究院(National Institute of Standards and Technology, NIST)於2023年1月26日公布「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework, AI RMF 1.0),該自願性框架提供相關資源,以協助組織與個人管理人工智慧風險,並促進可信賴的人工智慧(Trustworthy AI)之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢,獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時,是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新,期待各產業發展出適合自己的使用方式。

本框架首先說明人工智慧技術的風險與其他科技的差異,定義人工智慧與可信賴的人工智慧,並指出設計該自願性框架的目的。再來,其分析人工智慧風險管理的困難,並用人工智慧的生命週期定義出風險管理相關人員(AI actors)。本框架提供七種評估人工智慧系統之信賴度的特徵,包含有效且可靠(valid and reliable):有客觀證據證明人工智慧系統的有效性與系統穩定度;安全性(safe):包含生命、健康、財產、環境安全,且應依照安全風險種類決定管理上的優先次序;資安與韌性(secure and resilient);可歸責與資訊透明度(accountable and transparent);可解釋性與可詮譯性(explainable and interpretable);隱私保護(privacy-enhanced);公平性—有害偏見管理(fair – with harmful bias managed)。

本框架亦提出人工智慧風險管理框架核心(AI RMF Core)概念,包含四項主要功能:治理、映射(mapping)、量測與管理。其中,治理功能為一切的基礎,負責孕育風險管理文化。各項功能皆有具體項目與子項目,並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」(AI RMF Playbook),提供實際做法之建議,並鼓勵業界分享其具體成果供他人參考。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0), 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8974&no=64&tp=1 (最後瀏覽日:2026/10/28)
引註此篇文章
你可能還會想看
何謂專利適格(Patent Eligibility)的兩階段標準(Two-Step Test)?

  「專利適格」(Patent Subject Matter Eligibility)用淺白的文字解釋,就是成取得專利的基礎門檻、資格。專利適格的司法排除事項(Judicial Exception)為:「自然法則、自然現象、抽象概念」。而「兩階段標準」的導入,是給司法排除事項「敗部復活」的機會。   可取得專利適格的標的於35 U.S.C. §101有明文:「任何人發明或發現新穎而有用之程序(Process)、機器(Machine)、製品(Manufacture)或物之組合(Composition of Matter),或其新穎而有用之改良,皆得依據本法所定規定及要件就其取得專利權利。」但符合§101的敘述,不必然具專利適格。最高法院表示:「自然法則、自然現象、抽象概念是科學與科技成品的基礎,不可被獨佔。」然而,隨愈來愈多的發明與發現推出、電腦文明的發展,司法排除事項亦受挑戰,在 Mayo v. Prometheus,最高法院首次針對自然法則和自然現象提出「兩階段標準」。基此,美國專利與商標局(USPTO)2012年發表專利審查綱要。後續,Alice v. CLS Bank中,引「兩階段標準」將兩階段標準應用在「電腦應用過程、電腦系統、減免交割風險的電腦可讀媒介」的抽象概念。USPTO也將「兩階段標準」編入專利審查手冊(Manual of Patent Examining Procedure)。 USPTO專利審查手冊公布的「兩階段標準」: 第1步:四種可取得專利適格的標的(35 U.S.C. §101)   程序、機器、製品、物之組合。 第2A步:司法排除事項   假設不是「自然法則、自然現象、抽象概念」三種司法排除事項,則具專利適格;若是司法排除事項,則進入第2B步。 第2B步:是否「更具意義」(Significantly More)?   這一個步驟是「敗部復活」。如果該發明存在「發明概念」(Inventive Concept),則符合「更具意義」,可取得專利適格;反之,則無專利適格。

日本通過國家戰略特別區域法修正案

  日本國會在2020年5月27日通過《國家戰略特別區域法》修正案(国家戦略特別区域法の一部を改正する法律),亦即「超級城市法」(スーパーシティ法)。所謂超級城市,係指符合(1)在交通、物流、支付、行政、醫療、照護、教育、能源/水、環境/垃圾、防災/安全等10大領域中,至少滿足其中5個領域日常生活需求;(2)加速實現未來社會生活;(3)透過民眾參與,建立從民眾觀點出發之理想社會等三大條件之未來都市。   超級城市法修正重點有二,首先為實現超級城市構想之相關制度整備,包括(1)賦予蒐集、整理、提供各種類型服務相關資料之資料聯合平台(データ連携基盤)業者法律上地位;(2)因相關制度涉及不同法規及主管機關,故超級城市法內特別設計可併同檢討跨領域法規修正之特別程序;(3)其他規定︰如明定各中央政府機關應提供具體協助、應檢討制定Open API規範,以及本法施行後3年應檢討施行狀況等。其次,本次修法新增地區限定型之監理沙盒制度(地域限定型規制のサンドボックス制度),針對自駕車、無人機等科技創新實驗,透過強化事後監督體制,事前放寬道路運輸車輛法、道路交通法、航空法、電信法之限制,以加速實驗進行。

美國參眾兩院提出嚴禁專利藥廠簽訂授權學名藥協議系列法案

  美國過去透過Hatch-Waxman Act之立法,建立起「簡易新藥申請」(Abbreviated New Drug Application,ANDA)制度,促使學名藥廠開發學名藥後,能較迅速地通過藥品查驗登記,且首家獲得ANDA上市許可的學名藥廠還可享有180日的市場專屬保障;但是,專利藥廠近年卻設計出授權學名藥(Authorized Generic Drug)、原廠學名藥(Rebranded Generic Drug)和專利與學名藥訴訟和解協議(Brand-Generic Litigation Settlement)等智慧財產權管理策略,用以瓜分專利到期後的學名藥市場。   為了矯正此種實務發展,今(2007)年初美國參眾兩院先後提出內容一致的「公平處方藥競爭法案」(Fair Prescription Drug Competition Act, S.438)和「修正聯邦食品藥品化妝品法禁止授權學名藥上市法案」(To amend the Federal Food, Drug, and Cosmetic Act to prohibit the marketing of authorized generic drugs, H.R.806),禁止專利藥廠自行或間接製造銷售原廠學名藥,或是授權第三人製造銷售授權學名藥,企圖透過立法方式,確保首家提出ANDA的學名藥廠,在其所獲180日市場專屬期間內,不會因專利藥廠利用推出原廠或授權學名藥之策略而稀釋掉該學名藥的市佔率。但本法案未禁止專利藥廠與獲得市場專屬保護的學名藥廠簽訂類似協議;假使該學名藥廠經商業判斷後寧願與專利藥廠簽訂協議,僅需依現行規範將該協議通報FTC和司法部即可。   美國參議院亦提出「保護可負擔學名藥取得法案」(Preserve Access to Affordable Generics Act, S.316),禁止專利藥廠直、間接簽訂給予ANDA申請者任何對價(不限金錢)且要求其不得研發、製造、銷售或販賣該學名藥之專利侵權訴訟和解協議;例如專屬給付和解協議(Exclusion Payment Settlement)、逆向給付和解協議(Reverse Payment Settlement)等。

日本發布以人為本AI社會原則

  日本內閣於2018年6月15日決議組成跨部會之統合創新戰略推進會議,並於2019年3月29日發布AI戰略,其中的倫理面向為以人為本之AI社會原則(下稱AI社會原則),希冀藉有效安全的活用AI,推動「AI-Ready 社會」,以實現兼顧經濟發展與解決社會課題的「Society5.0」為最終目標。   為構築妥善應用人工智慧的社會,AI社會原則主張應尊重之價值理念如下: (一) 尊重人類尊嚴的社會:AI應作為能激發人類發揮多樣能力和創造力的工具。 (二) 多元性和包容性的社會(Diversity & Inclusion):開發運用AI以共創多元幸福社會。 (三) 永續性的社會(Sustainability):透過AI強化科技,以創造能持續解決社會差距與環境問題的社會。   而AI社會原則核心內容為: (一) 以人為本:AI使用不得違反憲法或國際保障之基本人權。 (二) AI知識(literacy)教育:提供必要的教育機會。 (三) 保護隱私:個人資料的流通及應用應妥適處理。 (四) 安全確保:把握風險與利益間之平衡,從整體提高社會安全性。 (五) 公平競爭確保:防止AI資源過度集中。 (六) 公平性、說明責任及透明性任。 (七) 創新:人才與研究皆須國際多樣化,並且建構產官學研AI合作平台。

TOP