美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0)

美國國家標準與技術研究院(National Institute of Standards and Technology, NIST)於2023年1月26日公布「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework, AI RMF 1.0),該自願性框架提供相關資源,以協助組織與個人管理人工智慧風險,並促進可信賴的人工智慧(Trustworthy AI)之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢,獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時,是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新,期待各產業發展出適合自己的使用方式。

本框架首先說明人工智慧技術的風險與其他科技的差異,定義人工智慧與可信賴的人工智慧,並指出設計該自願性框架的目的。再來,其分析人工智慧風險管理的困難,並用人工智慧的生命週期定義出風險管理相關人員(AI actors)。本框架提供七種評估人工智慧系統之信賴度的特徵,包含有效且可靠(valid and reliable):有客觀證據證明人工智慧系統的有效性與系統穩定度;安全性(safe):包含生命、健康、財產、環境安全,且應依照安全風險種類決定管理上的優先次序;資安與韌性(secure and resilient);可歸責與資訊透明度(accountable and transparent);可解釋性與可詮譯性(explainable and interpretable);隱私保護(privacy-enhanced);公平性—有害偏見管理(fair – with harmful bias managed)。

本框架亦提出人工智慧風險管理框架核心(AI RMF Core)概念,包含四項主要功能:治理、映射(mapping)、量測與管理。其中,治理功能為一切的基礎,負責孕育風險管理文化。各項功能皆有具體項目與子項目,並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」(AI RMF Playbook),提供實際做法之建議,並鼓勵業界分享其具體成果供他人參考。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0), 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974 (最後瀏覽日:2026/10/14)
引註此篇文章
你可能還會想看
菲律賓基因改造茄子被迫停止田間試驗

  菲律賓為亞洲國家間第一個將基因改造作物(基改玉米)商業化並用於食品和動物飼料者,而另一項正等待商品化的基改作物,基因改造茄子,原預計於今(2011)年底完成7項試驗並於明年達成商品化的目標,卻因未符合地方政府法規所要求的公眾諮詢程序而被迫暫時中斷其中2項實驗。   2010年12月,菲律賓Davo市市長因申請本案田間試驗之UP Mindano公司未遵守應於市政府內張貼公開資訊之法定義務,以違反基因改造作物環境釋放之法規為由,向該公司發出禁止令並銷毀植株,其田間試驗因此延誤了6個月以上。無獨有偶的,作為菲律賓基改作物主管機關的植物產業局,也以同樣的理由中止另一項在Visayes國立大學所進行的基因改造作物田間試驗。   Davo市農業辦公室Leonardo Avila III主任表示,就該公司就試驗田所設立的藩籬實際狀況來看,雙方對於嚴格密閉的田間試驗(strictly confined field trial)有理解上的落差。面對UP Mindano公司於期間未盡公開資訊義務以進行充份溝通的指控,該公司負責田間試驗的科學家Rasco表示,所有爭議皆已透過直接或間接的方式於報紙和公開論壇中予以釐清。甚至嘗試著透過說明會教育大眾關於基因改造茄子的風險和優點,更強調茄子沒有異花授粉植物所會造成的基因汙染問題。   從法規面觀察,此一事件所透露的問題在於,即便一國中央法規允許基因改造作物之環境釋出,地方政府亦有可能藉由地方法規來落實其限制或阻擋基因改造作物之政策或目的,因而中央和地方間之政策歧異也將會成為GMO推展時必須面對的法制議題。

韓國首例 逮捕非法卵子掮客

  韓國警方在新頒布的 「生命倫理及安全法」 正式實施後,第一次 逮捕 一名涉嫌非法出售人類卵子的金姓男子,卵子的來源乃是該名男子利用積欠其高額債務的女子出售所得的。   警方在搜查了首爾地區的四家醫院後,起訴了涉嫌出售卵子的兩名大學生和一位主婦,並調查其他涉嫌利用網路從事掮客生意,將韓國女性的卵子出售給國內外 不孕夫妻 。 調查顯示,非法大型網站買賣女性卵子現象在韓國正日益猖獗,提供卵子的女性絕大多數都是因經濟困難 。   「生命倫理及安全法」於今年 1 月 1 日開始施行,該法律除了禁止買賣卵子和雇用代理母外,也是韓國作為禁止複製人類之法律依據。

黑莓機製造商因使用操作系統名稱縮寫為市場行銷而面對商標爭議

  自2005年7月黑莓機的通訊服務-BlackBerry Messenger已成為廣受歡迎的社群網路服務;2010年黑莓機製造商RIM(Research in Motion) 正式使用縮寫BBM代表黑莓機的社群網路功能服務(BlackBerry Messenger),被加拿大廣播收視/聽率調查公司(BBM Canada)提出商標侵權訴訟。     BBM Canada成立於1944年,原名為Bureau of Broadcast Measurement,2001年更名為BBM Canada,自1944年起即使用BBM名稱代表其公司所提供的廣播訊息服務,至今已超過60年。並於2007年取得加拿大註冊商標,指定使用於相關測量服務;BBM Canada並於申請時註明,BBM最早使用於加拿大的日期為2005年3月31日。     RIM於2009年申請加拿大商標註冊-BBM(申請號:1455487),指定使用於通訊服務及電腦軟體等產品及服務,至今仍為調查程序階段。此外,RIM先前亦使用BBX為操作系統系列商標名稱,被美國聯邦法院- US federal court in Albuquerque 宣告臨時禁制令。 RIM日前主張,BBM的商標申請尚未被加拿大智慧局(CIPO-Canadian Intellectual Property Office)駁回,且RIM與BBM Canada兩家公司間並無任何競爭關係,而雙方所提供的服務亦無重疊,故依據加拿大商標法,雙方應可同時併存及使用BBM為表彰兩家的產品及服務上。

美國食品及藥物管理局發布《細胞和基因治療產品效價保證指引草案》

由於起始材料(starting material)與其作用機制的複雜性,如何評估細胞和基因治療(Cell and Gene Therapy, CGT)產品的效價,並且確保產品效價有一致性,是一項複雜的工作。因應近年CGT產品的發展,美國食品及藥物管理局(U.S. Food and Drug Administration, FDA)於2023年12月28日發布《細胞和基因治療產品效價保證指引草案》(Potency Assurance for Cellular and Gene Therapy Products Draft Guidance for Industry),旨在提供廠商基於科學與風險評估的效價確保策略。 指引草案重點如下: 1.確立效價測試基準:納入2011年《細胞和基因治療產品的效價測試指引》(Potency Tests for Cellular and Gene Therapy Products Guidance for Industry)中關於效價測試設計的具體建議,包括專一性、準確性和精確性等要求。 2.建立涵蓋產品生命週期的效價保證策略:強調在整個產品生命週期中,進行效價測試的重要性,涵蓋製程設計、製程控制、物料控制與批次檢測等多個環節。 3.導入風險管理評估概念:包括根據CGT產品的作用機制、臨床指示和給藥途徑來訂定目標產品品質(Quality Target Product Profile, QTPP),確定與效價相關的關鍵品質因素(Critical Quality Attributes, CQA)、以及影響CQA的關鍵性製程因素(Critical Process Parameter, CPP)等,並應用到效價保證策略中。 依照這份指引草案,未來廠商在產品開發早期階段就需要進行產品性質與作用機制的風險評估,在製造過程中持續進行品質監控,並詳細記錄其效價測試方法。這樣能確保產品在每個生產階段都符合FDA的安全性和效價標準,從而減少市場准入的障礙,也增強了公眾對CGT產品安全性和療效的信心,加快創新治療方法的推廣,而後續亦值得關注2024年3月27日所徵集的意見。

TOP