美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0)

美國國家標準與技術研究院(National Institute of Standards and Technology, NIST)於2023年1月26日公布「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework, AI RMF 1.0),該自願性框架提供相關資源,以協助組織與個人管理人工智慧風險,並促進可信賴的人工智慧(Trustworthy AI)之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢,獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時,是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新,期待各產業發展出適合自己的使用方式。

本框架首先說明人工智慧技術的風險與其他科技的差異,定義人工智慧與可信賴的人工智慧,並指出設計該自願性框架的目的。再來,其分析人工智慧風險管理的困難,並用人工智慧的生命週期定義出風險管理相關人員(AI actors)。本框架提供七種評估人工智慧系統之信賴度的特徵,包含有效且可靠(valid and reliable):有客觀證據證明人工智慧系統的有效性與系統穩定度;安全性(safe):包含生命、健康、財產、環境安全,且應依照安全風險種類決定管理上的優先次序;資安與韌性(secure and resilient);可歸責與資訊透明度(accountable and transparent);可解釋性與可詮譯性(explainable and interpretable);隱私保護(privacy-enhanced);公平性—有害偏見管理(fair – with harmful bias managed)。

本框架亦提出人工智慧風險管理框架核心(AI RMF Core)概念,包含四項主要功能:治理、映射(mapping)、量測與管理。其中,治理功能為一切的基礎,負責孕育風險管理文化。各項功能皆有具體項目與子項目,並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」(AI RMF Playbook),提供實際做法之建議,並鼓勵業界分享其具體成果供他人參考。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0), 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974 (最後瀏覽日:2024/03/01)
引註此篇文章
你可能還會想看
國際再生能源總署針對各國實施「綠氫憑證」提出建議報告

  國際再生能源總署於(International Renewable Energy Agency, IRENA)2022年3月13日發布「能源終端使用部門:綠氫憑證」(Decarbonising End-use Sectors: Green Hydrogen Certification)研究報告,說明綠氫的部屬與使用,以及國家、區域與國際綠氫市場的發展將取決於追蹤制度的建立與接受程度。   太陽能或風電等再生能源將水電解為氫氣與氧氣後,可轉換為氫能,且因產氫過程不排碳,故此類氫能稱為綠氫。為降低溫室氣體排放、解決溫室效應與極端氣候等問題,綠氫與來自綠氫的合成燃料,在追求減少碳排放的能源轉型中扮演關鍵地位。   該報告概述了綠氫憑證制度的技術考量以及創建此類工具所需面臨的挑戰,並對政策決策者提出關鍵建議,旨在建立具備國際認證標準的綠氫追蹤制度——綠氫憑證。   綠氫憑證是指生產設備業者、貿易商及供應商等能源市場參與者,向國際再生能源憑證相關組織或當地政府登記取得其生產過程中所使用的能源來自於綠氫之證明。消費者可以透過該憑證識別綠氫的來源,並可行使相關權利。   為確保綠氫憑證及其追蹤制度達成綠氫行業既定脫碳目標,該報告提出十點建議:(1)明確「綠氫」之定義;(2)建立標準,確保綠氫電力生產來源安全可靠;(3)確保憑證能為消費者及決策者提供足夠資訊;(4)簡化行政程序,減少行政負擔;(5)實施具備成本效益的憑證追蹤制度;(6)建立適當的控制機制避免濫用或缺乏透明度;(7)應考量結合既有制度;(8)避免跨國交易時重複頒發不同國家之憑證(9)利用綠色金融標準鼓勵遵守憑證要求;(10)促進國際合作,建立全球共通之標準與規則。

日本促進產學合作相關計畫簡介

  日本在促進產學合作,除了A-step計劃外,亦成立了創新中繼站構築援助事業(Support Program for Forming Innovation Hub)與創新中心(COI)等。   創新中繼站構築援助事業,由JST協助國立研發法人推動改革,以強化法人之效能,並做為大學與企業之中繼站,大學主司研究,企業則負責產業化階段,中間點則由JST與國立研發法人一同合作。JST負責召集人才、評定人才並進行創業援助、技術調查與分析。國立研發法人則提供人才培育及交流所需之資源(例如:機具設備的整修與提供,推動研究開發等等)。   創新中心(COI)則是政府預測未來10年之社會變遷及人口結構,再根據未來社會可能之需要,以建立理想社會為目標,通常進行具有高難度、高風險研發之創新中心。目前日本有18個創新中心分佈全國各地,由國家指定企業與大學共同進行,但是研究負責人只能是大學。

英國商業、能源及產業策略部提出新版「後2020智慧電表布建計畫」,以助於住家型智慧電表全面布建

  英國商業、能源及產業策略部(Department of Business, Energy and Industrial Strategy,以下簡稱BEIS)於2020年6月18日提出新版「後2020智慧電表布建計畫」(Smart meter policy framework post 2020,以下簡稱旨揭智慧電表計畫),擬於未來4年內全面布建住家型智慧電表,以助於住家型用電戶管理用電並進一步減低碳排放量。   依BEIS預估,布建後有可能助於節省住家型用電戶平均250英鎊之電費,並減少全國4千5百萬噸碳排放量。依旨揭智慧電表計畫,電表布建費用將由售電業負擔,售電業應盡其最大努力布建智慧電表,如售電業並未盡到此一義務,則恐將面臨高額罰鍰。同時,智慧電表之布建可以鼓勵消費者改變用電習慣,如鼓勵消費者於用電離峰時間對於電動載具進行充電,或者是設置(再生能源)發電設備用於用電高峰期間發電、饋電至電網。   從而BEIS旨揭智慧電表計畫,也是為BEIS於2019年1月提出智慧饋電保證(Smart Export Guarantee,以下簡稱SEG)鋪路。於SEG新政策下,BEIS將擬定一套不同於躉購制度之政策框架,使小型生產消費者(prosumer,此處係指可以自行生產電力之用電戶)所生產之綠色電力,可於此一政策框架之保障下,與售電業者議約,並將電力售予售電業者,以減輕英國政府預計於今年3月廢除躉購制度所帶來之衝擊。又依SEG新政策,小型生產性用電戶須設置有智慧電表,始受前開SEG新政策之保證,從而得以優惠之價格或條件將再生能源設備所產生之電力出售予電力供應事業主體。職是故,BEIS旨揭智慧電表計畫,實際上可謂與BEIS於2019年所提出SEG新政策相互搭配,以迎接後躉購制度時代之來臨。   對於智慧電表之硬體規格,依旨揭智慧電表計畫,第二代智慧電表(SMETS2)為其建置之核心。第二代智慧電表與第一代智慧電表不同之處在於,第一代智慧電表係以3G為通訊基礎,且不同電力供應事業主體所使用之系統相互間無法交流、並存,第二代智慧電表則以4G以上規格為通訊基礎,且不同電力供應事業係使用同一套系統。同時,智慧電表應盡量配置有「住家顯示系統」(In-Home Displays),使住戶可以透過視覺化之及時反饋方式,知悉現在住家內之能源使用情形以及相關電價狀況,從而進行改變用電習慣。同時,智慧電表之用電或饋電至電網之資訊,也應可以透過智慧電表傳輸至電力供應事業主體或交易市場,從而使電力供應事業主體可及時知悉用電戶之用電或饋電情形,從而及時做出反應。   對於智慧電表之建置程序以及資訊傳輸、保存安全性上,旨揭智慧電表計畫則要求應符合「智慧電表建置行為準則」(The Smart Meter Installation Code of Practice, SMICoP),從而用電戶可以在此一準則或框架下,對於自己之用電資料享有一定之掌握權限。

英國資訊委員辦公室(ICO)發布沙盒執行過程中所觀察到的關鍵議題

  2019年9月英國資訊委員辦公室(Information Commissioner's Office, ICO)啟動沙盒計畫(ICO Sandbox)測試階段(beta phase),由ICO所選10個測試專案,透過解決當今社會問題,例如如何減少暴力犯罪、大學如何促進學生的心理健康、新技術如何改善醫療保健等,期能促進公眾利益。   各專案在滿足創新性和可行性前提下,同時也面臨著複雜的資料保護議題,因此ICO持續與各專案溝通,提供其應用現有個資保護指引之建議,如歐盟一般資料保護規則之資料保護影響評估指導文件(Guide to the GDPR - Data protection impact assessment)、資料保護自我評估工具包(Data protection self-assessment toolkit)等。自2019年3月底開始(受理申請)迄今,ICO沙盒執行過程中所觀察到的關鍵議題如下: 公部門資料應用效益:部份參與者正在克服與公部門進行歷史資料共享,或是如何整合應用大數據等。個人資料與新技術應用,必須與資料主體的權利和自由進行權衡。 同意:確保各方對於「同意」(Consent)之理解,以弭平差異,同時向公眾提供透明資訊。 新技術的挑戰:應用語音生物辨識(voice biometrics)、臉部辨識技術(facial recognition technology, FRT)等,需要在適當基礎上處理特殊類別資料。 資料分析(Data analytics):以符合資料保護的方式進行資料分析,處理特殊類別資料的適法性,評估處理過程中的風險,並檢查可能用於資料分析的資料來源,確保符合目的之應用。   未來的6個月,ICO將持續與各專案合作,使其為有效的解決方案,為公眾提供創新合規之產品與服務,並成為未來結合資料保護和創新應用之規劃藍圖,以奠定隱私保護的基石。

TOP