美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0)

美國國家標準與技術研究院(National Institute of Standards and Technology, NIST)於2023年1月26日公布「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework, AI RMF 1.0),該自願性框架提供相關資源,以協助組織與個人管理人工智慧風險,並促進可信賴的人工智慧(Trustworthy AI)之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢,獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時,是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新,期待各產業發展出適合自己的使用方式。

本框架首先說明人工智慧技術的風險與其他科技的差異,定義人工智慧與可信賴的人工智慧,並指出設計該自願性框架的目的。再來,其分析人工智慧風險管理的困難,並用人工智慧的生命週期定義出風險管理相關人員(AI actors)。本框架提供七種評估人工智慧系統之信賴度的特徵,包含有效且可靠(valid and reliable):有客觀證據證明人工智慧系統的有效性與系統穩定度;安全性(safe):包含生命、健康、財產、環境安全,且應依照安全風險種類決定管理上的優先次序;資安與韌性(secure and resilient);可歸責與資訊透明度(accountable and transparent);可解釋性與可詮譯性(explainable and interpretable);隱私保護(privacy-enhanced);公平性—有害偏見管理(fair – with harmful bias managed)。

本框架亦提出人工智慧風險管理框架核心(AI RMF Core)概念,包含四項主要功能:治理、映射(mapping)、量測與管理。其中,治理功能為一切的基礎,負責孕育風險管理文化。各項功能皆有具體項目與子項目,並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」(AI RMF Playbook),提供實際做法之建議,並鼓勵業界分享其具體成果供他人參考。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0), 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8974&no=57&tp=1 (最後瀏覽日:2026/07/31)
引註此篇文章
你可能還會想看
大阪框架(Osaka Track)

  2019年6月28日於日本大阪舉行的G20高峰會上,大阪框架(大阪トラック、Osaka Track)再次躍上國際檯面,日本首相安倍晉三在G20高峰會的數位經濟議程當中,倡議建立大阪框架作為資料跨境流通之標準。安倍強調數位化對促進各國經濟發展與創新意義重大,而在數位時代下資料作為重要的成長動力來源,為了能最大化資料運用的可能性與發展潛力,建立一套國際通用的資料流通機制顯然已勢在必行。   「大阪框架」概念的首次提出,源自2019年1月23日安倍首相於瑞士達沃斯所舉辦的世界經濟論壇(World Economic Forum)中所發表的演講,強調資料將是21世紀經濟發展的關鍵資源,透過建立一套國際通用的資料自由流通機制,將有助於確保在數位時代下各種新興科技的創新與發展,不會受到各國管制措施及資料在地化(data localization)政策所阻礙。   「大阪框架」的核心為建立「可資信任的資料自由流通機制」(Data Free Flow with Trust,簡稱DFFT),透過建構國際所共同信任的資料跨境流通機制,將有助於推動包含電子商務在內等各式資料之流通與利用,進而促進數位創新;安倍宣示2019年大阪G20高峰會為大阪框架的起始點,並強調基於此前提出之WTO電子商務共同聲明,期許能透過WTO各會員國的合作,實現建立國際通用的資料跨境流通機制之目標。

加拿大政府致力捍衛個人資料隱私

  加拿大財政委員會主席克萊門(Tony Clement),概述了加拿大政府對於保護加拿大公民隱私的步驟,並詳細的列出政府機關官員對於隱私保護違犯行為的案件量。   政府對於看待人民隱私保護這件事情是非常重視的,特別是如何妥當的處理具敏感性個人資料的這個部分,我們認為是關鍵性的重點」部長克萊門表示。   人力資源及技能發展部部長芬蕾(Diane Finley)說:「我們對於所有違犯事件都會非常認真的面對,任何錯誤都是不能被接受的,為了預防和對抗將來可能發生的事故,我已經下達指示要求徹查本部門下所有員工處理個人資料的作業程序、更新網路防護機制以禁止入侵,機關人員需接受強制性的教育訓練,學習如何處理敏感性和個人資訊。我們政府一直持續推動保護個人資訊的安全維護措施、強化隱私保護、當有任何事故發生時,會執行嚴格的通報機制及規劃完善的應變措施」。   自2006年以來,政府所採取加強隱私保護,並實行嚴格通報機制的新興措施包括:   1.向隱私權委員會通報隱私侵害事故,並採取迅速措施進行解決   2.完成隱私衝擊評估,以建置新的或實質性修正相關措施與行動   3.徹底落實隱私權保護措施命令,要求所有聯邦政府機構必須建置解決侵犯隱私事件的應變計畫   4.制訂隱私權保護政策,要求所有聯邦政府機構,若發現有任何可能侵害加拿大公民隱私的行為時,必須立即通知隱私權委員會辦公室   5.為因應各類新型侵害隱私權之事件,應持續建立新的應變指引,協助各機構有統一的辨識標準和阻止措施。   「在最新年度報告中,隱私權委員會指出,退伍軍人事務局已經明確的公告隱私權保護是現階段非常重要的業務項目,該局正積極建立相關維護措施和計畫。」布萊尼部長表示。   「我們將繼續努力,與隱私權委員會辦公室密切合作,確保加拿大公民的隱私權保護」,部長克萊門回應道

台韓生技數位內容產業 將正面衝突

  南韓及台灣在產業界的競爭日趨激烈,南韓十大新一代成長動力產業,多數與我國產業重點發展項目重疊,尤其我國全力發展兩兆雙星產業半導體、影像顯示、數位內容及生技產業及近期政府大力推動第三兆通訊及第四兆數位電視產業,也都是南韓十大主力產業,未來將面臨南韓產業嚴厲挑戰。    南韓選定十大新一代成長動力產業,包括生物科技、數位電視/廣播、影像顯示、智慧型機器人、未來型汽車、新一代半導體、新一代行動通信、智慧型家庭網路、數位內容/軟體產業、新一代電池;這些產業都以二○一二年為目標,以建立全球產業霸主或強國為期許,顯現南韓的民族性具強烈挑戰性及好勝心。    南韓的十大產業中的新一代半導體、影像顯示、數位內容及生物科技,與目前我國大力發展的半導體、影像顯示、數位內容及生物技術產業完全相同,目前兩國在影像顯示及半導體產業已展開激戰,未來在生技及數位內容產業也將正面衝突,其中又以TFT─LCD(薄膜電晶體液晶顯示器)為主的影像顯示產業,競爭最為激烈,我國希望在二○○六年搶下全球第一大TFT顯示器供應國,南韓也以全球第一為目標,雙方都將搶攻全球寶座。

美國佛羅里達州於2021年07月正式開放低速自駕貨車得於道路上行駛

  隨著新冠肺炎(COVID-19)帶來的影響,以及自動駕駛車輛(Autonomous Vehicle,下稱自駕車,自動駕駛稱為自駕)應用情境發展,美國佛羅里達州(State of Florida,下稱佛州)自2021年07月01日起正式讓低速自駕貨車(Low-Speed Autonomous Delivery Vehicle)可於其境內道路上行駛。   美國佛州首先在其州法典(Florida Statutes)有關全州統一性之車輛定義中,新增低速自駕貨車之定義,即配備毋須人類駕駛之自駕系統,且非設計作為載客運輸之車輛;此外,其須符合聯邦法規法典(Code of Federal Regulation, CFR)定義中之低速車輛(Low-Speed Vehicle),且須配備頭燈、剎車燈、方向燈、尾燈、反光設備以及車輛識別號碼,但不適用於該州其他低速車輛相關限制法規。惟如相關規定有與國家公路交通安全管理局(National Highway Traffic Safety Administration,即NTHSA)另外採用之聯邦規範相衝突時,則依NTHSA採用之規範。   此外,在該州法典亦明示低速自駕貨車在其境內道路上行駛之限制與條件: 1.低速自駕貨車原則僅能在速限低於時速為35英里以下之道路或街道上行駛。(但如該道路與速限超過時速35英里者相交,亦不影響低速自駕貨車穿越該相交路口) 2.低速自駕貨車在以下特定情形,可於速限為時速45英里以下之道路或街道上行駛: (1)低速自駕貨車在該等路段不會連續行駛超過1英里,不過該等路段之管轄單位有權針對連續行駛超過1英里的部分裁量是否放寬限制。 (2)低速自駕貨車並非為了轉向目的而獨立地在右側車道上行駛。 (3)在低速自駕貨車行駛於兩線道的道路或街道上,且後方有5輛以上的車輛時,後方車輛倘若因超車而可能駛入對向車道,或可能導致其他非安全之情境下,低速自駕貨車可在有充分安全駛離之處,自該兩線道的道路或街道駛離至限為時速45英里以下之道路或街道,以利後方車輛得繼續行駛。 3.低速自駕貨車之所有人、其遙控系統(Teleoperation System)之所有人、遠端操作人員(Remote Human Operator)或前開人員之組合式,必須為低速自駕貨車投保符合州法典明文之自駕車相關保險。

TOP