美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0)

美國國家標準與技術研究院(National Institute of Standards and Technology, NIST)於2023年1月26日公布「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework, AI RMF 1.0),該自願性框架提供相關資源,以協助組織與個人管理人工智慧風險,並促進可信賴的人工智慧(Trustworthy AI)之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢,獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時,是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新,期待各產業發展出適合自己的使用方式。

本框架首先說明人工智慧技術的風險與其他科技的差異,定義人工智慧與可信賴的人工智慧,並指出設計該自願性框架的目的。再來,其分析人工智慧風險管理的困難,並用人工智慧的生命週期定義出風險管理相關人員(AI actors)。本框架提供七種評估人工智慧系統之信賴度的特徵,包含有效且可靠(valid and reliable):有客觀證據證明人工智慧系統的有效性與系統穩定度;安全性(safe):包含生命、健康、財產、環境安全,且應依照安全風險種類決定管理上的優先次序;資安與韌性(secure and resilient);可歸責與資訊透明度(accountable and transparent);可解釋性與可詮譯性(explainable and interpretable);隱私保護(privacy-enhanced);公平性—有害偏見管理(fair – with harmful bias managed)。

本框架亦提出人工智慧風險管理框架核心(AI RMF Core)概念,包含四項主要功能:治理、映射(mapping)、量測與管理。其中,治理功能為一切的基礎,負責孕育風險管理文化。各項功能皆有具體項目與子項目,並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」(AI RMF Playbook),提供實際做法之建議,並鼓勵業界分享其具體成果供他人參考。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0), 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8974&no=64&tp=1 (最後瀏覽日:2026/11/04)
引註此篇文章
你可能還會想看
美國科羅拉多州通過《人工智慧消費者保護法》

2024年5月17日,科羅拉多州州長簽署了《人工智慧消費者保護法》(Consumer Protections for Artificial Intelligence Act,Colorado AI Act,下簡稱本法),其內容將增訂於《科羅拉多州修訂法規》(Colorado Revised Statutes,簡稱CRS)第6篇第17部分,是美國第一部廣泛對AI規範的法律,將於2026年2月1日生效。 本法旨在解決「高風險人工智慧系統」的演算法歧視(Algorithmic Discrimination)的問題 ,避免消費者權益因為演算法之偏見而受到歧視。是以,本法將高風險AI系統(High-risk Artificial Intelligence System)定義為「部署後作出關鍵決策(Consequential Decision)或在關鍵決策中起到重要作用的任何AI系統」。 而後,本法藉由要求AI系統開發者(Developers)與部署者(Deployers)遵守「透明度原則」與「禁止歧視原則」,來保護消費者免受演算法歧視。規定如下: (一)系統透明度: 1.開發者應向部署者或其他開發者提供該系統訓練所使用的資料、系統限制、預期用途、測試演算法歧視之文件以及其他風險評估文件。 2.部署者應向消費者揭露高風險人工智慧系統的預期用途,也應在高風險人工智慧系統做出決策之前向消費者提供聲明,聲明內容應該包含部署者之聯絡方式、該系統的基本介紹、部署者如何管理該系統可預見之風險等資訊。 (二)禁止歧視: 1.開發者應實施降低演算法歧視之措施,並應協助部署者理解高風險人工智慧系統。此外,開發者也應該持續測試與分析高風險人工智慧系統可能產生之演算法歧視風險。若開發者有意修改該系統,應將更新後的系統資訊更新於開發者網站,並須同步提供給部署者。 2.部署者應該實施風險管理計畫,該風險管理計畫應包含部署者用於識別、紀錄降低演算法歧視風險之措施與負責人員,且風險管理計畫應定期更新。在制定風險管理計畫時,必須參考美國商務部國家標準暨技術研究院(National Institute of Standards and Technology, NIST)的《人工智慧風險管理框架》(AI Risk Management Framework, AI RMF 2.0)與ISO/IEC 42001等風險管理文件。 美國普遍認為科羅拉多州的《人工智慧消費者保護法》為目前針對人工智慧系統最全面之監管法規,可作為其他州有關人工智慧法規的立法參考,美國各州立法情況與作法值得持續關注。

食品標示 美國新制上路

  隨著食物過敏與過胖等健康問題愈來愈受重視,美國FDA(Food and Drug Administration, 食品暨藥物管理局)規定從2006年1月1日起,食品製造商必須在食品標示上揭示產品中八種主要過敏原與反式脂肪(trans fat)含量,並且必須加強揭示卡路里含量、說明整個包裝所含的養分。   依據此項新規定,廠商必須在食品標籤上以簡易的文字,標示八種容易造成過敏的過敏原,包括核果(杏仁、胡桃、大胡桃)、牛奶、蛋類、魚類、甲殼綱蝦蟹、花生、大豆與小麥。至於反式脂肪,又稱為轉化脂肪或反脂肪,是不飽和脂肪酸的一種,它會刺激人體內低密度脂蛋白(LDL)的增加,進而使低密度蛋白膽固醇(LDL-C)的量增加。LDL-C又被稱為『壞膽固醇』或『不好的膽固醇』,它會間接刺激膽固醇升高,增加罹患心臟血管疾病的風險。過去一直沒有決定每人每天攝取量標準,因此在商品包裝上的營養成分表(Nutrition Facts Table)一直都沒有列出反式脂肪含量,但是新制上路後,在包裝標籤上面也必須列出反式脂肪含量。   在消費者越來越重視健康問題之趨勢下,未來如何製造反型脂肪低或零含量的食用加工油脂產品,相信會是相關業者所面臨的新挑戰。

日特許廳開始提供WIPO資料庫商標公報資訊

  日本特許廳公開表示,從本年度11月27日起,將開始提供日本商標公報訊給世界智慧財產權機構(WIPO)所建置的世界最大規模之商標資料庫「Global Brand Database」,今後民眾將可以在前述資料庫中搜尋到登載有日本商標註冊資訊的商標公報。如此一來,日本廠商將可以在一個資料庫中完整搜尋到包含日本商標在內的商標資訊,對於日本廠商擬定全球品牌策略將可以提供許多便利。   「Global Brand Database」是WIPO所免費提供的資訊供應服務,在這個資料庫上,一般民眾可以公開使用,進行商標申請案或已註冊商標的檢索,及查照詳細資訊。在2011年3月WIPO啟動這項服務時,當時還只有累積國際註冊商標、依里斯本條約登記的原產地名稱及依巴黎公約登記的國家徽章等,從2013年2月開始,也陸續放入世界各國商標申請案或已註冊商標的資訊。如今,在「Global Brand Database」上已經可以查到16個國家商標主管單位的商標資訊。在2014年11月20日的時間點上,該資料庫約存放有1400萬筆的資訊,而從2014年5月起也開提供了上傳圖片檔案檢索類似圖形商標的圖像檢索功能。   目前參加「Global Brand Database」資料庫資訊提供服務的國家包括美國、澳州、加拿大、新加坡、紐西蘭、瑞士、菲律賓、丹麥、以色列、蒙古、埃及、柬埔寨、愛沙尼亞、阿聯酋、阿曼、阿爾及利亞等16個國家,中國、韓國並未參加。

知名品牌Burberry槓上好萊塢知名男星Bogart肖像權及商標權

  Burberry近期在社交網站臉書(facebook)的動態時報上上載了一張Bogart穿著Burberry風衣的照片,照片上傳後隨即吸引了上千萬粉絲按讚,但熱潮的席捲下也引來了侵權風波。   該照片為1942年"Casablanca"電影劇照,主角人物為於1957年去世的Bogart,其被美國電影協會公認為美國電影史上最棒的男性演員。因為Bogart於電影中傳神的飾演Rick Blaine角色,不僅在電影粉絲心中留下鮮明的文化表徵(cultural icon),更使得該張劇照贏得最佳照片獎(Academy Award for best picture)。   正因為Bogart的知名度以及該張電影劇照的受歡迎程度,Bogart後裔對於Burberry這樣的使用提出了抗議。Bogart後裔要求Burberry停止使用該張劇照,否則就要提起訴訟控告Burberry侵害Bogart的肖像權和商標權。在接受到Bogart後裔的要求後,Burberry隨即於紐約聯邦法院提出確認之訴,請求法院確認其使用並未侵害歸屬於Bogart後裔的商標或肖像權。因應Burberry的提告,Bogart後裔隨即於加州州法院提起商標侵權訴訟,請求法院發出禁制令,停止Burberry再使用Bogart的名字和任何照片。   雙方針對此一爭議各有主張及堅持。Burberry聲明該劇照是向專門從事照片、影像授權業務的Corbis公司取得授權而來,其主張使用該劇照主要是要描述Burberry在時尚產業的悠久歷史,以及該品牌的重要性及影響性,其並非利用該劇照來達到行銷Burberry的目的,所以其不認為開始用有任何侵權問題。此外,Burberry認為將該劇照使用在臉書的動態時報上這樣的行為是受到美國憲法第一修正案言論自由的保護。   Bogart後裔則認為Burberry使用劇照於市場行銷相關素材/媒介上,可明確看出其有意於Burberry實際及潛在消費者心中,將Burberry品牌及產品商業性連結至Bogart名人形象上,所以Burberry的行為已侵害到Bogart的商標權和肖像權。   Burberry及Bogart後裔雙方因應不同州法律採用策略性訴訟技巧,分別於紐約及加州提起訴訟,知名品牌和知名男星後裔的商標及肖像權之爭正式開戰,法院判決結果值得後續關注。

TOP