美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0)

美國國家標準與技術研究院(National Institute of Standards and Technology, NIST)於2023年1月26日公布「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework, AI RMF 1.0),該自願性框架提供相關資源,以協助組織與個人管理人工智慧風險,並促進可信賴的人工智慧(Trustworthy AI)之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢,獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時,是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新,期待各產業發展出適合自己的使用方式。

本框架首先說明人工智慧技術的風險與其他科技的差異,定義人工智慧與可信賴的人工智慧,並指出設計該自願性框架的目的。再來,其分析人工智慧風險管理的困難,並用人工智慧的生命週期定義出風險管理相關人員(AI actors)。本框架提供七種評估人工智慧系統之信賴度的特徵,包含有效且可靠(valid and reliable):有客觀證據證明人工智慧系統的有效性與系統穩定度;安全性(safe):包含生命、健康、財產、環境安全,且應依照安全風險種類決定管理上的優先次序;資安與韌性(secure and resilient);可歸責與資訊透明度(accountable and transparent);可解釋性與可詮譯性(explainable and interpretable);隱私保護(privacy-enhanced);公平性—有害偏見管理(fair – with harmful bias managed)。

本框架亦提出人工智慧風險管理框架核心(AI RMF Core)概念,包含四項主要功能:治理、映射(mapping)、量測與管理。其中,治理功能為一切的基礎,負責孕育風險管理文化。各項功能皆有具體項目與子項目,並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」(AI RMF Playbook),提供實際做法之建議,並鼓勵業界分享其具體成果供他人參考。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 美國國家標準與技術研究院公布人工智慧風險管理框架(AI RMF 1.0), 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?no=67&tp=1&d=8974 (最後瀏覽日:2024/02/29)
引註此篇文章
你可能還會想看
CRTC以違反加拿大「反垃圾郵件法」對波特航空開罰

  加拿大之地區航空公司-波特航空(Porter Airlines),因違反當地「反垃圾郵件法」(Anti-Spam Law),於2015年6月29日被加拿大廣播電視及通訊委員會(Canadian Radio-television and Telecommunications Commission,簡稱CRTC)裁罰150,000美元。   2014年7月1日施行之反垃圾郵件法,係為杜絕因濫發郵件而對資料當事人造成困擾所制定。在該法中,針對寄送商業電子訊息要求需符合「獲得當事人同意」、「識別發送人之資訊」、「取消訂閱功能設計」等三項條件。然而,波特航空所寄出之商業電子訊息,卻:(1)未設計退訂機制供資料當事人選擇退訂;(2)未提供法規要求之發送人完整聯絡訊息;(3)資料當事人提出取消商業電子郵件訂閱之請求,未於法定之10個工作日內執行;(4)自2014年7月至2015年2月寄出之每一封商業電子郵件,波特航空無法證明其已獲當事人之同意而為之。   CRTC法遵暨執行部門主席Manon Bombardier認為,在過去,企業都習慣依照一般商業慣例或內部政策執行相關工作,透過此一個案,希望能對其他企業產生警示作用。企業應針對發送電子商業訊息之部分,重新檢視並審查其內部相關程序及步驟,是否確實符合當地法規要求及條件,以免類似觸法事件再度發生。

美國國家標準技術局(NIST)更新電子簽章標準

  美國國家標準技術局(National Institute of Standards and Technology, NIST)於近日(2013年7月)更新電子簽章的技術標準「FIPS (Federal Information Processing Standard) 186-4數位簽章標準」,並經商務部部長核可。NIST於1994年首次提出電子簽章標準,旨在提供工具可資促進數位時代的信賴性,後續也隨著技術進步與革新,而有多次修訂。此次修訂,主要是調合該標準,使之與NIST其他加密相關指引(如金鑰加密標準)一致,以避免將來可能產生的矛盾。   此次增訂,亦明列出三種可保護資料的簽章產製與確認技術:數位簽章演算法(Digital Signature Algorithm, DSA)、橢圓曲線簽章演算法(Elliptic Curve Digital Signature Algorithm, ECDSA)、以及RSA公眾金鑰演算法(Rivest-Shamir-Adleman Algorithm, RSA)。   其他修訂的部分,還包括語彙的明晰化,以及降低對於隨機號碼產生器的利用限制…等。

歐盟智慧財產局發布2022年《中小企業智慧財產記分板》

  歐盟智慧財產局(EUIPO)於2022年9月28日發布了2022年《中小企業智慧財產記分板(Intellectual Property SME Scoreboard 2022)》。EUIPO從2016年起進行本項調查,希望可以瞭解中小企業的現況,持續強化中小企業的智慧財產權保護。本次調查在2019年調查的基礎上,於2022年3月至5月間,針對歐盟境內8,372間中小企業進行調查。   根據本次的調查,有10%的中小企業擁有註冊的智慧財產權,在這10%的中小企業中,有93%的企業表示註冊智財權對其營運產生正面效益,包含: 1.有60%的企業表示能提高其商譽或形象。 2.有58%的企業表示能強化其智慧財產的保護。 3.有48%的企業表示能促進其長期的商業前景。   其次,在這10%的中小企業中,有45%的企業透過出售、授權或間接利用其註冊的智慧財產權促進企業發展,其中已有超過三分之一(36%)的企業成功獲得經濟收益。   此外,根據調查,企業註冊智慧財產權的主要原因包含: 1.有66%的企業表示有助於防止他人侵害其產品或服務(66%)。 2.有65%的企業表示有助於提升公司的價值和形象(65%)。 3.有63%的企業表示法律狀態穩定性更高(63%)。   再者,企業不願意註冊智慧財產權的理由包含: 1.有35%的企業表示無法預見註冊能帶來的好處。 2.有20%的企業表示其智慧資產(Intellectual Asset)創新性不足。 3.有19%的企業表示不瞭解註冊的相關程序。   最後,在這10%的企業中,有15%的企業表示曾被侵權,導致其營業額和商譽受損;其中以商標侵權的比例最高。在這些曾被侵權的企業中,有89%已採取相關措施捍衛其智慧財產權,包含: 1.有43%的企業與侵權者直接談判。 2.有31%的企業發送侵權通知(takedown notice)。 3.有29%的企業提起訴訟。   中小企業是歐盟經濟的支柱,但根據統計,只有大約30-60%的中小企業存活超過5年;為了提升中小企業的競爭力,歐盟持續推動各項政策鼓勵中小企業採取智慧財產權保護其創新研發,以提升歐盟經濟的整體發展。   本文同步刊登於TIPS網站(https://www.tips.org.tw)

科技化創新金融服務規範研析—以行動支付和第三方支付為例

TOP