美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=67&tp=1 (最後瀏覽日:2026/08/07)
引註此篇文章
你可能還會想看
日本電業節能義務之介紹

美國與歐盟宣布跨大西洋資料保護框架

  美國和歐盟執委會於2022年3月25日宣布將建立新的跨大西洋資料保護框架(Trans-Atlantic Data Privacy Framework),該框架將促進美國與歐洲之間的資料流通,並解決歐盟法院在2020年宣布隱私盾協議(EU-U.S. Privacy Shield framework)無效時所提出的疑慮與問題。   該框架是重新建立美國與歐盟兩地個人資料傳輸的一個重要法律機制。美國承諾將實施新措施,以確保訊號情報活動(signals intelligence activities)是在必要且合法的國家安全目標下進行,並且不得不成比例地影響對個人隱私和公民自由的保護。基此,美國承諾的新措施包含強化美國訊號情報活動的隱私及公民自由保障機制、建立獨立且具約束力的救濟措施,以及強化美國情報機構對現有訊號情報活動的程序且分層監督。對於歐盟公民而言,將有全新且高標準的規範來保護個人資料;而對於美歐間的民眾和企業而言,該框架將可促進資料持續流動,足以鞏固歐美兩地每年高達一兆美元的跨境貿易,並使各種規模的企業能夠在彼此的市場中競爭。   資料流通對於美歐雙方的經濟關係以及所有企業而言都至關重要。事實上,美國和歐洲之間的資料流通所創造的經濟價值高達7.1兆美元,高居世界首位。在此背景下,新的跨大西洋資料隱私框架將強化美國與歐盟雙方對隱私、資料保護、法治和整體國家安全的共同承諾,未來美國與歐盟雙方將依此框架持續推進雙方各自相關的法律規範。

韓國K-Startup競賽(K-Startup Grand Challenge 2020)提供全球新創企業進入亞洲市場的重要管道

  對於欲前往韓國發掘商機並在亞洲擴展業務的全球企業家和新創企業而言,韓國政府的所提供的新創計畫(K-Startup Grand Challenge)是一個相當開放且友善的平台,該計畫由中小企業和新興企業部(MSS)和國家IT產業促進局(NIPA)主導,於2020年5月起接受全球新創企業申請。   該計畫為亞洲地區首次全額由政府資助的計畫,旨在支持希望進入韓國並進一步開拓國際市場的外國新創企業,其申請基本條件如下: 7年內成立的全球新創公司。 必須有明確的長期發展方向,並以在韓國定居為目標。 具有雛形的產品或服務,且處於初始階段的新創公司。   通過申請的企業將有為期3個月的資助計劃,並可選定的團隊成員至韓國進行交流,向該產業專家學習,更提供財務支持以及進入市場發展等多元化的機會,重要的是,透過交流學習可促進新創企業,有機會與韓國大型企業集團接觸,獲取與該大型企業合作的可能。   韓國為使其成為亞洲新創產業中心,積極資助、指導許多的新創企業,且陸續成立相關競賽與計畫,提供新創公司發展的平台,例如,國土交通省舉辦”智能挑戰賽”,鼓勵企業採用創新技術解決該城市的需求與提高生活便利性(如:智能人行道、自駕車…等);以及韓國創業發展研究所(KISED)透過資助與教育為新創者提供更多的發展機會。

Blizzard使用Battle Tag取代網路實名制,並提供驗證器保護玩家帳戶

  自從2010年07月Blizzad曾經宣布針對旗下網站論壇欲推動實名制引起廣大爭議後,於沈寂一年後宣布採用Battle Tag取代原本想推動的實名方式,Battle Tag 類似連網帳號綁定的方式,由玩家自行選擇一個名稱,而該名稱最終將整合成為玩家在Blizzard旗下所有遊戲的官方網站或社群論壇的身分。   Battle Tag讓玩家用新的方式管理他們的帳戶資料,同時可以讓曾經在遊戲中並肩作戰的玩家,在不同遊戲間找到彼此,而能保持聯繫。原本Blizzard推實名制的目的之一在於確保玩家是否年滿18歲,但因引發爭議而作罷。現在他們使用Battle Tag作為替代方法,而Battle Tag 其實是由玩家自行選擇一個帳號名稱,另外再由系統隨機分配4位數的代碼方式(例如:名稱#1234),藉此創設出玩家自己獨特的名稱。   另一方面,為了保護這些整合的帳戶,且提昇玩家的帳戶安全,Blizzard並採用驗證器(Keychain Authenticator、 Mobile Authenticator),實際上驗證器就是一種憑證,玩家將驗證器與帳號連結後,即可讓自己的帳戶增加一層防護,Blizzard藉此希望降低玩家帳戶被盜的風險,因為越多玩家參與的遊戲,其帳戶實體價值可能越高,且2012年5月15日發售的暗黑破壞神3(Diablo Ⅲ),更開放了亞洲區以外的遊戲虛擬物品的現金拍賣場,如此玩家的帳戶更需要重重保護,不過才發售不到一週的時間,就有許多玩家回報帳戶遭盜用,其中亦有使用驗證器保護帳戶的玩家聲稱仍然遭盜用。

TOP