美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=64&tp=1 (最後瀏覽日:2025/11/21)
引註此篇文章
你可能還會想看
日本特許法有關職務發明報酬規定之新近發展趨勢

  企業或機構對於所屬研發人員所為的 職務發明 , 應該給予多少的報償才算「合理」,近年來成為日本專利制度的爭議話題之一,其中 Olympus Optical Co., Ltd. v. Shumpei Tanaka 、 Yonezawa v. Hitachi Co. Ltd. 、 Nakamura v. Nichia Chemical Co Ltd 幾件訴訟案件更受到高度矚目,引發各界對於日本特許法(即專利法)中第 35 條第 3 、 4 項相關規定之檢討與議論,進而促使日本國會於 2004 年 5 月 28 日 通過特許法修正案,並自 2005 年 4 月 1 日 正式生效。   修正後之日本特許法有關受雇人發明制度部分,修正了第 35 條第 3 項及第 4 項並新增第 5 項。第 35 條第 3 項規定,受雇人依據契約、工作規則或其他約定,同意授予雇用人關於受雇人所為發明之專利申請權、專利權或設定專用實施權時,受雇人對於雇用人有收取合理報酬之權。第 35 條第 4 項規定,依據前項所定之契約、工作規則與其他約定,訂有報酬之約定時,在該報酬之決定標準係經由受雇人與雇用人協議為之,該報酬標準係經公開,且受雇人對於計算報酬金額所表達之意見,亦被充分聽取的情形下,依據該約定所為之報酬金給付應被認為是合理的。又同條第 5 項之規定,若企業內部之契約、工作規則與其他約定,並未規定報酬金額,或雖有規定,但該規定之報酬金額被認為是不合理的,則第 3 項所規定之合理報酬金額,應權衡雇用人基於該發明所獲得之利益、所承受之負擔及對該發明所做之貢獻,與受雇人在相關發明中所獲得之利益及其他相關因素加以認定之。   上述修正規定最大的特色在於 :(一)尊重自主協議 ; (二)報酬計算要件更加具體化 ; (三)鼓勵裁判外紛爭解決手段 。新修正之受雇人制度會帶來什麼樣的影響,目前各界仍在觀察;不過可確定的是,相較於舊法,新法至少在計算合理報酬上,要求雇用人須踐行更多的程序及其他要件,而這程序或要件規定將可減少法官在舊法時計算合理報酬金額的沈重負擔,與高度不確定所帶來的風險,並且亦可減少受雇人發明訴訟的總數量。 以日本電子大廠 Toshiba 新近在 7 月底與其離職員工 Fujio Masuoka 就閃光記憶晶片技術( flash memory chip technology )所達成之職務發明報酬和解協議為例, Toshiba 在 7 月 27 日 發布的新聞稿中,即特別感謝東京地方法院對公司有關員工職務發明之報酬政策及看法的尊重。

美國「能源效率改革法案」簡介

由美國「二十一世紀通訊與視訊接取無障礙法」談無障礙通訊傳播環境之建立

美國參議員提出「消費者網路視訊選擇法」草案

  越來越多消費者由網際網路觀賞視訊內容,保護新興視訊業者之市場競爭力也越加重要。美國參議員John D. Rockefeller於2013年11月發佈「消費者網路視訊選擇法(Consumer Choice in Online Video Act)」草案,塑造一個以消費者需求為中心的視訊市場,提供完全的單頻單賣(a la carte),使消費者有權力選擇想看的節目、決定想看的時間、挑選收看的方式,並且只為真正收看的內容付費。   此外,本法案亦規範網路服務業者必須提供消費者更完整精確的帳單資訊,以增進消費者權益。在促進市場競爭的目的下,本法案也賦予新興視訊產業基本的保護,防止既有業者之反競爭行為,使市場能有效競爭,帶給消費者更多利益。   該法案的主要規範內容簡介如下: ‧管制既有之有線電視、衛星電視與大型媒體公司對網路視訊服務業者的反競爭行為。 ‧提供網路視訊服務業者合理的取得各種節目內容之能力,使他們能提供給消費者更多節目與服務的選擇。 ‧管制寬頻服務業者不得降低其市場競爭者之網路傳輸品質,以保護網路視訊業者接觸消費者、提供服務的管道。 ‧提供消費者更為透明與容易理解的帳單資訊。消費者在申請網路服務時,將能得到更為清晰易懂的服務契約與條款的資訊。 ‧指示聯邦通信委員會持續監督寬頻服務之資費條件,確保這些資費條件不被用於反市場競爭行為。   隨著寬頻服務的普及,網際網路能夠提供更多元的內容,一方面消費者能夠有更多的選擇,確保市場持續有效競爭是非常重要的,本法案對我國而言亦有相當參考價值。

TOP