美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=67&tp=1 (最後瀏覽日:2026/05/05)
引註此篇文章
你可能還會想看
英國公布包含爭議性斷網條款的數位經濟法案(Digital Economy Bill)持續引發反彈聲浪

  在眾多反對聲浪下,英國政府仍然發佈了包含爭議性斷網條款的數位經濟法案,該法案賦予國務大臣要求ISP業者對於疑似非法侵權檔案分享者斷網之權力,在沒有法院介入審查的前提下,得要求ISP業者對於涉嫌侵權的使用者斷網。法案公布後持續引發眾多反彈聲浪。   ISP業者如:TALK TALK以及BT等,都對於這項規定持續表達反對的立場。ISP業者認為此一作法不但有違無罪推定的原則,且對於ISP業者而言,也增加了行政與費用上的負擔;但相對的,音樂唱片業者則表現出樂見其成的態度,認為此一規定將有助於英國音樂產業的永續發展。   雖然法案內容大多來自於以振興英國數位經濟為目的Digital Britain報告,但斷網的作法並不是該報告所提出的建議。英國商務大臣Mandelson表示,此一條款將保護英國創意社群免於受到網路侵權的威脅,並獲得應有的報酬,同時也提供新的選擇給網路消費者。   歐盟希望透過電信產業規範的重整,禁止成員國通過未經法院審查的斷網條款,要求斷網必須要有先行程序,但給予成員國的卻是像設定三振條款作法的彈性,不見得是斷網法院審查前置的程序,因此,歐盟的相關指令對於英國的斷網規定未必會有阻擋的效果。

Dell與Alcatel-Lucent在東德州“線上買賣”(Online Buying)專利侵權訴訟,Dell敗訴

  美國東德州聯邦地方法院的法官於今年2月5日,對Dell指稱Alcatel-Lucent侵害其所有之兩項線上管理顧客及產品資料的電腦製造方法專利乙案作出判決。判決指出,因為Dell無法向陪審團證明Alcatel-Lucent有引誘或侵害Dell專利權的事實,而Alcatel-Lucent亦無法以明確且具說服力的證據證明系爭案件中Dell所有的專利為無效,所以本案亦無任何損害賠償問題。Dell於訴訟中所主張的兩項專利權,主要為關於加速促進顧客線上下單購物的技術,其美國專利權號碼分別為6,182,275及6,038,597。關於本判決結果,原告Dell方面尚未表示是否會對本判決提起上訴,然被告法商Alcatel-Lucent則對此判決結果表示則肯定。   Alcatel-Lucent與Dell之間的專利訴訟並未就此結束, Alcatel-Lucent在加州之前起訴Dell, Gateway及Microsoft專利侵權之訴訟,主要為影像解碼及選擇影像播放模式技術之專利,專利號碼分別為4,958,226; 4,383,272; 4,763,356;5,347,295及 4,439,759.,該專利訴訟自2003年開始在加州纏訴。Alcatel-Lucent主張被告三家公司應給付專利侵權之損害賠償一共超過美金30億的天價,本案業已上訴,審理的法院已訂期將於近日展開審判。然而,由於Gateway去年被宏碁(Acer)併購後,已積極地與Alcatel-Lucent進行談判,雙方並於今年2月中達到庭外和解的協議。所以,Dell在東德州敗訴的消息,是否會影響其未來在加州是否會繼續訴訟或尋求庭外和解的態度,將是市場人士專注的焦點。

日本印章制度與電子署名法修正

  日本國會於2021年2月9日正式提出「數位社會形成基本法草案」(デジタル社会形成基本法案),立法目的為提升國家競爭力、國民生活便利性,以建置一個「數位社會」,基本原則為降低數位落差,而降低數位落差之重要手段即包括日本印章制度之改革。   日本政府對印章制度之改革,可分為「取消蓋章制度」及「增加電子簽章使用率」二條路線。由於新冠疫情(COVID-19)影響全球工作型態,日本政府為推動電子化服務,考慮取消印章使用,因為其徒增商業活動成本,亦可能提升染疫風險。日本行政改革大臣河野太郎在2020年11月13日內閣會議後之記者會上即表示,約1萬5000種需要使用印章的行政服務中,絕大多數將取消蓋章制度。「數位社會形成基本法草案」亦預告將修改48部要求使用印章之法律,本草案及相關修法將於2021年9月正式通過施行。   電子簽章使用方面,日本在野黨聯盟於2020年6月提出「電子署名及認證業務法一部修正草案」(電子署名及び認証業務に関する法律の一部を改正する法律案)。依照現行規定,電子簽章須本人以一定方式簽署始可推定為真正,推定真正之條件過度嚴苛,便利性未優於實體蓋章,致使電子簽章使用普及度低落。本草案則降低推定門檻,僅須以特定電子方式簽署即有推定真正效力,使電子簽章簽署人身分驗證更為容易。目前法案仍在眾議院提案階段,尚未經國會表決通過,後續發展值得關注。

布拉格提案(The Prague Proposals)

  2019年5月3日,來自全球30多國的政府官員與來自歐盟、北大西洋公約組織的代表於捷克布拉格所舉辦的5G資安會議(Prague 5G Security Conference)中,強調各國建構與管理5G基礎建設時應考慮國家安全、經濟與商業發展等因素,特別是供應鏈的安全性,例如易受第三國影響之供應商所帶來的潛在風險,本會議結論經主辦國捷克政府彙整為布拉格提案(The Prague Proposals),作為提供世界各國建構5G基礎建設之資安建議。   在這份文件中首先肯認通訊網路在數位化與全球化時代的重要性,而5G網路將是打造未來數位世界的重要基礎,5G資安將與國家安全、經濟安全或其他國家利益,甚至與全球穩定等議題高度相關;因此應理解5G資安並非僅是技術議題,而包含技術性與非技術性之風險,國家應確保整體性資安並落實資安風險評估等,而其中最關鍵者,則為強調確保5G基礎建設的供應鏈安全。   因此在布拉格提案中強調各國建構通訊網路基礎建設,應採用國際資安標準評估其資安風險,特別是受第三國影響之供應商背後所潛藏之風險,並應重視5G技術變革例如邊緣運算所產生的新風險態樣;此外對於接受國家補貼之5G供應商,其補貼應符合公平競爭原則等。布拉格提案對於各國並無法律上拘束力,但甫提出即獲得美國的大力肯定與支持。

TOP