美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=67&tp=1 (最後瀏覽日:2026/04/03)
引註此篇文章
你可能還會想看
德國福斯公司商標設計者決定提出控訴

  現年八十六歲的奧地利老人 Nikolai Borg ,決定對德國著名汽車公司 --- 福斯汽車提起訴訟,請求該公司對外正式發表聲明,宣示其才是該公司 VW 商標真正的設計者。該項訴訟費用已經獲得奧地利貿易協會的資助。   Volkswagen 的原意為「國民車」,起源於納粹德國的國民車計畫,是當時納粹政府「由歡愉獲得力量計畫」( the Nazi Kraft durch Freude propaganda scheme )中的一部份,當時政府一方面奴役勞工,但一方面也希望建立一個世界上最完善的社會福利制度,故也希望建造出每個勞工都開得起的汽車。   從 1950 年起 Borg 便為 VW 商標而戰,但從未成功。其非難福斯公司因為不敢面對納粹難堪的過去,因此也不承認對其應負的責任。 Borg 指出,當時納粹時期的德國交通部長 Fritz Todt 委任他設計商標,當時有三個計畫需要設計標誌,不過由於國民車的計畫是一個新的計畫,因此 Todt 希望他可以設計國民車的標誌。由於當時為公部門工作所得之創意產物是不可能申請智慧財產權的,因此 Borg 在設計出該標誌後,並未獲得任何權利,儘管戰後其多次與福斯公司交涉,希望該公司承認其才是真正的商標設計者,但截至目前為止,福斯公司都聲稱該公司的標誌到底是誰設計的,目前已經無法得知。(科法中心 劉憶成編譯)

英國衛生部提出健康照護科技行為準則,以增進資訊安全以及新技術操作品質

  英國近來透過電子醫療紀錄的應用,以智慧演算法(intelligent algorithms)開發結合數位技術的創新醫療科技,這些成果多是以國民健保署(National Health Service, NHS)的資料做為基礎,因此關於資訊保障等議題也開始受到政府之重視。   2018年9月5日,英國衛生部(Department of Health and Social Care)在NHS健康與護理創新博覽會(NHS Health and Care Innovation Expo Conference 2018)中公布「以資料導向的健康照護科技之行為準則」(Code of Conduct for Data-driven Health and Care Technology)。此準則主要鼓勵研發公司在設計產品時,將患者的資訊安全以及新技術的操作品質列入考量。   此行為準則的目的主要在於改善整體研發環境,內容包含十項原則,分別為:界定使用者、界定價值(value proposition)、對使用的資料保持合理(fair)、透明(transparent)以及當責(accountable)的立場、符合一般資料保護規則(General Data Protection Regulation, GDPR)的資料最小化原則(data minimisation principle)、利用公開之標準、公開被使用的資料以及演算法的極限、在設計中內建合適的安全性設定、界定商業策略、展示技術使用上的有效性、以及公開演算法的類型、開發原因、與操作過程的監控方式。   官方期望接下來能廣納相關人員的建議,以增進此指引在產業運作上的適用性,並預期於2018年12月公布更新的版本。

中國最大搜尋引擎簽署知識產權網路侵權協議

  創意產業之發展在中國,具有相當之重要性。在出版物、音樂、電影、電視和遊戲軟件開發等創意相關產業,已占中國GDP 5%以上。2016年4月中國最大的搜尋引擎公司「百度」與國際出版商版權保護聯盟(IPCC)簽署版權保護合作備忘錄。IPCC為多間國際出版公司參與的非營利性組織,由於侵權盜版行為再中國日益嚴重,IPCC積極的向中國國內的網路平台公司洽談合作意願。   中國百度為了減少網路侵權作品的擴散,透過技術在作品原創性、正版與維權上,開發防盜版系統及線上投訴管道。百度公司與IPCC透過定期的資訊交流,除了在版權保護上合作,雙方也將繼續針對搜尋內容之正版化合作,此舉提升百度搜尋引擎在內容上的豐富性,同時也意味著中國在知識產權上更向前了一步。   IPCC除了與百度簽署版權保護協議外,也針對網路上具有侵權之網站應列表與仿冒品之跨境執法問題上提出意見交流。另外在政策面上,針對涉及中國正在進行的著作權修法議題,包括著作權集中授權、藝術家之轉售權、著作權的例外與限制及音樂視聽著作權進行討論。 「本文同步刊登於TIPS網站(https://www.tips.org.tw)」

英國政府提出線上盜版刑期從2年延長10年

  英國政府提議將網路盜版者的有期徒刑從2年調整到10年的法律修正案,假使這修正案被批准,將會使網路著作權侵權刑責與實體侵權的刑責趨於一致。   英國智慧財產局公開了諮詢文件,提到利益人希望調整網路侵權的刑事制度,提高為10年的有期徒刑的訴求。英國政府同意網路著作權侵權導致的嚴重損害不少於實體盜版侵權的損害。此項修正案的嚴刑峻罰對於網站擁有者的影響將大於個人侵權者。政府文件指出,此修正案特別針對設法透過網路廣告和訂閱費用獲利的犯罪活動。   英國的智慧財產部長Baroness Neville-Rolfe說道,創意產業帶動超過7萬億經濟價值,應著重保護創意產業遠離網路犯罪集團。對於商業規模的網路犯罪行為採取嚴峻的刑罰,將可提供產業更大的保護,並可明確傳遞清除犯罪的決心以嚇阻罪犯。   政府針對諮詢文件提供六周的時間供個人和組織對此已知的提案提供意見,一旦政府進一步對此議題的回應進行評估與審查,可預期未來幾個月即可獲知此法律修正案最終的決定。 將網路侵權的刑期提高到10年已經是第二次推動,在2005年Gowers智慧財產權審查報告中已經提議提高刑責2年到10年,但在當時政府拒絕此項提議,因為當時政策僅針對嚴重或危險的罪犯處以監禁服刑。

TOP