美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=67&tp=1 (最後瀏覽日:2026/06/14)
引註此篇文章
你可能還會想看
馬爾他政府針對電子商務法之建議修法內容尋求公眾意見

馬爾他競爭力暨通訊部 (Ministry for Competitiveness & Communications, MCMP) 部長 Censu Galea 九月二日公布了「電子商務法」建議修法內容之公開諮詢文件。部長特別強調了電子商務的重要性,尤其對地理位置孤立的島國如馬爾他,電子商務更能有效克服其競爭力上的缺憾。   馬爾他「電子商務法」 自 2002 年生效以來,該國的電子商務呈現蓬勃發展之勢,亦達到 為資訊社會鋪路之目的 。 此次修法建議欲建立一輕度但有效的管理機制,此機制不但能確保網路服務提供者切實遵循法律義務,並加強了消費者權益的保護。另外,此修法建議也計劃完整移植歐盟電子商務指令及電子簽章指令之規定。   馬爾他通訊局 (Malta Communications Authority, MCA) 身為修法建議中的主管機關,將獲授權得於法庭外調解網路服務提供者與消費者間之爭議。 該修法建議亦設計相關措施,確保在馬爾他成立的資訊社會服務提供者不受不必要的官僚體系而阻礙發展。在馬爾他設立之資訊社會服務提供者不論其在何國提供服務,都將只受馬爾他法律規範。再者,這些服務也不必經過任何形式的許可。 該修法建議亦要求網路服務提供者必須揭露基本資訊,讓客戶了解其交易對象,並維持網路交易過程一定的透明度。

替代能源有著落了?!

  國際油價持續飆漲,如何找到替代能源,已成為生技發展的一項重要課題,財團法人生物技術開發中心過去兩年密集和美國德拉瓦州的 Fraunhofer 分子生物科技中心( Fraunhofer USA Ins.- Center for MolecularBiotechnology )技術合作,以微生物發展工業酵素,可取代乙二醇( EG )做為塑膠材料,這項合作已吸引台塑及中油的高度興趣。   生技中心自去年起與美國 Fraunhofer 衍生公司 Athenabio 合作,投入二十萬美元發展工業酵素,以微生物來取代化工製程,開發出一三丙二醇。這項化工原料在西方已被視為取代乙二醇,扮演「生化煉油廠」的典型產品,結合對苯二甲酸( TPA )後,可做為保特瓶等塑膠容器。   除了工業酵素外,生技中心也與美國 Fraunhofer 分支機構分子生物科技中心簽署合作協議,計劃未來兩年內,以植物根部來生產流感疫苗,而以植物來生產流感疫苗的技術,其收成期僅需二至三周,每公斤的植物根部可生產的疫苗約○.二至○.五毫升,同時可省下四億美元投資額的生物發酵槽。此項利用植物扮演製藥廠的構想,該中心算是這項領域的技術領先者,以相同的技術所生產之炭疽疫苗,已獲美國食品藥物管理局( FDA )核准進入臨床( IND ),將進行一期臨床試驗。

Google宣佈提供無線路由器擁有者可將其定位資料退出Google資料庫之機制

  全球搜尋引擎龍頭Google被發現於2008年3月至2010年5月間,透過其街道定位服務,違法蒐集位於荷蘭360萬個無線路由器(Wi-Fi routers)之資料。Google因其違法蒐集資料之行為,面臨140萬歐元之罰款。   由於荷蘭相當重視隱私保護之概念,因此Google之作法引起社會之爭議,在荷蘭社會反彈之壓力下,Google於11月15日宣布,同意提供民眾將其住家地點或公司行號之無線路由器識別碼資料退出Google資料庫之機制。路由器之擁有者可透過更改服務設定識別碼(Service Set Identifier, SSID)之方式,退出Google定位服務之資料庫。荷蘭個人資料保護主管機關首長Jacob Kohnstamm認為,Google之舉對於消費者隱私之保護具有正面之幫助。   Google所提供的定位服務主要是透過所蒐集之資訊,提供其開發的Android手機定位服務,利用所蒐集的定位資料使行動電話或者行動裝置之用戶得以定位其所在之位置,並且提供用戶當地氣象以及地圖資訊。除此之外,定位服務也增加Google對鄰近商號之廣告收益。Google實施退出資料庫之機制後,其必須另外以GPS系統進行定位,定位服務可能將發生不精確之情形,另外,也將使得行動裝置因需搜尋衛星訊號而耗費較多電力。Google全球隱私顧問Peter Fleischer指出,事實上Google的定位服務無法辨識個人資料,但Google認為提供退出資料庫機制更增進對於個人隱私之保護。   歐洲各國對於Google所蒐集之無線存取資料皆有隱私保護之疑慮,因此,除了荷蘭外,目前Google也在法國公告提供此項退出機制,未來將進一步於全球實施。

流行音樂「取樣」之著作權概念

  流行音樂之抄襲,於我國著作權法之評價上,是以著作權法第91條第1項「擅自以重製之方法侵害他人之著作財產權者」來評價,我國智慧財產法院已有相關判決可供參酌,如智慧財產法院 103 年刑智上易字第 47 號刑事判決。惟流行音樂之創作,往往受到流行趨勢及過去其他作品的啟發,但將任何的風格上的模仿皆認為係著作權之侵害顯然並不恰當,而旋律相似度高達九成左右者屬於抄襲固然無庸置疑,然僅取樣(sampling)使用少數詞曲,用以表達概念或致敬之使用他人創作情形,其判斷標準,或可參考美國法院之判決見解。   2003年的Newton v. Diamond案中,第九巡迴上訴法院認可「微量取用」(de minimis use)原則,認為在有數十秒的取樣情形時,當一般聽眾不認為是挪用,即構成微量取用,並無實質近似,且若未取樣原曲之重要部分,亦不構成抄襲。但2005年時,聯邦第六巡迴上訴法院在Bridgeport Music, Inc. v. Dimension Films案中,對微量取用的情形提出「明確性規則」(bright- line rule),認為必須要取得授權方得取樣;而美國最高法院則在1994年的Campbell v. Acuff-Rose案中,認為雖有擷取他曲旋律,但整體曲風不同時,採取轉化性原則,認為構成合理使用。

TOP