美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=67&tp=1 (最後瀏覽日:2026/08/26)
引註此篇文章
你可能還會想看
韓國K-Startup競賽(K-Startup Grand Challenge 2020)提供全球新創企業進入亞洲市場的重要管道

  對於欲前往韓國發掘商機並在亞洲擴展業務的全球企業家和新創企業而言,韓國政府的所提供的新創計畫(K-Startup Grand Challenge)是一個相當開放且友善的平台,該計畫由中小企業和新興企業部(MSS)和國家IT產業促進局(NIPA)主導,於2020年5月起接受全球新創企業申請。   該計畫為亞洲地區首次全額由政府資助的計畫,旨在支持希望進入韓國並進一步開拓國際市場的外國新創企業,其申請基本條件如下: 7年內成立的全球新創公司。 必須有明確的長期發展方向,並以在韓國定居為目標。 具有雛形的產品或服務,且處於初始階段的新創公司。   通過申請的企業將有為期3個月的資助計劃,並可選定的團隊成員至韓國進行交流,向該產業專家學習,更提供財務支持以及進入市場發展等多元化的機會,重要的是,透過交流學習可促進新創企業,有機會與韓國大型企業集團接觸,獲取與該大型企業合作的可能。   韓國為使其成為亞洲新創產業中心,積極資助、指導許多的新創企業,且陸續成立相關競賽與計畫,提供新創公司發展的平台,例如,國土交通省舉辦”智能挑戰賽”,鼓勵企業採用創新技術解決該城市的需求與提高生活便利性(如:智能人行道、自駕車…等);以及韓國創業發展研究所(KISED)透過資助與教育為新創者提供更多的發展機會。

美國聯邦第七巡迴上訴法院宣告電業以設置智慧電表手段蒐集用電戶即時用電資訊合法

  美國聯邦第七巡迴上訴法院於2018年08月16日宣告,美國伊利諾伊州杜佩奇縣內珀維爾市(Naperville)所經營之「獨占性」公用售電業,以裝設智慧電表手段蒐集用電戶即時(Real Time)用電資料,並保存長達三年之行為,並無違反美國憲法第四條修正案以及伊利諾州憲法第一條第六項所宣示之不得以不合理手段對於民眾居住隱私資料進行搜索之限制。   美國聯邦第七巡迴上訴法院闡明,本案爭點有二:第一,內珀維爾市(Naperville)所經營之獨占性公用售電業以裝設智慧電表手段蒐集用電戶即時用電資料,並保存長達三年之行為,是否構成美國憲法第四條修正案以及伊利諾州憲法第一條第六項所謂之「對於民眾居住隱私資料之搜索」?第二,如內珀維爾市(Naperville)所經營之獨占性公用售電業以裝設智慧電表手段蒐集用電戶即時用電資料係構成「對於民眾居住隱私資料之搜索」,則內珀維爾市(Naperville)所經營之獨占性公用售電業是否有更高之公益,可合理化此一對於「對於民眾居住隱私資料之搜索」之行為?   美國聯邦第七巡迴上訴法院認定內珀維爾市電業以智慧電表手段蒐集民眾用電資訊,確實是構成美國憲法第四條修正案以及伊利諾州憲法第一條第六項所謂之「對於民眾居住隱私資料之搜索」。但是由於珀維爾市電業蒐集這些用電資訊,是基於更高之公益目的,因此仍屬以合理手段對於民眾居住隱私資料進行搜索。因此判決本案珀維爾市電業勝訴。   於第一爭點,美國聯邦第七巡迴上訴法院認定智慧電表之紀錄內容包含「電器負載特徵(load signature)」以及「用電戶電力消耗慣性」,對比Kyllo v. United States, 533 U.S. 27, 31-32(2001)乙案下警方以熱感應器方式偵測住宅整體熱能有無之行為,更高度細緻化、具有侵入性,且智慧電表之設置,於現今尚非普及(not in general public use),因此構成對於民眾居住隱私資料之搜索。又內珀維爾市(Naperville)所經營之獨占性公用售電業雖辯稱用電戶於裝設智慧電表時,皆已經同意電業蒐集其個人用電資訊,然美國聯邦第七巡迴上訴法院認定,內珀維爾市(Naperville)所經營之公用售電業具有高度獨占性,故用電戶裝設智慧電表之同意難謂有效,且用電戶同意用電,不代表用電戶即同意分享其用電資訊。   惟於第二爭點,美國聯邦第七巡迴上訴法院認定,由於內珀維爾市(Naperville)所經營之獨占性公用售電業已經聲明不會將此類用電資訊分享予有關政府機關,且本案對於用電戶用電資訊之蒐集,其目的亦與刑事追訴無關,是以應以低密度審查標準看待本案即可,又本案內珀維爾市(Naperville)所經營之獨占性公用售電業裝設智慧電表之目的在於促使電網現代化,並且可使發電業供應更加穩定之電力,並且也可以透過時間電價(Time-Based Pricing)之方式促使用電戶節電,並且減少電網負載,同時也可以使發電業節省查表之人事成本,因此雖然內珀維爾市(Naperville)所經營之公用售電業透過裝設智慧電表之手段蒐集用電戶即時用電資訊係構成對於用電戶之民眾居住隱私資料之搜索,然由於其具有更高之公益性,因此仍可合理化此一對於「對於民眾居住隱私資料之搜索」之行為。   綜上,本案美國聯邦第七巡迴上訴法院判定內珀維爾市(Naperville)所經營之獨占性公用售電業勝訴。

Serenex控訴員工竊取癌症新藥商業機密資料

  美國公司Serenex,指控兩位離職的舊員工,竊取實驗用癌症藥物,並賣給中國公司。Serenex控訴先前聘僱的化學家黃雲生是國際商業間諜,黃雲生偷竊Serenex的商業機密,並用偷來的資料來提供給海外尋找專利的公司。員工竊取機密已經是個日趨嚴重的問題,尤其是對全球型的企業,以及智慧財產為主的公司。   Serenex擁有30個員工,目前正進行實驗性癌症藥物的人體測試。根據報告Serenex自2001年設立後,所募得的風險資本已從2千6百萬美元提升至8千1百萬美元。為此,Serenex在威克高等法院提起訴訟,同時也將北京國藥龍立科技公司、基爾生物科技公司以及負責人Tongxiang Zhang列為被告。   Serenex的律師Jonathan Sasser表示,Serenex以提出訴訟的方式來保護他們的產品,並且希望調查是被百分之百確信,沒有人會去提出偽造的主張,並在起訴書上陳述,黃雲生在竊取機密後,Serenex於二月時將他解雇,但是黃雲生的律師Walter Schmidlin抗辯說明黃雲生自願離職,並且否認有做任何不法情事。Schmidlin同時表示Serenex並不能提出任何證據證明黃雲生拿了商業機密資料。

歐洲藥物管理局修正發布「藥品交互作用試驗指針」提升用藥安全與效用

  歐洲藥物管理局(European Medicines Agency, EMA)今(2012)年7月6日修正發布「藥品交互作用試驗指針」(Guideline on the Investigation of Drug Interactions),EMA表示這是該指針自1997年發布以來最大的修正,內容包括藥廠如何進行新藥與已經流通使用的藥品的潛在交互作用研究,以及新藥與食品的交互作用研究。   「藥品交互作用試驗指針」內容包括用藥建議方案,其乃基於臨床相關交互作用以及調整用藥劑量、監控病人用藥情形之可行性研究為基礎。同時,有關草藥使用的建議方案也包括在內。   EMA表示,新的修正內容使「藥品交互作用試驗指針」與藥品交互作用研究科學之發展現況趨於一致,例如現已能透過少數的精密設計研究,即可預測臨床相關藥品交互作用的結果,以及在了解近年酵素觸發技術(enzyme induction)與藥物載體(drug-transporter)間的交互作用上的科學進展。   藥物交互作用對於用藥的安全與效用極為重要,許多病人,尤其是年長者經常需要同時服用多種藥物,因多種藥物交互作用而產生的負作用(adverse effects)是患者反覆就醫的重要因素之一,且可能減低個別藥物原有的療效。   「藥品交互作用試驗指針」新修正內容將於2013年1月1日生效,全文共計七部分,主要重點在第五部分的藥物動力學(Pharmacokinetic)交互作用研究,內容包括:從研究進行方式即藥品的吸收、分布、代謝、移轉到人體試驗設計、草藥與特殊食品產品、以及產品特性標示事項等都有建議規範,其全文可至EMA官方網站下載。

TOP