美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=67&tp=1 (最後瀏覽日:2026/10/25)
引註此篇文章
你可能還會想看
我國電子遊戲場業管理條例修法研析-參考美國佛州Family Amusement Games Act

我國電子遊戲場業管理條例修法研析 -參考美國佛州Family Amusement Games Act 資策會科技法律研究所 法律研究員 王凱嵐 105年04月06日   去年七月,美國佛州政府簽屬一份Family Amusement Games Act 法案,條文部份針對電子遊戲機做完整的定義解釋,及遊戲機所擺放的場域做限制。特別的是此法案排除博弈遊戲,僅針對非博弈遊戲做獨立規範。   新修法案之目的在於解決相關遊戲業者面對舊法時的疑惑。修法後將博弈性遊戲與技術性遊戲做出區分,另關於遊戲擺放的場域以及遊戲獎賞都有明確的立法條文。法案做出明確規範後,大幅度的降低遊戲機業者對於政府法規的不確定感,在遊戲產業上能夠有更多的空間去發展及調整。   在我國,長久以來電子遊戲場所給大眾多為不良的印象,政府雖然早已制定「電子遊戲場業管理條例」作為規範,但自民國八十九年二月三日公布施行至今已超過十五年,立法時之管制目的及作法與現今社會風氣、產業趨勢已不盡相符,本文擬藉由參考美國佛州對於遊戲機的定義及限制規定,就未來可能之修法方向提出建議。首先論我國現行條例之問題,再論美國佛州立法可採之處,最後將針對現行條例未來修正提供建議。 壹、美國佛州Family Amusement Games Act:   美國佛州Family Amusement Games Act (以下簡稱「親子遊戲機法」)對於遊戲機台做以下的文字解釋:「可供一般民眾單純娛樂之遊戲,得使用鈔票、硬幣、卡片、彩券、代幣、籌碼或相似的替代物進入遊戲,並能以遊戲技術控制遊戲結果。排除任何其它具有博弈性質的遊戲。」從佛州法條上的解釋可以看出,此立法上將遊戲區分技術性與博弈性兩種類型,遊戲者必須是以自身遊戲技巧控制遊戲並能影響其結果,且非只靠運氣或投機心態遊戲。與佛州舊法相比,新法之遊戲機不僅以使用硬幣為限,允許使用其它相類似的替代物遊戲。提高了彩券獎品的金額限制,並新增遊戲機得放置的場域(保齡球館、旅館、餐廳)。   為了使定義更加完善,美國佛州新法僅針對博弈性遊戲做解釋:「1.遊戲以機械式或影像上具有吃角子老虎機的捲軸或符號,或以視頻模擬任何其他賭場遊戲,包括撲克、賓果、拉霸機、樂透、輪盤賭、擲骰子,但不僅限於上述之遊戲。2.遊戲中玩家無法以自身技巧控制結果或其遊戲結果為不可目測、不可知悉、不可預見。3.視頻撲克遊戲或任何遊戲或機器可被本州法律解釋為賭博設備。4.任何遊戲或設備被規定在15 U.S.C. s. 1171,除非排除在15 U.S.C. s. 1178。」從以上的條文可以看出,佛州在博奕性遊戲上,完整的做出定義,使遊戲業者能清楚的知道遊戲機的類別區分,對於機台發展和市場推廣上有相當大的助益。   美國佛州將非博奕性遊戲機區分為A、B、C三類。首先A類為得重複遊戲獎勵遊戲機,其遊戲結果不得以現金、彩券、籌碼、點數、折價卷或任何有兌換價值之電子點數當作獎勵。此類遊戲機,因其遊戲性質僅以單純地重複性遊戲,在擺放區域上並無限制。B類為得以彩券做為遊戲獎勵之遊戲機。C類為得以直接獲取獎勵物品之遊戲機,但其商品價值不得超過一定之金額限定。B、C兩類遊戲機,其擺放場域相似度高,僅有部分場域另做規定。區分此三類之目的,在於規範不同遊戲結果之遊戲機台。又關於彩券及獎勵物品在佛州新法中,也有詳盡的規範,具體的勾勒出三種遊戲機三種不同的遊戲態樣。 貳、我國電子遊戲場業管理條例   我國電子遊戲場業管理條例第4條所稱之電子遊戲機「指利用電、電子、電腦、機械或其它類似方式操縱,以產生或顯示聲光影像、圖案、動作、之遊樂機具,或利用上述方式操縱鋼珠或鋼片發射之遊樂機具。但未具影像、圖案,僅供兒童騎乘者,不包括在內。」關於電子遊戲機的認定,判斷上以是否利用電、電子、電腦、機械或其它類似方式操縱,若是符合以上要件,應屬於本條例所稱之電子遊戲機。   我國「電子遊戲場業管理條例」採營業分級、機具分類之制度,依據遊戲之內容之暴露、暴力、血腥、恐怖程度及操作結果區分將電子遊戲機分為三類:益智類、鋼珠類、娛樂類。所謂益智類遊戲其內容無任何暴露、暴力、血腥或恐怖,亦無任何渲染妨害風化之元素在內,且其操作結果所得之分數僅得作為兌換獎品之憑證,不得作為轉押住使用,判斷標準相當嚴格。   關於遊戲營業場再區分成兩類,我國電子遊戲場業管理條例第5條:「普通級:指僅設置益智類電子遊戲機,供兒童、少年及一般大眾遊藝者。限制級:指設置鋼珠類、娛樂類或附設益智類遊戲電子遊戲機,僅供十八歲以上之人遊藝者」而又同條例第9條之規定:「電子遊戲場業之營業場所,應距離國民中、小學、高中、職校、醫院五十公尺以上。」,由此可知我國雖將電子遊戲機依內容區分為三類,但其遊戲場所只區分兩類,且在設置地區之限制是相同的。 參、小結   數位休閒產業現階段發展所遇到的問題,除了先前提到的負面形象外,還包含法制規範已不符合潮流,此現象造成產業被法律嚴格管理、地方政府限制發照、人才投入意願低落。因此,修改現行管理條例以及匡正產業形象已有其必要性與重要性。   前述美國佛州的立法例,在遊戲機的定義上即與我國有明顯不同。佛州以進入遊戲的方式定義新法所規範的遊戲機類別。我國可考慮參考此分類方式,將遊戲類別的區分單純技術性與射倖性遊戲(博弈目前在我國不合法),並在益智類遊戲分類項下針對暴露、暴力、血腥或恐怖等要素,參考遊戲軟體分級之作法再作進一步的區分,同時搭配擺放遊戲機台場域的限制規定,不再用原則限制的角度去立法,而是回歸到遊戲場業管理制度上做規範,使遊戲機台開發商或製造業者能按其公司營運方向進行內容種類的規劃,以追求產業發展與安全監管上的平衡。

美國加州「Asilomar人工智慧原則決議」

  美國加州議會於2018年9月7日通過Asilomar人工智慧原則決議(23 Asilomar AI Principles, ACR-215),此決議表達加州對於「23條Asilomar人工智慧原則」之支持,以作為產業或學界發展人工智慧、政府制定人工智慧政策之指標,並提供企業開發人工智慧系統時可遵循之原則。依此法案所建立之重要指標如下: (1)於研究原則上,人工智慧之研究應以建立對於人類有利之人工智慧為目標。 (2)於研究資助上,人工智慧之研究資助應著重幾個方向,如:使人工智慧更加健全且可抵抗外界駭客干擾、使人工智慧促進人類福祉同時保留人類價值以及勞動意義、使法律制度可以順應人工智慧之發展。 (3)於科學政策之連結上,人工智慧研究者與政策擬定者間應有具有建設性且健全之資訊交流。 (4)於研究文化上,人工智慧研究者應保持合作、互信、透明之研究文化。 (5)於安全性上,人工智慧研究團隊應避免為了研究競爭而忽略人工智慧應具備之安全性。 (6)人工智慧系統應該於服務期間內皆具備安全性及可檢視性。 (7)人工智慧系統之編寫,應可使外界於其造成社會損失時檢視其出錯原因。 (8)人工智慧系統如應用於司法判斷上,應提供可供專門人員檢視之合理推論過程。 (9)人工智慧所產生之責任,應由設計者以及建造者負擔。 (10)高等人工智慧內在價值觀之設計上,應符合人類社會之價值觀。 (11)高等人工智慧之設計應可與人類之尊嚴、權利、自由以及文化差異相互調和。 (12)對於人工智慧所使用之資料,其人類所有權人享有擷取、更改以及操作之權利。 (13)人工智慧之應用不該限制人類「客觀事實上」或「主觀知覺上」之自由。 (14)人工智慧之技術應盡力滿足越多人之利益。 (15)人工智慧之經濟利益,應為整體人類所合理共享。 (16)人類對於人工智慧之內在目標應享有最終設定權限。 (17)高等人工智慧所帶來或賦予之權力,對於人類社會之基本價值觀應絕對尊重。 (18)人工智慧所產生之自動化武器之軍備競賽應被禁止。 (19)政策上對於人工智慧外來之發展程度,不應預設立場。 (20)高等人工智慧系統之研發,由於對於人類歷史社會將造成重大影響,應予以絕對慎重考量。 (21)人工智慧之運用上,應衡量其潛在風險以及可以對於社會所帶來之利益。 (22)人工智慧可不斷自我循環改善,而可快速增進運作品質,其安全標準應予以嚴格設定。 (23)對於超人工智慧或強人工智慧,應僅為全體人類福祉而發展、設計,不應僅為符合特定國家、組織而設計。

KCC提出Giga Internet計畫

  南韓通訊傳播委員會(Korea Communications Commission, KCC)與國家資訊社會局(National Information Society Agency, NIA) 於2009年7月24日共同宣佈「Giga網路促進計劃」的開展,預計在2012年開始提供商轉服務。Giga網路可在十秒鐘內下載一部DVD影片,較既有的光纖區域網路快上十倍。 南韓政府選定Giga網路作為國家型計畫乃係為了在「寬頻匯流網路」(BcN)計畫後,能繼續提供世界上一流的廣播通訊基礎建設。另一目的是希望藉此能有效利用高品質、大容量與匯流之資訊。 為了發展與Giga網路相關的技術、設備及服務,「Giga網路促進計劃」的參與者包括南韓的資通訊大型企業,包括一類、二類電信業者、相關軟業體、終端設備商與研究機構。藉此以全面且有體系性地逐步於未來四年內推行此計劃。該計畫預計於在2012年底,提供3D與多角度IPTV、HD家庭閉路電視(CCTV)與電視多媒體訊息服務給2,000家戶 。   KCC常委Tae-Gun Hyung預測:該計畫不將止是促進產業發展,也增加了全球資通訊匯流的科技競爭力,提供了新的市場進入領域,改變人們生活型態,並且帶給社會極大的催化效力。 南韓未來四年推動Giga網路取代BcN的成效,相當值得資通訊產業與發展型態屬性相近的台灣參考,作為我國推動數位匯流的重要借鏡。

加拿大可能推動更嚴格的身份盜用法律

  加拿大的身份盜用問題嚴重,根據Canadian Council of Better Business Bureaus估計,每年因身份盜用所造成的經濟整體損失超過二十億加幣。此外,去年十一月Ipsos-Reid的調查顯示,73%的加拿大人擔心身份盜用問題,且28%的加拿大人曾親身遭遇、或是有周遭認識之人因此受害。   然而,與身份盜用猖獗的現況相較,加拿大個人資料和隱私保護法制一直飽受批評,被認為無法遏止此一問題擴散。加拿大資料安全之基礎規範為「個人資訊保護與電子文件法」(Personal Information Protection and Electronic Documents Act),但以具有重要嚇阻效果的刑法而言,卻只處罰濫用他人身份資訊,如身份詐欺、冒用、偽造等行為,但對於初步蒐集、處理和盜賣身份資訊之行為,卻難以透過現行刑法規範。   身份盜用可能造成的影響層面相當廣泛,例如個人的財務和信用損失、商業或財金產業的損失,甚至是整體納稅人的傷害。   職是之故,加拿大勞工部、魁北克經濟發展部等政府首長乃宣布,聯邦政府有意推動刑法之修改,使檢警對於先期身份盜用(或違法資料蒐集)之行為,有更大的調查和追訴空間,並希望此一政策方向能獲得國會的後續支持。

TOP