美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=86&tp=1 (最後瀏覽日:2026/11/21)
引註此篇文章
你可能還會想看
英國資源與廢棄物策略

  英國環境食品與鄉村事務部於2018年12月18日提出「英國資源與廢棄物策略」(Resources and waste strategy for England),以全面性的角度提出英國對資源與廢棄物的處理政策,包含如何最有效利用資源與最小化廢棄物的產出,追求在2050年達到加倍資源生產力,並禁絕包含塑膠廢棄物在內之可避免廢棄物產生,作為英國推動循環經濟的政策藍圖。   這份政策文件可以區分為三大部分,第一部分為產品的生命週期,包含從製造、消費到生命週期的完結;第二部分為主要議題,聚焦在論證環境犯罪(waste crime)與食物浪費(food waste)此兩大議題並不適用於前述的產品生命週期;並且在第三部分的未來展望上,提出三大面向突破傳統的產品生命週期觀點,包含國際領導(international leadership)、研究創新(research & innovation)與監管措施(data, monitoring and evaluation),建立起資源與產品生命週期的循環,以達到追求最大化資源利用效益與最小化廢棄物產生的目標。   在政策文件當中特別呼應了歐盟塑膠對策(EU Plastic Strategy),強調在英國針對塑膠議題提出的2025指引(The UK Plastics Pact – A Roadmap to 2025)當中,目標在2025年達到消滅無法處理或一次性使用之塑膠廢棄物,使用100%可再利用、回收或可分解之塑膠包材,達成70%的塑膠包材可回收或分解效率,並於塑膠包材中使用30%以上的可再生原料。

中國大陸「網路預約出租汽車經營管理暫行辦法」

  所謂中國大陸《網路預約出租汽車經營管理暫行辦法》,是指中國大陸針對目前在各國都陸續發生法律爭議的網路出租車叫車平臺,例如源自美國加州舊金山的優步(Uber),或是中國大陸當地發展的滴滴打車服務,所制定的專法規範,以期解決網路出租車叫車平臺所可能產生的法律爭議。   類似Uber的服務型態,之所以會產生法律爭議,主要是因為汽車運輸載客的商業行為,在各國都會受到汽車運輸業的相關管制,以保障運輸服務乘客安全及消費權益。以德國為例,就曾因此對Uber進行行政處罰,並進一步於司法判決中要求Uber司機需取得營運牌照。   也因此中國大陸交通運輸部在2016年7月14日通過,並於2016年11月1日起施行《網路預約出租汽車經營管理暫行辦法》,該規定將網路預約出租汽車服務定義為「預約出租客運」,平台業者需負擔車輛營運、收益分配與司機管理等等的任務,且其地位為中國大陸汽車運輸載客法規中的客運服務承運人,需負擔相當責任,而並非如Uber等所主張的其僅為仲介平台,不具客運服務承運人之地位。   此外,該辦法亦要求網路預約出租汽車之司機應滿足無交通肇事犯罪紀錄、無危險駕駛犯罪紀錄、無吸毒紀錄、無飲酒後駕駛紀錄、無暴力犯罪紀錄等條件。

義大利正式加入歐洲單一專利制度

  歐盟執行委員會宣布義大利於2015年9月30日成為「加強合作系統(enhanced corporation)」的第二十六個會員國,加強合作機制是里斯本條約下的法律工具,且加強合作機制允許九個或更多的歐盟會員國使用歐盟的程序及架構來制訂約束這些會員國的協議。經由加強合作機制規劃來發展新的單一專利制度,義大利成為會員國後即加入單一專利制度,就專利登記來說,因義大利是歐洲第四大市場,但義大利曾經是少數不涉及推動新單一專利框架的歐盟國家之一且曾隨西班牙挑戰單一專利法規的合法性,故這是相當重要的突破。   委員會發言人並表示隨著義大利申請加入加強合作系統,義大利已簽署單一專利法規。西班牙與克羅埃西亞是目前唯二未採用單一專利法規的歐盟國家。單一專利法規提供支持新單一專利制度的法律框架。法規讓參與單一專利國家的所屬企業能藉由向歐洲專利局單一專利申請取得專利保護,而不需要到各個國家單獨申請專利。然而,單一專利保護將只應用於這些已簽署及認可單一專利法院協議及採用單一專利法規的國家。到目前為止有八個國家已認可單一專利法院:奧地利、法國、比利時、瑞典、丹麥、馬爾他共和國、盧森堡及葡萄牙。

歐盟議會擬將電子香菸納入規範落實菸害防制

  歐盟議會今年(2013)10月8日,針對「菸草產品指令」修正草案(Revision of the Tobacco Products Directive)進行投票,擬將電子香菸納入藥用規範落實菸害防制。此次修正草案目的在於規範歐盟菸草產品內部市場運作,保障公眾健康,該修正草案要點歸納如下 (一)包裝與標示   嚴格規範菸草產品需標示有礙健康的訊息和警語,並以圖示與文字呈現。除涵蓋外包裝正面與背面的65%外,側邊應標記妨害健康之警示。 (二)成分與添加物   為預防青少年對菸品產生興趣,規定菸草產品的外部包裝與內容物部份,需讓消費者清楚瞭解,購買的菸草產品有危害健康之疑慮,尤其是禁止香甜或水果風味的菸品要求在包裝上印刷更多警示規範,例如:不得將菸草產品以糖果、化妝品等樣式包裝之;禁止添加巧克力、香草等添加物抑制菸草刺激氣味。 (三)菸草產品規範範圍   對未含菸草成份之菸草產品,研擬具體規範辦法,例如:電子香菸、草藥香菸,擴大菸草產品規範範圍。   菸草產品指令之修正案預計於明年(2014)通過,藉由該項修正案統一歐盟各會員國對菸害防制標準與共識基礎,以提高會員國對菸草使用的危機意識,增加對禁菸、戒菸政策落實之動力。

TOP