美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=67&tp=1 (最後瀏覽日:2025/08/31)
引註此篇文章
你可能還會想看
論數位環境下個人資料保護法制之發展與難題-以「 數位足跡」之評價為核心

德國通過電力市場發展法和能源轉型數位化法以因應下階段

  德國聯邦議會通過電力市場發展法(Gesetze zur Weiterentwicklung des Strommarktes)和能源轉型的數位化法(Gesetze zur zur Digitalisierung der Energiewende)。   本次新制定之電力市場法,是90年代後德國電力市場重大發展。目的在於調適電力市場,以配合當今德國快速成長的再生能源發電比例。為使電力供應繼續保持合理價格和電力供應可靠安全,在確認未來電力市場發展繼續朝向增加越來越多風力發電和太陽能發電之路線的同時,預先架構法制環境,為將來配合運用發電端的彈性、需求端彈性與電力儲存技術,確定電力市場發展方向和框架條件。在上述等規範之下,電力交易商有義務,亦即售電者應該設法建構自身電量儲備作為因應,在電網需要時饋入電網,為供電安全提供必要準備。另外在注重必要容量儲備上之投資外,亦強調電力批發市場上的自由定價原則,維持整體市場所需容量在均衡、平衡之穩定電力供應狀態。   另外,能源轉型數位化法則是使電力部門成為創新之有效制度工具。蓋其作為基礎建設,使新創業模式,例如藉由與消費者持有之再生能源發電設備之連結,發展出新商業獲利模式。修法核心內容係引入智慧量測系統,功能在於作為安全的通訊平台,使電力供應系統能夠配合能源轉型發揮最大功用。   最後,為配合巴黎協定後德國環境政策,在遏止溫室效應氣體的實施具體作為,電力市場法一部份重要內容在於暫時停止褐煤電力電廠發電運轉。配合電網安定的調度需求,僅在指定時間內,使其成為電力安全預備,並最終不再使用褐煤發電,以實現到2020年德國在電力部門的氣候目標。   德國完成電力市場法,結束由“綠皮書”和“白皮書”開始的進程,與鄰國經過廣泛的公眾諮詢和協調會議之後,最終選擇電力市場2.0與市場自由定價的機制,而反對所謂的容量市場。決定性的因素在於,如此一來政策所需花費的成本較另一選項來得低,且更容易使德國融入歐洲電力單一市場架構。依據本法新創建的容量儲備,將與電力市場中其他電力嚴格區分,專門作為應對突發事件額外的安全網。   在「區域合作聯合聲明」中,德國經濟與能源部長於2015年6月8日與11鄰國商討後決定,保證在電力短缺和高電價時,德國側將提供電力的自由定價和跨境交易,如此一來可用更低成本以生產電力,德國和周邊國家的內部單一市場在此看到了巨大的經濟優勢。   與歐洲各國相較,德國在電力供應安全議題上處於領先地位。再加上新的電力市場法,預計未來幾年電力市場能夠達到持續健全發展之目標。

歐盟研究:應重視改善基因改造產品管理規範的區域性差異

  基因改造作物的商業化普遍在各地受到管理規範,如今全球即將步入上市階段的基因改造作物與日俱增,相反地在歐洲地區相關核准作業程序卻遲滯緩慢。這主要起因於各國家地區對於基因改造產品所採取管理方式與法律規範各有不同,相關產品的安全評估標準及法律審查程序也有所差異,因此目前基因改造作物產品雖然在同一時間內申請上市核准,之後仍難以取得全球各國家地區之核准。   今(2009)年7月,歐盟所屬之研究單位Joint Research Centre(JRC)指出基因改造作物產品的非同期性核准(asynchronous approval)將為全球農業市場交易帶來相關一連串的問題。根據JRC研究,某些國家地區如歐盟,採取全面禁止基因改造作物(“zero-tolerance policy”),立法禁止核准基因改造作物以進口商品之名義輸入,即便某些基因改造作物已在本國境內允許種植並且將其歸類為安全,但任何含有上述微量基因改造作物成分之農產品,也同樣遭歐盟禁止輸入,歐盟全面禁止基因改造作物產品之作法形同架設了一道產品交易的禁令。以過往經驗為例,因歐盟全面禁止基因改造作物之管理方式,已導致產品無法輸入,大幅影響該地區的動物飼料。   隨著全球基因改造作物種植面積及商業使用量增加的發展趨勢,未來恐將難以在全球市場中取得毫無添加基因改造作物的產品,尤其當這些基因改造作物是允許在其他國家境內種植,但卻未獲歐盟批准者。因此,相對於未添加基因改造作物產品之價格將因此上揚,而仰賴動物飼料進口輸入的歐盟則應多加關切此事。   為能降低含有微量基因改造作物商品所帶來的衝擊,JRC歸納「全球基因改造作物商業化流程研討會」中專家學者之意見,建議歐盟宜再次考量全面禁止政策之必要,或改以容許低含量基因改造作物產品之上市標準予以取代;其他建議則包括簡化核准程序,設立各國互相認可的基因改造作物風險評估方法,以及彈性落實國際食品標準委員會相關之規定,以期能減少日後基因改造作物產品非同期性核准之影響。

肯塔基州參議院日前通過得適用醫療補助保險,但同時排除人工流產的通訊醫療照護法案

  於2018年02月26日,美國肯塔基州(下略)參議院通過「通訊醫療照護(Telehealth)法案」《第112號修正法案》,修法精神聚焦在增進人民受到照護的機會,同時節省花費,但明文禁止通訊醫療照護適用於人工流產,此部法案將於2019年07月01日生效。 根據前開法案,州政府應: 發展、完善相關政策及程序以確保通訊醫療照護得被適當地使用,同時亦應保障個人資料、隱私、落實知情同意、適當補助等。 增加通訊醫療照護作為醫療照護的機會。 維護通訊醫療照護政策、綱領,同時避免醫療補助保險資源遭浪費、詐害與濫用,並提供得施行通訊醫療照護的醫師名單予具醫療補助保險(Medicare)適格的公民,藉此保障前揭公民均可受到安全、妥適、有效率的醫療照護。 保障醫療補助保險的適用者得以使用通訊醫療照護。   參議員Ralph Alvarado(提修正法案之議員)表示通訊醫療照護通過後有以下優點: 監控慢性疾病的能力提升。 增加特殊照護、心理健康(衛生)的機會。 減少急診室的使用。 降低病患因交通而不便就醫的情況。 節省花費。   申言之,前開修正內容明確要求政府相關人員必須建立更詳細的通訊醫療照護管控機制,並且將通訊醫療照護納入醫療補助保險的範疇,並具有前開諸多優點。另外,因為通訊技術(即時視訊及通訊)的特性使然,使用通訊醫療照護技術的醫生(下稱醫生)可能在世界上的任何一個地方進行,然而前開法案要求醫生須在肯塔基境內取得執照,以利獲得醫療補助保險的補助。   此外,參議員Wil Schroder在本次修法中提出禁止通訊醫療照護適用於人工流產(為防免懷孕初期以服用藥物之方式進行人工流產)的提案,確切的條文規定為「醫師為人工流產醫療行為時,必須患者待在同一空間並親自為之。」(A physician performing or inducing an abortion shall be present in person and in the same room with the patient.),甚者,若違反前開通訊醫療照護禁用於人工流產的禁令時,則將背負D級的刑事罪責,最後以32:3之高票通過;然而,其中投下反對票的參議員McGarvey認為通訊醫療照護對於肯塔基州的醫療照護是重要的實踐與擴張,因此應開放通訊醫療照護適用於人工流產。 (註:telehealth常見翻譯為遠距醫療照護/遠距醫護,然考量我國醫師法第11條授權訂定「通訊診療辦法」之名稱,故本文從之。)

TOP