美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=67&tp=1 (最後瀏覽日:2026/08/05)
引註此篇文章
你可能還會想看
歐盟統一專利制度可望於2014年實施

  在歷經超過三十年的討論後,歐洲議會於12月11日通過統一專利制度包裹草案。在統一專利制度下,省去申請生效的翻譯費用及程序,能夠節省最高八成的專利申請成本,可望增加歐盟的科技創新競爭力。   2011年在歐盟僅有6萬兩千個新專利申請被核准,遠少於美國同年的22萬4千個專利、中國的17萬2千個專利,其中一個主要原因是因為在歐盟申請專利的成本過高。目前申請歐盟專利除了透過各會員國專利局外,亦可以依據歐洲專利公約(European Patent Convention, EPC)向歐洲專利局(European Patent Office, EPO)申請,然核准後仍須向各會員國提交該國官方語言版本以生效,因此耗費大量程序及翻譯費用,平均每個專利需花費36,000歐元。   統一專利制度下,不論對於個人或公司發明人都能夠提供更便宜、更有效率的專利保護。統一專利制度包裹草案包含三個協議:統一專利制度、統一申請語言、統一專利法院。統一專利制度及統一申請語言建立適用於歐盟各國的專利制度,僅需以英文、德文或法文進行單一申請即可擁有25個會員國(除反對之義大利及西班牙外)自動專利保護,不需再另外申請生效,使得專利申請降至最低4,725歐元,大幅減少歐洲公司申請專利成本,增加歐洲企業競爭力,對於中小企業、研究機構幫助最大;另外,對於中小企業、非營利組織、自然人、大學及研究機構,若居住或主要營業處所位於歐盟內,以非統一申請語言提出申請案件通過後,會退還翻譯費用;針對中小企業也會降低專利維護費用。統一專利法院則能集中處理統一專利之爭端,預計設立於巴黎,並於倫敦及慕尼黑設立分院。   統一專利制度將在2014年1月1日生效,或是在13個會員國批准時生效(須含法國、德國及英國),歐盟專利局預計第一批適用新制的專利將於2014年4月被核准。

德國第二部開放資料法案簡介

德國第二部開放資料法案簡介 資訊工業策進會科技法律研究所 2023年03月25日 壹、前言 德國聯邦政府於2021年7月16日通過「第二部開放資料法案」(Zweiten Open-Data-Gesetz),包含修正《電子政務促進法(電子化政府法)》(E-Government-Gesetz,EGovG)第12a條,以及修正《資訊再利用法》(Informationsweiterverwendungsgesetz,IWG)並更名為《公部門資料使用法》(Datennutzungsgesetz - DNG),並於同年月23日生效。 修正目的係為充分發揮資料開放政策之潛力,建立一個初步的監管框架,改善資料提供、提高標準化及互通性的問題,以進一步提高資料之可用性。另外,也為轉換歐盟於2019年6月修正《開放資料與公部門資訊再利用指令》(DIRECTIVE (EU) 2019/1024,Open Data and the re-use of Public Sector Information Directive,下稱開放資料指令)[1]。 資料來源:作者自繪 圖一 「德國第二部開放資料法案」立法沿革 以下分別介紹電子化政府法第12a條及《公部門資料使用法》的修法內容: 貳、修法內容 一、電子化政府法第12a條 2017年7月13日,德國在《電子化政府法》新增第12a條「聯邦直接行政機關開放資料」(Offene Daten der Behörden der unmittelbaren Bundesverwaltung)規定,做為「聯邦政府」進行開放政府資料的法源[2]。本次修法法案,調整電子化政府法第12a條的部分條文,並改稱標題為「聯邦開放資料授權命令」,課予聯邦政府之政府資料開放義務(但仍未賦權民眾依據本法要求開放特定之政府資料)。以下簡介新舊規範比較: (一)受規範主體範圍:所有聯邦機關 舊法限於「直接從屬於聯邦政府的行政機關」,不包含自治團體(如邦政府)、公立機構、公立法人、公立基金會、公立大學等[3]。 新法則擴大主體範圍,不限於「直接從屬於聯邦政府的行政機關」,而涵蓋所有「聯邦機關」(Die Behörden des Bundes)(第1條),包含公營造物、公法社團法人及公法財團法人等[4];這些新適用主體開放資料的緩衝期,為法規生效後12個月內應首次提供。不過,適用主體仍不包含自治團體(如邦政府)與公權力受託人[5]。 (二)受規範客體範圍 同舊法,本法所稱的資料,仍為「由聯邦機關為完成公共任務所蒐集,或由受委託之第三方代表聯邦機關所蒐集之資料」,且包含「研究資料」,並應符合以下5款條件: 1.以電子方式儲存、以集合形式結構化(尤其適用於列表和表格)。 2.存在於該機關之外的事實,但與該機關有關者 3.非由聯邦機關處理其他資料所產生的結果 4.調查後未經過處理者 但有以下情形時可以處理後再開放:(1)為糾正錯誤而處理;(2)基於法律或事實原因而處理,例如依個資法規定匿名)。 5.資料涉及個人時,匿名化且無法再識別個資者。 舊法中,以負面表述的方式,提及涉及個資保護事由時,不開放資料;新法則增加正面表述,資料雖涉及個人,但若已去識別化且無法再識別者,即可作為開放客體。 (三)開放原則及例外 與舊法相同,採取「預設開放原則」(Open by Default),即已經完成電子化,且不具例外理由時,聯邦機關即須開放這些資料。 例外則是符合以下情形者,聯邦機關不須提供資料: 1.資訊自由法規定不公開之政府資料 根據資訊自由法(Informationsfreiheitsgesetz,IFG)第3、4及6條(涉及特殊公共利益的資料、保護官方決策程序的資料、保護智慧財產權及營業秘密),不具取用權(Zugangsrecht,right of access)或僅具有限取用權的資料(與舊法相同)。 2.只有在第三方參與後,取用權才存在的資料(與舊法相同) 例如依據相關法規規定,須經過聽取第三方意見的程序(如聽證會),或須衡量第三人利益,才能提供資料的情形。[6] 3.資料由非受公權力委託之第三方建置,且非法律規定有傳輸義務者(與舊法相同) 4.已透過其他管道開放之研究資料(新法新增) 基於研究目的所蒐集之資料,且已透過開放取用(open access)的網路免費提供者,無須再提供;但仍可自願於國家詮釋資料入口網站(GovData)開放。 此為新法新增,不同於舊法,「基於研究目的所蒐集之資料」應開放提供,但法規特別規定如果已經基於其他原因已可開放取用者,即依照原先狀態繼續開放取用,機關無義務再透過其他管道提供[7]。 5.受銀行保密義務保護之資料(新法新增) 6.含有個人資料的資料集 特別從前款「資訊自由法規定不公開之政府資料」拉出,單獨成項(新增於電子化政府法第12a條第3a項)作為強調。 (四)資料提供方式 1.原則蒐集後立即提供,但研究資料可延後 新法新增為研究目的所蒐集之資料的提供時點彈性,研究資料若要提供,則應於研究計畫完成且研究目的完成後才能提供[8]。 2.以機器可讀格式提供 3.提供詮釋資料於「國家詮釋資料入口網站」(GovData) 4.免費、隨時、無須理由、不須註冊、透過公開使用網路提供資料檢索 5.可不受限制的再利用 (五)各部門設立協調員與中央辦公室聯繫 聯邦政府應設立中央辦公室,負責就聯邦機關提供資料作為開放資料時給予建議,並作為各邦負責開放資料辦公室的聯絡點。 聯邦各機關也應任命一名開放資料協調員,作為各部門與中央辦公室聯繫的聯絡人,並致力於識別、提供及再利用其所屬部門之開放資料。 (六)推行開放資料 與舊法相同,聯邦政府應每2年提出研究報告,向聯邦眾議院報告透過聯邦機關(不包含公營事業)開放資料的進展。 新法另增訂兩項事宜: 1.聯邦政府應評估開放資料法之適用主體擴展到自治團體、邦政府、受委託行使公權力的自然人與法人的可能性。 2.授權聯邦內政部與其他聯邦權責單位及聯邦政府專員達成協議,訂定法規命令規範開放資料之具體作法。 (七)公務員免責 聯邦機關沒有義務檢查所提供的資料的正確性、完整性、可信性。 (八)第12a條不能作為提供資料的請求權依據 電子化政府法於第12a條第1項後段明文該條不能作為提供資料的請求權依據,因此人民未被賦予得以請求政府開放資料之權利。[9] 二、公部門資料使用法 德國於2006年轉換2003年版的歐盟《公部門資訊再利用指令》(Directive 2003/98/EC,下稱PSI指令),制定《資訊再利用法》(Informationsweiterverwendungsgesetz,IWG),並隨著PSI指令於2013年的修正(Directive 2013/37/EU)而於2015年修正。本次再基於PSI指令於2019年修正為開放資料指令,《資訊再利用法》隨之全部修正,並更名為《公部門資料使用法》(Datennutzungsgesetz - DNG),以下簡介規範內容: (一)立法目的 《公部門資料使用法》的立法目的為「政府資訊再利用」、「改善公部門資料在商業目的之使用」,而統一政府資料的格式、授權、開放原則、收費原則及非歧視原則等內容。公部門資料使用法第1條第2項明文強調,本法未課予提供資料之義務或賦予近用資料之權利。 另外,本法係用以統一國內各相關法規之規範標準,使聯邦及各邦的資料,都能順利被用於商業及非商業利用[10]。 (二)適用主體 1.公部門機構 包含聯邦機關、地方自治團體(如邦政府),及公營造物、公法社團法人及公法財團法人等。 2.提供公共服務之公營事業 本次修法,納入提供公共服務(例如能源及交通)之公營事業,這些公共服務公營事業包含獨佔事業及處於競爭市場者。 3.提供研究資料的大學、研究機構及研究資助機構 (三)適用客體 1.一般政府資料 公部門機構與公共服務依法有義務提供之資料、依法有近用權之人可近用之資料。 2.高價值資料集 公部門機構與公共服務,若要提供歐盟開放資料指令之6種主題類別高價值資料集時,須透過適當之API、機器可讀、可批量下載的方式提供。 3.研究資料 研究資料係指,由公共資助的科學研究活動中所蒐集,或作為證據使用,或用以驗證研究成果的數位形式紀錄。且已透過大學、研究機構、研究資助機構、所屬研究人員或計畫資料庫開放取用(open access)。 若研究資料與合法商業利益、知識轉移活動或第三方智慧財產權等原因相衝突,則不適用本法方式提供。 4.不適用客體 與個資保護相衝突的資料、與商業秘密相衝突的資料、國家安全及公共安全資料、關鍵基礎設施保密資訊、保密統計資料、涉及第三人智慧財產權資料、不屬公部門機關公務範圍之資料、標誌及徽章、公共節目及廣播、文化機構資料、中學以下教育機構資料、中學以上教育機構非研究資料。 (四)提供格式 1.提供既有之可利用格式資料 聯邦機關或公營事業,只須提供既有的、已電子化、機器可讀、FAIR資料原則(可近用、可搜尋、可再利用、可互通格式)、符合開放標準(確保可互通)的資料。 2.詮釋資料 機器可讀的詮釋資料,應透過國家詮釋資料入口網站(GovData)提供。 3.動態資料 如果資料具有波動性或時效性的特性,而須頻繁或即時更新時,則聯邦機關或公營事業應透過API及批量下載方式,在資料蒐集後立即提供。 (五)授權提供 原則上不一定要以授權方式提供資料,但一般公立圖書館、大學圖書館、博物館及檔案館中具有智慧財產權的資料,以及提供公共服務的公營事業的資料,皆應以授權方式提供。使用授權條款時,應盡可能使用開放授權,或不做非必要的使用限制。 (六)資料原則 1.「概念上與標準化之開放」原則 應盡可能依據「概念上與標準化之開放」原則(der Grundsatz „konzeptionell und standardmäßig offen“)建置本法規範範圍的資料。立法理由稱,依此原則,本法適用之資料應盡可能以「預設開放」方式提供[11]。 2.收費原則 一般聯邦機關,應免費提供資料,但允許因以下原因收取邊際成本補償費用,且收費標準應透明公開:a.資料複製、提供及傳輸;b.個資匿名化措施;c.營業秘密保護措施。 例外可收取費用的機關則有以下3類,且收費標準亦應透明公開:a.須自籌財源履行公務委託之機關;b.一般公立圖書館、大學圖書館、博物館及檔案館;c.提供公共服務的公營事業。 所有聯邦機關及提供公共服務的公營事業,提供高價值資料與研究資料時,應免費且不得收取邊際成本補償費。但一般公立圖書館、大學圖書館、博物館及檔案館提供高價值資料與研究資料時,可收取費用。 3.非歧視原則及禁止排他原則(不得與他人訂定專屬授權) 參、法律適用關係 (一)電子化政府法之法律適用通則規定 電子化政府法第12a條與其他相關法規涉及「資料」規定之間的關係,須依據電子化政府法第1條第4項法律適用通則規定處理,該條項規定「當有相同內容的規定或相衝突的規定存在時,不適用本法」,因此在電子化政府法第12a條與其他相關法規的適用優先順序上,僅在沒有聯邦法律對於「資料提供」有相同或相矛盾的規定情況下,才能適用電子化政府法第12a條,反之,當有任何其他法規涉及「資料提供」時,電子化政府法第12a條就退居於次位,以使其他法規的立法目的仍可實現,也能避免與國際標準或歐盟法規的要求重複、矛盾或衝突[12]。 (二)電子化政府法第12a條與公部門資料使用法之適用關係 雖然公部門資料使用法未課予提供資料之義務或賦予近用資料之權利,但由於仍規範資料之標準及格式,使政府資料能再利用,所以仍被認為涉及「資料提供」,而有法律適用優先順序問題。 因此,電子化政府法第12a條開放資料法的適用主體及客體,基本上適用公部門資料使用法的相關規定,包含政府資料的格式、授權、開放原則、收費原則及非歧視原則等內容。例如:圖書館所藏資料,若涉及高價值資料的提供時,圖書館可收取費用。 肆、評析 德國聯邦政府透過於電子化政府法制定開放資料法相關規範,除了促使聯邦政府機關將政府資料全部改以電子化、機器可讀方式建置以外,也促使政府資料以「預設開放」為原則建置,使政府資料能更被加值活化再利用。 而2021年的修正,更將「基於執行政府出資研究計畫目的所蒐集之資料」,以及「公營造物、公法社團法人及公法財團法人等主體所建置的政府資料」納入開放客體,擴大開放政府資料的範圍。 保護機敏資料部分,除了原先規範得不開放具第三方智慧財產權之資料,以及具國家安全、特殊公共利益等資料以外,新修正法案也加強規定個資保護(含有個人資料之資料集不開放,僅開放已匿名化資料),以及增列「受銀行保密義務保護之資料」為不須開放資料。 另外新修正的法案,也加上許多推行開放資料的措施,包含「聯邦各部門應任命一名開放資料協調員」、「開始評估政府開放資料義務要求,擴展到邦政府及受委託行使公權力的可能性」,以及「授權政府開放資料主管機關聯邦內政部,訂定法規命令規範開放資料之具體作法」等。 綜上,德國透過開放政府資料專法及公部門資料使用法,建立開放資料的格式標準及開放原則,帶頭推動國內的資料開放環境,以促進資料的進一步活化再利用。 [1]Council Directive 2019/1024, art. 17, 2019 O.J. (L 172) 56, 77. [2]立法理由A、IV、第1段:「聯邦行政對提供資料開放之監管,就其性質而言,屬於聯邦之獨立事務,因此僅能由聯邦政府本身監管。」Deutscher Bundestag, BT-Drucksache 19/27442 (Gesetzentwurf der Bundesregierung), S. 19, https://dserver.bundestag.de/btd/19/274/1927442.pdf (last visited Mar. 21, 2023). [3]Wiss. Mit. Heiko Richter, „Open Government Data“ für Daten des Bundes - Die Open-Data-Regelung der §§ 12 a, 19 E-Government-Gesetz, NVwZ, 2017(19), 1408, 1409 (2017). [4]立法理由A、II、第1段。Deutscher Bundestag (Fn. 2), S. 17. https://dserver.bundestag.de/btd/19/274/1927442.pdf (last visited Mar. 21, 2023). [5]Deutscher Bundestag (Fn. 2), S. 2. [6]Von Dr. Ralf Schnieders, Die neue Open-(Government)-Data-Gesetzgebung in Frankreich und in Deutschland, Die Öffentliche Verwaltung, 2018(5), 175, 183 (2018); Deutscher Bundestag, Drucksache 18/11614 (Gesetzentwurf der Bundesregierung), S. 20, http://dipbt.bundestag.de/dip21/btd/18/116/1811614.pdf (last visited Mar. 21, 2023) [7]Deutscher Bundestag (Fn. 2), S. 30. [8]Deutscher Bundestag (Fn. 2), S. 30-31. [9]Wiss. Mit. Heiko Richter (Fn.3), S. 1412. [10]Deutscher Bundestag (Fn. 2), S. 18. [11]Deutscher Bundestag (Fn. 2), S. 33. [12]Deutscher Bundestag, Drucksache 18/11614 (Gesetzentwurf der Bundesregierung), S. 17, http://dipbt.bundestag.de/dip21/btd/18/116/1811614.pdf (last visited Mar. 21, 2023); Wiss. Mit. Heiko Richter (Fn.3), S. 1412.

FDA允許第一個可以直接對消費者進行個人基因遺傳的健康風險服務測試法-GHR

  「美國食品和藥物管理局(FDA)」於2017年4月6日准許「23and me個人基因遺傳健康風險服務測試(簡稱GHR)」進行行銷,FDA要求該測試方法可以一定準確度檢測出十種疾病及可能條件。GHR是第一個被美國食品藥物管理局授權允許直接對消費者進行測試並提供個人遺傳傾向及醫療疾病條件資訊給消費者的測試。   GHR試圖提供遺傳風險資訊給消費者,但這個測試無法確定人們發展成疾病或發病條件的總體風險,因為除了某些遺傳變體的存在,還有很多因素會影響健康條件的發展,包含環境以及生活方式的因素,因此該檢測可能可以幫助人們做選擇生活方式的決定或告知消費者專業的健康照護。   23and me的GHR測試是運作自隔離唾液樣品中的DNA,此檢測被測試超過500000個遺傳變體,其檢測關於發展成以下十種疾病或發病條件增加風險的存在與否,包括帕金森氏症(Parkinson’s disease)、阿茲海默症(Late-onset Alzheimer’s disease)、自體免疫問題(Celiac disease)、α-1抗胰蛋白酶缺乏症、早發性原發性肌張力障礙(early-onset primary dystomia)、因子XI缺乏症(factor XI deficiency)、高血病1型(gaucher disease type1)、葡萄糖6-磷酸脫氫酶缺乏症(glucose 6- phosphate dehydrogenase defiency)、遺傳性血色素沉著症(hereditary hemochromatosis)、遺傳性血栓形成(hereditary thrombophilia)。   此外,FDA更要求所有DTC測試在醫療用途目的上之使用必需要能跟消費者溝通,使消費者可以充分了解該測試法後選用。其中一個研究顯示,23andMe的GHR測試的相關資訊是容易被理解的,有90%的人能夠了解報告中所呈現的資訊。

從Advantek 與Walk-Long寵物屋之爭了解美國聯邦巡迴上訴法院之設計專利禁反言判斷原則

  一般實務上較熟悉發明或新型專利在申請過程中,調修權利範圍與其後訴訟禁反言之關聯性,然而在設計專利申請過程中,圖式的調修或圖式組合的選取對往後訴訟在權利範圍主張所造成的影響,在實務上則相對不明確。而美國聯邦巡迴上訴法院(the United States Court of Appeals for the Federal Circuit, 簡稱CAFC)在2018年8月1日對「Advantek Mktg., Inc. v. Shanghai Walk-Long Tools Co., Ltd.」一案作出判決,依循了設計專利禁反言之判斷原則,這也是CAFC根據此判斷原則所作出的第二個判決。   Advantek Mktg., Inc.(後稱Advantek)擁有「寵物屋(Gazebo)」美國設計專利(D715,006,後稱系爭專利),其認為Walk-Long Tool Co., Ltd.(後稱Walk-Long)之「有蓋寵物屋」產品(後稱系爭產品)侵權,因此在2016年提出專利侵權訴訟。一審中,Walk-Long指出Advantek在專利審查過程中選擇放棄「附蓋寵物屋」之圖式,是故意放棄專利範圍(intentionally surrendered patent claim scope)以取得專利,而根據禁反言原則認為Advantek申請階段已放棄附蓋之設計態樣因此無法主張權利,地方法院認同Walk-Long。   Advantek提起上訴,CAFC根據其於2014年判決中所提出之設計專利禁反言判斷原則:(1)是否有放棄專利範圍;(2) 該放棄是否以專利性為由而提出;(3)被控侵權產品是否落入該放棄之範圍中,認為系爭產品並不符合第三點,即未落入所放棄之圖式範圍,亦即系爭專利之範圍為寵物屋骨架結構(skeletal structure),不論系爭產品是否有其他特徵(是否附有蓋)皆落入系爭專利之權利範圍;此外,根據2016年最高法院在「Samsung v. Apple」案中針對複數構件之產品認定專利侵權範圍時,是以部分構件而非完整產品進行檢視,亦即系爭產品僅須一部分與系爭專利一致便落入專利範圍,而非以產品整體視之,並據此兩觀點駁回地院判決。   本案重點在於,專利申請過程中審查委員發現一案多實施例的情況提出選取要求(restriction requirement),當申請人選取部分圖式為產品之核心設計形成較大的專利範圍(如本案選擇的寵物屋骨架結構),並不會造成禁反言,當禁反言在調修或選取時限縮專利範圍才會成立。此外,建議設計專利之申請範圍係以核心設計或主要設計特徵而非納入產品之整體設計,如此未來主張權利範圍將相對寬廣。 「本文同步刊登於TIPS網站(https://www.tips.org.tw)」

TOP