日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
數位議程(Digital Agenda for Europe)規劃2020年全歐洲基本寬頻30mbps以上、且超過一半家戶數具有100mbps接取能力設為目標。歐盟為達成此計畫，在今(2013)年3月發佈「降低建置高速電子通訊網路成本草案」(Reduce The cost of Deploying High-speed Electronic Communications Network)。有鑑於過去調查，挖掘道路佔總光纖基礎建設成本80%，且導致電信商投資低密度、偏遠地區具有龐大壓力。是故，本草案制訂後，不僅可減少30%成本(約400~600億歐元)，亦降低既有業者建設壓力與增加新進業者進入市場，使高速網路(30M)能迅速普及於歐洲。 歐盟以發展高速網路為前提，在本部草案中給與基礎供應商(Network Operator)諸多規範，其中又以「共同開挖工程設施」與「開放物理設施」最為重要。共同開挖工程設施是指基礎供應商(Eg:瓦斯、電力、水力、電子通訊業者)有權利可與其他基礎業者協商，共同進行工程建設(例如挖馬路)。基礎供應商應遵守資訊公開與不歧視原則，並在收到通知後的1個月內，須與相對人進行協商。主管機關接到申請後，須於六個月內進行審駁。歐盟認為此舉不僅可減少成本外，亦可減少挖斷管線的情形發生，使現有基礎建設每年可省下五千萬歐元的維修費。 開放物理基礎設施(Physical Infrastructure)方面，是指每個基礎供應商皆有權利與義務開放包含管道、天線桿、人孔蓋(Manholes)，以及任何建築物或可進入建築物等設施。因此，電子通訊網路(electronic communications network)業者可透過基礎供應商提供的物理設施(Eg:管道)之位址、大小，與所有權人姓名，在公開、合理無歧視的價格下，取得使用權。 由於，既有建築為了接取高速網路而進行裝修，其造價不菲，為了降低電子通訊網路鋪設的成本，是故，本部草案要求在核發建築許可前，新建物或重建建築須具備高速網路設備至網路終端(network termination points)。這項規定，不僅可降低業者建置網路的成本外，在網路服務商皆有權利使用基礎設備進行服務，預計消費者將可享有物美價廉的網路。 雖然，這些新的規範亦有但書，諸如當基礎設施開放後會干擾原服務、造成危險，亦或視重建建築比例，評估是否需賦予配置網路設備等，使部分輿論認為短期將難以看到成效。不過，隨著時間的演進，就如同歐盟執委會副主席Neelie Kroes所敘，很難想像購買一棟房子將會缺少水、電，而網路亦是如此。因此，當網路成為民生必須後，可以預期關鍵設施的開放、建設成本的降低與民眾需求提高，將使網路普及更為迅速。
歐洲自律聯盟成立以塑造對兒童更好的網路環境如何確保兒童上網安全，為歐盟數位議程（Digital Agenda）的七大目標之一。而近年來網路內容蓬勃與快速發展，更大幅加速了兒童上網的趨勢。據歐盟執委會於2011年12月的公開資料顯示（IP/11/1485），歐洲兒童平均7歲即開始接觸網路。目前有超過38%的9-12歲兒童在社交網站上有個人資訊，有30%以上的兒童是藉由行動裝置上網。如此高的上網比率，讓各業者有共識以提供兒童更好的上網環境。由蘋果、微軟、Google等跨國企業為首的二十餘家業者組成了自律組織，以提供歐盟地區的兒童更好網路內容環境而努力。 該自律聯盟於2011年12月正式成立，並以五個面向採取相關行動：簡單且強大的工具-能夠搜尋於任何裝置上可能對孩童有害的內容；分齡隱私設定-使用者可限定公布資訊予特定族群；更廣泛的內容分級：提供家長易於理解的年齡內容分級；更廣泛的家長控制工具-積極推動使用者有善的工具；兒童色情內容有效移除-與執法單位與保護熱線等積極合作，將兒童色情內容快速下架。 各業者承諾就其營業項目、產品、服務內容等皆須符合此自律規範，並成立工作小組以協助歐盟執委會處理相關議題。
日本政府對於「小型無人機進階安全確保制度」進行研議，並研提「航空法」修正建議日本政府於2016年1月5日成立「小型無人機進階安全確保制度設計相關小組委員會」(小型無人機の更なる安全確保のための制度設計に関する分科会)，聚焦無人機飛安方面之實務議題。會議由内閣官房内閣参事官擔任議長，並由國土交通省航空局協助辦理，民間參與者則多為相關產業公協會，目前規劃每兩個月開1-2次會議，其運行方式包括：原則上為非公開會議，其會議資料將於會後公開，但若議長認有必要，則得決定一部或全部不公開；此外，對於委員會成員以外的民間企業及專家學者之意見，亦應聽取。 為更進一步確保小型無人機於飛行時之安全性，本次會議對「航空法」提出如下修正建議： (1)除「航空法」第一百三十二條之二所規範之飛行方式及禁飛區域外，尚有其他相關飛安重要事項亦應注意，例如：機體本身之缺陷、操控者失誤、不可預期的天候變化、機體重量等(一定重量以上之無人機，對於機體性能及操控者技術應有更高要求，未來可思考訂定罰則或提供擔保)。 (2)對於機場周邊應有比現行法更嚴格之規範，除因此處操控無人機容易誤入禁區外，該範圍以內通常是飛安事故搜救區，恐妨害搜救之進行。 (3)關於禁區內飛行許可之審查，應包含：機體機能與性能、操控者知識、技術與經歷。 (4)對於商業、營業用無人機，應有更高的安全性要求。但何謂商業、營業用之定義及更高安全性究何所指須有更明確的標準！
德國第二部開放資料法案簡介德國第二部開放資料法案簡介 資訊工業策進會科技法律研究所 2023年03月25日 壹、前言 德國聯邦政府於2021年7月16日通過「第二部開放資料法案」（Zweiten Open-Data-Gesetz），包含修正《電子政務促進法（電子化政府法）》（E-Government-Gesetz，EGovG）第12a條，以及修正《資訊再利用法》（Informationsweiterverwendungsgesetz，IWG）並更名為《公部門資料使用法》（Datennutzungsgesetz - DNG），並於同年月23日生效。 修正目的係為充分發揮資料開放政策之潛力，建立一個初步的監管框架，改善資料提供、提高標準化及互通性的問題，以進一步提高資料之可用性。另外，也為轉換歐盟於2019年6月修正《開放資料與公部門資訊再利用指令》（DIRECTIVE (EU) 2019/1024，Open Data and the re-use of Public Sector Information Directive，下稱開放資料指令）[1]。 資料來源：作者自繪 圖一 「德國第二部開放資料法案」立法沿革 以下分別介紹電子化政府法第12a條及《公部門資料使用法》的修法內容： 貳、修法內容 一、電子化政府法第12a條 2017年7月13日，德國在《電子化政府法》新增第12a條「聯邦直接行政機關開放資料」（Offene Daten der Behörden der unmittelbaren Bundesverwaltung）規定，做為「聯邦政府」進行開放政府資料的法源[2]。本次修法法案，調整電子化政府法第12a條的部分條文，並改稱標題為「聯邦開放資料授權命令」，課予聯邦政府之政府資料開放義務（但仍未賦權民眾依據本法要求開放特定之政府資料）。以下簡介新舊規範比較： （一）受規範主體範圍：所有聯邦機關 舊法限於「直接從屬於聯邦政府的行政機關」，不包含自治團體（如邦政府）、公立機構、公立法人、公立基金會、公立大學等[3]。 新法則擴大主體範圍，不限於「直接從屬於聯邦政府的行政機關」，而涵蓋所有「聯邦機關」（Die Behörden des Bundes）（第1條），包含公營造物、公法社團法人及公法財團法人等[4]；這些新適用主體開放資料的緩衝期，為法規生效後12個月內應首次提供。不過，適用主體仍不包含自治團體（如邦政府）與公權力受託人[5]。 （二）受規範客體範圍 同舊法，本法所稱的資料，仍為「由聯邦機關為完成公共任務所蒐集，或由受委託之第三方代表聯邦機關所蒐集之資料」，且包含「研究資料」，並應符合以下5款條件： 1.以電子方式儲存、以集合形式結構化（尤其適用於列表和表格）。 2.存在於該機關之外的事實，但與該機關有關者 3.非由聯邦機關處理其他資料所產生的結果 4.調查後未經過處理者 但有以下情形時可以處理後再開放：（1）為糾正錯誤而處理；（2）基於法律或事實原因而處理，例如依個資法規定匿名）。 5.資料涉及個人時，匿名化且無法再識別個資者。 舊法中，以負面表述的方式，提及涉及個資保護事由時，不開放資料；新法則增加正面表述，資料雖涉及個人，但若已去識別化且無法再識別者，即可作為開放客體。 （三）開放原則及例外 與舊法相同，採取「預設開放原則」（Open by Default），即已經完成電子化，且不具例外理由時，聯邦機關即須開放這些資料。 例外則是符合以下情形者，聯邦機關不須提供資料： 1.資訊自由法規定不公開之政府資料 根據資訊自由法（Informationsfreiheitsgesetz，IFG）第3、4及6條（涉及特殊公共利益的資料、保護官方決策程序的資料、保護智慧財產權及營業秘密），不具取用權（Zugangsrecht，right of access）或僅具有限取用權的資料（與舊法相同）。 2.只有在第三方參與後，取用權才存在的資料（與舊法相同） 例如依據相關法規規定，須經過聽取第三方意見的程序（如聽證會），或須衡量第三人利益，才能提供資料的情形。[6] 3.資料由非受公權力委託之第三方建置，且非法律規定有傳輸義務者（與舊法相同） 4.已透過其他管道開放之研究資料（新法新增） 基於研究目的所蒐集之資料，且已透過開放取用（open access）的網路免費提供者，無須再提供；但仍可自願於國家詮釋資料入口網站（GovData）開放。 此為新法新增，不同於舊法，「基於研究目的所蒐集之資料」應開放提供，但法規特別規定如果已經基於其他原因已可開放取用者，即依照原先狀態繼續開放取用，機關無義務再透過其他管道提供[7]。 5.受銀行保密義務保護之資料（新法新增） 6.含有個人資料的資料集 特別從前款「資訊自由法規定不公開之政府資料」拉出，單獨成項（新增於電子化政府法第12a條第3a項）作為強調。 （四）資料提供方式 1.原則蒐集後立即提供，但研究資料可延後 新法新增為研究目的所蒐集之資料的提供時點彈性，研究資料若要提供，則應於研究計畫完成且研究目的完成後才能提供[8]。 2.以機器可讀格式提供 3.提供詮釋資料於「國家詮釋資料入口網站」（GovData） 4.免費、隨時、無須理由、不須註冊、透過公開使用網路提供資料檢索 5.可不受限制的再利用 （五）各部門設立協調員與中央辦公室聯繫 聯邦政府應設立中央辦公室，負責就聯邦機關提供資料作為開放資料時給予建議，並作為各邦負責開放資料辦公室的聯絡點。 聯邦各機關也應任命一名開放資料協調員，作為各部門與中央辦公室聯繫的聯絡人，並致力於識別、提供及再利用其所屬部門之開放資料。 （六）推行開放資料 與舊法相同，聯邦政府應每2年提出研究報告，向聯邦眾議院報告透過聯邦機關（不包含公營事業）開放資料的進展。 新法另增訂兩項事宜： 1.聯邦政府應評估開放資料法之適用主體擴展到自治團體、邦政府、受委託行使公權力的自然人與法人的可能性。 2.授權聯邦內政部與其他聯邦權責單位及聯邦政府專員達成協議，訂定法規命令規範開放資料之具體作法。 （七）公務員免責 聯邦機關沒有義務檢查所提供的資料的正確性、完整性、可信性。 （八）第12a條不能作為提供資料的請求權依據 電子化政府法於第12a條第1項後段明文該條不能作為提供資料的請求權依據，因此人民未被賦予得以請求政府開放資料之權利。[9] 二、公部門資料使用法 德國於2006年轉換2003年版的歐盟《公部門資訊再利用指令》（Directive 2003/98/EC，下稱PSI指令），制定《資訊再利用法》（Informationsweiterverwendungsgesetz，IWG），並隨著PSI指令於2013年的修正（Directive 2013/37/EU）而於2015年修正。本次再基於PSI指令於2019年修正為開放資料指令，《資訊再利用法》隨之全部修正，並更名為《公部門資料使用法》（Datennutzungsgesetz - DNG），以下簡介規範內容： （一）立法目的 《公部門資料使用法》的立法目的為「政府資訊再利用」、「改善公部門資料在商業目的之使用」，而統一政府資料的格式、授權、開放原則、收費原則及非歧視原則等內容。公部門資料使用法第1條第2項明文強調，本法未課予提供資料之義務或賦予近用資料之權利。 另外，本法係用以統一國內各相關法規之規範標準，使聯邦及各邦的資料，都能順利被用於商業及非商業利用[10]。 （二）適用主體 1.公部門機構 包含聯邦機關、地方自治團體（如邦政府），及公營造物、公法社團法人及公法財團法人等。 2.提供公共服務之公營事業 本次修法，納入提供公共服務（例如能源及交通）之公營事業，這些公共服務公營事業包含獨佔事業及處於競爭市場者。 3.提供研究資料的大學、研究機構及研究資助機構 （三）適用客體 1.一般政府資料 公部門機構與公共服務依法有義務提供之資料、依法有近用權之人可近用之資料。 2.高價值資料集 公部門機構與公共服務，若要提供歐盟開放資料指令之6種主題類別高價值資料集時，須透過適當之API、機器可讀、可批量下載的方式提供。 3.研究資料 研究資料係指，由公共資助的科學研究活動中所蒐集，或作為證據使用，或用以驗證研究成果的數位形式紀錄。且已透過大學、研究機構、研究資助機構、所屬研究人員或計畫資料庫開放取用（open access）。 若研究資料與合法商業利益、知識轉移活動或第三方智慧財產權等原因相衝突，則不適用本法方式提供。 4.不適用客體 與個資保護相衝突的資料、與商業秘密相衝突的資料、國家安全及公共安全資料、關鍵基礎設施保密資訊、保密統計資料、涉及第三人智慧財產權資料、不屬公部門機關公務範圍之資料、標誌及徽章、公共節目及廣播、文化機構資料、中學以下教育機構資料、中學以上教育機構非研究資料。 （四）提供格式 1.提供既有之可利用格式資料 聯邦機關或公營事業，只須提供既有的、已電子化、機器可讀、FAIR資料原則（可近用、可搜尋、可再利用、可互通格式）、符合開放標準（確保可互通）的資料。 2.詮釋資料 機器可讀的詮釋資料，應透過國家詮釋資料入口網站（GovData）提供。 3.動態資料 如果資料具有波動性或時效性的特性，而須頻繁或即時更新時，則聯邦機關或公營事業應透過API及批量下載方式，在資料蒐集後立即提供。 （五）授權提供 原則上不一定要以授權方式提供資料，但一般公立圖書館、大學圖書館、博物館及檔案館中具有智慧財產權的資料，以及提供公共服務的公營事業的資料，皆應以授權方式提供。使用授權條款時，應盡可能使用開放授權，或不做非必要的使用限制。 （六）資料原則 1.「概念上與標準化之開放」原則 應盡可能依據「概念上與標準化之開放」原則（der Grundsatz „konzeptionell und standardmäßig offen“）建置本法規範範圍的資料。立法理由稱，依此原則，本法適用之資料應盡可能以「預設開放」方式提供[11]。 2.收費原則 一般聯邦機關，應免費提供資料，但允許因以下原因收取邊際成本補償費用，且收費標準應透明公開：a.資料複製、提供及傳輸；b.個資匿名化措施；c.營業秘密保護措施。 例外可收取費用的機關則有以下3類，且收費標準亦應透明公開：a.須自籌財源履行公務委託之機關；b.一般公立圖書館、大學圖書館、博物館及檔案館；c.提供公共服務的公營事業。 所有聯邦機關及提供公共服務的公營事業，提供高價值資料與研究資料時，應免費且不得收取邊際成本補償費。但一般公立圖書館、大學圖書館、博物館及檔案館提供高價值資料與研究資料時，可收取費用。 3.非歧視原則及禁止排他原則（不得與他人訂定專屬授權） 參、法律適用關係 （一）電子化政府法之法律適用通則規定 電子化政府法第12a條與其他相關法規涉及「資料」規定之間的關係，須依據電子化政府法第1條第4項法律適用通則規定處理，該條項規定「當有相同內容的規定或相衝突的規定存在時，不適用本法」，因此在電子化政府法第12a條與其他相關法規的適用優先順序上，僅在沒有聯邦法律對於「資料提供」有相同或相矛盾的規定情況下，才能適用電子化政府法第12a條，反之，當有任何其他法規涉及「資料提供」時，電子化政府法第12a條就退居於次位，以使其他法規的立法目的仍可實現，也能避免與國際標準或歐盟法規的要求重複、矛盾或衝突[12]。 （二）電子化政府法第12a條與公部門資料使用法之適用關係 雖然公部門資料使用法未課予提供資料之義務或賦予近用資料之權利，但由於仍規範資料之標準及格式，使政府資料能再利用，所以仍被認為涉及「資料提供」，而有法律適用優先順序問題。 因此，電子化政府法第12a條開放資料法的適用主體及客體，基本上適用公部門資料使用法的相關規定，包含政府資料的格式、授權、開放原則、收費原則及非歧視原則等內容。例如：圖書館所藏資料，若涉及高價值資料的提供時，圖書館可收取費用。 肆、評析 德國聯邦政府透過於電子化政府法制定開放資料法相關規範，除了促使聯邦政府機關將政府資料全部改以電子化、機器可讀方式建置以外，也促使政府資料以「預設開放」為原則建置，使政府資料能更被加值活化再利用。 而2021年的修正，更將「基於執行政府出資研究計畫目的所蒐集之資料」，以及「公營造物、公法社團法人及公法財團法人等主體所建置的政府資料」納入開放客體，擴大開放政府資料的範圍。 保護機敏資料部分，除了原先規範得不開放具第三方智慧財產權之資料，以及具國家安全、特殊公共利益等資料以外，新修正法案也加強規定個資保護（含有個人資料之資料集不開放，僅開放已匿名化資料），以及增列「受銀行保密義務保護之資料」為不須開放資料。 另外新修正的法案，也加上許多推行開放資料的措施，包含「聯邦各部門應任命一名開放資料協調員」、「開始評估政府開放資料義務要求，擴展到邦政府及受委託行使公權力的可能性」，以及「授權政府開放資料主管機關聯邦內政部，訂定法規命令規範開放資料之具體作法」等。 綜上，德國透過開放政府資料專法及公部門資料使用法，建立開放資料的格式標準及開放原則，帶頭推動國內的資料開放環境，以促進資料的進一步活化再利用。 [1]Council Directive 2019/1024, art. 17, 2019 O.J. (L 172) 56, 77. [2]立法理由A、IV、第1段：「聯邦行政對提供資料開放之監管，就其性質而言，屬於聯邦之獨立事務，因此僅能由聯邦政府本身監管。」Deutscher Bundestag, BT-Drucksache 19/27442 (Gesetzentwurf der Bundesregierung), S. 19, https://dserver.bundestag.de/btd/19/274/1927442.pdf (last visited Mar. 21, 2023). [3]Wiss. Mit. Heiko Richter, „Open Government Data“ für Daten des Bundes - Die Open-Data-Regelung der §§ 12 a, 19 E-Government-Gesetz, NVwZ, 2017(19), 1408, 1409 (2017). [4]立法理由A、II、第1段。Deutscher Bundestag (Fn. 2), S. 17. https://dserver.bundestag.de/btd/19/274/1927442.pdf (last visited Mar. 21, 2023). [5]Deutscher Bundestag (Fn. 2), S. 2. [6]Von Dr. Ralf Schnieders, Die neue Open-(Government)-Data-Gesetzgebung in Frankreich und in Deutschland, Die Öffentliche Verwaltung, 2018(5), 175, 183 (2018); Deutscher Bundestag, Drucksache 18/11614 (Gesetzentwurf der Bundesregierung), S. 20, http://dipbt.bundestag.de/dip21/btd/18/116/1811614.pdf (last visited Mar. 21, 2023) [7]Deutscher Bundestag (Fn. 2), S. 30. [8]Deutscher Bundestag (Fn. 2), S. 30-31. [9]Wiss. Mit. Heiko Richter (Fn.3), S. 1412. [10]Deutscher Bundestag (Fn. 2), S. 18. [11]Deutscher Bundestag (Fn. 2), S. 33. [12]Deutscher Bundestag, Drucksache 18/11614 (Gesetzentwurf der Bundesregierung), S. 17, http://dipbt.bundestag.de/dip21/btd/18/116/1811614.pdf (last visited Mar. 21, 2023); Wiss. Mit. Heiko Richter (Fn.3), S. 1412.