日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
英國內政部(Home Office)於2015年11月4日公布一項關於網路監管的「調查權法草案」(Draft Investigatory Powers Bill)，其主要目的係為提供執法、國安及情治單位，如英國安全局(MI5)、秘密情報局(MI6)、英國政府通訊總部(GCHQ)對於資通訊內容之掌控能力，用以因應數位時代不斷升高的維安需求，例如防止恐怖攻擊、兒童性剝削、破解跨國犯罪集團、協尋失蹤人口、犯罪現場之定位及嫌疑人相關聯繫對象等，該草案一旦通過，將迫使網路及電信服務業者保留其客戶之通訊數據、瀏覽記錄長達一年，甚至在必要情況下，協助英國政府攔截通訊數據、破解加密訊息。 其條文共計202條，分為九部分，對於通訊數據調查權行使所採取之主要手段包含攔截通訊(Interception)、數據監看(Oversight)、以設備干擾連結(Equipment Interference)、大量蒐集個人通訊資料(Bulk Powers)等，由於法案將擴張英國政府對網路隱私之干涉，對此內政大臣Theresa May表示，新法對於瀏覽記錄著重於使用者到訪過哪些網站，而非其瀏覽過的每一個網頁，同時，對於某些握有他人敏感資料的職業，例如醫生、律師、記者、國會議員及神職人員等，擁有較多的保護。 此外，草案亦闡明將建立政府自我監督及防濫權機制，包含未來將創設調查權利委員(Investigatory Powers Commissioner，簡稱IPC)專責監督政府調查權之行使，以及一套稱為Double Lock的新制度，即前述攔截數據資料權之行使，須有內政大臣親自核發之令狀，且該令狀應獲得司法委員(Judicial Commissioner)之批准。 這項草案無疑將引來公益與私利間之衝突，也在資通訊業界造成極大的反彈，縱然「調查權法案」並未限制相關電信與網路業者不得對其服務加密，卻要求於必要情況下提供解密協助，然而目前許多通訊服務採「點對點加密」(End-to-End Encryption)技術，若非發送及接收兩端之人，即便是提供該服務之公司也無法解密，一旦草案通過，類似WhatsApp或Apple所開發之iMessage將如何在英國使用，將會是未來觀測的重點。
德國法院判決，網站上“連絡我們（Contact-Formula）”非屬德國電信服務法第5條規定之電子聯繫資訊德國Essen地方法院判決（Az. 44 O 79/07），網站上之聯絡我們的功能（Contact-Formula），並不符合網路服務者依德國電信服務法第5條（Telemediengesetz, TMG）所應遵守之資訊揭露義務＊。 根據德國電信服務法第5條第1項第2款規定，網路服務提供者之資訊揭露義務範圍，包括應提供一個供網路使用者可以快速且直接聯繫網路服務提供者之電子聯繫方式，例如提供電子郵件。 按德國電信服務法第5條規定目的在提供消費者法定之保護，而違反本條規定者，將可依德國「不正競爭防止法，UWG」第4條第11款及第2條第1項第2款規定，視為違反公平競爭之行為。 該法院認為，網站上「連絡我們功能（Contact-Formula）」性質上僅屬於一個用以製造連結的科技措施，使用者需填寫網站上表格，按下傳送鍵後，始能得知網路服務者之電子郵件，而有些網站甚至無法顯示網路服務者之電子郵件。 我國於「電子商務消費者保護綱領」第5點企業經營者應提供有利於消費者選擇及進行交易之充分資訊包括「企業經營者本身資訊」，例如登記名稱、負責人姓名及公司簡介、公司或商號所在地及營業處所所在地、電子郵件、電話、傳真等聯絡方式及聯絡人等資訊，資訊提供範圍與德國電信服務法第5條第1項第2款大抵相同。 ＊德國電信服務法（TMG）第5條網路服務者應揭露之資訊範圍包括其聯繫資料、特許職業執照證號、營利事業登記證號等。
英國Ofcom準備展開全國性的WhiteSpace測試應用為了增進無線頻譜的使用效率，各國紛紛針對閒置頻譜（White Space）的應用進行討論與發展，除美國已經制定出相關的技術參數與管制規則，並展開全國性的測試外，英國也在多次的公開諮詢與規則修訂後，準備展開全國性的測試應用。 閒置頻譜係指已經指配於特定用途之無線頻段，但因各種因素（如地理地形、人口分布），而在部分地區閒置未使用（即獲得頻譜使用權之業者，在當地並未提供訊號覆蓋）；或者因避免頻譜間訊號干擾，而特意保留的空白區塊（以電視頻道為例，為了避免訊號互相干擾，故於頻道1與頻道3播送電視節目，而頻道2則保留空白。）由於無線通訊技術的提升，可藉由天線高度、訊號發射功率、與主要基地臺保持距離等方式，將這些閒置的頻譜區塊進行利用。 由於閒置頻譜屬於已經指配用途、發出執照的頻段，故存在著眾多的既有使用者，閒置頻譜的開放使用必須保障既有使用者不受到有害干擾。英國在2010年至2012年間已經進行多次的公開諮詢與技術發展，故相關的技術參數與管理規則已經原則上確定，但因配合歐盟整體的頻譜政策規劃，故仍暫時不開放商業使用，為了進一步確定White Space在英國的可用性，也為了測試對既有服務的干擾程度，Ofcom決定展開全國性的測試。 本次干擾測試的重點有三： 1. 針對節目製作與特殊事件（program making and special events，PMSE）：PMSE泛指獲得無線頻譜使用執照的既有使用者，可能使用無線麥克風、無線攝影機或戶外無線廣播裝置，因此White Space的開放，必須避免對這些既有的使用者造成有害干擾。 2. 數位地面電視（digital terrestrial television，DTT）：DTT是無線數位電視，也是最重要的既有使用者，White Space的開放除必須遵照嚴格的技術參數外，也必須避開無線電視台的發射站。 3. 其他鄰近UHF電視頻段的無線服務。 Ofcom指出，各地閒置頻譜的情況不同，如在倫敦地區，對DTT的干擾較低，但格拉斯哥（Glasgow）則相反；而在PMSE的部分，倫敦市中心（如溫布敦球場）則有相當多的節目轉播、無線廣播的使用。Ofcom計畫透過本次測試，瞭解英國各地White Space的使用潛力，屆時將收集英國各地的試點與服務業者的服務品質、功率設定、區域大小與可用的時段，以確保不會發生有害的干擾，整體試驗將持續至2014年夏季。