日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
日本《科學技術指標》為文部科學省直接管轄之國立實驗研究機關「科學技術與學術政策研究所（NISTEP）」於每年度發布，主要為讓閱讀者基於客觀而定量的數據，體系性地掌握日本國內科學技術活動的基礎資料，將科學技術活動區分為「研究開發費」、「研究開發人才」、「高等教育與科技人才」、「研究開發產出」、以及「科技與創新」等5個類別，同時制定約180個指標以表達日本國內狀況。本年度公布的《科學技術指標2019》，則新增了「日本與美國各部門擁有博士學位者」、「各產業研究人才集中度與高端研究人才活用程度間之關係」、「主要國家取得博士學位之人數的變動狀況」、「運動科學研究類論文動向」、「主要國家貿易額度的變動狀況」、「各國與各類型獨角獸企業數」等20個指標。 依《科學技術指標2019》分析，日本的研究開發費與研究者人數於日、美、俄、法、英、中、韓等七個國家中皆位居第三，論文數則為世界排名第四，受高度矚目的論文數世界排名第九，專利家族（Patent Family）數世界排名第一而與去年相同。就產業的部份，研究者中擁有博士學位者之比例依據產業類型的不同而有所差異，與美國相較，高階人才之實際就業情況未能充分發揮其所學。另一方面，就每一百萬人中有取得博士學位的人數，在各主要國家當中，僅有日本呈現減少的趨勢。
自日本產業競爭力強化法暨特區立法談監理沙盒立法之推動與課題 美國國家標準與技術研究院公布物聯網設備核心網路安全基礎指南草案美國國家標準與技術研究院（National Institute of Standards and Technology, NIST）於2019年8月1 日公布「安全物聯網設備之核心網路安全特徵基準（Core Cybersecurity Feature Baseline for Securable IoT Devices）」指南草案，提出供製造商參考之物聯網設備網路安全基本要素，該指南草案中提出幾項重要核心要素如下： 設備辨識：物聯網設備必須有可供辨識之相關途徑，例如產品序號或是當連接網路時有具獨特性之網路位址。 設備配置：獲得授權之使用者應可改變設備的軟體以及韌體（firmware）之配置，例如許多物聯網設備具有可改變其功能或是管理安全特性之途徑。 資料保護：物聯網設備如何保障其所儲存以及傳送之資料不被未經授權者使用，應清楚可被知悉，例如有些設備利用加密來隱蔽其儲存之資料。 合理近用之介面：設備應限制近用途徑，例如物聯網設備以及其支持之軟體應蒐集並認證嘗試近用其設備的使用者資訊，例如透過使用者名稱與密碼等。 軟體與韌體更新：設備之軟體應可透過安全且可被調整之機制進行更新，例如有些物聯網設備可自動的自其製造商取得更新資訊，並且幾乎不需要使用者特別之動作。 網路安全事件紀錄：物聯網設備應可記錄網路安全事件並且應使這些紀錄讓所有人或製造商可取得，這些紀錄可幫助使用者與開發者辨識設備之弱點以近一步修復。
日本《外包法》日本外包法，正式名稱為外包價金給付遲延等防止法（下請代金支払遅延等防止法，又簡稱下請法），其制定目的在於確保大型企業外包其業務予中小型企業時之交易公正性，防止外包業者濫用其相對於承包業者之優勢地位，並保護承包之小型業者的利益，而該法的主管機關為公平交易委員會（公正取引委員会）。 依該法規定，於以下情形有本法之適用：（1）業者發包委託承包業者製造、修理物品與委託承包商提供該法授權行政命令訂定列舉的資訊成果產品（製作程式）或服務（運送、將貨品保管在倉庫、資訊處理），且發包之大型企業資本額 3億日圓以上、承包之小型企業資本額3億日圓以下，或發包企業資本額於3億元以下1000萬日圓以上、承包企業資本額在1000萬日圓以下時；或（2）業者發包委託承包業者作成非屬上述行政命令所列舉之資訊成果產品（如製作電視節目或廣告、設計商品、產品之使用說明書等）、或提供非屬行政命令列舉之服務（如維修建物或機械、提供客服中心服務等），且發包業者資本額5000萬日圓以上、承包業者資本額在5000萬日圓以下，或發包業者資本額在5000萬日圓以下1000萬日圓以上、承包業者資本額於1000萬日圓以下。 符合上開法定要件時，發包業者應訂定契約價金之給付期日，不得遲延給付價金，若給付遲延則有義務支付遲延之利息等，同時禁止發包業者拒絕受領承包業者交付的履約標的，禁止無故減少契約價金、退貨、或對承包業者採取報復性措施。若發包業者違反上述規定，則由日本中小企業廳或該發包業者之事業主管機關請求日本公平交易委員會（公正取引委員会）採取相應措施，該會則得據此針對該違反行為向發包業者作出書面勸告，同時對外公開該發包業者之公司名稱、其違反行為之事實概要、以及勸告內容的概要。此外，為防止口頭約定造成日後衍生交易糾紛，發包業者於下單時，應以書面明確約定並記載例如承包業者的履約標的、契約價金數額等法定應記載事項，並在下單後立即交付該書面予承包業者，如違反，得對該發包業者課予50萬日圓以下罰金。