日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
新加坡個人資料保護委員會（PDPC）為讓企業能妥適的遵循2012年發布的個人資料保護法（Personal Data Protection Act/PDPA），於2013年9月發布個人資料保護法（PDPA）的執行指引文件：「PDPA關鍵概念指導方針（Advisory Guidelines on Key Concepts in the PDPA）」，針對各項如何蒐集、處理及利用個人資料的要求與義務，提供細節性說明及應用範例。執行指引文件的發布，是源自於公眾在實際操作法遵要求時，所發生的執行困難、疑義和衍生的建議和意見，彙整後進行法規釋疑和舉例。此份文件的要求係立基於實用主義及「企業友善（business-friendly）」的理念，幫助機構調整業務運作流程以及妥善的遵守法律的規定。 執行指引文件提供關鍵名詞的詮釋，例如「個人資料」在PDPA裡的定義為：任何可以識別個人、不拘形式及真實性的資訊；針對「謝絕來電條款（Do not call）」的遵循方式亦有細緻化的說明；就各項不同的具體子議題，清楚的提供常識性的措施（Common-Sense Approach）供機構採用，讓法規要求合乎常理，使個人資料保護與企業因需求而對個人資料進行蒐集、利用和揭露之行為間取得衡平。 新加坡個人資料保護法（PDPA）兩大立法目的：強化個人對自己個人資料的資訊控制權；使新加坡因提供充分的安全維護機制而受企業信任，強化新加坡的經濟競爭力與地位。另外，相較於其他國家在國際傳輸上有較嚴格的限制（必須有相同等級的個人資料保護立法為傳輸前提），新加坡的法制理念是僅讓企業遵守最低限度的安全維護要求後，便能將個人資料進行國際傳輸，這樣較彈性的法制設計讓新加坡有望成為亞太地區的資料與研究中心樞紐。
美國聯邦地方法院就Sanford Wallace散佈間諜軟體案作成判決美國聯邦交易委員會指控 Sanford Wallace 氏及其所經營的 Smartbot.Net 公司，利用 IE 瀏覽器的安全漏洞散佈間諜軟體一案，日前新罕布夏州聯邦地方法院作成判決。 被告散佈之軟體會將受害者的光碟機托盤彈出，同時在螢幕顯示「最後警告」等字樣，附帶一則訊息告訴受害者，「如果您面臨光碟機托盤彈出的狀況，代表間諜軟體已經入侵您的電腦系統，安全已經出現漏洞，敬請立刻下載本公司出品，以資因應！」趁機推銷該公司出品，定價 30 美元之 Spy Wiper 跟 Spy Deleter 軟體，號稱足以因應間諜軟體相關問題。實際上，被告未經用戶同意逕予散佈植入的，性質上即係間諜軟體，不僅會偷偷更改用戶電腦的設定，持續不斷跳出廣告視窗，造成用戶之電腦運作不順或者當機，還可能洩漏電腦裡頭所儲存的資料。 日前新罕布夏州聯邦地方法院就本件作成判決，命被告必須償還不法取得的利益，共計 408 萬餘美元；不得繼續傳輸散佈間諜軟體至用戶之個人電腦；不得未經同意逕行傳輸任何軟體予用戶；不得將用戶之電腦導向彼等並未打算瀏覽或連結的網站或伺服器；不得更動用戶瀏覽器所預設的首頁；不得更動或調整搜尋引擎的功能或成果。
歐盟網路暨資訊安全局發布「重要基礎設施資訊安全培訓需求盤點報告」加強重要部門資訊安全作業歐盟網路暨資訊安全局於2017年12月7日發布「重要基礎設施資訊安全培訓需求盤點報告」(Stocktaking of information security training needs in critical sectors)之文件，點出各重要基礎設施之「電腦安全事件反應小組」(Computer Security Incident Response Teams, CISRT)所必須接受之資安訓練種類。 歐盟之網路與資訊系統安全指令(The Directive on security of network and information systems, NIS Directive)規範各成員國之重要服務營運者(operator of essential service)必須確認出哪些服務於維繫社會與經濟活動上具備重要性。被認定具備重要性之部門如下:能源、運輸、銀行業、金融市場基礎設施、健康照護部門、飲用水供應與分配、數位基礎設施。 此份報告指出，該重要性部門之資安等級需求並不盡相同，因此導致各部門面對資安事件之準備無法相提並論。例如，能源產業會用到SCADA系統，而金融市場基礎設施則普遍沒有相關需求。而由於NIS指令將上述七種部門列為資訊安全維護最高層級，故此份報告目的係確認該部門當前的處境，並與現階段可取得之網路安全訓練對照，進一步具體檢視各重要部門是否有其他額外的網路安全訓練需求。 我國行政院於民國106年4月公布之資通安全管理法草案要求關鍵基礎設施提供者應訂定、修正、實施資通安全維護計畫，並向中央目的事業主管機關或直轄市、縣（市）政府提出該計畫之實施情形，在未來實際落實各重要性設施之資安維護以及資安小組訓練時，須意識到各重要性設施之資訊安全需求差異性，及相關人員必須針對不同單位而受不同之訓練。
什麼是「外太空條約」？外太空條約（Outer Space Treaty），為各國探索和利用包括月球和其他天體的外太空活動所應遵守原則之條約。聯合國大會於1966年12月17日通過該條約，在1967年 10月10日生效，目前絕大多數會員國已簽署並批准。外太空條約為國際提供了外太空的基本法律框架，包括以下原則： 探索和利用外太空間應為所有國家的福利進行，並以全人類為一個整體; 外太空應可供所有國家自由探索和使用; 外太空不受國家主權主張，不得透過使用、占領或其他方式據為己有; 各國不得以任何方式將核武器或其他大規模毀滅性武器放入天體軌道或外太空; 月球和其他天體只能用於和平目的; 太空人員應被視為人類特使並予救援; 各國應對包括政府或非政府進行的太空活動負責; 各國應對其太空物體造成的損害負責; 各國應避免外太空和天體遭受有害污染。