日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
英國通訊管理局（Ofcom）於2021年7月26日提出「非同步衛星系統之執照更新」報告（Non-geostationary satellite systems: Licensing updates），表示若未能積極管理Amazon、OneWeb、SpaceX及Telesat等業者之低地球軌道衛星星座（satellite constellation）的通訊服務，後續恐會有局部干擾的疑慮，降低既有網路的通訊品質及可靠性，以及產生限制競爭的問題。 因此，Ofcom規劃調整衛星執照之許可制度，並向各界徵求諮詢意見。有關新的衛星執照修正重點包括： 1.衛星執照細部項目：將再細分成「終端設備」（user terminals）及「系統閘道站」（gateway）兩種許可證。 (1)衛星終端設備許可證：允許使用非同步衛星系統之終端設備，例如在用戶端安裝碟型天線及設備，但必須係衛星營運商所有。 (2)衛星系統閘道站許可證：授權設置地面閘道站，以作為衛星網路連結到網際網路、專用網路或雲端服務的大型樞紐（hub）。 2.執照申請審查程序：Ofcom將確保系統間可以共存而不會降低服務品質；避免執照取得者會對後續各方進入市場產生競爭限制；以及提供利害關係人評論期間，以便反映有關干擾或競爭之潛在風險。 3.附加許可條件：要求營運商之間進行技術合作；讓行政機關在必要時介入管理干擾案件，以確保英國消費者權益。
國際產業創新合作策略實例 – 歐盟之歐洲科技與創新機構(EIT) 2018年直布羅陀公布一系列DLT應用商業活動管制規範英國海外屬地直布羅陀，針對透過與日俱增的首次發行代幣（Initial Coin Offerings, 簡稱ICO）募集商業活動，早在2017年9月，其金融服務委員會（Gibraltar Financial Service Commission, 簡稱GFSC）已公布官方聲明，警告投資人運用分散式帳本技術（Distributed Ledger Technology，簡稱DLT）之商業活動，如：虛擬貨幣交易或ICO等具高風險且投機之性質，投資人應謹慎。 GFSC又於2018年1月公布「分散式帳本技術管制架構」（Distributed Ledger Technology Regulatory Framework），凡直布羅陀境內成立或從其境內發展之商業活動，若涉及利用DLT儲存（store）或傳輸（transmit）他人有價財產（value belong）者，均須先向GFSC申請成為DLT提供者（DLT provider），並負擔以下義務： 應秉持誠信（honesty and integrity）進行商業活動。 應提供客戶適當利息，且以公平，清楚和非誤導方式與其溝通。 應準備相當金融或非金融資源（non-financial resources）。 應有效管理和掌控商業活動，且善盡管理人注意義務（due skill, care and diligence），包含適當地告知客戶風險。 應有效配置（arrangement）客戶資產和金錢。 應具備有效公司治理，如：與GFSC合作且關係透明。 應確保高度保護系統和安全存取協定。 應具備系統以預防、偵測且揭發金融犯罪風險，如：洗錢和資恐。 應提供突發事件預備方案以維持商業活動繼續進行。 GFSC和商業部（Ministry of Commerce）又於2018年2月聯合公布，將於第二季提出全世界第一部ICO規範，管制境內行銷（promotion）、販售和散布數位代幣（digital token）行為，強調贊助人須先授權（authorized sponsor），並有義務確保遵守有關資訊揭露和避免金融犯罪之法律。
澳洲國家交通委員會發布管制政府近用C-ITS和自駕車資料政策文件，提出政府近用自駕車蒐集資料規範原則2019年8月12日澳洲國家交通委員會（NTC）提出「管制政府近用C-ITS和自駕車資料（Regulating government access to C-ITS and automated vehicle data）」政策文件，探討政府使用C-ITS與自駕車資料（以下簡稱資料）所可能產生的隱私議題，並提出法律規範與標準設計原則應如下： 應平衡政府近用資料與隱私保護措施，以合理限制蒐集、使用及揭露資料。 應與現行以及新興國內外隱私與資料近用框架一致，並應進行告知。 應將資料近用權利與隱私保障納入立法中。 應以包容性與科技中立用語定義資料。 應使政府管理資料措施與現行個資保護目的協調一致。 應具體指明資料涵蓋內容、使用目的與限制使用對象，並減少資料被執法單位或經法院授權取得之阻礙。 應使用易懂之語言知會使用者關於政府蒐集、使用與揭露以及資料的重要性。 認知到告知同意是重要的，但同時應提供政府於取得同意不可行時，平衡個人隱私期待之各種可能途徑。 認知到不可逆的去識別化資料在許多情況下的困難度。 支持資料安全保護。 定期檢查資料隱私保護狀態與措施。 以上這些原則將會引導NTC發展自駕車資料規範與國家智慧運輸系統框架，NTC並將於2019年內提出更進一步規劃相關工作之範疇與時間點。