日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
英國電子零售業者Carphone Warehouse在2015年遭到網路攻擊，造成逾300萬客戶及1000名員工的資料外洩，外洩的資料包括客戶的姓名、地址、電話號碼、出生日期、婚姻狀況及1.8萬名客戶的金融卡資訊。 英國資訊委員辦公室（Information Commissioner’s Office，ICO）認為涉及之個人資料嚴重影響個人隱私，使得個人資料有被誤用的風險。ICO進一步調查後並發現，駭客僅是透過有效的登入憑證，就能藉由WordPress軟體存取系統，此事件亦暴露該組織技術安全措施之不足，因受影響系統中使用的軟件的重要元素已過時，且公司未能執行例行的安全測試。ICO認為，像Carphone Warehouse此類規模龐大的公司，應積極評估其資料安全系統，確保系統穩健而避免類似的攻擊。 據此，ICO判定該公司缺乏妥善的安全措施保障使用者資訊，已嚴重違反《Data Protection Act 1998》資料保護法，判罰40萬英鎊。 從今年5月25日起，隨著GDPR的生效，法律將更加嚴格。對此，ICO亦發布了有用的指導，包括GDPR指南，現在採取的12個步驟和工具包。國家網絡安全中心（NCSC）也為組織為保護自己所採取的步驟提供了有用的指導。
美國 FCC 利用電信普及服務推動偏遠地區醫療照護體系 買回用戶迴路的另一種選擇 英國BEIS發布第一代（SMETS1）智慧電表相容性公眾諮詢英國商業、能源和產業策略部（Business, Energy and Industrial Strategy, BEIS）於2018年4月17日發布公眾諮詢，議題為「最大化第一代（SMETS1）智慧電表的相容性（interoperability）」，該諮詢將截止於2018年5月24日。 英國對於SMETS1的推廣分為兩階段進行，基礎建設階段始於2011年，主要安裝階段則於2016年11月開始，國家數據及通訊供應商－資料通訊公司(Data Communications Company, DCC)自此階段開始營運，直至2020年智慧電表建置完成。 因現今由各能源供應商使用自身資料及通訊設備裝設第一代智慧型電表，造成消費者無法任意更換能源供應商之情況。對此，英國政府之長期政策目標雖為SMETS1最終可全數透過DCC進行運作，然由於現階段尚未強制能源供應商使用DCC所提供之服務，使用SMETS1的消費者仍無法自由的轉換能源供應商。 本文件提出了兩個方案向公眾諮詢： 要求能源供應商於六個月時限內至DCC註冊其所提供且合於規範的SMETS1，或將SMETS1更換為SMETS2（第二代智慧電表）。而於2020年12月31日前，所有未註冊之SMETS1將強制更換為SMETS2。 若能源供應商已嘗試所有合適的解決方法，仍無法於2019年底前使SMETS1在智慧模式下運作，就必須在2020年6月底前將SMETS1更換為SMETS2。 若供應商係於2019年後才取得SMETS1，於獲得SMETS1之後的六個月內採取所有相關措施後仍無法令SMETS1以智慧模式運作，亦應更換為SMETS2。最終，所有不能運行智慧模式之SMETS1將於2020年12月31日前被完全汰換。 英國政府期透過更完善的政策規劃改善現階段SMETS1透過個別能源供應商之數據及通訊系統運作之情況，以確保SMETS1之智慧模式於消費者更換供應商時能維持正常運作，使消費者可確實獲取改用智慧電表之利益。我國於2015年已開始推動低壓智慧電表建置，英國面臨之問題值得借鏡，政府於推廣低壓智慧電表之同時應注意智慧電表基礎設施之相容性，以增進低壓智慧電表建置效率及降低建置成本。