日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
日本經濟產業省（下稱經產省）於2023年11月22日發布《促進資安攻擊受害資訊共享檢討會最終報告書》（サイバー攻撃による被害に関する情報共有の促進に向けた検討会の最終報告書），主張共享資安攻擊受害資訊，掌握資安攻擊全貌，防止損害範圍擴大。經產省提出具體建議如下： 1.促進各專門組織間之資訊共享：藉由專門組織間的資訊共享，及早採取適當因應措施，避免損害持續擴大，並降低受害成本。所謂專門組織包含資安廠商、資安監控中心(Security Operation Center, SOC)營運商、防毒廠商，與依法令成立從事資安事件諮詢與分析之非營利組織，例如：一般社團法人日本電腦網路危機處理暨協調中心（一般社団法人JPCERTコーディネーションセンター），以及一般財團法人日本網路犯罪對策中心（一般財団法人日本サイバー犯罪対策センター）等。 2.共享無從識別受害組織之資訊：為加快資訊共享，經產省建議將資料去識別化至無從識別受害組織之程度，即可不經受害組織同意而共享資訊。 3.提出《攻擊技術資訊處理與活用指引草案》（攻撃技術情報の取扱い・活用手引き（案））：為提升專門組織共享資訊成效，經產省於指引中彙整受害組織資料去識別化作法，以及各專門組織間共享攻擊技術資訊之具體策略。 4.於保密協議中加入免責條款：經產省建議於受害組織與專門組織簽訂之保密協議中，加入專門組織免責條款，使專門組織具有利用或揭露攻擊技術資訊裁量權，對於利用或揭露資訊，致生受害組織被識別等損害時，非因故意或重大過失不須負擔法律責任，以利推動資訊共享。
歐盟執委會宣布「軟體開源授權及複用」決定歐盟執委會於2021年12月8日宣布「軟體開源授權及複用」決定（COMMISSION DECISION on the open source licensing and reuse of Commission software）。本決定規範執委會軟體之開源授權條件與複用方式，其軟體開源授權流程如下： 一、執委會依本決定（下同）第5條授予其軟體的開源授權證應為歐盟公共授權（the European Union Public Licence, EUPL），除因（1）適用第三方軟體的互惠條款，而強制使用其他開源授權證，或替代開源授權證比EUPL更便於人民使用該軟體；（2）適用第三方軟體之授權條款，存在多個開源授權標準（不含EUPL），則應優先選擇授予最廣泛權利的開源授權。 二、透過第8條對智慧財產權進行核實，包括：（1）軟體識別（2）對軟體的智慧財產權進行驗證；及（3）安全驗證。 三、依第6條規定將所有開源軟體置於資料庫，供公民、公司或其他公共服務有潛在利益者取得。 另外，依第四條規定，本規則不適用於以下情形：（1）因第三方智慧財產權問題，無法允許複用的軟體；（2）該原始碼之發布或共享，對執委會、其他歐洲機構或團體的資訊系統或資料庫安全構成實質或潛在風險；（3）因法律規定、契約義務或性質，其內容須被視為機密之軟體；（4）依（EC）1049/2001第4條所列之情形，包含但不限於：因公共利益、國家安全、隱私保護、商業利益、訴訟或審計之利益等，該軟體須被排除，或只能由特定之一方取得或管理；（5）委託由執委會進行研究產生之軟體，若公開將干擾臨時研究結果之驗證或構成拒絕註冊有利於執委會之智慧財產權的理由。
聯合國科研創新推動永續發展（STI for SDGs）2015年9月25日，聯合國發布「2030永續發展議程（2030 Agenda for Sustainable Development）」，強調科研創新是推動永續發展願景的核心關鍵（STI for SDGs），透過科學（Science）、技術（Technology）、創新（Innovation）三項STI指標以落實各國永續發展目標（Sustainable Development Goals，簡稱SDGs）。又為達成科研創新推動永續發展目標，必須建立技術促進機制（Technology Facilitation Mechanism, TFM）， TFM主要透過聯合國成員國、民間社會、私營部門、科學界及其他利益相關方間的經驗分享與合作，由三部分組成包括：聯合國跨機構任務小組（Inter-Agency Task Team, IATT），科學、技術、創新促進永續發展目標多方利害關係人論壇（Multi-stakeholder Forum on science, technology and innovation for the sustainable development Goals, STI Forum），線上平台（online platform）。 其中，聯合國跨機構任務小組（IATT）於2019年6月擬定的「科學、技術和創新促進永續發展目標路線圖（Science, Technology and Innovation for SDGs Roadmaps, STI for SDG Roadmap）」，邀請各國參與試點計畫，協助國家檢視現有科研創新政策需求、掌握未來科研發展趨勢與可能面臨的挑戰與機會，乃協助政府決策的科技前瞻支援工具，藉此達成STI for SDGs科研創新政策與永續發展目標間之平衡。關於國家科研創新路線圖規畫方法論，可以區分為基礎（Foundation）、調適（Adaptation）、整合（Integration）三部分：盤點各國現有科研創新政策需求，歸納與SDGs間落差；嘗試將SDGs理念注入政策目標，建構符合SDGs的科研創新規範與政策監管標準；運用科技前瞻方法掌握未來發展趨勢，研擬對策並面對挑戰。
英國上議院正逐條審議資料保護和數位資訊法案，期展現脫歐新格局英國科學、創新和技術部（Department for Science, Innovation & Technology）提出之《資料保護和數位資訊法案》（The Data Protection and Digital Information Bill，以下稱DPDI法案）於2023年11月經下議院三讀後移交上議院，並於2024年3月20日起逐條審議。DPDI法案旨在調整由英國《一般資料保護規則》（UK General Data Protection Regulation, 下稱UK GDPR）、《資料保護法》（Data Protection Act, DPA 2018）與《隱私與電子通訊規則》（Privacy and Electronic Communications (EC Directive) Regulations 2003）建構之資料保護框架，形塑有別於歐盟典範的資料保護制度。 下議院三讀通過之DPDI法案包含：個人資料保護、數位核驗服務、消費者與商業等各類數據使用以及監管制度等，期能增加資料使用彈性、衡平保護與運用之衝突。該法案將釐清與重新定義資料保護之一般性通則，以下就部分變革與爭議簡要說明： 一、資料使用限制放寬：藉擴大正當利益（legitimate interest）意涵與科學研究範圍，擴大個人資料使用的正當性基礎，如國安、犯罪預防、公共衛生及商業與非商業性科學研究。 二、組織資料治理層級轉變：取消資料保護長設置，改為指派高階管理層之一人專任或多人兼任高階負責人。 三、監管機構變換：將現行資訊專員辦公室（Information Commissioner’s Office, ICO）獨立機構監管模式，轉換為政府任命之委員會。 四、資料傳輸規範可能不足：英國脫歐後，其與歐盟間的資料傳輸經認可而獲維繫。若DPDI法案通過並調整且簡化資料傳輸規範，英國可能需證明新程序及規範持續具有保護適足性。 就DPDI法案內容觀之，該法案主要建構於UK GDPR及相關規範之刪修，象徵英國政府對脫歐前資料保護制度之檢討，並期藉改革減輕企業合規成本。然，部分團體認為資料使用放寬與保護制度之變革，可能導致演算法歧視以及英國與歐盟間資料流動困難。雖DPDI法案尚在上議院委員會討論階段，可能因各方磋商而修改條文內容，但仍可見英國政府積極重新伸張國家主權之作為。