日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
2021年7月中旬，日本經濟產業省（下稱經產省）發布《促進資料價值創造的新資料管理方法與框架（暫定）（データによる価値創造（Value Creation）を促進するための新たなデータマネジメントの在り方とそれを実現するためのフレームワーク（仮））》之綱要草案（下稱資料管理框架草案），並公開對外徵求意見。 近年日本在「Society5.0」及「Connected Industries」未來願景下，人、機器與科技的跨界連接，將創造出全新附加價值的產業社會，然而達成此願景的前提在於資料本身須為正確，正確資料的自由交換，方能用於創造新資料以提供附加價值，因此正確的資料可說是確保網路空間連結具有可信性的錨點。為此，經產省提出資料管理框架草案，透過資料管理、識別資料在其生命週期中可能發生的風險，以確保資料在各實體間流動的安全性，從而確保其可信性。 該框架將資料管理定義為「基於資料的生命週期，管理各場域中資料屬性因各種事件而變化的過程」，由「事件（資料的產生／取得、加工／利用、轉移／提供、儲存和處置）」、「場域（例如：各國家／地區法規、組織內規、組織間的契約）」和「屬性」（例如：類別、揭露範圍、使用目的、資料控制者和資料權利人）三要素組成的模組。經產省期望未來能透過三要素明確資料的實際情況，讓利害關係人全體在對實際情況有共同理解的基礎上，能個別確保適當的資料管理，達成確保資料正確之目的。 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」
印度邁向個資法制新里程公布數位個資保護規則印度於2025年11月13日公布《數位個人資料保護規則》（Digital Personal Data Protection Rules，下稱DPDP規則，位階近似於我國個人資料保護法施行細則），作為2023年8月制定《數位個人資料保護法》（Digital Personal Data Protection Act，下稱DPDPA）之配套規範。DPDPA為印度首部全面性個資保護立法，並與DPDP規則採三階段施行。第一階段自2025年11月13日起，重點包括定義規定、印度資料保護委員會（Data Protection Board of India, DPBI）之設立與權限。第二階段自2026年11月13日起，聚焦於印度特有之「同意管理人（Consent Manager）」制度。第三階段自2027年5月13日起，全面施行資料處理者（Data Fiduciary，意涵近似於歐盟一般資料保護規則（GDPR）所稱資料控管者，惟更強調對資料主體負有信賴義務與善良管理責任）一般義務、兒童資料保護、重要資料處理者制度、當事人權利、跨境傳輸及適用除外等規定。其制度重點如下： 一、明確化告知與同意規範：DPDP規則要求資料處理者於取得資料主體同意前，須以獨立且易懂之方式提供告知，清楚說明個人資料類型、利用目的及所提供之商品或服務，並提供同意撤回、權利行使及申訴之管道。 二、建立同意管理人制度：此制度使資料當事人得透過第三方集中管理其對不同資料受託者之同意狀態，並隨時檢視或撤回其同意。DPDP規則就其資格、義務、登錄程序及監理機制加以規範，並賦予DPBI對其進行調查與裁罰之權限。 三、強化資安措施與侵害通報：DPDP規則明定資料受託者應採取安全維護措施，其最低標準包括加密、存取控制、日誌保存、監控、備份及資料處理相關契約管理等。另建立個資侵害通報制度，要求即時通報資料當事人及DPBI，並於72小時內補充完整資訊。 四、加重大型平台與特定資料保護機制：DPDP規則要求大型電子商務、線上遊戲及社群平台於三年未互動且無保存義務時刪除個人資料；並就18歲以下兒童及受法定監護者，要求取得可驗證之法定代理人同意。另中央政府得指定「重要資料處理者（Significant Data Fiduciary）」，課予定期影響評估、稽核及設置資料保護長之義務。 五、規範權利行使、跨境傳輸與除外規定：DPDP規則要求資料受託者及同意管理人於其網站或應用程式中，清楚揭示權利行使方式及身分驗證程序；跨境傳輸採「原則開放、例外限制」模式，由政府另行指定限制國家或對象；另就研究、保存及統計目的之資料處理，DPDP規則明定在未造成個人權益之影響下，且資料受託者已採取適當技術與組織措施，始得適用除外規定。
美國士兵曼寧因向「維基解密」網站洩漏國家外交及軍事情報而遭起訴22項罪名美國的情報分析員一等兵布蘭德利.曼寧(Brandly Manning)，被控訴22項包括通敵罪、非法取得並散布外交及軍事機密的文件給「維基揭密」網站等妨害國家安全罪名，現被拘禁在馬里蘭州的米德堡。 曼寧一審由軍事法院審理，但軍事上訴審法院認為管轄權有爭議，為決定是否繼續適用軍事法院的審理程序，今年10月10日舉行預審聽證會，由五人一組的普通法院法官受理。同時，維基解密、憲法人權中心、美聯社等新聞媒體，均要求軍事法庭依憲法第一修正案，提供曼寧案的相關卷宗資料，但政府發言人查得費雪上尉（Captain Chad Fisher）表示，第一憲法修正案沒有絕對的效力，也未賦予法院公開卷宗的義務。若記者和大眾想獲得案件的文件資料，可透過「情報自由法」申請。但依「情報自由法」的申請程序非常冗長，而且美聯社和曼寧的辯護律師大衛.庫姆斯（david Commbs）的申請都已遭拒絕，律師大衛只能在私人網誌上向關心曼寧案的民眾公布案件進度和內情。 憲法人權中心的律師Shayana Kadidal 表示，不公開卷宗資料，就算參與了聽證會也無法理解案件的真實面貌，而無法做出準確的報導。但軍事法院對於憲法人權中心、新聞媒體及公眾要求公開法庭卷宗的訴求依然無動於衷。軍方和憲法人權中心將在之後會提交聲請，解釋為何他們認為軍事上訴審法院有權裁決卷宗是否公開。 曼寧下次庭期是明年2月4日，若通敵罪成立，曼寧將會被判終身監禁。
美國、日本、韓國舉辦「顛覆性技術保護網路高峰會」，簽署技術保護及出口管制合作意向書美國、日本、韓國於2024年4月25日舉辦首屆「顛覆性技術保護網路高峰會」（Disruptive Technology Protection Network Summit，下稱高峰會），就顛覆性技術保護展開正式合作。 此高峰會係為履行三國於2023年8月18日「大衛營」（Camp David）峰會作出之「未來每年度應至少舉行一次三方國家會談」承諾。美國積極利用此高峰會，深化美國顛覆性技術打擊小組（Disruptive Technology Strike Force）與日本、韓國相應執法單位的資訊交換機制或經驗分享，加強技術保護及打擊相關犯罪活動。有關本次高峰會進展，簡要彙整如下： 一、經驗與案例分享：三國執法單位各自說明其技術保護工具、政策之最新舉措，並進行執法案例分享。 二、相關執法單位簽署合作意向書： (一)美國司法部（The Department of Justice）、日本警察廳（警察庁）和韓國法務部（법무부）共同簽署「深化技術外洩執法資訊分享合作意向書」（Letter of intent on deepening information sharing for tech leak law enforcement）。 (二)美國商務部（The Department of Commerce）、日本經濟產業省（経済産業省）和韓國產業通商資源部（산업통상자원부）共同簽署「實施出口管制合作意向書」（Letter of intent for cooperation on export control implementation）。 三國共識非法出口貨品或移轉技術行為，已對國家安全、經濟安全構成威脅，除持續優化相關法規外，有必要強化三國「執法面」連結，進行較即時的打擊犯罪跨國合作，防範民族國家境外勢力（Nation-state adversaries）以不正當手段獲取先進技術，並建立更全面的國際「顛覆性技術保護網路」（Disruptive Technology Protection Network）。