日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
日本獨立行政法人情報處理推進機構（下稱IPA）於2025年10月發布美國第二次川普政權數位政策現狀報告（下稱現狀報告），內文聚焦於美國政權輪換後數位政策之變動與解讀，同時提及在推動AI發展的同時，亦應注重其安全性。 日本觀測美國數位政策的現狀報告指出，隨著社會數位化程度日益增加，除了雲端數位資料的累積，以及提升對於AI的依賴程度外，亦會造成釣魚信件難以識別，透過可自動生成程式碼的惡意攻擊型AI進行攻擊行為等AI濫用之風險。 準此，美國為確保AI與資料的安全性，並維持其領域之競爭優勢，於2025年7月23日發布AI行動計畫，並提出三大方針，包括加速AI創新、建構AI基礎設施，以及透過國際性的AI外交與安全保障發揮領導能力。此外，內文亦提及為確保競爭優勢，需要建立作為AI發展基礎的科學資料集，並建置資料中心，同時確保其具備高度安全性，以避免AI使用者輸入AI之資料遭到竄改或外洩。 此外，現狀報告內文提及日本企業Softbank與OnenAI、Oracle等公司共同參與規模達5000億美元的Stargate計畫，並已於德州著手建設AI資料中心，顯示日本在美國的AI基礎建設中扮演重要角色並佔有一席之地。然而，內文亦指出美國數位政策具備不透明性而有潛在風險，須持續留意與關注。 我國企業如欲深耕AI領域，並透過AI進行技術研發，可由建立科學資料集開始著手，以作為訓練AI模型的基礎，以達到運用AI輔助及縮短研發週期、減少研發過程中的試錯成本等效益。此外，為確保安全性，科學資料集建置過程中所需之數位資料，可參考資訊工業策進會科技法律研究所創意智財中心所發布之《重要數位資料治理暨管理制度規範》，建立貫穿數位資料生命週期之資料治理機制。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
歐盟會員國要求分享DNA資料庫歐盟十五個會員國為強化對抗恐怖攻擊、跨邊境犯罪及非法遷徙之國際合作，於2007年3月28日提出有關資料分享的立法草案，以期歐盟能夠建立一套資料分享的機制與架構。立法草案明確規範了各成員國就資料保護所應給予的等級，其必須保證個人資料保護必須達到與1980年歐洲理事會（Council of Europe）通過的「保護自動化處理個人資料公約（Convention for the Protection of Individuals with Regard to Automatic Processing of Personal Data）」及其於2001年通過的附加議定書相同等級。 該立法草案係根據「Prüm條約」而來，其條約簽署背景為2004年馬德里的恐怖組織炸彈攻擊事件，有鑑打擊恐怖攻擊及跨國犯罪之國際合作，歐盟七個會員國於2005年5月27日在德國、比利時及盧森堡邊境的城市Prüm，簽訂了該條約。條約中規定，簽署國之警察及刑事追訴機關執法於恐怖攻擊及跨邊境犯罪時，得向他簽署國處理相關資料之單位請求有關DNA之分析資料、指紋及相關車籍資料。 目前，歐盟資料保護監督機構（European Data Protection Supervisor）已背書支持建立該機制與架構，並且聲明表示，該架構之建立，仍應注意資料保護的相關事項，在追求資料分享更為便利的同時，應給予人民更為足夠的保護，再者，資料處理的權責單位對於不同的資料類型，也應以不同的方式處理之，越敏感性的資料越應限制其使用目的，並且讓越少人得以接觸。
美國聯邦資料戰略〈2020年行動計畫〉美國白宮於2018年3月發布〈總統管理方案（President’s Management Agenda）〉，其中發展「聯邦資料戰略（Federal Data Strategy）」，將資料作為戰略資產，藉以發展經濟、提高聯邦政府效能、促進監督與透明度，為方案中重要之工作目標之一。「聯邦資料戰略」之架構上主要包括四個組成部分，以指導聯邦資料之管理和使用：1.使命宣言：闡明戰略之意圖與核心目的；2.原則：有十大恆定原則對於機關進行指導；3.實作規範：有四十項實作規範指導機關如何利用資料之價值；4.年度行動計畫：以可衡量之活動來實踐這些實作規範。 於2019年12月23日，〈2020年行動計畫〉之最終版正式發布，其將建立堅實之基礎，在未來十年內支持戰略之實踐。詳言之，〈2020年行動計畫〉之內涵主要包含三大部分與二十個行動： 機關行動：旨在支持機關利用其資料資產，包括六大行動：(1)行動1：確認用於回答對於機關而言具有優先性之問題所需之資料；(2)行動2：將機關之資料治理制度化；(3)行動3：評估資料與相關基礎設施之成熟度；(4)行動4：確認提高員工資料技能之機會；(5)行動5：確認用於機關開放資料計劃之優先資料資產；(6)行動6：發布與更新資料庫存。 實踐共同體之行動：由特定機關或一群機關就一共通主題所採取之行動，可加速並簡化現有要求之執行，包括下列四大活動：(1)行動7：成立聯邦首席資料官委員會；(2)行動8：改善用於AI研究與發展之資料與模型資源；(3)行動9：改善財務管理資料標準；(4)行動10：將地理空間資料實務整合至聯邦資料事業中。 共享解決方案行動：為所有機關之利益、由單一機關或委員會試行或發展之活動：(1)行動11：開發聯邦事業資料資源儲存庫；(2)行動12：創建美國預算管理局聯邦資料政策委員會；(3)行動13：制定策畫之資料技能目錄；(4)行動14：制定資料倫理框架；(5)行動15：開發資料保護工具組；(6)行動16：試行一站式之標準研究應用程序；(7)行動17：試行一種自動化之資訊收集評論工具，該工具支持資料庫存之創建與更新；(8)行動18：試行用於聯邦機構之增強型資料管理工具；(9)行動19：制定資料品質評估與報告指引；(10)行動20：發展資料標準之儲存庫。 〈2020年行動計畫〉確定機關之初步行動，其對建立流程、建立能力、調整現有工作以更好地將資料作為戰略資產至關重要。未來之年度行動計畫將會在〈2020年行動計畫〉之基礎上進一步發展出針對聯邦資料管理之協調方案。
以色列政府採購之創新實踐