日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國聯邦第六巡迴上訴法院於2016年4月13日就U.S. v. Timothy Ivory Carpenter & Timothy Michael Sanders案作出判決，裁定執法機關在未取得搜索令的情況下要求出示或取得手機位置記錄，並不違反憲法增修條文第4條。美國憲法增修條文第4條規定：「人人具有保障人身、住所、文件及財物的安全，不受無理之搜索和拘捕的權利；此項權利，不得侵犯；除非有可成立的理由，加上宣誓或誓願保證，並具體指明必須搜索的地點，必須拘捕的人，或必須扣押的物品，否則一概不得頒發搜索令。」 本案事實係聯邦調查局取得兩名涉及多起搶劫案之嫌疑人的手機位置，而根據手機位置之相關資料顯示，於相關搶案發生之時間前後，該二名嫌疑人均位於事發地半英哩至兩英哩的範圍內，故該二名嫌疑人隨後被控多項罪名。在肯認與個人通訊相關之隱私法益的重要性的同時，聯邦第六巡迴上訴法院認為，「縱使個人通訊之內容落於私領域，但是為了將該些通訊內容自A地至B地所必須之資訊，則非屬私領域之範疇。」聯邦第六巡迴上訴法院拒絕將憲法增修條文第4條的保護延伸至像是個人通訊或IP位址等之後設資料(metadata)，其原因在於，蒐集此等資訊或記錄並不會揭露通訊的內容，因此本案之嫌疑人就聯邦調查局所取得之資訊並無隱私權之期待。法院認定，此等行為不同於自智慧型手機取得資訊，因為後者「通常而言儲存了大量有關於特定使用人之資訊。」 2015年11月9日，美國聯邦最高法院拒絕審理Davis v. United States案，該案係爭執搜索令於執法部門要求近用手機位置資料時之必要性。加州州長Jerry Brown於2015年10月亦簽署加州電子通訊法(California Electronic Communications Act, CECA)，該法禁止任何州政府的執法機關或其他調查單位，在未出示搜索令的情況下，要求個人或公司提供具敏感性之後設資料。
歐洲創新理事會發布2026年EIC技術報告，揭示25項深具發展潛力的新興技術訊號歐洲創新理事會發布2026年EIC技術報告，揭示25項深具發展潛力的新興技術訊號 資訊工業策進會科技法律研究所 2026年05月25日 歐洲創新理事會（European Innovation Council, EIC）於2026年3月30日發布「2026年EIC技術報告」（EIC Tech report 2026，下稱EIC報告），提出25項新興技術訊號（signal），亦因相關技術極具發展潛力，將可能塑造歐洲未來的科技創新、產業和市場。 壹、事件摘要 EIC根據歐盟展望歐洲（Horizon Europe）科技研發架構計畫之申請、補助及專案管理資料，並涵蓋旗下近五年探路器計畫（EIC Pathfinder）、轉型器計畫（EIC Transition）及加速器計畫（EIC Accelerator）等超過13,380 件提案與獲補助案件，透過資料探勘及專家評估進行前瞻技術掃描，歸納出25項深科技新興技術訊號，並強調相關技術目前處於低至中度成熟階段，但已顯現未來發展潛力與創新性。 貳、重點說明 一、EIC報告辨識25項新興技術訊號，並分為三大領域 （一）數位與太空技術（Digital and space technologies） 1. 技術重點 此領域共9項技術，主要涉及先進半導體、安全運算架構、AI系統、量子通訊，以及太空基礎設施，顯示歐盟將數位主權、資訊安全及太空能力視為核心布局方向。 2. 技術簡介 9項技術包含：用於先進記憶體與憶阻裝置的二維材料（2D materials for advanced memory and memristive devices），有助於新型記憶體及神經形態運算技術發展；可量產之工業電磁設備的MXene二維奈米材料製造技術（Scalable MXene manufacturing for industrial electromagnetic applications），可應用於通訊、汽車電子、感測與新世代無線基礎設施；用於建立無須信任節點量子網路的量子中繼站（Quantum repeaters for trusted-node-free quantum networks），可突破量子通訊距離限制，使量子訊息於數百甚至數千公里距離下被安全傳輸；用於分散式及聯邦式學習之AI系統中的零信任架構（Embedded Zero Trust Architectures for distributed and federated AI systems），可強化對AI模型與資料運算的控制能力；應用於新興自我組織及資源效率系統之仿生AI技術（Bio-inspired AI for emerging self-organising and resource-efficient systems），借鏡神經科學、認知科學與演化生物學原理來設計AI系統，使其具備更高適應性、穩健性與資源效率；將自適應代理人用於開放動態環境中之具身AI技術（Embodied AI for adaptive agents in open and dynamic environments），將感知、內部認知、模擬行動能力等緊密結合之AI系統，並於開放環境中持續互動學習，主要用於支撐機器人、AI自主代理、數位孿生，以及其他需連續決策、長時程的智慧系統；用於大規模且可通訊中斷之衛星運作的邊緣運算技術（Edge computing for scalable and loss-tolerant satellite operations），將資料處理分析能力直接部署於衛星或軌道平台上，使其即時篩選、分類與判讀資訊，並支援自主決策，可用於深空任務、地球觀測、太空碎片管理；用於特殊太空環境之石墨烯塗層與複合材料（Graphene-based coatings and composites for performance-critical space systems），將石墨烯整合為薄膜、塗層、填充材料，提升太空機械之強度、阻隔能力及輻射防護效果，並廣泛應用於太空領域；用於軌道基礎設施維護與再利用之先進太空維修機器人技術（Advanced in-space servicing robotics for orbital infrastructure maintenance and reuse），使機器人於太空環境下進行機械操作、檢查、維修、對接等複雜性任務。 （二）清潔和資源效率技術（Clean and resource-efficient technologies） 1. 技術重點 此領域共7項技術，此類重點在於資源回收、水汙染處理與資源再利用、提升能源效率及綠色建築技術等，反映歐盟將淨零轉型與關鍵原物料供應安全一併納入政策目標。 2. 技術簡介 7項技術包含：用於再生金屬回收與生物復育之微生物採礦技術（Microbial biomining for secondary metal recovery and bioremediation），運用微生物與金屬間的交互作用，實現金屬回收，並同時修復重金屬污染之生物技術；用於低耗能海水淡化與水處理之電容去離子技術（Capacitive deionization systems for low-energy water desalination and treatment），新穎、低用電之新型水處理技術，用於海水淡化、工業及都市廢水處理、重金屬或養分去除，以及分散式水資源處理與回收；去除污染物之電化學水處理技術（Electrochemical treatment systems for destruction of persistent contaminants in water），利用電化學反應在水中直接化學轉化或礦化分解全氟及多氟烷基物質（PFASs）、微塑膠及奈米塑膠等高度持久性污染物之水處理技術；用於低溫及中溫廢熱回收之先進熱電發電材料技術（Advanced thermoelectric materials for low- and mid-temperature waste heat recovery），將交通建築系統與回收產業中之低溫及中溫廢熱能，轉為電力的材料技術，可提升能源效率，並降低對外部能源與關鍵材料的依賴；用於固態熱電轉換與感測之熱激發自旋電子材料技術（Spin-caloritronic materials for solid-state heat-to-electricity conversion and sensing），利用熱梯度引發之自旋電流與磁性激發產生電能的材料技術；用於預測材料製造之結合數位孿生之反算設計技術（Inverse design with digital twins for predictive materials manufacturing），運用AI驅動之逆向設計方法，以目標性能反推材料配方與結構，並透過數位孿生模擬真實環境表現，建立快速、可預測且貼近實際應用情境的新材料設計與製造流程；被動冷卻與重力儲能之能源建築技術（Passive cooling and gravity-based storage for energy-active buildings），利用建築表面的先進材料於不耗電情況下降溫，並將多餘再生能源以重力位能方式儲存於建築內，藉以降低建築冷卻用電需求、儲存局部多餘再生能源等。 （三）生物科技與健康技術（Biotechnologies and health） 1. 技術重點 此領域共9項技術，橫跨食品、生物製造、精準醫療、智慧醫療設備及分散式醫療應用，顯見歐盟關注的不只是單一生技或醫療技術突破，而是期望建立從生物研發、生產製造、臨床治療到醫療設備部署的完整體系，藉此強化歐盟下一代健康科技與高價值生技產業的競爭力與自主能力。 2. 技術簡介 9項技術包含：用於原形食物製造之菌絲體混合發酵技術（Mycelium-based hybrid fermentation for whole-food production），結合菌絲體生長與精準發酵，生產接近原型食物型態的新型蛋白食品原料；用於再生農業系統之生物技術多年生作物（Biotech-enabled perennial crops for regenerative agricultural systems）以生物技術改良多年生作物，使其兼具較佳產量與土壤保育效益，支撐再生農業與更永續的糧食生產系統；用於預防與個人化治療之新型微生物體療法（Novel microbiome therapeutics for preventive and personalised health），利用人體微生物群的組成、功能及其代謝產物，來預防、管理及治療疾病的新一代醫療技術；加速藥物與酵素探索之AI驅動蛋白質設計技術（Computational protein design for accelerated drug and enzyme discovery），透過AI預測蛋白質結構與功能，加速藥物與酵素探索，縮短新藥研發時程；可量產之嵌合抗原受體免疫細胞療法之自動化製造技術（Automated manufacturing technologies for scalable CAR immune cell therapies），以自動化、標準化製程提升嵌合抗原受體（Chimeric Antigen Receptor, CAR）免疫細胞療法的穩定量產能力，降低細胞治療製造門檻；可於細胞尺度介入治療之生物混合微型機器人（Biohybrid microrobots for cellular-scale therapeutic interventions），結合生物組件和人工材料的微型機器人，形成可於細胞或微小組織尺度中移動與作用的治療工具，可用於精準遞藥、微創介入與局部治療；整合手術流程之自主機器人系統（Autonomous robotic systems for integrated surgical workflows），將AI、計算機視覺、感測技術及機器人技術，整合進手術流程中，並於無人或少人參與下，執行部分自主或高階輔助手術任務，可提升手術精準度、效率與流程整合；用於神經疾病治療之非侵入式微創腦機介面技術（Noninvasive and minimally invasive brain interfaces for adaptive therapeutic modulation），透過非侵入或低侵入方式讀取與調控腦神經訊號，以實現持續、可調適的治療介入，可用於神經疾病治療與復健；提供分散式臨床場域應用之可攜式超低場磁振造影（Portable and ultra-low field magnetic resonance imaging for distributed clinical uses），使磁振造影（Magnetic Resonance Imaging, MRI）設備朝攜帶式、低磁場化發展，降低設施與操作門檻，利於偏鄉、急診與分散式臨床試驗之醫學影像診斷應用。 參、事件評析 EIC報告辨識出25項新興技術訊號，並將其歸納為數位與太空技術、清潔和資源效率技術，以及生物科技與健康技術三大領域。該報告不僅有助於歐盟及早掌握具發展潛力之新興深科技方向，亦可作為研發政策制定、創新支持措施規劃及投資判斷之重要參考依據。 此外，EIC報告以「技術訊號」作為分析單位，顯示歐盟有意於新興技術尚未成熟前，提前進行辨識、評估與布局，除保障創新競爭力外，亦可避免在未來關鍵技術競爭中受制於人。 就政策意涵而言，EIC報告不僅有助提升歐盟對前瞻科技治理的能力，亦有助於串聯創新支持工具、產業政策與戰略技術平台，進而形塑較為完整的科技治理體系。對我國而言，EIC採取資料探勘與專家判讀並行之新興技術訊號偵測機制，對我國科研成果運用、前瞻技術治理及國家科技政策規劃，均具有相當參考價值。
歐盟擬立法要求電信業者及ISP業者保留通聯紀錄歐洲議會民眾權益委員會（ the European Parliament's civil liberties committee）於2005年11月25日以33票對8票通過新的指令草案，要求電話與網路的通聯紀錄（但不包含內容紀錄）均需被保留6個月到12個月。目前此草案已送交部長理事會（Council of Ministers）審議中。 為避免保留之通聯紀錄遭到濫用，民眾權益委員會要求僅法官可以調閱通聯紀錄，且僅限於調查重大犯罪（例如恐怖份子或是組織犯罪）時始可調閱。但創作及媒體企業協會（ the Creative and Meida Business Alliance, CMBA）則希望歐盟能放寬通聯紀錄調閱之限制，允許進行所有犯罪之調查時，特別是在查緝盜版犯罪之情形，能調閱通聯紀錄。 對於業者因配合保留通聯紀錄而增加的額外負擔，則可能透過轉嫁給消費者或是透過整府補貼的方式解決。
歐洲專利局《2023年戰略計畫》歐洲專利局（The European Patent Office, EPO）於2019年6月27日發布《2023年戰略計畫》（Strategic Plan 2023, SP2023），協助歐盟應對網路化和全球化的世界挑戰。該戰略計畫之重點為實現專利局五大策略目標，分別為：員工參與（staff engagement）、資通訊現代化（modernisation）、品質（quality）、歐洲專利網路（European patent network）和永續性（sustainability）。 該五大策略目標分述如下： 建立一個參與性、知識性及協作性的組織：幫助員工發揮其專業領域，以及重視識別、招募和留才之方法。 進行EPO 資通訊系統的簡化與現代化：包含支持端到端的電子專利授權流程、對現有技術數據庫進一步投資、並關注亞洲相關文獻與標準。 效率化提供高品質流程與服務：確保EPO的專利審查或其他作業流程及服務維持高標準，例如建立辦公室品質管理系統（QMS）和「早期確定」計畫（Early Certainty），加速專利核准程序。 建立具有全球影響力的歐洲專利制度和網路：加強歐盟成員國與歐盟以外國家專利局之合作，並定期檢視歐洲專利局對其他國家的財務與營運支援，在加強國際參與度與成本效益之間達到平衡。 確保長期發展與永續：歐洲專利局擬建立觀察站（Observatory）作為一提供利害關係人進行討論和分析的平台。該平台將為減少碳排放、降低能源消耗、降低紙張消耗以及減少使用塑膠等訂定明確長期目標。