日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
新加坡資料共享法制環境建構簡介 資訊工業策進會科技法律研究所 2019年12月31日 壹、事件摘要 如何有效運用資料創造最大效益為數位經濟（Digital Economy）重點，其中資料共享（data sharing）是有效方法之一。新加坡自2018年以來推動「資料共享安排」機制（Data Sharing Arrangements, 下稱DSAs）與「可信任資料共享框架」（Trusted Data Sharing Framework），建構資料共享環境，帶動國內組織[1]資料經濟發展與競爭力。 貳、重點說明 自從2014年新加坡政府推行「2025智慧國家（Smart Nation）」以來，即積極鋪設國家數位經濟建設，大數據資料分析等數位科技發展為其重點，預估2022年60%國內生產總值將與數位經濟有關[2] 。其中，希望透過資料共享促進組織、政府、個人三方間資料無障礙流通，降低蒐集、處理與利用成本，創造更多合作機會進行創新應用，因此從法制面、環境面與技術應用層面打造完善的資料共享生態系統（data sharing ecosystem）[3]。 然而依據《個人資料保護法》（Personal Data Protection Act 2012，下稱個資法）第14條以下規定，組織蒐集、處理與利用個人資料應取得當事人同意，除非符合第17條研究目的等例外情形。由於資料共享強調可將資料進行多節點快速傳遞近用，使資料利用價值最大化，因此若依據個資法規定每次共享皆須事前獲得當事人同意，將使近用成本增高並間接造成資料流通產生障礙。因此為因應國家政策與產業需求，新加坡個人資料保護委員會（Personal Data Protection Commission, 下稱個資委員會）依據個資法第62條所賦予的豁免權（exemption），個人或組織可在遵循個資委員會訂定的規則下，依照個案給予組織免除個資法部分規範[4] ，而DSAs機制即是一種[5]。 DSAs是由個資委員會於2018年設立的沙盒（sandbox）計畫，如組織所進行的共享模式是在特定群體並範圍具體明確，同時不會造成個人有負面影響等情事，可在不須經個人同意下進行資料共享[6]。並且，為進一步提升組織與消費者間信任，2019年6月個資委員會與資訊通信媒體發展局（Info-Communication Media Development Authority of Singapore，下稱資通發展局）共同推出「可信任資料共享框架」指南建議，由政府擔任監管角色，組織只要符合指南建議方向，如遵循法律、達到一定資料技術應用品質與實施資安與個資保護措施下，可以進行個人與商業資料之共享，DSAs機制是共享方法之一。以下簡述新加坡個資法規範、指南建議與DSAs機制運作方式。 圖1：資料共享環境建構 資料來源：新加坡資通發展局 一、新加坡個人資料保護法規範 在沒有個資法第17條所列之例外情形下，依據第14條以下規定，組織如近用個人資料應獲得個人同意，同時應符合目的使用及通知義務，尤其應給予個人可隨時撤回同意之權利[7]。 同時組織應根據個人要求，提供近用個人資料之方法、範圍與內容，以及更正錯誤資料權利[8]。並且組織必須任命資料保護官（Data Protection Officer, DPO）隨時向大眾提供通暢的個資聯絡管道，來確保個資透明性與完整性[9]。 在資料保護措施上應有合理安全的資安防護技術，以保障資料不被未經授權近用的風險。當使用目的不在時，需妥善保留或予以去識別化，同時如須境外轉移資料時，境外之資料保護措施應至少與新加坡個資法規範標準相同[10]。 二、免除同意之DSAs機制 DSAs機制是由個資委員會於2018年設立的沙盒（sandbox）計畫，也就是組織可透過申請免除資料共享前必須獲得個人同意之規範。然而如組織擬向個資委員會申請DSAs機制，必須符合三個條件[11]： 共享範圍需在特定群體、期間與組織內：即只限定在具體特定的應用情境內，若超出申請範圍，例如分享至其他非申請範圍的組織，則須再經過個資委員會批准[12]。 近用目的需具體明確：即資料共享必須應用於特定且明確目的，如以「社會研究目的」作為申請則範圍過大不夠明確[13]。 近用資料對於個人不會有不利影響，或公共利益大於個人利益：例如共享目的不是直接用於銷售或存在合法利益，或是共享本身具備公共利益且明顯大於個人可預見的（foreseeable）不利影響，此時個資委員會可考慮同意組織申請免除[14]。 三、建立以信任為基礎之資料共享模式 雖然取得DSAs機制免除同意可以使資料近用方式更為簡便，然而在進行資料共享前，仍應有完善的技術品質與資安保護措施，因此在「可信任資料共享框架」指南建議中，組織應透過法律遵循、導入AI或區塊鏈等新興技術，並具備相應資安保護措施來建構可信任的資料共享環境，實際步驟可分為以下四階段[15]： 圖2：可信任資料框架 資料來源：新加坡資通發展局 第一階段為「資料共享建構」[16]，由組織自行評估存有的商業或個人資料是否具共享價值與潛在利益，並要如何進行共享，例如資料共享方式屬於雙邊（bilateral）、多邊（multilateral）或是分散式（decentralized，又稱「去中心化」）。以及資料種類有哪些，如主資料（master data）、交易資料、元資料（metadata）、非結構化資料（unstructured data）等。組織可將資料共享方式、種類依據無形資產（intangible asset）評價方式，即市場法（market approach）、成本法（cost approach）與收入法（income approach）三種評價方法進行評價，來衡量共享之價值性。除資料價值判斷外，組織必須自行評估自身組織與將來之合作夥伴是否有足夠能力管控共享之資料，包括是否具備一定技術能力的資安與資料保護措施等。 第二階段為「法律規範考量」[17]，即決定哪些資料可以進行共享，從規範面檢視個資法、競爭法與銀行法等是否有例外不得共享規定，例如信用卡號碼或個人生物識別資訊不得共享。若資料共享類型不會對個人造成不利影響或具備公共利益，並有通知（notification）個人給予選擇退出（opt-out）的機會，組織可依個案申請DSAs機制之豁免。同時另外鼓勵組織向IMDA申請資料保護信任標章（Data Protection Trustmark, DPTM）認證，透過認證機制使消費者更能信任組織運用其個人資料[18]。 第三階段為「技術組織考量」[19]，包含組織是否有能力建立資安風險管理與個資侵害之因應措施，是否有即時將資料安全備份技術，並針對不同傳輸技術如有線/無線網路、遠端存取（VPN）、應用程式介面（API）、區塊鏈等區分不同資安防護與風險管理能力。 最後一階段為「資料共享操作」，當已準備進行資料共享時，需再次檢視是否已符合前三個階段，包含透明性、責任義務、法律遵循、近用資料方式與取得目的外利用同意等[20]。 參、事件評析 個人資料視為21世紀驅動創新的重要價值，我國部會亦開始討論「個資資產化」的可能[21]。面對數位經濟時代來臨，有效運用數位科技將潛藏個人資料的大數據進行加值利用，不僅有利組織與創新發展，更可回饋消費者享有更好的產品與服務。 新加坡政府以資料共享作為數位經濟發展重點方向之一，在具備一定程度技術能力、資安保護措施與組織控管之條件下，可向主管機關申請免除個人同意之規範。透過一定法規鬆綁讓資料利用最大化以創造產業創新價值，同時依據主管機關要求的保護措施，使消費者信賴個人資料不會遭受不當利用或侵害。DSAs機制與「可信任資料共享框架」指南之建立，適時調適個人資料保護規範與資料應用間的衝突，並提供組織進行資料共享之依循建議，作為推動該國數位經濟發展方針之一。 [1]組織（organisation）依據新加坡個人資料保護法（Personal Data Protection Act 2012）第2條泛指個人、公司、協會、法人或團體。 [2]INFOCOMM MEDIA DEVELOPMENT AUTHORITY 【IMDA】, Trusted data sharing framework (2019), at 7, https://www.imda.gov.sg/-/media/Imda/Files/Programme/AI-Data-Innovation/Trusted-Data-Sharing-Framework.pdf (last visited Sep. 11, 2019). [3]id. [4]Personal Data Protection Act 2012 (No. 26 of 2012) §62, “The Commission may, with the approval of the Minister, by order published in the Gazette, exempt any person or organisation or any class of persons or organisations from all or any of the provisions of this Act, subject to such terms or conditions as may be specified in the order.” [5]Data Sharing Arrangements, PDPC, https://www.pdpc.gov.sg/Overview-of-PDPA/The-Legislation/Exemption-Requests/Data-Sharing-Arrangements (last visited Dec. 1, 2019). [6]id. [7]IMDA, supra note 2, at 31; Personal Data Protection Act 2012 (No. 26 of 2012) §14, 16, 20. [8]id. Personal Data Protection Act 2012 (No. 26 of 2012) §21. [9]IMDA, supra note 2, at 31. [10]id. at 32. Personal Data Protection Act 2012 (No. 26 of 2012) §24-26. [11]id. [12]PERSONAL DATA PROTECTION COMMISSION【PDPC】, Guide to Data Sharing (2018), at 14, https://www.pdpc.gov.sg/-/media/Files/PDPC/PDF-Files/Other-Guides/Guide-to-Data-Sharing-revised-26-Feb-2018.pdf (last revised Oct. 3, 2019). [13]id. [14]id. [15]PDPC, supra note 4. at 28. [16]id. at 21, 23-25. [17]id. at 35 [18]id. at 30. Data Protection Trustmark Certification, IMDA, https://www.imda.gov.sg/programme-listing/data-protection-trustmark-certification (last visited Sep. 26, 2019). [19]id. at 41-47. [20]id. at 50-51. [21]林于蘅，〈自己的個資自己賣！國發會擬推「個資資產化」〉，聯合新聞網，2019/06/17，https://udn.com/news/story/7238/3877400 （最後瀏覽日：2019/10/1）。
德國慕尼黑第一地方法院判決Google應為Google搜尋AI摘要功能之不實訊息負責德國慕尼黑第一地方法院判決Google應為Google搜尋AI摘要功能之不實訊息負責 資訊工業策進會科技法律研究所 2026年07月08日 2026年5月28日，德國慕尼黑第一地方法院（LG München I）做成判決[1]（Az. 26 O 869/26），認定Google應為其搜尋服務中提供的AI摘要功能產生之不實訊息承擔法律責任。 壹、事件摘要 一、AI摘要的不實指控 本案源自於，在2026年1月，兩家慕尼黑出版社發現，當在Google搜尋中使用該些公司名稱及「詐騙（Betrugsmasche）」或其他相類似單字作為關鍵字進行搜尋時，Google搜尋的AI摘要會出現該些公司與詐騙相連結的陳述，並「引用」了一則文章作為證據。出版社認為，實際上，AI錯誤地將其他公司的可疑行為資訊歸於該些公司了。該些公司並未有相關詐欺行為或與AI摘要中聲稱的其他「共犯」公司有連結。公司發現這件事後，在2月向Google寄送存證信函，要求其停止系爭爭議文本。 在Google受理相關申訴期間，該公司發現雖然同樣的搜尋也會間歇性地出現其他不具爭議的摘要，並明確指出該公司「不應與另一間在相類似情況下會被提及的可疑公司混淆」，但仍然會出現其欲終止的文本。該些企業因而以其企業人格權（Unternehmenspersönlichkeitsrecht）因AI摘要的不實和誹謗性描述遭到持續的侵害，向法院提起訴訟，依請求Google停止Google搜尋的AI摘要繼續出現這類言論。 二、Google的抗辯 Google則抗辯說，該請求沒有說明是涉及哪些具體的搜尋關鍵字和相關的資訊需要禁止，請求太過模糊。 再者，Google認為該些陳述並非Google的「言論」。Google認為該些陳述以搜尋引擎的形式出現，僅是依據搜尋請求自動顯示、由第三方提供的資訊。因此，相關陳述的直接侵權責任不能歸責於Google。 並且，Google也主張，其僅在被明確告知明顯違法情況下才可能承擔間接侵權責任，但在本案中，Google認為該些公司提出的申訴內容，還無法被視為明顯的違法情形，因為該些公司未能提出該些爭議陳述不屬實、公司受到實質損害的足夠證明。Google指出，實際上，網路公開論壇上存在許多不明顯違法的客訴，涉及不合理的催款或追討程序、缺少或延遲的服務，或者與客服的困難問題等。 最後，Google也主張已履行了審查義務，其在接到申訴後，透過機器學習的修正，已讓有爭議的內容無法再被存取。當侵害不存在重複發生的風險，法院就不應發布禁制令。 此外，Google也主張判決的效力應該限定於德國。 貳、重點說明 一、AI摘要不是搜尋結果，而是Google自身提供的內容 法院認為原告的請求已經足夠明確，其已列舉要求停止的言論，且相關搜尋關鍵字（「詐騙手法」）亦可透過Google搜尋欄的自動完成功能（Auto-complete-Funktion）在輸入原告公司名稱後所推薦的關鍵字中選取，列舉搜尋關鍵字並不是確定範圍所必須的。 法院接著指出，數位服務法（DSA）提供的責任豁免條款僅在該法適用範圍內有適用。並且，即便有DSA適用，法院也援引法蘭克福地方高等法院（OLG Frankfurt）2025年的判決（Az. 16 W 10/25）澄清，也並不排除司法機關依法要求服務提供者糾正或防止侵害的可能性。而在本案，法院認為AI摘要屬於Google自身透過提供給使用者的AI服務做出的表述，不能依據DSA、依據搜尋引擎營運者通知下架程序（Notice-and-take-down-Verfahren）享有豁免。這是因為AI摘要在呈現上已非單純的連結或預覽（Verlinkungen oder mit kurzer Vorschau (Snippets)），而是依照自己的架構、文字對問題和搜尋結果進行的獨立的整理與分析，並包含了在搜尋結果中找不到的說法，如AI摘要聲稱「引用」的來源中，根本未提及原告。法院因此認定，被告作為（也落在AI Act定義內的）AI提供者，必須為該AI生成的陳述負起責任。 二、AI摘要不是搜尋引擎、也不只是自動完成功能 法院並澄清，德國聯邦最高法院（BGH）有關搜尋引擎（Suchmaschinen）責任的判決（Az. VI ZR 489/16）並無法在本案中被援用。依據BGH，搜尋引擎是確保網路資訊可用的必要服務，與網路服務提供者（ISP）提供網路服務幾乎同等重要，因此作為間接侵權責任者，搜尋引擎服務與ISP服務一樣僅應承擔有限的責任，並不應使其承擔事先審查或其他可能危及搜尋引擎營運難度的不合理義務。但法院指出，AI摘要不是搜尋引擎。一方面，如上所述，它會發表獨立的、新的陳述，而該些內容是可以被Google檢查的。另一方面，法院也指出AI摘要並不像搜尋引擎那般絕對必要，AI摘要或許對許多人而言是理想的、能簡化搜尋過程，但相較於搜尋引擎，卻不是人為了處理網路資訊的洪流時不可或缺的。 法院也認為自動完成功能的考量無法套用到AI摘要上。BGH曾做出判決（Az. VI ZR 269/12）指出，自動完成功能不僅僅是純技術性、自動化和被動的，也不僅是提供資訊讓第三方存取，而是使用者的查詢資料會被用來程式化地處理、形成概念連結後，由服務提供者所提供的搜尋建議。BGH認為，儘管服務提供者原則上應對「放任」這些建議涉及的侵權負責，但仍需評估服務提供者能否合理地被期待防止損害，以避免過度的責任。考量關鍵字建議會因為其服務提供者無法控制的使用者搜尋模式和歷史改變，且只在某些使用者實際使用了特定關鍵字查詢時才能知悉，BGH認為這減輕了服務提供者的責任。但法院認為，由於AI摘要進行了獨自的整理與分析，也做出了第三方網站所無的陳述，服務提供者也就不再能以其無法控制第三方內容作為限制責任的依據。此外，法院也認為，儘管AI摘要提供「警語」，使用者可以比對AI摘要及第三方網站進行確認，但使用者也並非Google的事實查核員，因此這也不代表損害之發生應完全歸咎於使用者不查證，從而免除服務提供者的責任。 三、AI審查責任與言論自由 就Google主張說，若Google必須為AI摘要內容負責，就不可能在搜尋引擎中使用AI，法院也做出反駁。一方面，法院認為Google沒有提出的證明，另一方面，也可以限制審查義務的時間點在被指出可能的違法情況時緩解。並且，法院也指出，不同於無法或不適合主動去審查的第三方內容，即便在完全不與第三方網頁聯繫的情況下，Google也可以審查AI摘要的內容和資訊來源。因此，Google的責任也沒有理由被限制於明顯違法的內容，否則，對於受言論影響的人來說，在保護一般人格權或公司人格權方面必然會留下漏洞，因為當事人也無法向其他第三方請求撤除其實際上沒有發表的、有爭議的言論。 但是，法院也指出，這不代表原告有權要求Google的AI摘要不得產生任何他們僅僅是不希望出現的描述或評價。例如，法院認為亦必須考量言論自由的保護，不能禁止可能使讀者形成負面評價、但真實的事實陳述。然而，值得注意的是法院對AI生成內容的言論自由的評估，法院認為AI生成內容的觀點並非表達者自身信念的體現，而是演算法的產物，背後主要體現的是Google的商業活動，因此在本案權衡時，法院認為人格權的保護要優先於商業利益。 四、侵害防止請求之效力 綜上所述，法院最後認定原告有權請求Google停止AI摘要產生錯誤且誹謗性的言論，否則將面臨處罰。並且，法院也不採Google主張已經消除風險的主張，認為其雖然調整了AI摘要結果，但仍未做出足夠的安全保障，重複發生的可能性並未消失。此外，法院也依據《歐盟司法管轄權及執行規則》（EuGVVO）之規定，認定其具備原告及被告間跨境爭議的管轄權，被告應在該規則的適用範圍內，承認判決之效力，駁回判決效力應限於德國的主張。本案仍未終局確定。 參、事件評析 本案核心爭議在於AI摘要是否應與傳統搜尋結果在法律上享有同等地位，而慕尼黑第一地方法院明確駁回了這項論點。這項判決降低了使用者或公司對誹謗性人工智慧生成內容採取法律行動的門檻，加大了Google等AI服務提供者的監管壓力。 [1] LG München I, Endurteil v. 28.05.2026 – 26 O 869/26, https://www.gesetze-bayern.de/Content/Document/Y-300-Z-BECKRS-B-2026-N-11860 (last visit Jul. 07, 2026)
動物實驗顯示吸入奈米微粒會損害肺部與循環系統三月上旬甫於美國新奧爾良舉行的毒物學學會研討會，多數的論文將重點放在肺部暴露於奈米微粒的影響。例如來自美國太空總署休士頓太空中心的John T. James與其同僚，將奈米微粒噴入老鼠的呼吸道，於一週與三個月後再進行檢驗，結果發現儘管類似煤煙的碳奈米球狀物不會造成傷害，可是相當質量的商品化碳奈米管卻會顯著的損及肺部組織，甚至殺死幾隻老鼠。研究人員發現巨噬細胞(macrophages)會困住奈米管，不過隨之死亡。James認為研究小組所使用的劑量並不是非常不切實際，他估計在目前的美國聯邦碳吸入量法規限制下，相對於人體重量，工作人員在17天之內會吸入相等的劑量。 美國西維吉尼亞州國家職業安全與健康協會的Petia Simeonova與其同事，也觀察到接受類似劑量碳奈米管的老鼠會產生富含微粒的肺肉芽腫(granulomas)，研究人員也對心臟與主動脈的粒線體DNA進行損害檢查，粒線體傷害為發生動脈硬化(atherosclerosis)的先兆。 日本鳥取大學 (Tottori University )Akinori Shimada報告了首例奈米微粒從肺部移動到血液的系列圖像，碳奈米管一接觸到老鼠肺部極細小的氣管，即湧入穿過表面細胞的微小間隙，並且鑽入毛細血管，Shimada推測此會造成凝集甚至血栓。 羅徹斯特大學Alison Elder報告兔子吸入碳奈米球之後，增大了血液凝塊的敏感性。為了模擬糟糕的都市空氣污染，研究人員給予兔子每立方米包含70微克奈米球體微粒的空氣超過三小時，再觀察發生血液凝塊的時間，結果呼吸奈米微粒的兔子，一天之內即發生血液凝塊現象。因為發生的很快，所以Alison Elder認為奈米微粒是從肺部移動進入血流，而非從肺部送出凝血劑(clotting agents )。
歐盟與17家社交網站業者達成協議，強化青少年上網安全受惠於網路的高度普及與上網費用的調降，網路已成為民眾日常生活所不可或缺的事項。由於整體網路人口中，青少年占有極高的比重，如何提供青少年一個安全的網路空間，向為各國所關注的議題。 近年來社交網站在歐洲發展迅速，根據統計，現階段歐洲約有4,170萬的網路使用者，參與各種類型的社交網站。為防止日益嚴重的網路霸凌（Cyber-Bulling）及兒童賣春等問題，歐盟於2009年2月與MySpace、Facebook等17家社交網站達成協議，相關業者承諾將於自家網站上提供一個「申告侵害」（Report Abuse）的按鍵，便利使用者快速通知業者來自於他人的不合宜接觸或行為，以防止青少年受到網路霸凌或網路援交訊息的困擾。 社交網站業者除承諾提供上述通報機制外，在此次協議中，業者亦承諾強化青少年個人隱私的保護，以避免有心人士輕易透過社交網站，取得青少人之私密資料。