日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國發布先進AI創新與安全總統行政命令，強化AI資安防禦並建立尖端模型自願性架構 資訊工業策進會科技法律研究所 2026年08月10日 川普政府上任後，美國AI政策整體基調偏向「創新優先」，避免過度監管影響產業發展，以維持AI產業競爭優勢為目標。然而，隨著尖端（frontier）AI模型逐漸具備更先進之網路攻防及自動化代理能力，政策關注範圍亦由產業發展與技術競爭，進一步延伸至國家安全、政府資訊系統防護及關鍵基礎設施韌性。白宮指出，先進AI（advanced AI）能力雖可強化國家實力，亦帶來新的國家安全考量（national security considerations），須由行政部門各機關及其所屬單位協調因應[1]。 壹、事件摘要 因應新一代AI模型能力快速提升所引發之國家安全與資安議題，白宮於2026年6月2日發布第14409號總統行政命令「促進先進人工智慧創新與安全」（Promoting Advanced Artificial Intelligence Innovation and Security）（下簡稱總統行政命令），宣示聯邦政府將透過與私部門合作，促進AI創新與安全，藉由現代化政府及私部門資訊系統、防禦外部網路威脅、保護美國創新成果與智慧財產，以及培養先進AI賦能能力[2]，維持美國在AI創新領域之領先地位[3]。 總統行政命令聚焦三項重點，一為強化政府資訊系統防禦，導入AI資安工具，建立弱點偵測、修補協調、資金盤點及人才配置機制，並促進聯邦機關、州與地方主管機關及關鍵基礎設施營運者取得資安工具、服務，並於適當情形下近用（access）「適用範圍內之尖端模型」（covered frontier models，下簡稱為「特定尖端模型」）。第二，建立尖端AI模型之自願性安全部署架構，透過機密基準測試（classified benchmarking process）、政府有限期間之提前近用及可信任夥伴機制，促進安全創新並排除強制事前審查。第三，將AI相關資安犯罪列為優先執法事項，打擊利用AI非法存取或損害電腦，以及於非法存取過程中利用AI進一步實施其他犯罪之行為。 貳、重點說明 一、升級政府相關資訊系統防禦，並擴大AI資安能力之應用 總統行政命令第二條規定聚焦於以先進AI能力強化美國資訊系統之網路防禦。其規範重點包括優先強化政府相關資訊系統之防禦，並透過導入AI賦能防禦工具、完善弱點管理與修補協調等措施及資源分配，提升整體資安防護能力。具體措施包含： （一）優先強化政府資訊系統防禦，並擴大AI資安資源之取得 總統行政命令要求相關機關於命令發布日起30日內，優先強化政府核心資訊系統之網路防禦，包括「國家安全系統」（National Security Systems）[4]及戰爭部資訊系統。就民用聯邦政府資訊系統部分，則要求國土安全部透過資安暨基礎設施安全局（Cybersecurity and Infrastructure Security Agency, CISA），經跨機關諮商後發布「具拘束力之作業指令」（Binding Operational Directives, BOD）及其他適當指引，以加速並優先強化該等系統之網路防禦。 BOD及指引亦用於建立或擴充聯邦方案及資安服務，以強化AI賦能防禦工具，並促進聯邦機關、州與地方主管機關，以及鄉村醫院、社區銀行、地方公用事業等關鍵基礎設施營運者取得相關資安工具與服務，包括於適當情形下近用「特定尖端模型」。 （二）建立AI弱點偵測與修補協調機制，並配置資金及人才支持 1.成立AI國家級漏洞資訊中心（AI cybersecurity clearinghouse） 總統行政命令要求財政部長於命令發布日起30日內，經跨機關諮商後，成立「AI國家級漏洞資訊中心」。該中心由政府與AI產業及關鍵基礎設施營運者進行自願性合作（voluntary collaboration）推動，負責協調並避免軟體弱點掃描作業相互衝突、發現並驗證相關弱點，並協調及排定補救措施與弱點修補程式發布之優先順序。 後續白宮於2026年7月14日宣布啟動「金鷹計畫」（GOLD EAGLE），依總統行政命令建立AI國家級漏洞資訊中心，由相關聯邦機關與產業合作，目前已開始彙整各產業及部門所發現之資安弱點，依其重要性排定優先處理順序，並協調軟體弱點掃描與後續驗證作業，以確保美國軟體與網路（networks）之安全[5]。 2.盤點補助資金並擴大資安人才任用 總統行政命令另要求白宮管理與預算辦公室（Office of Management and Budget, OMB）與國家網路總監及CISA局長協調，盤點既有聯邦補助方案中是否有可用且相關之資金，可提供予開發先進AI弱點偵測之申請者。另為補足相關專業人力，總統行政命令亦要求「人事管理局」（Office of Personnel Management）局長於命令發布日起60日內，擴大由白宮支持之聯邦科技人才計畫「美國科技部隊」（United States Tech Force）[6]資訊資安專家之招聘與任用途徑。 二、建立尖端模型自願性安全部署架構 白宮將針對尖端模型建立自願性安全部署架構。總統行政命令要求財政部長、戰爭部長及國土安全部長於命令發布日起60日內，分別透過相關專責機關並經跨機關諮商，建立並維護「機密基準測試程序」，以評估AI模型之先進網路能力，並判斷特定AI模型是否達到認定「特定尖端模型」之門檻。 對於符合標準之模型，透過自願性架構，開發者得於向其他可信任夥伴發布模型前，提供聯邦政府最長30日之模型近用權限。此類近用須受適當保密、資安、內部人員風險、智慧財產權保護、使用及不揭露要求之拘束。總統行政命令並進一步規劃，AI開發者得與聯邦政府合作選定可信任夥伴，使該等合作夥伴取得尖端模型提前近用權，以促進安全創新並強化關鍵基礎設施資安。 然而，該總統行政命令亦明確排除強制性事前管制之解釋可能，規定相關條文不得被解釋為授權政府針對新AI模型之開發、公開、發布或散布，建立強制性核照、事前審查或許可要求，即使屬於尖端模型亦同。 依據媒體報導，白宮已於期限內完成總統行政命令所要求之自願性架構[7]，並於2026年8月與部分AI業者說明架構內容[8]。據目前報導，該架構排除開放模型，並將具當前最高水準能力（state-of-the-art capabilities）且涉及國安風險之封閉模型（closed-source models）納入發布前檢視。聯邦政府得於模型發布前進行最長30日之檢視，期間模型須儲存於高度安全環境，限制人員存取及詳細留存存取紀錄，相關檢視亦由多個行政部門官員共同參與[9]。惟白宮未對外公開完整架構，機密基準測試程序及「特定尖端模型」之判定門檻則均屬機密資訊[10]。 三、將AI相關資安犯罪列為優先執法事項 除前述AI資安能力導入與尖端模型安全部署安排外，總統行政命令亦從刑事執法面因應AI濫用風險。其要求司法部長優先執行《美國法典》（United States Code）第18編第1028條、第1030條、第1343條及其他適用之聯邦刑事法律[11]，以處理利用AI非法且未經授權存取、損害電腦系統之行為，或於從事該等非法存取時利用AI進一步實施其他犯罪之行為。 具體而言，前述優先執法範圍包括侵入公共或私人資訊技術系統，或運用AI代理（AI agents）非法存取資料或資訊，並將該等資料或資訊後續用於犯罪或違法目的。 參、事件評析 第14409號總統行政命令延續川普政府重視AI創新、避免過度管制之政策方向，並透過與私部門協作，促進AI創新與安全。該總統行政命令並未建立全面性AI監管制度，亦未要求AI模型於發布前須經政府核照或事前審查，而係分別從資安防禦、尖端模型安全部署及刑事執法等面向採取相關措施。 從制度設計觀察，該總統行政命令具有兩項重要意義，一為運用先進AI能力強化網路防禦，藉由推動AI賦能資安工具、弱點偵測、修補協調及資安資金與人才配置，強化政府資訊系統與關鍵基礎設施之韌性。二為針對具先進網路能力之尖端模型，建立機密基準測試及自願性安全部署架構，使開發者得與聯邦政府確認開發中模型是否符合指定門檻、提前供政府近用模型，並共同選定得提前近用模型之可信任夥伴，以強化關鍵基礎設施資安。 後續仍可觀察自願性架構之實際運作情形，包括主要AI開發者之參與程度，以及政府提前近用與可信任夥伴機制之執行情形。由於「特定尖端模型」之判定門檻及機密基準測試程序均未對外公開，外界較難掌握模型納入該機制之具體標準。加以模型如於正式發布前提供聯邦政府近用，相關安排亦涉及國家安全、模型資訊保密及智慧財產權保護。因此，自願性架構後續如何維持產業參與並兼顧相關安全與保護需求，將是此制度運作的關鍵問題之一。 [1] Exec. Order No. 14,409, 91 Fed. Reg. 34,565 (June 2, 2026). [2] Id. [3] Fact Sheet: President Donald J. Trump Promotes Advanced Artificial Intelligence Innovation and Security, The White House, June 2, 2026, https://www.whitehouse.gov/fact-sheets/2026/06/fact-sheet-president-donald-j-trump-promotes-advanced-artificial-intelligence-innovation-and-security/ (last visited Aug. 8, 2026). [4] 國家安全系統定義詳見《美國法典》（United States Code）第44編第3552(b)(6)(A)條規定。 [5] White House Launches Gold Eagle Initiative for Unprecedented Cybersecurity Vulnerability Coordination, THE WHITE HOUSE, July 14, 2026, https://www.whitehouse.gov/releases/2026/07/white-house-launches-gold-eagle-initiative-for-unprecedented-cybersecurity-vulnerability-coordination/ (last visited Aug. 19, 2026). [6] Tech for the American People, TECH FORCE, https://techforce.gov/ (last visited Aug. 8, 2026). [7] Maria Curi, White House Finalizes AI Framework Behind Closed Doors, AXIOS, Aug. 3, 2026, https://www.axios.com/2026/08/03/white-house-finalizes-ai-framework-behind-closed-doors (last visited Aug. 19, 2026). [8] Maria Curi, Scoop: Inside Trump's AI Framework, AXIOS, Aug. 4, 2026, https://www.axios.com/2026/08/04/trump-ai-framework-open-models (last visited Aug. 19, 2026). [9] Id. [10] Curi, supra note 7. [11] 上述條文分別涉及身分證明文件、認證特徵及資訊相關詐欺、電腦相關詐欺，以及透過電報、無線電或電視進行之詐欺行為。
日本個人資料保護法啟動修法--放寬AI開發的本人同意要件日本個人資料保護法啟動修法--放寬AI開發的本人同意要件 資訊工業策進會科技法律研究所 2026年06月18日 日本政府於2026年4月7日經閣議決定，提出由個人資料保護委員會（個人情報保護委員会，下稱PPC）研擬之《個人資料之保護等相關法律部分修正法律案》（個人情報の保護に関する法律等の一部を改正する法律案，下稱修正草案），並送請第221回特別國會審議；眾議院本會議已於同年5月26日表決通過，目前由參議院續審，預計於本會期內完成立法[1]。 壹、背景摘要 日本個資法於2020年修正時，於附則第10條明定政府應於施行後每三年檢視國際動向、資通訊技術進展及個人資料新型應用之發展，必要時採取必要措施[2]。PPC據此自令和5年（2023年）起展開檢討，歷經團體意見聽取、中間整理意見徵集，並於今年1月9日公布「三年一度檢討之制度改正方針」，4月7日內閣會議決定提出「個人資料保護法等之一部修正法律案」[3]。 此修正案之提出，主要源自於日本人工智慧基本計畫~以「可信賴AI」實現「日本再起」（令和7年12/23閣議決定）所提出的政策--就可整理為統計編製等之AI開發等所涉之本人同意方式、規範遵循之實效性確保等加以檢討，力求及早將「個人資料保護法」修正案提交國會[4]。 貳、重點說明 本次修正案之主要修正分為「適正(即正當)資料利用之推進」、「因應風險之妥適規範」、「不適正利用等之防止」及「法遵實效性確保之規範」四大面向。依據PPC前述「關於《個人資料之保護等相關法律部分修正法律案》(個人情報保護法等の一部を改正する法律案について)」之說明，有關放寬AI個資取得部分之重點如下： 一、就統計編製鬆綁第三人提供與要配慮個人資料取得之同意 依日本現行個資法規定，要配慮個人資料（信仰、病歷、犯罪歷等可能導致歧視之資訊）之取得（§20Ⅱ）、個人資料之第三人提供（§27Ⅰ）等，除符合例外規定外，原則需本人同意。為因應「多事業者共享資料、橫向解析以編製統計」之需求升高，且產出是統計、無法回頭對應到某個特定個人，對當事人權益的侵害風險較低，因此修正草案（§30之2、§31之3）於統計資訊等編製（含可整理為統計編製之AI開發等）的條件下，允許將個人資料提供第三人、取得已公開要配慮個人資料，得免本人同意；行政機關等保有之個資亦同。但為擔保資料僅用於統計編製，必須公告取得者、提供者與接收者之姓名名稱、擬進行之統計編製內容等一定事項；提供者與接收者須以書面約定僅以統計編製為目的；取得者及接收者禁止此目的外利用及再提供予第三人[5]。 二、不違反本人意思、明顯不害本人權利利益者免除同意 現行日本個資法就個人資料提供第三人（§27Ⅰ），原則需取得同意。此次修正草案規定：個人資料提供第三人（含§18Ⅲ目的外利用、§20Ⅱ要配慮個資取得；上開免同意例外分別定於修正草案第18條第3項第7款、第20條第2項第7款、第27條第1項第8款），於依取得狀況觀之，可認不違反本人意思因而明顯不害本人權利利益之情形，免本人同意。例如：訂房網站A依訂房利用契約，將訂房者姓名等提供予飯店B，或匯款來源金融機構C受託對D付款，將匯款人資訊提供予匯款目的金融機構D[6]。此外，就為保護生命、身體、財產，或為增進公眾衛生、推進兒童健全成長而處理個人資料之情形，於現行「難以取得本人同意時」之外，增列「有相當理由而未取得本人同意時」亦得免同意（第18條第2項第2款、第3款，第20條第2項第2款、第3款，第27條第1項第2款、第3款）。另草案並將「學術研究機關等」之學術研究例外，擴及以提供醫療為目的之機關或團體（如醫院，第16條第9項），俾醫學與生命科學研究得據以進行[7]。 參、事件評析 日本此次修正草案最具產業意義者，係將「可整理為統計編製等」之AI開發所需情況，明文納入免同意之第三人提供與要配慮個人資料取得範圍，直接回應AI開發對大量訓練資料之需求。有關已公開或既有個人資料得否用於AI訓練的合法依據，觀察近年國際動向明顯有朝向提供同意以外之合法路徑，並搭配保障措施例如當事人退出權的趨勢。 韓國個人資料保護委員會（PIPC）於2024年7月發布之指引，明確確認公開之個人資料得據以用於AI訓練，惟須符合正當利益存在、處理必要性、且該利益「明顯優越於」當事人權利之要件，並落實查證資料來源、產出過濾等技術措施，以及保障當事人權利行使之機制[8]。歐盟資料保護委員會（EDPB）於2024年12月17日通過第28/2024號意見，確認一般資料保護規則（GDPR）第6條第1項第f款之「正當利益」得作為AI模型開發與部署階段之合法依據，惟須逐案通過「正當利益之認定—處理必要性—與當事人基本權利之權衡」之保障措施[9]。 我國個資法並未如GDPR、韓國PIPA設有概括之「正當利益」合法事由，係規定一般個人資料之蒐集或處理個人資料可取自一般可得來源之依據，除非當事人對該資料之禁止處理或利用顯有更值得保護之重大利益[10]。但已取得的個人資料已無從識別特定當事人，可基於公共利益為統計或學術研究目的利用的，亦限於公務機關或學術研究機構[11]。而且取自一般可得來源的事由亦不適用於特種個資為學術研究目的所為蒐集處理，限於醫療、衛生或犯罪預防，範圍亦較一般個資為窄[12]。 相較韓、歐、日相繼就AI訓練的個人資料取得，提供明文之合法路徑並配套退出等保障機制，我國現行路徑要件若能進一步參考納入概括的正當利益或明文目的做有限豁免，並配套日本規範透明化、當事人退出與權利行使之配套，應有助於填補現行規範不足之缺口。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1]〈悪質業者に「課徴金」 個人情報保護法改正案、衆院通過〉，時事通信，2026年5月26日，https://www.jiji.com/jc/article?k=2026052600074&g=pol（最後瀏覽日：2026年6月11日）。 [2]個人情報保護委員会事務局，《個人情報保護法等の一部を改正する法律案について》（令和8年4月），頁1，https://www.ppc.go.jp/files/pdf/260407_kisyahaifusiryou.pdf（最後瀏覽日：2026年6月11日）。 [3]個人情報保護委員会事務局，前揭註2，頁1（「これまでの検討経緯」）。 [4]個人情報保護委員会事務局，前揭註2，頁2-4。（最後瀏覽日：2026年6月11日）。 [5]同前註，頁6。 [6]同前註，頁7。 [7]修正後第16條第9項明定「學術研究機關等」含以提供醫療為目的之機關或團體（如醫院）；其學術研究目的之目的外利用（修正後第18條第3項）、受保護個人資料取得（修正後第20條第2項）及第三人提供（修正後第27條第1項）之學術研究例外亦隨之適用；個人情報保護委員会事務局，前揭註2，頁9。 [8]대한민국 개인정보보호위원회（韓國個人資料保護委員會，PIPC），《인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서》（人工智慧〔AI〕開發・服務之公開個人資訊處理指引），2024年7月17日公開，明示個人資料保護法第15條第1項第6號「正當利益（정당한 이익）」為AI學習、服務蒐集利用公開個資之實質適法依據，https://www.pipc.go.kr/np/cop/bbs/selectBoardArticle.do?bbsId=BS074&mCode=C020010000&nttId=10362（最後瀏覽日：2026年6月11日）。 [9]European Data Protection Board, Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models，https://www.edpb.europa.eu/system/files/2024-12/edpb_opinion_202428_ai-models_en.pdf（最後瀏覽日：2026年6月11日）。 [10]個人資料保護法第19條第1項第7款；個人資料保護法施行細則第19條規定，：「本法第19條第1項第7款所稱一般可得之來源，指透過大眾傳播、網際網路、新聞、雜誌、政府公報及其他一般人可得知悉或接觸而取得個人資料之管道」。 [11] 我國人資料保護法第 20 條第 1 項第 5 款。 [12] 我國人資料保護法第 6 條第 1 項第 4 款。
性隱私內容外流風波－從美國立法例論我國違反本人意願散布性隱私內容之入罪化 網路數位內容權利保護，牽涉各方角力iPod的成功，塑造了網路數位內容傳播的新商業模式，但對著作人權利保護團體來說，新科技與新產品對著作權人的權利會造成怎樣的影響，則是他們所高度關心的。 目前，著作權權利團體包括「美國唱片協會」（RIAA）與「美國電影協會」（MPAA）正在美國推動一項立法，希望透過法律的規定，限制未來數位媒體接收設備的若干科技發展。依法案推動者目前的構想，任何設備如能對於從數位網路上接收或下載的數位內容做任意的修改，便可能構成違法。共和黨籍參議員史密斯（Senator Gordon Smith）已表明支持此項立法。 此一立法運動，已引起各界高度的關注，包括科技廠商及民間組織在內，也表示質疑的態度。如何在保護著作權人權利與促進新科技發展之間，取得一個適當的平衡點，會是一個愈來愈重要的議題。