日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
日本為了提高產業競爭力，於 2002 年提出智財戰略計畫，並於內閣中設戰略本部，由首相小泉純一郎領導，每年並仔細擬定當年度的智慧財產權推動計畫。在今年剛定案的「二零零六年智慧財產權推動計畫」中，以開發或利用大學的智慧財產及加強與產業界的合作並提出對付仿冒品等的對策為重點。 根據「二零零六年智慧財產權推動計畫」，未來將加強整合大學內部的大學智慧財產本部與民間的技術移轉機關（ TLO ），以便集中運用人才、研究成果。計畫也將建立一套可簡便利用專利或論文的資料庫系統，預期明年四月起可供利用。 日本的大學院校去年在國內取得專利權的有三百七十九件，大學將專利技術移轉至民間組織件數在二零零四年度有八百四十九件，藉由技術轉移所得收入為三十三億日圓，雖然這些表現相較於以往年度均有所成長，但日本不論在專利件數或收益上，都與美國相差甚遠，日本政府為了加強國際競爭力，認為有必要加強產、學界的合作，故「二零零六年智慧財產權推動計畫」也規劃，大學院校若有意到海外申請專利權，政府將補助申請費；此外，原本只限定優惠大學正副教授的專利申請費減免措施，也將及於研究所的學生等，以期促進大學內部研發。
聯合國潔淨能源部長會議（CEM）宣示加強國際潔淨能源發展合作及工作任務隸屬於聯合國之下的潔淨能源部長會議（Clean Energy Ministerial, CEM）於2012年4月25-26日於英國倫敦舉行第三次會議，共有來自23國家的代表以及私人代表參與，針對潔淨能源的議題予以討論，探討如何加強各國政府間的合作，以推動公部門與私人對於潔淨能源發展的參與。此一會議中承諾支持由聯合國秘書長倡議的「全面永續能源（Sustainable Energy for All, SE4ALL）」所設定的2030永續能源目標，承諾改善能源效率、提升再生能源、及確保能源利用。相關內容包括： 1.提高能源效率 有16位參與CEM的政府代表亦參與「超高效的設備和器具部署計畫（Super-efficient Equipment and Appliance Deployment , SEAD）」，承諾將推動能源效率，以幫助消費者和企業獲得節能器具和設備。此一努力將能使消費者在未來二十年節省超過一兆美元，並且估計自2012年至2030年能減少110億公噸的二氧化碳排放。具體措施包括推出全球效率獎章的競賽（Global Efficiency Medal competition）、藉由公私合作來推廣高效能產品、加速照明設備在全球市場的轉型、建立全球通用的產品識別系統等。 2. 促進再生能源及其他低碳能源的發展 例如英國宣布投入六千萬英鎊的資金於碳捕獲（carbon capture）與儲能技術的發展。此外，丹麥，德國和西班牙發布了一個全球性的再生資源地圖，標示世界各地的太陽能和風能能源的潛力，並基於能源價格、財務成本及獎勵計劃，來評估不同國家對這些資源開發的成本效益。 3.確保能源的利用 例如義大利和美國宣布發展印度的照明計畫，將在2015年底提供200萬人現代照明服務。又，在非洲照明方案，已經提供250萬人民離網照明裝置（off-grid lighting devices）。這些計畫均附屬於「全球照明和能源利用合作組織（Global Lighting and Energy Access Partnership, Global LEAP）」，該組織宣布將對於缺乏現代能源選擇的消費者，推動低成本且確保品質的解決方案。 4. 更多跨領域舉措 包括有11個國家同意支持由澳洲和美國為首的聯合國能源計畫；氣候工作基金會（ClimateWorks Foundation）提供三年1百萬美元的技術諮詢報告於「潔淨能源解決方案中心（Clean Energy Solutions Center）」；美國與麻省理工學院（Massachusetts Institute of Technology, MIT）合作的潔淨能源計畫（Clean Energy program）中「教育與授權參與（Clean Energy Education & Empowerment Initiative, C3E）」的部分，由20多名專業婦女同胞擔任「潔淨能源大使（C3E Ambassadors）」，獎勵其在潔淨能源領域的成就等。
世界衛生組織發布歐洲區域人工智慧於醫療系統準備情況報告，責任規則為最重要之關鍵政策因素世界衛生組織發布歐洲區域人工智慧於醫療系統準備情況報告，責任規則為最重要之關鍵政策因素 資訊工業策進會科技法律研究所 2025年12月18日 世界衛生組織（World Health Organization, WHO）於2025年11月19日發布「人工智慧正在重塑醫療系統：世衛組織歐洲區域準備情況報告」（Artificial intelligence is reshaping health systems: state of readiness across the WHO European Region）[1]，本報告為2024年至2025年於WHO歐洲區域醫療照護領域人工智慧（AI for health care）調查結果，借鑒50個成員國之經驗，檢視各國之國家戰略、治理模式、法律與倫理框架、勞動力準備、資料治理、利益相關者參與、私部門角色以及AI應用之普及情況，探討各國如何應對AI於醫療系統中之機會與挑戰。其中責任規則（liability rules）之建立，為成員國認為係推動AI於醫療照護領域廣泛應用之最重要關鍵政策因素，因此本報告建議應明確開發者、臨床醫生、資料提供者與醫療機構之責任，透過救濟與執法管道以保護病患與醫療系統之權益。 壹、事件摘要 本報告發現調查對象中僅有8%成員國已發布國家級醫療領域特定AI策略（national health-specific AI strategy），顯示此處仍有相當大之缺口需要補足。而就醫療領域AI之法律、政策與指導方針框架方面，46%之成員國已評估於現有法律及政策相對於醫療衛生領域AI系統不足之處；54%之成員國已設立監管機構以評估與核准AI系統；惟僅有8%之成員國已制定醫療領域AI之責任標準（liability standards for AI in health），更僅有6%之成員國就醫療照護領域之生成式AI系統提出法律要求。依此可知，成員國對於AI政策之優先事項通常集中於醫療領域AI系統之採購、開發與使用，而對個人或群體不利影響之重視與責任標準之建立仍然有限。於缺乏明確責任標準之情況下，可能會導致臨床醫師對AI之依賴猶豫不決，或者相反地過度依賴AI，從而增加病患安全風險。 就可信賴AI之醫療資料治理方面（health data governance for trustworthy AI），66%成員國已制定專門之國家醫療資料戰略，76%成員國已建立或正在制定醫療資料治理框架，66%成員國已建立區域或國家級醫療資料中心（health data hub），30%成員國已發布關於醫療資料二次利用之指引（the secondary use of health data），30%成員國已制定規則，促進以研究為目的之跨境共享醫療資料（cross-border sharing of health data for research purposes）。依此，許多成員國已在制定國家醫療資料戰略與建立治理框架方面取得顯著進展，惟資料二次利用與跨境利用等領域仍較遲滯，這些資料問題仍需解決，以避免產生技術先進卻無法完全滿足臨床或公衛需求之工具。 就於醫療照護領域採用AI之障礙，有高達86%之成員國認為，最主要之障礙為法律之不確定性（legal uncertainty），其次之障礙為78%之成員國所認為之財務可負擔性（financial affordability）；依此，雖AI之採用具有前景，惟仍受到監管不確定性、倫理挑戰、監管不力與資金障礙之限制；而財務上之資金障礙，包括高昂之基礎設施成本、持續員工培訓、有限之健保給付與先進AI系統訂閱費用皆限制AI之普及，特別於規模較小或資源有限之醫療系統中。 就推動AI於醫療照護領域廣泛應用之關鍵政策因素，有高達92%之成員國認為是責任規則（liability rules），其次有90%之成員國認為是關於透明度、可驗證性與可解釋性之指引。依此，幾乎所有成員國皆認為，明確AI系統製造商、部署者與使用者之責任規則為政策上之關鍵推動因素，且確保AI解決方案之透明度、可驗證性與可解釋性之指引，也被認為是信任AI所驅動成果之必要條件。 貳、重點說明 因有高達9成之成員國認為責任規則為推動AI於醫療照護領域廣泛應用之關鍵政策因素，為促進AI應用，本報告建議應明確開發者、臨床醫生、資料提供者與醫療機構之責任，並建立相應機制，以便於AI系統造成損害時及時補救與追究責任，此可確保AI生命週期中每個參與者都能瞭解自身之義務，責任透明，並透過可及之救濟與執法管道以保護病患與醫療系統之權益；以及可利用監管沙盒，使監管機構、開發人員與醫療機構能夠在真實但風險較低之環境中進行合作，從而於監管監督下，於廣泛部署前能及早發現安全、倫理與效能問題，同時促進創新。 此外，WHO歐洲區域官員指出，此次調查結果顯示AI於醫療領域之革命已開始，惟準備程度、能力與治理水準尚未完全跟進，因此呼籲醫療領域之領導者與決策者們可考慮往以下四個方向前進[2]： 1.應有目的性地管理AI：使AI安全、合乎倫理與符合人權； 2.應投資人才：因科技無法治癒病人，人才是治癒病人之根本； 3.需建構可信賴之資料生態系：若大眾對資料缺乏信任，創新就會失敗； 4.需進行跨國合作：AI無國界，合作亦不應受限於國界。 參、事件評析 AI於醫療系統之應用實際上已大幅開展，就歐洲之調查可知，目前雖多數國家已致力於AI於醫材監管法規與資料利用規則之建立，據以推動與監管AI醫療科技之發展，惟由於醫療涉及患者生命身體之健康安全，因此絕大多數國家皆同意，真正影響AI於醫療領域利用之因素，為責任規則之建立，然而，調查結果顯示，實際上已建立醫療領域AI之責任標準者，卻僅有8%之成員國（50個國家中僅有4個國家已建立標準），意味著其為重要之真空地帶，亟待責任法制上之發展與填補，以使廠商願意繼續開發先進AI醫療器材、醫療從業人員願意利用AI醫療科技增進患者福祉，亦使患者於受害時得以獲得適當救濟。亦即是，當有明確之責任歸屬規則，各方當事人方能據以瞭解與評估將AI技術應用於醫療可能帶來之風險與機會，新興AI醫療科技才能真正被信任與利用，而帶來廣泛推廣促進醫療進步之效益。由於保護患者之健康安全為醫療領域之普世價值，此項結論應不僅得適用於歐洲，對於世界各國亦應同樣適用，未來觀察各國於AI醫療領域之責任規則發展，對於我國推廣AI醫療之落地應用亦應具有重要參考價值。 [1] Artificial intelligence is reshaping health systems: state of readiness across the WHO European Region, WHO, Nov. 19, 2025, https://iris.who.int/items/84f1c491-c9d0-4bb3-83cf-3a6f4bf3c3b1 (last visited Dec. 9, 2025). [2] Humanity Must Hold the Pen: The European Region Can Write the Story of Ethical AI for Health, Georgia Today, Dec. 8, 2025,https://georgiatoday.ge/humanity-must-hold-the-pen-the-european-region-can-write-the-story-of-ethical-ai-for-health/ (last visited Dec. 9, 2025).