日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
2010年藥物主動監視法規(pharmacovigilance legislation)要求EMA和EMCDDA必須加強在藥物產品濫用(包含不合法藥品)的資訊交換合作關係，是以，EMA和EMCDDA於今年九月初於葡萄牙里斯本相互簽署了修訂工作協議(amended working arrangement)，約定在新型精神性影響藥物與藥物濫用的面向上，加強相互間的資訊交流合作。 於EMA和EMCDDA所簽訂的修正工作協議中，雙方約定就下列領域深化資訊交換： 1.雙方需各自依照歐盟執委會2005/387/JHA決議和歐盟1235/2010號法規第28c(2)條，對於所擁有之新型精神性影響藥物與藥物濫用(包含不合法藥品)資訊進行交換合作； 2.資訊交換需透過通常基準的報告形式由EMCDDA送至EMA，並含括有關於藥物產品濫用、不合法藥物，以及新型精神性影響物質等相關資訊； 3.EMA必須通知EMCDDA有關於藥物產品濫用的有效導因(validated signals)，同時，EMA必須提供EMCDDA有關於藥物產品濫用和新型精神性影響藥品市場核准狀況的細部資訊； 4.EMA對於選定藥物產品之風險管理計畫的界定，可考量是否需先行與EMCDDA作諮詢意見交換； 5.EMA和EMCDDA在歐盟執委會2005/387/JHA決議和歐盟1235/2010號法規第28c(2)條所設基礎的合作模式下，必須要特別注意確保人類或動物健康照護並無惡化的情事，同時應確保科學建議之潛在衝突於前階段將會被界定與管理； 6.EMA和EMCDDA兩者間諮詢的進行，必須避免非關於新型精神性影響物質風險評估之科學建議的潛在衝突； 7.對於任何額外合作計畫的執行，必須考量EMA和EMCDDA兩者的例行性工作規劃； 8.對於特定計畫需要額外資源時，必須經由EMA和EMCDDA共同同意，並將同意文件附於現階段的工作協議中； 9.EMA和EMCDDA可就其各自舉辦的會議相互邀請對方，並邀請對該會議有興趣的其他團體參與； 10.對於EMA和EMCDDA間實際的合作面向，將在工作協議既定架構下繼續發展。 除了前述的適用範圍外，EMA和EMCDDA的修訂工作協議，亦有就相互諮詢和秘密資訊等領域作出約定，以確保資訊交換係在符合雙方需求與不侵害個人基本權利的情況下進行。有鑑於EMA和EMCDDA希冀藉由資源互補的強化約定，來彌補自身於精神性影響藥物和藥物濫用領域的資訊不足缺陷，是否我國在相關醫療、藥品管制或是藥品商業化資訊需有跨機關的整合機制，以促使我國在醫療、醫藥資訊交換與流通，在不侵害個人基本權利的情況下，能夠發揮互益效用，則是我國有關單位必須審慎思考的問題。
美國產業安全局發布2024年版出口管制案例彙編，協助產學界識別違法行為美國商務部產業安全局（Bureau of Industry and Security，下稱BIS）於2024年7月1日發布出口管制刑事與行政執法案例彙編—《別讓這些事情發生在你身上！》（Don’t Let This Happen to You）。彙編內容除介紹BIS各單位的工作目標與組織架構外，也概述主管機關的裁罰手段，包括刑事及行政裁罰、避免行為人即將發生或繼續違法出口、再出口或國內移轉所採取之限制措施（Denial of Export Privileges）、列管制清單、沒收資產等；亦提供人民救濟管道，如提早通報違法行為的自願自主揭露（Voluntary Self-Disclosures）規定等；更收錄新的執法案例。 該彙編以中國、俄羅斯、伊朗及其他地區之出口目的地為主軸，就管制理由涉及國家安全、軍事、大規模毀滅性武器等理由，分別介紹重點違法案例。提供產、學界識別違法行為時之參考。 對於2024年結案的重點案例，重點摘要如下： 1.愛沙尼亞T公司違反美國出口管制規定，非法將「座標磨床」（jig grinder）輸往俄羅斯，分別遭罰34萬美金及48萬美金。 2.英國籍F氏意圖自美國違法輸出工業微波系統（industrial microwave system）及反無人機系統（counter-drone system）至伊朗，遭判18個月有期徒刑。 3.印第安納大學（Indiana University）的布魯明頓果蠅庫存中心（Bloomington Drosophila Stock Center）向多個國家的研究機構及大學出口含有蓖麻毒素A 亞基轉基因（transgenes of the A subunit of the ricin toxin）的轉基因果蠅，而未申請出口許可，遭停止出口，並須對行政人員進行出口管制教育訓練。
義大利發布最新全國性AI法案，預計設立醫療AI用平臺，並強化權利保護與病患福利壹、義大利最新AI法案簡介 義大利於2025年9月17日通過《人工智慧規範與政府授權》立法法案（Disposizioni e delega al Governo in materia di intelligenza artificiale，下稱1146‑B法案），為該國首次針對AI全面立法，亦為歐盟成員國內AI專法先驅。義大利將歐盟《人工智慧法》（AI Act，下稱AIA）框架轉化為國內法，並設立獨立窗口與歐盟對接。為確保落地效率並兼顧國家安全與資料治理，本法採「雙主管機關制」，由隸屬於總理府（Presidenza del Consiglio dei Ministri）之數位局（Agenzia per l’Italia Digitale，AgID）及國家網路安全局（Agenzia per la Cybersicurezza Nazionale，ACN）共同執行。AgID 負責AI技術標準、互通性與公共行政實務執行；ACN則負責資安韌性、事故通報與高風險AI安全性。 目前該法案已由參議院（Senato della Repubblica）審議並表決通過，2025年9月25日已載於義大利《官方公報》（Gazzetta Ufficiale），再經過15天緩衝期後，預計於2025年10月10日正式生效。然截至2025年10月27日為止，未有官方宣布該法案正式生效之證明，故法案是否依該版本內容正式施行仍待確認。其中醫療為AIA顯示之高風險領域之一，亦涉及資料隱私與病患權益等敏感法益，可謂本法落地機制中具代表性之政策面向，故本文特以醫療AI應用為分析重點。 貳、設立醫療AI應用平臺，輔助專業醫護及強化醫療服務取得 1146‑B法案第10條規定，將由義大利衛生服務局（Agenzia nazionale per i servizi sanitari regionali，AGENAS）主導設立該國家醫療AI應用平臺。該平臺定位為全國級資料治理與AI導入審查機制工具，主要功能為對醫療專業人員提供照護病患與臨床實踐時無法律約束力之建議，並對病患提供接觸社區醫療中心AI服務之管道與機會。該平臺僅得依「資料最小化原則」（dati strettamente necessary）蒐集以上醫療服務所需之必要資料，經向衛生部（Ministero della salute）、資料保護局（Garante per la protezione dei dati personali）及CAN徵詢意見後，由 AGENAS 負責資料處理，並經地方常設協調會議同意後，得以公告方式制定符合歐盟《一般資料法規》（General Data Protection Regulation，GDPR）之風險控管與敏感健康資料處理細則。 在確保資料安全合規後，法案強調對醫療保健之服務可及性（accesso ai servizi）進行改善，病人能透過此平臺更便利地接觸到社區醫療中心所提供之各類AI健康醫療服務，如診斷輔助、數位健康檔案調閱等，亦符合AIA強調AI發展應確保社會公益等權利之宗旨。 參、醫療用AI之限制與目標 法案第7條第5項規定AI僅能作為醫療決策輔助工具提供無拘束力之建議，重申前述醫療平臺相關規定；AI亦不得根據歧視性標準選擇或限制病人獲取醫療服務。病人享有「知情權」（diritto di essere informato），即有權知悉診療過程中是否使用有使用AI、使用方式（如僅為輔助）及其限制。針對健康資料之隱私處理方面，如病歷、基因資料、診斷紀錄等，要求醫用AI系統須持續監測、定期驗證與更新，以降低錯誤風險，維護病人健康安全，亦明文強調醫療AI之使用應以改善身心障礙者生活為目標。 四、總結 1146-B法案在醫療 AI 治理上，透過雙主管機關制平衡歐盟對接、技術發展與風險控管，符合AIA要求並避免權責衝突。建立由 AGENAS 主導的醫療 AI 應用平臺，在相關部門意見下運作，確保資料處理與服務推動合規與安全。病人權利方面，強調知情權、健康資料隱私與地方醫療AI普及，符合資料最小化與 GDPR 規範，展現義大利在醫療 AI 上兼顧創新、透明與權益保障之立場，往後應持續關注AGENAS釋出之關於該平臺使用之相關細則。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
歐盟個人資料侵害事故通知規則於2013年8月生效歐盟個人資料侵害事故通知規則(regulation on the notification of personal data breaches)於2013年8月生效，其目的係為統一歐盟各會員國有關個人資料侵害事故通知之規定，以使當事人可以獲得一致性的待遇，同時，業者於歐盟境內亦可採取一致性的作法。此規則將適用於所有供公眾使用之電子通訊服務（publicly available electronic communications services）提供者，例如網路服務提供者（Internet service providers）及電信業者，同時，其敍明前述業者所持有之個人資料如有發生洩露或其他侵害時，應通知當事人與通報主管機關之技術性程序(technical measures)。 依個人資料侵害事故通知規則之規定，業者於知悉個人資料侵害事故之24小時內通報主管機關，通報內容包括：事故發生之日期與時間、受侵害之個人資料之種類與內容、受影響之當事人人數、以及為降低對當事人可能帶的負面影響擬採取或己採取之組織上與技術上之措施。 個人資料侵害事故可能對當事人之個人資料或隱私產生負面影響，業者必須立即通知當事人有關個人資料侵害事故之情事，例如遭侵害之個人資料涉及金融資訊、個人資料遭侵害會造成當事人名譽受損或業者知悉該個人資料已被未經授權之第三人擁有時。若業者能證明其對被侵害之個人資料已滿足主管機關所要求的技術保護措施，使未經授權而取得資料之人無法探知該遭侵害之資料內容時，即無須通知當事人有關個人資料遭侵害之情事。