日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
新加坡國會於 2025 年 11 月5日三讀通過「線上安全（救濟與問責）法案」（Online Safety (Relief and Accountability) Bill, OSRA），希望透過「賦權受害者」與「強化平臺問責」來對抗日益嚴重的線上傷害事件。OSRA旨在補充個人在面對有害的線上行為（Online Harmful Activity）傷害時的救濟途徑，並設置「線上安全專員（Commissioner of Online Safety）」為處理投訴與發布救濟指令的專責機關。 OSRA明確定義了多種有害的線上行為，包括針對deepfake的「不實內容濫用」（Inauthentic material abuse），以及惡意公開他人隱私的「人肉搜索」（doxxing），而為了讓損害即時受到控制，線上安全專員在接獲國民投訴並調查評估後，可直接發出具法律效力的指令（Directions），要求平臺移除、隱藏特定內容，或限制惡意帳號的互動；若平臺不遵守指令，線上安全專員亦得向電信業者發出阻斷特定服務，或向應用程式商店發出下架特定應用程式的命令（Orders），無正當理由違反指令或命令皆有可能構成刑事責任。 此外，OSRA亦擴張了平臺的民事責任，當受害者依指定方式向平臺發出「線上傷害通知」後，若平臺未能在合理期間內採取行動，受害者得逕向平臺經營者或網站管理者提起民事訴訟要求損害賠償，若平臺無故怠慢，法院得判決加重損害賠償，希望藉此敦促平臺建立更敏捷的線上傷害控制機制。 值得注意的是，OSRA宣告了廣泛的長臂管轄機制，為保障新加坡國民的權益，不僅法院對OSRA規範的民事、刑事事件有管轄權，線上安全專員發布指令與命令的對象亦不限於境內，表現對抗全球線上傷害的強烈企圖。
美國食品及藥物管理局發布《細胞和基因治療產品效價保證指引草案》由於起始材料（starting material）與其作用機制的複雜性，如何評估細胞和基因治療（Cell and Gene Therapy, CGT）產品的效價，並且確保產品效價有一致性，是一項複雜的工作。因應近年CGT產品的發展，美國食品及藥物管理局（U.S. Food and Drug Administration, FDA）於2023年12月28日發布《細胞和基因治療產品效價保證指引草案》（Potency Assurance for Cellular and Gene Therapy Products Draft Guidance for Industry），旨在提供廠商基於科學與風險評估的效價確保策略。 指引草案重點如下： 1.確立效價測試基準：納入2011年《細胞和基因治療產品的效價測試指引》（Potency Tests for Cellular and Gene Therapy Products Guidance for Industry）中關於效價測試設計的具體建議，包括專一性、準確性和精確性等要求。 2.建立涵蓋產品生命週期的效價保證策略：強調在整個產品生命週期中，進行效價測試的重要性，涵蓋製程設計、製程控制、物料控制與批次檢測等多個環節。 3.導入風險管理評估概念：包括根據CGT產品的作用機制、臨床指示和給藥途徑來訂定目標產品品質（Quality Target Product Profile, QTPP），確定與效價相關的關鍵品質因素（Critical Quality Attributes, CQA）、以及影響CQA的關鍵性製程因素（Critical Process Parameter, CPP）等，並應用到效價保證策略中。 依照這份指引草案，未來廠商在產品開發早期階段就需要進行產品性質與作用機制的風險評估，在製造過程中持續進行品質監控，並詳細記錄其效價測試方法。這樣能確保產品在每個生產階段都符合FDA的安全性和效價標準，從而減少市場准入的障礙，也增強了公眾對CGT產品安全性和療效的信心，加快創新治療方法的推廣，而後續亦值得關注2024年3月27日所徵集的意見。
歐盟理事會修正《第428/2009號歐盟理事會規章》，提升歐洲軍民兩用出口管制力度歐盟理事會與歐洲議會於2020年12月14日，針對歐洲軍民兩用出口管制法規《第428/2009號歐盟理事會規章》（COUNCIL REGULATION (EC) No 428/2009）達成修正協議，並獲得歐盟理事會下設常駐代表委員會（Committee of Permanent Representatives, COREPER）認可後正式通過。《規章428/2009》用以規範歐盟軍民兩用出口管制，監管歐盟涉及「軍民兩用」敏感貨品、服務、軟體和技術的對外出口、內部轉口及過境貿易。因兩用貨品包含軍事用途及商用用途，故此次歐盟調整軍民兩用出口管制的相關規則，主要考量面向包括：英國脫歐對歐洲出口管制的影響；如何確保歐盟出口管制條例與國際反武器擴散制度相一致；以及解決網路監管和新興技術帶來的安全威脅等。本次歐洲軍民兩用出口管制修正重點如下： 提升出口管制力度，防止濫用網路監管等新興技術：管制項目具備監視、取得、蒐集或分析資通訊系統資料功能者，因涉及國家內部鎮壓或嚴重違反國際人權和國際人道法（International Humanitarian Law），即使未明列在歐盟軍民兩用法規的附件中，也應加強管制。 新增兩項歐盟一般出口許可證（EU General Export Authorisations, EU GEAs）：包括集團內部技術轉讓（EU007）及加密（EU008），允許軍民兩用貨品出口至特定目的地。 統一歐盟軍民兩用貨品規則：例如技術協助屬於特定軍事用途且與軍民兩用相關者須經授權，歐盟成員國得配合擴張軍民兩用貨品清單。 強化企業調查和報告義務，遵守並適用出口管制規則：實施出口及授權作業的出口商，應落實內部合規計劃，確保企業遵守出口管制的政策和程序。 歐盟成員國間加強合作機制：促進資訊交流、政策調整和執法行動。
經濟部推動奈米標章，第一個奈米標章即將在今年發出市面上強調奈米的產品充斥，舉凡從燈管、面膜、瓷磚等各種產品都宣稱是奈米產品，因此經濟部決定推動奈米標章認證制度。該制度的推行，可讓消費者對奈米產品有更正確的認知和信任，對於鼓勵廠商開發優良奈米產品也有正面影響。 經濟部於今年辦理第一階段的技術初審，共有六家廠商通過，預定十月中旬將要進行第二階段的跨部會複審，只要能通過複審審查，就可以取得奈米標章。 有鑒於 奈米技術工業納入新興重要策略性產業已在日前拍板定案，為避免奈米標章浮濫，而可能造成租稅浮濫，經濟部指出，未來該標章的核發審查將審慎把關，預期僅很少數廠商的奈米技術工業可成為新興產業。