日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
中國大陸之國家互聯網信息辦公室於2025年9月11日發布《國家網絡安全事件報告管理辦法（下稱網安事件管理辦法）》，並將於2025年11月1日施行。網安事件管理辦法規定中國大陸之境內建設、營運網路或透過網路提供服務的網路營運者，於發生網路安全事件時的報告程序。 網安事件管理辦法值得注意或供我國參考有二者：一、與委外廠商之契約以其協力報告義務：該辦法第5條要求網路營運者應當以契約等形式，要求網路安全、系統維運服務提供商（含個人）向網路營運者報告監測發現，並協助網路營運者依辦法報告網路安全事件。簡言之，其透過法律監管網路營運商與委外廠商之間的契約或類似契約，以及報告之協力義務。二、個人資料與網路安全的關聯性：網安事件管理辦法透過《網絡安全事件分級指南》將網路安全事件分為1.特別重大網路安全事件、2.重大網路安全事件、3.較大網路安全事件、4.一般網路安全事件，四種分級。除關鍵基礎設施的中斷運行以外，前三個事件分級將100萬人、1000萬人、1億人以上公民個人資料丢失或被竊取、篡改、假冒，認定為較大網路安全事件以上等級，使大型網路安全事件與個人資料進行連接。換言之，網路安全事件不再僅是資安面的影響，公民個人資料完整性等法律概念逐漸進入資安領域，法律專業的投入將可能是網路安全發展中需審酌的範疇。
英國發佈具有決定性的基因體醫藥報告正當英國衛生部門(Department of Heath)計畫建構一個受命與提供資金的機構來進行癌症分子研究時，一個著重於基因藥物使用的英國政府諮詢組織-人類基因體策略團體(Human Genomics Strategy Group)提出報告要求英國健康照護服務(National Health Service, NHS)以多面向的方式來開發潛在性基因體科技。 人類基因體策略團體所提供的報告建置出了英國就基因體藥物於臨床應用可行性的相關步驟，該等步驟可提昇英國臨床醫師決定疾病的風險與傾向、從事正確的診斷與預知，以及培養個人醫療的能力。除此之外，該報告亦開展了人類基因體於臨床與診斷照護上的創新應用，並且提供英國政府關於基因資料之處理、公共健康議題與教育等措施資訊，以用來支持基因體科技的應用。 該報告建議，有鑑於英國已擁有強健的研究文化與資源，現階段英國已經準備好基因體藥物研究的初期階段。然而，在開始基因體藥物的研究之前，英國政府應該先在基因體技術廣泛使用於臨床照護與診斷的面向上作出更多的努力，其中包括建制出一套對於基因體與臨床基因檢驗的清楚標準，用以發展出一般性的程序來幫助健康照護專業人員來取得檢驗並分析結果。除此之外，為了防止前述一般性程序產生各項倫理道德性爭議，該報告亦建議英國政府應該發展出一套法制規範來處理關於基因藥物是否具有利用性的挑戰議題，並且以該規範來防範各種基因體資料可能被濫用的問題。 而除了建置基因體計畫法制面的規範，為了讓基因體技術能更廣泛的應用於臨床照護與診斷的範疇，此報告亦建議英國NHS應該規劃採用基因體科技的計畫、發展中央基因體儲存網絡來處理大量由基因體藥物所產生的生物資訊，以及開展出針對基因體科技所發展的受命計畫和服務傳遞模型。同時，考量英國國民與健康照護人員對於促進基因體藥物亦有所幫助，該報告也建議英國NHS應該持續提供相關教育與訓練課程來提高前述人員對於基因體藥物的認知與其帶來的益處。 有鑑於基因體醫藥報告對於英國未來從事基因實驗、臨床研究與基因藥物的研發具有決定性的影響，然該報告僅建構出具體的大方向，對於細節部分尚未有大量的著墨。因此，英國官方部門如何將此份報告於法制面和技術面加以具體落實，實值得繼續就相關內容作後續的追蹤。
英國個人資料保護最新案例發展及其對我國法制之啟示 研究顯示：主管機關審查是否核發奈米專利的時間越來越長專研奈米科技領域的美國顧問諮詢公司 Lux Research and Foley & Lardner LLP 最近公布的一份報告（ Nanotech IP Battles Worth Fighting ）指出，美國商標專利局（ US PTO ）在去（ 2005 ）年共核發 4,996 個奈米技術領域的專利，雖然這個數字挺嚇人的，不過報告中也發現，過去一年取得奈米專利的成長率只有 4 ％，比起更前一年（ 2004 ）的 20 ％的成長率，少了許多。然報告指出， 取得奈米專利保護的成長趨緩並不表示投入這個領域的研究不夠，相反地，若從專利申請案的數字來看， 2005 年的申請案數字其實成長了 52 ％。而 US PTO 奈米專利的核發率成長有限的原因，主要是因為申請人所主張的保護範圍交疊重複（ overlapping claims ），使 US PTO 審查奈米專利所需的時間，相較於其他技術領域來得更長，平均而言，目前 US PTO 核發一項奈米專利所需的審查時間竟高達四年。 這項報告總共檢視了 2,738 個專利，涵蓋七類申請領域共計 52,148 個權利範圍的主張。報告總結，在電子領域中有關 carbon nanotube 及 quantum dot 之專利申請案，多數為脆弱的專利主張，有面臨法律訴訟的高度風險，若發生侵權訴訟，被告應該勇於進行訴訟防禦；而奈米材料由於市場潛力極大，故報告建議投入於專利搜尋或佈局之檢視，乃必要之成本。此外，報告也認為陶瓷奈米元件（ ceramic nanoparticles ）於能源領域的應用也極具發展潛力，並預期奈米電線（ Nanowires ）於電 子領域之應用將越來越受到重視。 不過，報告最後警告， patent trolls 的問題將會出現在奈米技術市場。所謂的 patent trolls 是指企業寧願花錢收購專利並透過授權收取權利金，也不願意自行投入研發的一種決策模式，此類企業通常是不負責實際商品交易的控股公司。