日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國食品藥物管理署（U.S. Food and drug administration, FDA）之醫療器材與放射健康中心（Center of Devices and Radiological Health, CDRH）於今（2023）年10月10日發布2024財政年度指引，其內容依據預算配置的優先順序，將2024年醫療器材與放射產品相關指引分為「A級」、「B級」及「回顧性審查」三份清單。而CDRH希望將訊息公佈後，針對這些指引的優先處理順序、修改或刪除徵求外部建議，以下節錄這三份清單內容： （1）A級清單：FDA擬於2024 財政年度優先發佈的醫療器材指引文件清單，內容包含醫材的再製造及短缺管理、預訂變更控制計畫、運用真實世界證據輔助監管之決策，及基於人工智慧/機器學習之醫材的軟體生命週期管理指引等。 （2）B級清單：FDA 在 2024 財政年度於資源許可的前提下，擬發佈的指引文件清單，內容包括醫材製造商的故障主動報告計畫、製造與品質系統軟體之確效管理，及診斷測試用之3D列印醫材管理指引。 （3）回顧性審查清單：為1994年、2004年和2014年發佈至今，目前仍適用的指引文件綜合清單，詢問是否有需與時俱進之處。 具體而言，CDRH希望徵求外界對現有清單優先順序配置合宜性的建議，同時也開放各界提出哪些醫材相關主題的指引文件草案可待補充。對於回顧性審查清單，如有修訂或刪除之必要，亦應檢具建議與具體理由。 從此三份清單及後續外界的意見，我們可藉此掌握美國在醫材短缺管理、預定變更控制、運用真實世界證據決策，及醫材軟體生命週期與確效管理等領域，政府資源配置與投入的規劃，同時也作為我國醫材政策之借鏡。
歐盟執委會公布「數位金融包裹」法案為鼓勵金融產業之創新，同時使其遵循應有之責任，並讓歐盟金融消費者與商業機構享有更多之利益，歐盟執委會於2020年10月24日提出數位金融包裹法案（Digital Finance Package），並提出以下2項數位金融立法提案： 一、加密資產立法提案（Proposal for Markets in Crypto-assets） 為促進金融創新並同時保有金融穩定性與保護投資人，歐盟執委會提出加密資產管制框架立法提案，並將加密資產分為已受監管與未受監管兩類，前者將持續依據既有規範進行管理。而針對尚未管制之加密資產，該提案針對加密資產發行人與加密資產服務供應商建立嚴格限制，要求取得核准後始可提供服務。具體而言之，立法提案包含以下項目： （一）針對加密資產、加密資產發行人等金融商品名詞進行定義。並建立加密資產服務供應商與發行人營運上、組織架構與資產發行程序之透明度與揭露制度。 （二）針對向公開市場提供加密資產進行管制，例如，依據提案第4條，供應商應為法人，第5條則要求供應商應製作加密資產白皮書，並將其提供給主管機關後始可於公開市場提供相關服務。 （三）針對代幣資產發行人以及其加密資產之審核程序，依據提案第15條，代幣發行者必須為歐盟境內之法律實體。另外，該法要求加密資產發行人應誠實、公平且專業，並完成加密資產白皮書之出版與制定市場溝通規則。 （四）針對加密資產之收購，該法第4章亦設有相關規範，於第37條及38條規定收購之評估機制。 （五）針對加密資產服務供應商之授權與營運條件，該法第5章規定歐盟證券及市場管理局應建立加密資產服務供應商之登記制度。 （六）針對市場秩序維護之部分，該法於第6章規範相關預防市場濫用之禁止事項與要求，並於第7章賦予歐盟成員國各主管機關相關權力，例如第94條之監督與懲處權限。 二、歐盟數位營運韌性管制框架立法提案（Proposal for Digital Operational Resilience） 數位化總伴隨資安風險，歐盟執委會於包裹法案內亦提出歐盟數位營運韌性管制框架立法提案，以確保相關企業可應對所有與通訊技術有關之干擾與威脅，另外，銀行、證券交易所、票據交換所以及金融科技公司將需遵循嚴格之標準以預防並降低ICT資安事件所產生之衝擊，另外亦將針對金融機構雲端運算服務供應商進行監管。具體規範包含： （一）ICT風險管理要求：該立法提案參照相關國際標準，於第5至第14條制訂相關ICT風險管理要求，惟未要求應遵循具體國際標準。 （二）ICT相關事件報告：該提案於第15至20條規範相關報告義務，將整合歐盟金融機構之ICT相關事件報告與監測程序。 （三）數位運作韌性測試：該提案於第21至第24條要求ICT風險管理框架應定期進行測試，惟具體方法可依據組織之規模、風險側寫與商務模式進行調整。 （四）第三方單位風險：該提案於第25至39條規範組織應對ICT第三方供應商風險進行監測，例如，第25條要求金融機構委外執行業務仍應隨時遵循所有金融服務規範，另外，ICT風險管理框架之內容亦應包含第三方ICT風險之監督策略。
Google數位圖書館計劃面臨著作權法爭議全球最大搜索引擎 Google公司於去年12月中宣布，已與美國紐約公共圖書館以及哈佛大學、史丹福大學、密西根大學、牛津大學合作，將數百萬冊藏書數位化讓網友免費瀏覽。此一計畫預計花十年時間建構，在2015年啟動，經費約估1億5000萬到2億美元之間 (The Google Print Program)。雖然此一構想極具創意，但是由於將館藏圖書數位化牽涉著作權爭議，因此由125家非營利學術出版機構組成的美國大學出版協會(AAUP)已針對若干疑點去函，希望Google能釐清著作權法上之疑慮，以利整體計劃之推動。 AAUP所持最重要依據係美國著作權法第107條有關合理使用之規定。AAUP質疑，以Google如此大規模，就圖書內容性質不加以區分，全面性的圖書數位化工程，恐怕無法符合著作權法所訂出的合理使用標準。蓋著作權法有關是否符合合理使用之界定標準，是以事實情況及個案之判別方式為主，故無法想像Google如何在未進行個別之判斷前，便能夠概括性的依此而主張其享有合法權利。事實上，Google之主張與法院實務界之認知存在極大落差。 此外， Google的數位圖書館計畫在許多細部執行事項上，仍存有許多疑點，導致原先欲加入的AAUP會員，無法確保圖書內容完成數位化後，對於以銷售書籍及授權為主要營收來源之出版社，恐會產生造成市場排擠效果之憂慮。 藉由數位技術雖然可以挑戰人類夢想的極限，但過程中涉及的法律層面問題，卻相當程度羈絆了夢想前進的速度。 Google的數位圖書館計劃再次印證了新興技術與現行法規不協調的窘況。就現有事實資料以觀，Google若未能與學術出版商妥善安排著作權引發之爭議，此一計畫未來是否能順利執行，恐怕存有極大疑問。
美國聯邦通訊委員會提出規範修正及法規預告，改革太空與地球電臺執照制度美國聯邦通訊委員會（Federal Communications Commission, FCC）於2026年7月22日通過「21世紀太空現代化」（Space Modernization for the 21st Century）報告與命令暨進一步法規預告（Report and Order and Further Notice of Proposed Rulemaking (FNPRM)），全面改革太空局（Space Bureau）主管之太空與地球電臺許可程序。 FCC指出，現行〈聯邦規則彙編〉（Code of Federal Regulations, CFR）第47編第25部分規則（47 CFR Part 25）未能因應產業創新且規則架構不易理解，因此制定全新之第100部分規則（47 CFR Part 100），指出申請案如能證明符合FCC規範與政策，即推定符合公共利益而可簡化審查，以建立更快速、明確且可預測之許可機制。 另在FNPRM部分，FCC就多項議題徵詢公眾意見，以作為後續法制研議基礎。簡要列舉如下： (1)太空實驗申請：提議建立新型實驗執照，為實驗性技術提供明確之短期執照取得途徑。 (2)地球電臺：因應衛星直連手機、物聯網設備等發展，研議另設設備分類，使同型設備得透過設備許可程序統一核准，免逐部取得電臺許可。 (3)衛星間鏈路通訊：針對美國與外國許可衛星間尚缺乏通訊許可規範之現況，研議兼顧程序簡便與安全風險之監理機制。 整體而言，此次改革反映美國太空法制正朝簡化程序、強化可預測性，以及提升業者運作彈性之方向發展，並透過FNPRM持續徵詢意見，逐步建立更貼近技術與產業發展需求之監理框架。