日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
自2016年Mirai殭屍網路攻擊事件後，物聯網設備安全成為美國國會主要關注對象之一，參議院於2017年曾提出「2017年物聯網網路安全促進法」（Internet of Things Cybersecurity Improvement Act of 2017）草案，防止美國政府部門購買有明顯網路安全性漏洞之聯網設備，並制定具體規範以保護聯網設施之網路安全，然而該法案最終並未交付委員會審議。 2019年4月，美國參議員Mark Warner提出「2019年物聯網網路安全促進法」草案（Internet of Things Cybersecurity Improvement Act of 2019），再度嘗試建立物聯網網路安全監管框架。本法將授權主管機關建立物聯網設備所應具備之安全性條件清單，而該清單將由美國國家標準與技術研究院（National Institute of Standards and Technology）擬定，並由管理與預算局（Office of Management and Budget, OMB）負責督導後續各聯邦機關導入由美國國家標準與技術研究院所制定之網路安全指引。本法草案相較於2017年的版本而言雖較具彈性，惟網路安全專家指出，清單之擬定與執行管理分別交由不同單位主責，未來可能導致規範無法被有效執行，且聯邦各層級單位所需具備之資安防護等級不盡相同，如何制宜亦係未來焦點。
Facebook支付5.5億美元解決涉及侵犯隱私的訴訟案使用過Facebook（臉書）上傳照片時，不難發現其內建功能可透過臉部辨識「自動標記」（tag）好友的功能，建議用戶標記照片內的人物，而自從該功能於2011年啟用後，始終存有侵害用戶隱私權的疑慮。本案訴訟自2015年開始，及針對臉書「自動標記」的標籤建議功能爭論。美國於2018年經美國聯邦法院裁定，該功能在未經用戶同意的情況下蒐集並存儲相關使用者的生物特徵資料（biometric data），違反美國伊利諾州（Illinois）生物識別資料隱私法（Biometric Information Privacy Act）。雖然臉書已開始公開與用戶說明其可選擇關閉其識別功能，並針對上述聯邦法院判決提出上訴，卻仍於2019年8月敗訴。因此臉書同意以5.5億美元和解，用於支付伊利諾州的用戶（符合條件的）及訴訟相關費用。
美國參議院通過幹細胞研究加強法案，惟仍難逃被布希總統否決之命運美國參議院近日就是否開放聯邦經費挹注於胚胎幹細胞研究進行激辯，並於 17 日通過幹細胞研究加強法（ Stem Cell Research Enhancement Act of 2005, HR 810) 及其他兩項亦涉及胚胎幹細胞研究的類似法案。其中最引人注目者為 HR 810 ，該法案允許以聯邦經費資助使用人工授精之剩餘胚或病患自願捐贈之胚胎，進行幹細胞研究。這些法案的通過顯示，美國參議院打算挑戰布希政府自 2001 年所立下禁止聯邦經費挹注於胚胎幹細胞研究的禁令。 其實早在去年五月，眾議院即以 238 票贊成、 194 票反對通過 HR 810 ，布希政府在眾議院通過 HR 810 後，隨即表示一旦本法在國會立法通過，將會動用否決權推翻此一法案。根據美國法律，法案唯有經參眾議院以三分之二以上多數通過，總統始不能否決之。日前參議院係以 63 票贊成、 37 票反對通過 HR 810 ，並未達三分之二多數通過，因此本法案未來恐難逃被布希總統否決的命運。白宮發言人業已表示，該法案強迫所有的美國納稅義務人出錢資助以故意破壞人類胚胎為基礎的研究行為，法案一旦送交總統，布希總統將會行使否決權，這將會是布希總統任內首度針對國會所通過的法案動用表決權。 儘管布希總統仍持一貫反對胚胎幹細胞研究的立場，不過，美國民眾卻有支持胚胎幹細胞研究的趨勢。一項最新民調顯示，每四名受訪者中，就有三名贊成將聯邦經費用於資助胚胎幹細胞的研究。隨著美國國會大選將於十一月中旬展開，預料胚胎幹細胞研究議題將會再度成為焦點。
中國大陸網路安全法於6月1日正式施行中國大陸網路安全法於去（2016）年11月通過，於今（2017）年6月1日正式施行，該法主要係為了保障網路安全，維護網路空間主權與國家安全、社會公共利益，保護公民、法人和其他組織的合法權益，為第一個國家層級處理網路安全問題的法律，旨在確保維護網路空間的國家主權、保護使用者個資、防範網路攻擊及網路詐騙。 中國大陸網路安全法共七章79條，包括第一章總則、第二章網路安全支持與促進、第三章網路運行安全、第四章網路訊息安全、第五章監測預警與應急處置、第六章法律責任、第七章附則。其規範重點之一為關鍵資訊基礎設施正式納入網路安全保護範圍內，關鍵資訊基礎設施之定義不僅包括電力、運輸和金融等傳統關鍵行業，還包括法律規定涉及民生的其他基礎設施，表示任何關鍵資訊基礎設施相關廠商、供應商等外國公司，以及擁有大量中國大陸訊息的廠商，都有可能成為中國大陸網路安全法監管、執法調查、強制執行的主要對象。 中國大陸網路安全法亦要求關鍵資訊基礎設施相關廠商將個資與重要數據資料在地化，或是將這些數據資料傳輸至國外前，必須經過相關的監管機構進行自我安全評估或先加以批准。