日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
中華人民共和國第12屆全國人民代表大會常務委員會第18次會議於2015年12月27日通過並公布《中華人民共和國反恐怖主義法》(以下簡稱反恐法)，並自2016年1月1日開始施行。反恐法第18條與第19條要求電信業務經營者與互聯網服務提供者，應當為公安機關、國家安全機關依法進行防範、調查恐怖活動「提供技術接口和解密等技術支持和協助」，並應當依照法律與行政法規規定，「落實網絡安全、信息內容監督制度和安全技術防範措施，防止含有恐怖主義、極端主義內容的信息傳播；發現含有恐怖主義、極端主義內容的信息的，應當立即停止傳輸，保存相關記錄，刪除相關信息，並向公安機關或者有關部門報告。」倘有違反以上規定且情節嚴重者，反恐法第84條授權由主管部門對該公私處50萬人民幣以上罰款，並對該公司直接負責之主管人員與其他直接責任人員處10萬元人民幣以上50萬人民幣以下罰款，並可由公安機關對該等人員處5日以上15日以下之拘留。 我國刻正進行資通安全管理法之制定，以為範圍更廣之資訊基本法的作用法。資通安全管理法當中考量納入與關鍵基礎建設相關之民間產業，使之成為資安通報之一環，政府需要民間企業配合時也將於法有據。於恐怖攻擊事件頻傳之今日，倘我國需要就此等事件要求電信業者或服務提供者進行通報時，相關國際立法例及其實踐，即值參酌。
德國公佈聯邦政府人工智慧戰略要點德國政府於2018年7月18公佈「聯邦政府人工智慧戰略要點」（Key points for a Federal Government Strategy on Artificial Intelligence），係由德國聯邦經濟事務及能源部、聯邦教育及研究部，與聯邦勞動及社會事務部共同撰寫而成。 德國政府表示該要點將作為推動人工智慧技術與產業發展的基礎方針，並希望以負責任的方式以及朝向社會利益發展的方向進行人工智慧開發與應用。 德國人工智慧戰略要點摘要如下： 1. 研究能量：必須大幅增加研究支出並且爭取世界一流人才。 2. 人工智慧能力應泛分佈在社會各處：各學科與產業領域皆需要人工智慧。 3. 資料作為人工智慧發展的基礎：資料是人工智慧發展的重要關鍵，德國的資料發展重點將放在資料品質的強化。 4. 基礎設施：人工智慧中重要的技術「深度學習」，不僅需要大量資料，同時還需要強大的計算能力，德國需要加強計算能力的硬體設備。 5. 經濟應用：德國數位化發展的下一步需要仰賴人工智慧技術，尤其是中小企業採納人工智慧技術方面將會是焦點之一。 6. 社會法制：人工智慧發展過程中牽涉許多道德以及法制、監管議題，德國政府認為這些都必須請不同利害關係人共同公開討論。 7. 國際合作：德國作為歐盟會員國之一，未來的人工智慧發展將力求與歐盟各國合作。 整體而言，德國的人工智慧戰略著重在建立人工智慧生態系統，並強調人與機器之間的合作關係，為人工智慧產業發展奠定良好基礎。德國政府將基於此要點繼續制定進一步的人工智慧戰略，並預計將於2018年12月公佈德國的人工智慧戰略完整報告。
開放非銀行事業從事預付式行動付款服務法制議題之研究 美國聯邦加強導入節能績效保證專案，並規劃採購實務增訂規範美國總統歐巴馬於2011年12月發布備忘錄（Presidential Memorandum），要求美國聯邦政府應加強「導入節能績效保證專案（Implementation of Energy Savings Projects and Performance-Based Contracting for Energy Savings）」，並宣布未來24個月內最少將投入20億（billion）美元經費，推動聯邦機構採購實施節能績效保證專案，以改善建築物能源效率。基於政策指示，美國能源部（Department of Energy）下屬聯邦能源管理推動機構（Federal Energy Management Program，以下簡稱FEMP），研議規劃配套機制，協助導入「節能績效保證專案（Energy Savings Performance Contract，以下簡稱ESPC）」，更精簡、效率、低成本之實施模式，並助益美國能源技術服務產業（Energy Service Companies，以下簡稱ESCO）發展。 美國FEMP於2012年2月公告ESPC採購關於「資金（Financing）」部分之「資訊徵求意見書（Request for Information，RFI）」，廣詢實務各界意見，希望能繼而落實於政府採購規範及契約範本之研議，並協助ESCO業者能更順利取得資金，並協助ESCO業者能更順利取得資金，及降低資金取得成本，如此亦可有利益於所採購導入之聯邦機構。 FEMP主要係規劃探討關於ESPC融資資金，最合理且有吸引力之利率，所應考慮各項要件及利率定價模式，並且規劃建立資金協助者之優先名單（Preferred Financiers），以利配套選用。再者FEMP為推動整合，特別探討ESPC跨專案（Project Aggregation (Combining)）時，可能影響資金協助者之融資與財務評估，例如數ESPC專案、數ESCO業者、由同一資金協助者承接，或是數ESPC專案、數實施地點、同一ESCO業者，同一資金協助者，亦或者數ESPC專案、數實施地點、數ESCO業者、但同一政府機構、且同一資金協助者，研析相關影響要件。 以及，FEMP並探討ESPC實施「量測驗證（Measurement and Verification），對於取得融資評估過程是否增加複雜影響因素，以及資金協助者對於量測驗證機制，是否認為將增加風險並致更高融資利率，均為重要探討議題。此項意見徵求書，未來將落實於聯邦機構政府採購之實務規範上，相關內容再持續觀察追蹤。