日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場,日常生活以及執行業務上,利用AI的機會逐漸增加。另一方面,濫用或誤用AI等行為,可能造成網路攻擊、意外事件與資料外洩事件的發生。然而,利用AI時可能的潛在威脅或風險,尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型,並對任職於企業、組織中的職員實施問卷調查,以掌握企業、組織於利用兩種類型之AI時,對於資料外洩風險的實際考量,並彙整如下:
1、已導入AI服務或預計導入AI服務的受調查者中,有61%的受調查者認為利用分辨式AI時,可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中,有57%的受調查者認為錯誤利用生成式AI,或誤將資料輸入生成式AI中,有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示,在已導入AI利用或預計導入AI利用的受調查者中,過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務,或未來預計導入AI服務之我國企業,如欲強化AI資料的可追溯性、透明性及可驗證性,可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範;如欲避免使用AI時導致營業秘密資料外洩,則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範,以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站(https://www.tips.org.tw)
韓國中小企業暨新創事業部(Ministry of SMEs and Startups)於2025年12月23日宣布,國務會議已審議通過《有關區域發展之法規鬆綁特區及經濟特區法》(Act on Special Cases Concerning the Regulation of Regulation-free Special Zones and Special Economic Zones for Specialized Regional Development)修正案,修法目標在於降低參與業者的法規遵循負擔,活絡「特區」內之創新活動。 所謂「特區」,係指透過監理沙盒、暫時許可(Temporary Approval)等特別措施,使業者在特定區域內享有部分或全部之法規適用豁免,因而得以進行產品、服務及商業模式測試的「指定區域」。該制度在推動以創新為導向之區域成長方面發揮了重要功能,惟實務運作上,業者有時仍因主管機關基於安全考量所附加之額外條件,而面臨一定程度的法規遵循負擔。 根據修正法案規定,當主管機關擬對監理沙盒或暫時許可案附加額外條件時,必須明確證明該額外條件的必要性及比例原則。此一改變預期將大幅降低參與業者之法規遵循負擔,並提供更可預測的監理實驗環境。 此外,修正法案還包含多項制度性改善措施,以提升「特區」制度的有效性與問責性: 一、即使核准辦理實驗之期間屆滿或被撤銷,中央及地方主管機關仍得要求提供績效評估及後續管理措施報告,以確保政策經驗之延續性及成果導向管理。 二、政府得發布正式指引,說明特區計畫之審查標準,並在申請被駁回時告知申請人原因,以提升程序透明度及程序明確性。 三、為保障實驗期間因事故受影響人員之人身安全,新增人身傷害損害賠償條款。明定該項請求權禁止讓與或扣押,以落實保護受害者之基本經濟生活權益。 本次修正法案預計自公布後六個月施行。中小企業暨新創事業部表示,將配合修法,儘速修訂相關附屬法規,以確保制度順利落實發揮最大效益。 在加速創新應用落實之時,如何同時兼顧安全並促進創新,已成為各國重要政策課題。韓國此次修正《有關區域發展之法規鬆綁特區及經濟特區法》之實務作法,非常值得我國持續觀察與參考。
歐洲網路暨資訊安全局發布「重要資訊基礎設施下智慧聯網之安全基準建議」歐洲網路暨資訊安全局(European Union Agency for Network and Information Security, ENISA)於2017年11月20號發布了「重要資訊基礎設施下智慧聯網之安全基準建議」。該建議之主要目的乃為歐洲奠定物聯網安全基礎,並作為後續發展相關方案與措施之基準點。 由於廣泛應用於各個領域,智慧聯網設備所可能造成之威脅非常的廣泛且複雜。因此,了解該採取與落實何種措施以防範IOT系統所面臨之網路風險非常重要。ENISA運用其於各領域之研究成果,以橫向之方式確立不同垂直智慧聯網運用領域之特點與共通背景,並提出以下可以廣泛運用之智慧聯網安全措施與實作: (一) 資訊系統安全治理與風險管理 包含了與資訊系統風險分析、相關政策、認證、指標與稽核以及人力資源相關之安全措施。 (二) 生態系管理 包含生態系繪製以及各生態系的關聯。 (三) IT安全建築 包含系統配置、資產管理、系統隔離、流量過濾與密碼學等資安措施。 (四) IT安全管理 帳戶管理與資訊系統管理之相關安全措施。 (五) 身分與存取管理 有關身分確認、授權以及存取權限之安全措施。 (六) IT安全維護 有關IT安全維護程序以及遠端存取之安全措施。 (七) 偵測 包含探測、紀錄日誌以及其間之關聯與分析之安全措施。 (八) 電腦安全事件管理 資訊系統安全事件分析與回應、報告之資安措施。