日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國國會於今年（2009）11月18日提出「聯邦檔案安全分享法案（Secure Federal File Sharing Act）」，內容主要是限制所有政府部門員工（包含約聘制人員），在未經官方正式同意之前，不得下載、安裝或使用任何點對點傳輸（Peer to Peer, P2P）軟體。期望藉由該法案的通過實施，徹底防堵政府及相關個人機敏資料的外洩。 該法案的制定，最初來自於政府部門對其財務資料保護的要求，早於2004年白宮管理及預算辦公室（The White House Office of Management and Budget）即已建議聯邦政府的各個單位應禁止其職員使用P2P軟體，以防止資料外洩。而於將近一個月前，國會道德委員會取得多位國會議員的財務狀況、經歷及競選贊助金額，並作成調查報告，未料一位新進職員將該份未經加密保護的報告存於自家裝有前述P2P軟體的電腦硬碟中，從而導致該份報告內容全部外洩。此一事件立即對向來注重政府及個人資料保護的美國投下了震撼彈，也促使該法案正式浮出檯面。 歐此項法案的提出毫無意外地得到視聽娛樂產業界的正面支持。主因來自多數人藉由此種軟體在網際網路上分享音樂、影片或其他應用軟體，時常侵害他人的智慧財產權，而法案的內容則是要求政府部門員工無論是在工作或是家中使用P2P軟體都須取得官方授權，無疑是直接限制了上述的分享行為。娛樂業者更進一步指出，P2P軟體對資訊安全的危害在於多數人無法明確知道該軟體的運作方式，而無法對其做正確的設定，使得軟體一旦被啟動，電腦內的所有資料：包含個人的社會安全卡號碼、醫療及退稅紀錄等，就立即暴露於網際網路之中！對此，除了推動此項法案的官員大聲疾呼：「用個人自律的方式防止資料外洩已經失敗，證明國會應該有所行動。 美國錄音產業協會（Recording Industry Association of America）則是預測前述國會調查報告的外洩，將會是資安法案重整的強力催化劑。
澳洲新南威爾斯州議會通過《2026年工作健康與安全（數位工作系統）法案》澳洲新南威爾斯州（New South Wales）議會於2026年2月12日通過《2026年工作健康與安全（數位工作系統）修正法案》（Work Health and Safety Amendment (Digital Work Systems) Bill 2026，以下簡稱本法案），並於同月18日獲御准（Royal Assent），以防範人工智慧在工作場所中對受雇者可能造成的職業安全危害。本次修正為澳洲州政府首次將數位工作系統納入《工作健康與安全法》規範框架之立法，明確要求雇主妥善管理人工智慧及其他數位工作系統對員工所帶來的安全風險；此次修法草案概述如下： 首先，就規範客體之界定而言，本次修法於第4條新增「數位工作系統」（digital work system）之定義，指演算法、人工智慧、自動化系統或線上平台。 其次，本次修法重點之一為主要注意義務之擴張。新南威爾斯州《工作健康與安全法》第19條第一項原即明定，事業單位對勞工之健康與安全，在合理可行的範圍內負有主要注意義務（primary duty of care）；同條第19條第3項第c款則進一步規定，事業單位應在合理可行的範圍內，為勞工提供並維持安全的作業系統（safe systems of work）。本次修法於前揭基礎上，於母法第19條第3項新增第c1款，要求事業單位在合理可行的範圍內，確保勞工之健康與安全不因該業務或事業單位「使用數位工作系統」而受到危害。再者，新增之第21A條亦明定，凡經營涉及數位工作系統之事業單位，均需在合理可行的範圍內，確保勞工之健康與安全不因該事業單位透過「數位工作系統」進行「工作分配」（the allocation of work）而面臨風險。此項擴張之核心意義，在於將數位系統所衍生之職場危害明文納入法規框架，將原本僅賴概括性規定涵攝之情形予以類型化，使雇主注意義務之射程更為清晰。傳統作業系統與新興「數位工作系統」（digital work systems）均明確落入規範範疇，部分原本遊走於灰色地帶之邊緣案例，亦得據此獲得更明確之法律保護。 進一步就前述之風險態樣類型化而言，修正後之第21A條第2項明定，營運業務或事業之人必須考量使用數位工作系統分配工作，是否會導致以下風險：(一)對業務或事業中的勞工（workers at work in the business or undertaking）造成過度或不合理的工作負荷；(二)採用過度或不合理的指標，對業務或事業中的勞工進行績效評估與追蹤；(三)對業務或事業中的勞工實施過度或不合理的監控或監視；(四)在業務或事業的經營過程中，做成違法的歧視性行為或決策。上開四項風險類型，實已涵蓋當前AI演算法管理（algorithmic management）所衍生之主要爭議。 最後，本次修法後，依第117條及118條規定，持有「工作健康與安全進入許可證」（work health and safety entry permit）之人員有權進入工作場所，就疑似違規情事檢查相關數位工作系統，而相關事業單位對此負有提供合理協助（reasonable assistance）之義務；主管機關則應就上開合理協助之行使訂定並於官方網站公告相關指引，以資遵循。 綜上，新南威爾斯州本次修法之特色，在於同時就「實體義務」、「執法配套」與「規範動態檢討」三個層次，完整建構數位工作系統之職業安全規範框架。新南威爾斯州之立法經驗，就規範客體之類型化、雇主注意義務之具體化，以及與國際規範接軌之機制設計，均可作為我國未來修法及主管機關訂定相關指引時之重要參酌。
什麼是「瑞典創新夥伴計畫」？瑞典創新夥伴計劃（Innovation partnership programmes），起源於瑞典企業與創新部下屬的國家創新委員會所強調的三個社會挑戰：數字化，環境氣候變遷和人口老齡化。創新夥伴計畫最重要的任務，在於公部門、企業界和學術界間的交流，為社會挑戰尋求創新解決方案，同時加強瑞典的全球創新和競爭力。創新夥伴計畫具體可分為五項重點發展領域。 一、下一代交通：目標是成為運輸效率更高的社會，以智能方式運輸，使用更多的節能型車輛。 二、智慧城市：智慧城市係利用訊息和通訊技術提高政策服務的質量，提升效能和互動性，降低成本和資源消耗，改善公民與政府的聯繫。 三、循環經濟：開創世界資源的新途徑，目標是可持續和無毒的原料生產。包括糧食供應管理、能源問題、及循環生物經濟轉型。 四、生命科學：透過醫療、商業和學術界合作，研發創新藥物，使健保和醫療技術惠及社會，並運用數位技術為強化。 五、新材料：為刺激瑞典工業的廣泛數位化運用，必須在各種成熟行業、新創公司和研究環境中加強夥伴關係，提升瑞典的產業競爭力。
日本內閣通過AI研發及活用推進法草案日本內閣於2025年2月28日通過並向國會提出《人工智慧相關技術研究開發及活用推進法案》（人工知能関連技術の研究開発及び活用の推進に関する法律案，以下簡稱日本AI法），旨在兼顧促進創新及風險管理，打造日本成為全球最適合AI研發與應用之國家。規範重點如下： 1. 明定政府、研究機構、業者與國民之義務：為確保AI開發與應用符合日本AI法第3條所定之基本原則，同法第4至第9條規定，中央及地方政府應依據基本原則推動AI相關政策，研發法人或其他進行AI相關研發之機構（以下簡稱研究機構）、提供AI產品或服務之業者（以下簡稱AI業者）及國民則有配合及協助施政之義務。 2. 強化政府「司令塔」功能：依據日本AI法第15條及第17至第28條規定，日本內閣下應設置「AI戰略本部」，由首相擔任本部長，負責制定及推動AI基本計畫，統籌推動AI技術開發與應用相關政策，並促進AI人才培育、積極參與國際交流與合作。 3. 政府調查及資訊蒐集機制：為有效掌握AI開發、提供及應用狀況，防止AI應用侵害民眾權益，日本AI法第16條規定政府應蒐集、分析及調查國內外AI技術研發及應用趨勢，並得基於上述結果，對研究機構或AI業者採取指導、建議或提供資料等必要措施。