日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險

日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。

隨著生成式AI的登場,日常生活以及執行業務上,利用AI的機會逐漸增加。另一方面,濫用或誤用AI等行為,可能造成網路攻擊、意外事件與資料外洩事件的發生。然而,利用AI時可能的潛在威脅或風險,尚未有充分的對應與討論。

本調查將AI區分為分辨式AI與生成式AI兩種類型,並對任職於企業、組織中的職員實施問卷調查,以掌握企業、組織於利用兩種類型之AI時,對於資料外洩風險的實際考量,並彙整如下:

1、已導入AI服務或預計導入AI服務的受調查者中,有61%的受調查者認為利用分辨式AI時,可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。

2、已導入AI利用或預計導入AI利用的受調查者中,有57%的受調查者認為錯誤利用生成式AI,或誤將資料輸入生成式AI中,有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。

日本調查報告顯示,在已導入AI利用或預計導入AI利用的受調查者中,過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務,或未來預計導入AI服務之我國企業,如欲強化AI資料的可追溯性、透明性及可驗證性,可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範;如欲避免使用AI時導致營業秘密資料外洩,則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範,以降低AI利用可能導致之營業秘密資料外洩風險。

本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。

本文同步刊登於TIPS網站(https://www.tips.org.tw

相關連結
你可能會想參加
※ 日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9235&no=64&tp=1 (最後瀏覽日:2026/08/26)
引註此篇文章
你可能還會想看
德國外交部發布《聯邦政府對中國戰略》明確與中國競爭及繼續合作方向

德國外交部(Menü Auswärtiges Amt)於2023年7月13日發布《聯邦政府對中國戰略》(China-Strategie der Bundesregierung),該戰略目的係提供使德國各個聯邦機關能夠協調其對中政策的架構,重點如下: (1)德國對中國戰略為歐盟對中國政策的一部分:依據歐盟理事會2020年10月決議,德國聯邦政府支持以國家元首、政府首腦以及歐盟機構領導人位階,與中國建立新的高峰會談等。 (2)與中國雙邊關係:期待透過兩國合作,保護氣候、環境、生物多樣性、促進全球食物安全,以及實施2030永續發展進程等。 (3)深化德國與歐盟關係:維護全球供應鏈與價值鏈的安全性;避免關鍵領域資訊科技過度依賴中國,加強數位主權(digital sovereignty);積極參與歐盟對外投資審查的檢視與安全評估;針對新興關鍵科技,修正出口管制清單等。 (4)國際合作:在貿易政策與多元化的層面,更有效地實施環境、社會與人權的保護;與夥伴國合作共享對於關鍵科技如半導體、人工智慧及綠色科技的價值等。 (5)協調政策與建構對中國的專業知識:德國聯邦政府將定期召開針對中國議題的部長級會議,並公開對中國戰略的實施情形;鼓勵各級機關、公民團體建構其中國專業知識掌握的量能。 該戰略作為加強德國在中國問題上的參考,是否能作為歐盟其他會員國在對中國政策上的參考,有待持續關注。

何謂「循環經濟」?

  循環經濟(Circular Economy)不僅是資源回收或廢棄物利用,循環經濟強調的核心概念是創造資源利用的最大效益,有別於傳統經濟模式在資源利用上「開採、製造、使用、丟棄」的線性歷程,循環經濟加入了減少廢棄物產生、資源重覆與有效利用的概念,讓資源利用與產品的生成不再是有去無回的單向線性歷程。   循環經濟的概念能夠套用到所有產品的生命歷程當中,自產品設計、生產、物流、銷售、使用、回收,到投入新的產品生命歷程,以環型的資源利用歷程,加入各種資源再利用的方式,並盡可能減少真正廢棄物的生成。與此相關聯的包含新興科技如大數據、物聯網之應用,到創新商業模式的生成,都可以是循環經濟的一部分。   循環經濟所揭示的概念,是讓產業發展與環境保護能攜手同行,創造資源利用的最大效益。在歐盟「展望2020計畫」(Horizon 2020)當中,也同樣把循環經濟列為計畫的重要領域之一,循環經濟時代來臨所揭櫫的不僅僅是在資源回收、或是幾種廢棄物再利用的技術,而是對經濟體系當中資源運用歷程的重新形塑,與新興科技及商業模式創新均密不可分。

歐洲專利局發布人工智慧與機器學習專利審查指南正式生效

  歐洲專利局(European Patent Office, 下稱EPO)於2018年11月1日發佈新版專利審查指南已正式生效。此次新版的焦點為Part G, Chapter II, 3.3.1關於人工智慧(Artificial Intelligence, AI)與機器學習(Machine Learning, ML)的可專利性審查細則。   在新版審查指南Part G, Chapter II, 3.3中指出數學方法本身為法定不予專利事項,然而人工智慧和機器學習是利用運算模型和演算法來進行分類、聚類、迴歸、降維等發明,例如:神經網路、遺傳演算法、支援向量機(Support Vector Machines, SVM)、K-Means演算法、核迴歸和判別分析,不論它們是否能夠藉由數據加以訓練,此類運算模型和演算法本身,因具有抽象的數學性質而不具專利適格性。   其中,EPO亦針對人工智慧和機器學習相關應用舉例下列特殊情形,說明可否具備發明技術特徵:   (一)可能具技術性 在心臟監測儀器運用神經網路辨別異常心跳,此種技術為具有技術貢獻。 基於低階特徵(例如:影像邊緣、像素數值)的數位影像、影片、音頻或語言訊號分類,屬於分類演算法的技術應用。   (二)可能不具技術性 根據文字內容進行分類,本身不具技術目的,而僅是語言學的目的(T 1358/09) 對抽象數據或電信網路數據紀錄進行分類,但未說明所產生分類的技術用途,亦被認定本身不具技術目的,即使該分類演算法的數據價值高(例如:穩健性)(T 1784/06)。   在新版審查指南中亦指出,當分類方法用於技術目的,其產生之訓練集(training set)和訓練分類器(training the classifier)的步驟,則能被視為發明的技術特徵。   近年來,人工智慧技術的應用分佈在我們的生活中,無論是自駕車、新藥開發、語音辨識、醫療診斷等,隨著人工智慧和機器學習技術快速發展,新版的審查指南將為此技術訂定可專利性標準,EPO未來要如何評判人工智慧和機器學習相關技術,將可透過申請案之審查結果持續進行關注。 「本文同步刊登於TIPS網站(https://www.tips.org.tw )」

精品珠寶業者攻防戰-卡地亞控訴蒂芙尼竊取營業秘密

  今(2022)年2月28日卡地亞(Cartier)控訴精品珠寶領域的競爭對手蒂芙尼(Tiffany & Co.),聲稱其在卡地亞前員工的幫助下,竊取獨家商品的營業秘密。   歷峰北美公司(Richemont North America Inc.)旗下的卡地亞今年2月28日於美國紐約州法院起訴蒂芙尼和卡地亞前襄理(Junior Manager)梅根瑪莉諾(Megan Marino),控訴瑪莉諾於跳槽前下載卡地亞的高級珠寶業務機密資訊, 並於去年11月加入蒂芙尼後將資訊傳送給新同事。蒂芙尼發言人發出否認聲明,卡地亞的指控毫無根據。   根據訴訟聲明,蒂芙尼聘請瑪莉諾負責包括單價高達1000萬美元(約新台幣2.8億)的高級珠寶系列,蒂芙尼法律部門從卡地亞獲得通報後,於今年2月份解僱瑪莉諾,但卡地亞聲稱,蒂芙尼的高階主管已經獲得大量的卡地亞機密和營業秘密資訊。   這並非卡地亞第一次指控跳槽至蒂芙尼的前員工試圖竊取營業機密。2014年,卡地亞起訴一名前廣告主管,據稱其試圖讓她的前助理隨身攜帶機密資訊一同加入蒂芙尼,該訴訟於次年和解。   本文同步刊登於TIPS網站(https://www.tips.org.tw)

TOP