日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險

日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。

隨著生成式AI的登場,日常生活以及執行業務上,利用AI的機會逐漸增加。另一方面,濫用或誤用AI等行為,可能造成網路攻擊、意外事件與資料外洩事件的發生。然而,利用AI時可能的潛在威脅或風險,尚未有充分的對應與討論。

本調查將AI區分為分辨式AI與生成式AI兩種類型,並對任職於企業、組織中的職員實施問卷調查,以掌握企業、組織於利用兩種類型之AI時,對於資料外洩風險的實際考量,並彙整如下:

1、已導入AI服務或預計導入AI服務的受調查者中,有61%的受調查者認為利用分辨式AI時,可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。

2、已導入AI利用或預計導入AI利用的受調查者中,有57%的受調查者認為錯誤利用生成式AI,或誤將資料輸入生成式AI中,有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。

日本調查報告顯示,在已導入AI利用或預計導入AI利用的受調查者中,過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務,或未來預計導入AI服務之我國企業,如欲強化AI資料的可追溯性、透明性及可驗證性,可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範;如欲避免使用AI時導致營業秘密資料外洩,則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範,以降低AI利用可能導致之營業秘密資料外洩風險。

本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。

本文同步刊登於TIPS網站(https://www.tips.org.tw

相關連結
你可能會想參加
※ 日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9235&no=64&tp=1 (最後瀏覽日:2026/05/17)
引註此篇文章
你可能還會想看
歐盟執委會發布關於歐洲境內資料流監控之新研究

  歐盟執委會(The EU Commission)於2022年2月3日發布了一項研究,其繪製並預估歐盟27個成員國以及冰島、挪威、瑞士和英國等國家彼此之間的主要雲端基礎設施的資料流量。該研究概述了各級產業、位置、企業規模和雲端服務類型的雲端資料流入和流出的流量和類型。政策、決策者、商業領袖與公共行政部門可以將其作為參考,以支持對未來貿易協定、工業決策和雲端投資的決策。   在歐盟的歐洲資料戰略中,認識到獲取有關資料流的經濟情報的戰略重要性,因此提出了資料流戰略分析框架的發展。為了實現這一關鍵行動,歐盟執委會開展了上述關於繪製資料流的研究,首次開發和測試了一種全新、自我維持與可複製的方法,從而產生了資料流可視化工具,用於測量、映射和分析歐洲31個國家與地區的各級產業、地理和企業規模的雲端資料流。而該資料流可視化工具中顯示的資料預計將每年更新一次。使用的資料收集來源從官方統計資料等主要來源到調查和訪談等次要來源。   該工具得以讓歐盟執委會: 一、繪製和估計歐盟27個成員國(即歐盟內部資料流)和冰島、挪威、瑞士和英國(即歐盟外資料流)的雲端計算領域主要資料流的數量 二、預測至2030年的資料流出 三、分析各產業、公司規模和雲端服務類型的資料流量   該研究顯示2020年最大的資料流來自醫療衛生產業,而德國的資料流入量最大。該報告還估計,到2030年,來自歐洲企業的資料流量將是2020年的15倍。   作為資料流市場關鍵層面之一,透過進一步調查資料趨勢,將協同即將出現的資訊法案打造一個更加生動、動態和流動的雲端市場。

加拿大全力降低廢氣排放

  加拿大政府十三日宣布,將在未來七年內投入百億元資金,達成京都議定書的二氧化碳減量目標。根據這項計劃,加拿大將在二○○二年至二○一二年之間,把全國溫室廢氣減少二億七千萬公噸,但其中對本國實際減少的排放量,以及透過向窮國購買排放權扣抵的比例,並未提出具體說明。   計劃中雖要求大型排廢單位在此期間內必須把廢氣排放量減少三千六百萬公噸,但也遠低於加國當初在簽署京都議定書時所承諾的五千五百萬公噸。此外,計劃中也還有很大一部份,仍待聯邦與各省及產業界進一步談判,其中也未訂出產業和民眾各需負擔的減量責任額。   加國主要環保智庫大衛鈴木基金會氣候變化計劃主任卡特則批評,這項計劃的最大缺點在於把排廢減量主要責任都推到一般民眾身上。卡特指出,加國每年產生的溫室廢氣中,只有二成三來自一般民眾,但依據該會的分析,加國政府在這項計劃中,將把高達七成四的減量責任都壓到民眾身上。   加國政府同時也計劃撥款,資助清潔能源和減少排廢相關科技研發,並致力推動宣導,呼籲、教育民眾和社區一起投入減少排廢。新公布的減排溫室氣體環保計劃主要包括三個部分:氣候變化基金、伙伴合作基金和研究基金。氣候變化基金將幫助加拿大企業在國內外購買和出售廢氣排放量的指標數。伙伴合作基金將主要用於各省之間的相關合作項目,如建立從東部到西部的電網,使各省都能利用清潔的水電能源,盡量減少煤電使用量等。研究基金主要用于開發能減少溫室氣體排放量的新技術。

日本經濟產業省所屬研究機構提議「日本能源基本計畫修正研析建議」報告

  日本經濟產業省(Minister of Economy, Trade and Industry)所屬「自然資源及能源諮詢委員會(Advisory Committee for Natural Resources and Energy)」於2011年12月提出一份「日本能源基本計畫修正研析建議(Establishment of a New Basic Energy Plan for Japan)」,對於現有日本能源基本計畫,研析討論重要議題,並提出修正建議。   日本能源基本計畫,係因日本政府為因應2020年應達25%減碳目標(相較1990年水準),於2010年所規劃擬訂之推動計畫。而自然資源及能源諮詢委員會則是陸續招開會議研商討論,並提供建議給日本經濟產業作為省調修參考。此份報告指出,此份報告指出,能源基本計畫之推動架構必須重新思考,包括提議能源政策應強調重視「需求端(Demand Side)」,與兼顧「消費者(Consumers)」、「社會公民(Ordinary Citizens)」、「區域社區(Regional Communities)」等方面意見及利益,並建立社會公眾信心(Public’s Trust),以及必須能達到多元化不同電力能源之來源應用,並對於日本國家所需能源組成結構(Desired Energy Mix)進行討論議訂。   並且,對於推動實施,建議能源政策改革應朝向,以改革需求端架構(Reform of the Demand Structure)來達到能源節約社會目標,,以及改革供給端(Reform of the Supply Structure)來達到下一代分散式能源系統目標,並且倡議以創新技術來協助國家能源組成結構轉型,與能源供給端至需求端應備建設(Energy Supply-Demand Structure)之改革工作。   此研究報告於2011年12月提出後,歷經多次修改(最新更新為2012年1月),未來提交給經濟產業省供政策參考後,將產生如何影響內容,將再持續觀察最新進度。

90億基金挹注 生技業添活水

  為推動國內生技業發展,行政院開發基金審核通過90億元成立三種「生技創業種子基金」,今年將開始運作,希望發揮拋磚引玉功能,吸引異業的大型民間資金投入生技產業。而為加強BIO-IT跨領域異業科技整合,行政院近期內還要推動Mega Fund大型基金參與,建構台灣成為亞太地區最活躍的生技重鎮。   生技產業被公認為21世紀的明星產業,台灣也列為兩兆雙星產業發展計畫的重點推動項目,並提出具體執行策略與願景目標,以建構台灣為擁有亞洲區最活躍的生技創投產業、基因體研究重鎮、人體臨床試驗中心與亞熱帶花卉王國,成為國際生技與製公司進入亞洲市場的重要門戶。   不過行政院科技顧問組在立法院科技與資訊委員會備詢時指出,台灣現雖已有223家創投公司,其中61家近三年正逐漸將生技納入投資組合。可是國內的投資人對研發型生技產業仍瞭解不夠,投資在生技創投資金雖有增加,著重投資於國內技術移轉及產業化過程中的草創期資金缺口,但行政院開發基金日前已通過三個「生技創業種子基金」,金額90億元,卻還沒有開始運作,異業的大型民間資金也還沒有進入生技產業。   為強化生技政策與資源統籌,行政院決定今年設立「生技產業策略諮議委員會」,替台灣生技產業未來方向作整體評估與規劃,並引導國際聯盟的佈局。

TOP