日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險

日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。

隨著生成式AI的登場,日常生活以及執行業務上,利用AI的機會逐漸增加。另一方面,濫用或誤用AI等行為,可能造成網路攻擊、意外事件與資料外洩事件的發生。然而,利用AI時可能的潛在威脅或風險,尚未有充分的對應與討論。

本調查將AI區分為分辨式AI與生成式AI兩種類型,並對任職於企業、組織中的職員實施問卷調查,以掌握企業、組織於利用兩種類型之AI時,對於資料外洩風險的實際考量,並彙整如下:

1、已導入AI服務或預計導入AI服務的受調查者中,有61%的受調查者認為利用分辨式AI時,可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。

2、已導入AI利用或預計導入AI利用的受調查者中,有57%的受調查者認為錯誤利用生成式AI,或誤將資料輸入生成式AI中,有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。

日本調查報告顯示,在已導入AI利用或預計導入AI利用的受調查者中,過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務,或未來預計導入AI服務之我國企業,如欲強化AI資料的可追溯性、透明性及可驗證性,可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範;如欲避免使用AI時導致營業秘密資料外洩,則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範,以降低AI利用可能導致之營業秘密資料外洩風險。

本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。

本文同步刊登於TIPS網站(https://www.tips.org.tw)

相關連結
你可能會想參加
※ 日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9235&no=57&tp=1 (最後瀏覽日:2026/11/19)
引註此篇文章
你可能還會想看
歐盟發布《再生能源指令》相關指引,協助會員國推動再生能源電力系統整合

歐盟執委會(European Commission)於2024年9月2日發布「關於《2018/2001號指令》第20a條再生電力系統整合指引(經《2023/2413號指令》修訂)」(Guidance on Article 20a on sector integration of renewable electricity of Directive (EU) 2018/2001 on the promotion of energy from renewable sources, as amended by Directive (EU) 2023/2413),協助會員國落實2023年修訂版《再生能源指令》(Renewable Energy Directive, RED)第20a條,並促進再生電力系統整合。《再生能源指令》背景係為幫助歐盟達成2030年再生能源占比達45%之目標,第20a條並規範能源系統電氣化與再生能源使用。 再生電力整合指引主要涵蓋下列重點: (1)資料共享與透明度:要求輸配電系統運營商提供再生能源比例及供應電力溫室氣體排放資料,並確保用戶能夠即時獲取相關資料。 (2)電池資訊與智慧充電:電池和電動車製造商需提供電池管理系統(Battery Management System, BMS)基本資訊,包括電池容量、充電狀態等,並推廣雙向充電技術,提升電網靈活性。 (3)電網升級與智慧電網:鼓勵會員國透過政策和獎勵措施升級智慧電網,以增強其整合再生能源之能力。指引另強調須特別注意小型分散式能源和移動式儲能系統公平進入市場之機會。 (4)跨國協作與資料可互通性(interoperability):會員國需確保系統間資料的可互通性,採用標準化資料格式,促進歐盟各國電力市場一致性與跨境合作。 根據《再生能源指令》,2025年5月前各會員國須完成第20a條內國法化相關程序。

德國聯邦法院裁判臉書之Find Friends功能違法

  德國消費者組織聯盟(Federation of German Consumer Organisations , 以下簡稱VZBV)針對臉書(Facebook)的”find friends”功能向該公司發出警告信。臉書的”Find friends”功能為使用者先在該社群網站上輸入自己的email後,再選擇其與朋友的聯繫管道,如yahoo信箱、skype等。臉書將儲存使用者所上傳的聯絡人資訊,並用以協助使用者尋找朋友,或者透過居住地、學校、工作場所等搜尋要件,協助使用者找尋好友。然而,在臉書未有任何修正的情況下,VZBV向柏林地方法院控告臉書並獲得勝訴,之後臉書向上訴法院提起上訴,但於2014年01月24日遭到駁回。2016年01月14日,德國聯邦法院維持下級審法院判決,裁判臉書的” Find friends”功能牴觸德國隱私權保護與消費者保護之法律。 (一)德國聯邦資料保護法(Bundesdatenschutzgesetz,BDSG)   法院認為該項功能違反德國聯邦資料保護法,蓋因臉書未能在收集或利用使用者以及非使用者的資料前,事先取得其同意。此外,臉書的契約條款中亦未提供使用者適當程度的通知,讓使用者知道他們的資料將會被如何使用。 (二)德國不正競爭防制法(Gesetz gegen den unlauteren Wettbewerb, UWG)   法院認為,臉書在利用使用者資料並且寄發廣告郵件給非臉書會員時誤導使用者,讓使用者以為這個功能是受到限制的,亦即使用者誤認僅有其臉書上的朋友才在搜尋範圍之內。然而,臉書實際上更寄發邀請廣告郵件給其他非臉書的使用者。由於德國不正競爭防制法第五條第一項規定,採取引人錯誤的交易行為,其行為構成不正當。此外,該法第七條亦規定,具訊息之廣告,其掩飾或隱匿委任傳送此訊息之發送人的身分, 即被視為不合理之煩擾。又以不合理之方式來煩擾市場參與者之交易行為,不得為之。因此,其被認定構成德國不正競爭防制法第五條”引人錯誤的交易行為”以及第七條"不合理之煩擾"。   本案從2010年開始直至聯邦法院裁判結果出爐前,”find friends”功能已有修正,然而VZBV認為這些修正並不足夠。在2016年的這份裁判出爐後,facebook將如何修正及調整商業模式,以符合德國法律之規定值得持續關注。此外,許多社群網站如LinkedIn亦有類似功能,該裁判結果對於這些網站的商業運作,將造成如何的影響亦應持續追蹤。

新加坡針對閒置頻譜利用之政策管制架構提出公眾諮詢

  隨著行動通訊需求的提升,各國對無線頻譜資源需求若渴,除了極力釋出更多頻譜資源外,也針對既有頻譜的使用效率加以提升,以滿足頻譜的需求,無線廣播電視為了維護收訊品質,在各頻道之間保留相當大的空白區域,以避免訊號干擾;另一方面,無線廣播電視訊號在人口較少或是有線電視較發達的區域,訊號覆蓋的要求較低,產生許多無訊號的地帶,形成頻譜閒置的狀況。因此目前許多國家將提升頻譜效率的政策,運用在無線廣播電視所使用的頻段上,透過活用上述處於閒置的頻譜資源,滿足更多的無線通訊需求。   目前動態頻譜接取技術就是這樣的一個創新,允許隨機的、免執照使用閒置頻譜,以提高頻譜效率。目前最主流的運用場域在無線廣播電視的頻道上,如前所述,這些頻譜的空白保留區域或是閒置未用的狀況,稱為電視閒置頻譜(TV White Space,TVWS)。TVWS可用以替代類似Wi-Fi功能的無線寬頻通訊,但能夠以更低的功耗與成本加以部署,並擁有更大的涵蓋範圍。TVWS技術亦可以無線連接多種智慧型的終端設備,並具有良好的成本效益,提供更多創新的應用和服務。   新加坡資通訊發展管理局(The Infocomm Development Authority of Singapore,IDA)在2011年起結合相關業者開始進行概念實證運行,目的在驗證新加坡是否具有成功使用TVWS技術的可行性,並於2012年宣布成功。隨後,在IDA的支持下,集合資通訊業者成立「新加坡閒置頻譜先導團隊(Singapore White Space Pilot Group,SWSPG)」的產業協會,在新加坡各地展開了一系列的TVWS先導計畫。   這些先導計畫包括新加坡國立大學的智慧能源控制與智慧電表、新加坡島嶼鄉村俱樂部的寬頻服務、樟宜機場與港口周邊地區提供公共的Wi-Fi熱點。這些先導計畫的作用也在於探詢TVWS技術如何補強既有的寬頻基礎設施,克服新加坡天然環境的限制,提供更多創新的消費和商業應用。這些先導計畫也展現出TVWS可以運用提供良好的多元化的商業服務,深受參與先導計畫的使用者肯定。總體而言,這些先導計畫證明TVWS技術可為新加坡的無線服務提供更多可用頻譜,從而提升了頻譜使用的整體效率。   在這些先導計畫的成功基礎上,IDA認為為了促進TVWS的更大發展,應該展開TVWS設備與使用的的準則定義與確定管制上的的需求,一方面保護既有服務,一方面則必須避免各頻段可能產生的頻率干擾。IDA於2013年6月公布關於TVWS管制架構的公眾諮詢,藉以深入了解產業的需求,制訂完善的管制架構,確保TVWS的發展符合國際趨勢、新加坡的地理條件與市場環境的需求。IDA並希望能於2014年公布TVWS相關設備與服務的準則及管制架構。

美國政府提出新法加強管理軍民兩用技術

  美國布希政府最近向國會正式提出一個以打擊恐怖主義及大規模毀滅性武器為目的的法案—出口執行法(The Export Enforcement Act of 2007),以期為執法者—美國商務部產業安全局(Bureau of Industry and Security, BIS)提供更有效的工具,防止最具有敏感性的技術或產品落入危險份子手中。   長久以來,美國用以管理敏感性技術與產品的法源是1979年制定的出口管理法(Export Administration Act),該法對軍民兩用的技術與產品,施以出口管制。出口法在2001年失效,同年發生911攻擊事件,因此,布希政府除希望獲得國會重新就出口管理法予以授權外,也希望可以有更強而有力的出口管理權限。不過行政部門迄今未得到國會就出口管理法予以重新授權。   自2001年以來,BIS係依國際緊急情形經濟權力法(International Emergency Economic Powers Act, IEEPA)行使出口管理權限,不過根據IEEPA,美國總統必須每年發布行政令(Executive Order)始能動用出口管理權限,而IEEPA對於違反出口管制規定的處罰也不若出口管理法重,因此,IEEPA除了對執法者造成出口管理的不便的困擾外,寬鬆的處罰也使得美國過去幾年非法技術外移的事件頻傳。   本次布希政府再次提出2007年出口執行法,其內容除了請求國會同意在未來五年再度授權行政部門行使1979年的出口管理法之權限外,其他重要內容尚有:(1)修正1979年的出口管理法之執行與違法規定:除增列構成犯罪之違法出口行為態樣外,並對違法者大幅加重其民刑事處罰。根據修正草案,企業之出口行為若被認定為違法,最高可科處500萬美元或違法出口技術或產品價值之十倍罰金;(2)強化了執法者打擊軍民兩用技術與產品非法出口的職權,明訂商務部特派員擁有海外調查以及秘密調查的權限;(3)對企業所提出之秘密資訊負有保護義務。   整體而言,本法案除了重新授權美國商務部管理軍民兩用技術與產品實施出口管制體系外,同時也代表美國政府於二十一世紀為維護國家安全與處理所面臨之經濟挑戰的長期與根本性改革。目前法案仍須國會討論通過後,始能生效適用。

TOP