日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險

日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。

隨著生成式AI的登場,日常生活以及執行業務上,利用AI的機會逐漸增加。另一方面,濫用或誤用AI等行為,可能造成網路攻擊、意外事件與資料外洩事件的發生。然而,利用AI時可能的潛在威脅或風險,尚未有充分的對應與討論。

本調查將AI區分為分辨式AI與生成式AI兩種類型,並對任職於企業、組織中的職員實施問卷調查,以掌握企業、組織於利用兩種類型之AI時,對於資料外洩風險的實際考量,並彙整如下:

1、已導入AI服務或預計導入AI服務的受調查者中,有61%的受調查者認為利用分辨式AI時,可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。

2、已導入AI利用或預計導入AI利用的受調查者中,有57%的受調查者認為錯誤利用生成式AI,或誤將資料輸入生成式AI中,有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。

日本調查報告顯示,在已導入AI利用或預計導入AI利用的受調查者中,過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務,或未來預計導入AI服務之我國企業,如欲強化AI資料的可追溯性、透明性及可驗證性,可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範;如欲避免使用AI時導致營業秘密資料外洩,則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範,以降低AI利用可能導致之營業秘密資料外洩風險。

本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。

本文同步刊登於TIPS網站(https://www.tips.org.tw

相關連結
你可能會想參加
※ 日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9235&no=57&tp=1 (最後瀏覽日:2026/09/12)
引註此篇文章
你可能還會想看
Adidas再次出擊!積極捍衛三斜線商標

  世界第二大運動用品製造商 Adidas 於2012年5月15日對滑板運動鞋製造商 Word Industries與體育用品零售商Big 5 提出商標侵權告訴,同時向U.S. District Court in Portland, Ore.請求金錢損害賠償與定暫時狀態處分。   Adidas 主張Word Industries設計於鞋身的三平行斜條紋與他們的三斜線商標太像了, 易使消費者產生混淆誤認,有欺騙消費者之嫌,並將淡化與損害Adidas的品質。 Word Industries 總裁則主張公司描繪的”W”是一個新的式樣且使用多年,有別於Adidas的三斜線。   Word Industries 於鞋身設計的”W”樣式,頂端帶著箭頭的形狀延伸至鞋緣,側身望去似乎只剩下三斜線,便因此落入與Adidas商標近似之爭議。   Adidas 積極捍衛商標,紛紛對於疑似模仿其三斜線標誌的業者採取法律途徑尋求救濟,像是控告Payless ShoeSource販售二至四條紋的運動鞋,侵犯其商標權,更因此判賠 6億5千萬美元,達成和解;甚至台灣本土品牌Jump運動鞋面設計的”遞減三斜線” 也在其中。

歐盟《2022年前瞻策略報告》聚焦於新地緣政治之綠能與數位轉型

  歐盟於2022年6月29日提出《2022年前瞻策略報告:新地緣政治下之綠能與數位轉型雙生》(Twinning the green and digital transitions in the new geopolitical context,以下簡稱《2022年前瞻策略報告》),促進氣候與數位的協同和一致性,以面對現今與2025年的挑戰。歐盟主席Ursula Gertrud von der Leyen曾於2019年指出,綠能與數位轉型為首要的任務;鑒於俄羅斯與烏克蘭之戰爭,歐洲正加速提升於氣候與數位之全球性領導地位,聚焦於能源、糧食、國防與尖端技術之關鍵挑戰。《2022年前瞻策略報告》提出願景與雙生轉型(twin transitions)互動的整體分析,考量新興技術的角色,和地緣政治、社會、經濟與法規的因素,以塑造雙生,相互強化,並降低戰略依賴。   《2022年前瞻策略報告》確立十大關鍵行動,以擴大機會並減少源於雙生的潛在風險。該關鍵行動分別為: 1、在變化的地緣政治環境,歐盟需在轉型的關鍵領域中,持續強化其彈性與開放戰略的自主權。 2、歐盟須致力於促進全球的雙生轉型。 3、歐盟須策略性的管理關鍵商品的供應鏈,以達成雙生轉型,並保持其經濟上之競爭力。 4、在轉型的過程中,歐盟須強化社會與經濟上的凝聚。 5、教育與訓練系統須能適應新的社會經濟現實。 6、額外的投資須能轉向於支持技術與基礎設施。 7、引導轉型須有穩健與可信賴的監控框架。 8、具未來性與敏捷性的歐盟立法框架,須以單一市場為核心,將有利於具持續性的商業模型與消費模式。 9、制訂標準(Setting standards)為雙生和確定歐盟朝競爭持續性發展的關鍵。 10、更強健的網路安全與資料共享框架必須對潛在的雙生技術解鎖。 本文同步刊登於TIPS網站(https://www.tips.org.tw)

法國通過新的加密貨幣監管法律

  2017年5月,馬克宏政府上任後,積極推動新興創新技術,以期將法國建設為新創國度。在此施政方針下,政府於2018年間提出「企業成長與轉型法案」(The PACTE draft Bill),並於2019年4月11日經法國國民議會通過,係為《企業成長與轉型法》(La loi PACTE)。   本法主要針對六大議題做改革,包含:企業成長及交接程序、擴增企業社會責任及員工參與率、資金、數位轉型及創新、行政流程簡化、提高國際競爭力。在「數位轉型及創新」部分,該法為「首次代幣發行(Initial Coin Offering, ICO)」和「數位資產服務提供者(Digital Assets Services Providers, DASP)」建立一法律框架,其主要制度內容,大抵有四: (一) ICO之選擇性憑證(Optional visa):   ICO發起人在符合一定要件時,「得」向法國金融市場管理局(Autoritédesmarchésfinanciers, AMF)繳交相關資訊文件,以獲憑證;如未為之,募資仍屬合法,惟不得公開徵求資金、發起資助,僅可進行廣告活動。 再者,獲得選擇性憑證必須符合以下要件,包含: 代幣發行人在法國成立或註冊合法之法人組織; 提供的資料文件上,須載明代幣發行、籌資計畫、公司等所有相關資訊; 必須有一個系統機制,來監控和保護在銷售過程中收集的資產; 遵守反洗錢(Anti money Laundering)和恐怖份子籌資活動(terrorist financing)相關規定。 (二) 數位資產服務提供者之選擇性特許(Optional license):   數位資產服務提供者,「得」主動向AMF申請特許並受其監督;如未為之,仍屬合法,惟不得公開徵求資金、發起資助,僅可進行廣告活動。   然而,須注意的是,無論服務提供者是否申請特許,凡「向第三方提供數位資產保管服務」或「買受數位資產以換取法定貨幣」者,皆須至AMF辦理註冊事宜。 (三) 允許二種資金可投資於數位資產:   該法指出,「符合市場流通性和估價規則之專業投資基金」和「專業私募股權投資基金」可投資於數位資產。 (四) 強化AMF之監管權力:   該法賦予主管機關AMF一定之監管權力,包含: 得監督「已獲選擇性憑證之ICO」及「經選擇性特許之服務提供者」,於其未遵守法規時,施以制裁。 得公布違法ICO及服務提供者之「黑名單」。 得封鎖數位資產服務之詐欺網站。

歐盟發布綠色政綱產業計畫,提供綠色轉型、國家補助、供應鏈韌性政策

  歐盟執委會於2023年2月1日公布「綠色政綱產業計畫(Green Deal Industrial Plan)」,該計畫主要包含淨零產品產業建立、國家補助、強化供應鏈、資金等綠色轉型重要政策。「綠色政綱產業計畫」將透過以下四大支柱協助歐盟進行綠色轉型。   (1)建立可預測、簡化且一致的管制環境   歐盟將提出《淨零產業法(Net-Zero Industry Act)》草案簡化管制框架來支持電池、風車、熱汞、太陽能板、電解、碳捕捉等技術;本法案將分析各產業部門後,建立各部門2030年能力目標,確保產業供應鏈不會遭遇瓶頸,並縮短淨零產品工廠選址和中小企業補助核准流程時間,以及增強核准流程的可預測性。另外歐盟並將提出《關鍵原物料法(Critical Raw Material Act)》草案,以管制生產淨零產品的關鍵物資,並透過回收、來源多樣化等方式來降低歐盟對第三方國家的依賴。   (2)更快的提供充足資金   歐盟將放寬各會員國的補助程序,並提高補助金額上限。另外因應中國和美國對淨零產業的補助,本計畫將提高歐盟與歐盟會員國的淨零產業補助額度,讓補助效果能和其他非會員國的補助達同樣程度。   (3)人才訓練與技術強化   歐盟將透過人才訓練、認證和補助來增加綠色及數位轉型技術之勞動力。   (4)為建立韌性供應鏈開放貿易   歐盟將加強與非會員國的自由貿易協定,增加關鍵原物料來源。歐盟也將透過《外國補助規則(Regulation on Foreign Subsidies)》保護歐盟市場的公平性、調查非會員國的傾銷行為、扭曲市場的補助。

TOP