日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險

日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。

隨著生成式AI的登場,日常生活以及執行業務上,利用AI的機會逐漸增加。另一方面,濫用或誤用AI等行為,可能造成網路攻擊、意外事件與資料外洩事件的發生。然而,利用AI時可能的潛在威脅或風險,尚未有充分的對應與討論。

本調查將AI區分為分辨式AI與生成式AI兩種類型,並對任職於企業、組織中的職員實施問卷調查,以掌握企業、組織於利用兩種類型之AI時,對於資料外洩風險的實際考量,並彙整如下:

1、已導入AI服務或預計導入AI服務的受調查者中,有61%的受調查者認為利用分辨式AI時,可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。

2、已導入AI利用或預計導入AI利用的受調查者中,有57%的受調查者認為錯誤利用生成式AI,或誤將資料輸入生成式AI中,有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。

日本調查報告顯示,在已導入AI利用或預計導入AI利用的受調查者中,過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務,或未來預計導入AI服務之我國企業,如欲強化AI資料的可追溯性、透明性及可驗證性,可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範;如欲避免使用AI時導致營業秘密資料外洩,則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範,以降低AI利用可能導致之營業秘密資料外洩風險。

本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。

本文同步刊登於TIPS網站(https://www.tips.org.tw

相關連結
你可能會想參加
※ 日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9235&no=55&tp=1 (最後瀏覽日:2026/04/10)
引註此篇文章
你可能還會想看
中國擬透過擴大高科技設備進口之方式解決貿易順差過大問題

  中國近年來與美歐等國的貿易順差快速增長,此一方面彰顯中國的國際競爭力逐步提高,但也帶來人民幣升值壓力加大、貿易摩擦增多等問題。在去年底召開中央經濟工作會議,中國提出要把促進國際收支平衡作為宏觀調控的重要任務,緩解外貿順差過大所產生的問題。   近期中共商務部宣布將會同有關部門,採取五項具體措施包括:盡快頒布擴大先進技術設備進口的政策;加強從貿易順差國進口;大型展會增加進口功能;簡化手續及完善進口管理法規,規範進口市場秩序等,解決貿易順差過大的問題。其中最值的注意的是,中國擬藉由擴大先進技術設備進口之方式,解決貿易順差問題,其重點支持的高科技設備進口包括:大陸急需的半導體製造設備、高級化纖設備、高性能數控機床等先進技術設備,以及節能降耗的新設備、新工藝和新技術之進口。   為此,中國除規劃組織企業赴國外採購,擴大自美國、俄羅斯等重點國家的進口,推進節能環保領域的國際交流合作外,亦擬利用於舉辦大型展覽會之際增設進口館,鼓勵和支持各地設立機電產品進口展覽館,舉辦國外機電產品展覽。

Apple Inc. 因販售個人資料面臨團體訴訟

  三位來自Massachusetts州的州民,以Apple Inc.(下稱Apple)為被告,於該州地方法院提起團體訴訟。其等主張在2012年至2013年間,透過信用卡於Massachusetts州Apple的零售商店購買該公司相關商品時,Apple有過度蒐集與不當利用個人資料之情形。據Apple網站指出,消費者得選擇透過信用卡的方式購買商品,然若選擇信用卡方式付費,必須提供個人相關識別訊息,包含完整的郵政編碼,如果提供不完整,Apple將不會允許使用消費者使用信用卡方式付費;且Apple亦在網站上聲稱保有允許提供該類訊息予提供產品和服務的合作夥伴,或得利用該類訊息幫助行銷的權利。故原告等透過信用卡消費後,收到不必要的市場行銷資訊;又Apple將原告等人可識別的個人資訊銷售第三方公司,並在未顧及原告等權益下,挪用了該具有經濟價值的個人可識別資訊。基於上述理由,原告等請求至少500萬元美金之損害賠償,其中不包含訴訟費用以及相關利息等其他費用。   依據Mass. Gen. Laws ch. 93 §105 規定,不論是個人、商號、合夥、公司或一切營業人,當接受信用卡交易模式時,並不能要求消費者填寫任何個人可識別的資訊。若法院同意原告們的訴求,Apple將因「不公平且欺騙之貿易行為」而被認定違反該州法律而必須負擔賠償責任,且Apple也將被要求停止蒐集全州的個人可識別資料。

美國為遏止專利濫訟通過創新法案(The Innovation Act of 2013)

  美國眾議院今年(2013)12月5日通過創新法案(The Innovation Act of 2013,H.R. 3309),主要目的在於填補美國發明法(Leahy-Smith America Invents Act,AIA)對於遏止專利濫訟之不足。創新法案中達成立法目標之核心手段主要有以下五個方向。 1.限縮提訴要件,要求提起專利訴訟,必須說明遭侵權之商品以及遭侵權之情形,特別是針對專利侵權之因果關係的說明,以不實施專利主體(Non-practice Patents Entity,NPE)不生產製造專利產品之特性遏止其專利濫訟。 2.訴訟費用的轉移,將相關成本轉移至敗訴方,並加諸合理之賠償費用。直接以訴訟成本之轉嫁來影響訴訟意願,然而此舉是否造成真正之專利所有者保護自身專利之障礙仍須觀察個案。 3.延遲證據開示,避免證據開示過早影響判決之結果。 4.要求專利所有者持續針對所有之專利進行資訊更新,使專利所有權透明化,以揭露NPE藉由空殼公司進行濫訟之行為。 5.創新法案另試圖使專利產品之實際製造商代替消費者面對專利侵權時相關產品之訴訟。   而眾議院通過創新法案的同時,參議院也有相類似的平行立法提案,稱為專利透明化與改進法案(The Patent Transparency and Improvement Act of 2013,S. 1720)。比較參眾兩院之法案版本後,可以發現兩者立法目的以及採取的手段均類似,主要都集中在於資訊的透明化以及訴訟成本的轉嫁,試圖藉由除去專利訴訟有利可圖的情形遏止專利濫訟的現象,但是參議院版本之法案是否真的能夠達到遏止專利濫訟之情形受到各界更多的爭議。

新加坡律政部向國會提交著作權法新法草案

  新加坡律政部(Ministry of Law)於2021年7月6日向國會提出新的《著作權法》(Copyright Bill),以廢止和取代現行法令(Copyright Act)。新法修正了舊法關於創作、散布和使用方式的規定,讓法令更與時俱進以完善新加坡的著作權保護。此外,新法簡化法條用語,使其更容易理解。   新法的特點有: 1.為創作者引入新的權利和救濟措施,以確保著作權能夠繼續鼓勵創作並激發創造力。例如: (1) 使用者應取得創作者或表演者的許可,始可公開地利用或在網路散布創作者或表演者的資料。此規定係賦予創作者或表演者的身分識別權,有助於個人創作者和表演者建立起自己的聲譽。 (2) 除合約另有規定,受託製作攝影、肖像、版畫、錄音和影片的著作權歸屬於創作者,此規定迥異於目前乃委託者擁有著作權。新法的規定,使創作者有更好的條件與委託者談判,並可將其作品商業化。 2.對著作權人之權利制定「允許使用」(permitted uses)的例外,擴大著作的使用權,以利著作造福社會並且支持創新。例如: (1) 倘係合法取得著作(如未規避付費牆paywall),則可將該著作用於資料計算分析(computational data analysis),如情感分析、文本和資料探勘(text and data mining),或訓練機器學習,而無需向每個著作權人取得許可,新規定對研究和創新將有助益。 (2) 教師和學生如果確認資料來源為合法時,可以在教育活動中(如居家學習)使用免費的網路資料。惟知悉來源有侵犯著作權時,則應停止使用。 3.此外,現行法令針對販賣或提供盜版視訊盒(set-top box)的業者,未清楚規定是否應負責,新的《著作權法》則明文著作人得追究販售、宣傳或散布違法且侵權設備或服務而牟利的業者。   新法若經國會通過,預計於2021年11月可實施該法大部分條款。

TOP