日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險

日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。

隨著生成式AI的登場,日常生活以及執行業務上,利用AI的機會逐漸增加。另一方面,濫用或誤用AI等行為,可能造成網路攻擊、意外事件與資料外洩事件的發生。然而,利用AI時可能的潛在威脅或風險,尚未有充分的對應與討論。

本調查將AI區分為分辨式AI與生成式AI兩種類型,並對任職於企業、組織中的職員實施問卷調查,以掌握企業、組織於利用兩種類型之AI時,對於資料外洩風險的實際考量,並彙整如下:

1、已導入AI服務或預計導入AI服務的受調查者中,有61%的受調查者認為利用分辨式AI時,可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。

2、已導入AI利用或預計導入AI利用的受調查者中,有57%的受調查者認為錯誤利用生成式AI,或誤將資料輸入生成式AI中,有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。

日本調查報告顯示,在已導入AI利用或預計導入AI利用的受調查者中,過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務,或未來預計導入AI服務之我國企業,如欲強化AI資料的可追溯性、透明性及可驗證性,可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範;如欲避免使用AI時導致營業秘密資料外洩,則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範,以降低AI利用可能導致之營業秘密資料外洩風險。

本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。

本文同步刊登於TIPS網站(https://www.tips.org.tw

相關連結
你可能會想參加
※ 日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9235&no=64&tp=1 (最後瀏覽日:2026/04/03)
引註此篇文章
你可能還會想看
美國聯邦通訊委員會(Federal Communications Commission,FCC)提議恢復網路中立相關規範,並發布規則草案

美國FCC主席Jessica Rosenworcel於2023年9月26日發表演說,並於內容中提案恢復在美國前總統川普任期間被廢止的網路中立性(Net Neutrality)相關規定,包含禁止寬頻網路業者對給付額外費用者提供「快速線路(fast lanes)」,或禁止電信業者對其網路服務減慢網速等規定。 FCC表示網路中立性規範可維護以下4大要點,包含: 1. 開放性:避免消費者觀看合法內容受阻,或是需要支付額外費用取得。 2. 國家安全:將寬頻網路渠道重新分配,以對抗潛在國安威脅。 3. 資訊安全:FCC得以強化寬頻網路韌性(resiliency),並要求網路業者在中斷網路時,需先行通知FCC與消費者。 4. 全國標準性:將樹立全國統一標準取代各州自行規範。 然而,有產學界的反對意見指出,在相關規定廢止期間,並未發現有網路業者因額外收費而對消費者的網路內容或網速進行干預。故認為FCC誇大了這些隱憂。 2023年10月19日,FCC在內部表決後,確定開始恢復網路中立規則程序,並於隔日發布包含最新草案內容之擬議規則制定通知(Notice of Proposed Rulemaking),草案除包含以上4要點相關規範以外,亦包含對寬頻網路近用業者(Broadband Internet Access Service,BIAS)等相關業者要求與限制,例如: 1. BIAS業者必須為殘疾消費者(disabilities)提供網路使用相關幫助。 2. BIAS業者將劃分為電信業者(telecommunications service)並適用相關規定。 針對目前草案內容,FCC目前正在公開徵詢意見,預定徵詢期限至2023年12月24日,並在2024年1月17日將意見彙整回報後,再進行後續表決及相關程序。 若網路中立性規範恢復,可能影響具跨國業務的網路業者,進一步影響其他國家的網路政策與法規,故亦可能對台灣網路業者與網路政策產生影響,值得我國持續關注後續發展。 本文同步刊登於TIPS網(https://www.tips.org.tw)

日最高院 首定義網路「被遺忘權」

  日本一名男子要求法院下令谷歌(Google)刪除他因性犯罪被捕的新聞搜索結果,遭最高法院以侵害言論自由駁回。這是該國最高法院首次做出有關網際網路搜尋的「被遺忘權」相關裁決。   法院網站張貼的聲明表示:「唯有在保護隱私權的價值明顯高於資訊公開時,才會准許刪除(有關這項指控的內容)。」而東京法院亦對於刪除網路搜尋紀錄的基準做出定義,如: 1. 報導的事實性質及內容 2. 事實傳達的範圍及隱私受害程度 3. 當事人的社會地位及影響力 4. 報導的目的及意義 5. 社會的狀況 6. 報導中公開當事人真實姓名及住址的必要性   而日本法院雖已界定被遺忘權之判斷基準,但門檻極為嚴格,臺灣先前亦有前職棒球團老闆訴請Google移除其涉及假球案(法院判決其無罪)之相關連結,但遭敗訴之結果。   相較於亞洲對於被遺忘權行使之結果,歐洲法院於2014年時裁決:當個人資料係「不適當」、「無關連」、「已無關連且多餘」,而且「與公共利益無關」。民眾就有權行使被遺忘權,要求包括Google等搜尋引擎將其相關資料移除。自2014年5月29日統計至今歐洲地區行使被遺忘權之資料,Google收到685,622個要求,並完成「移除要求」評估的網址總數為1,896,454個網址,刪除率達到43.2%。 由上可知,亞洲(如日本與我國)與歐洲對於被遺忘權行使仍有判斷基準上之差異,故後續亞洲國家的相關發展還有帶持續關注。

澳洲專利法新制上路

  澳洲於去(2012)年通過「智慧財產權法修正案」 (Intellectual Property Laws Amendment Act 2012),主要修正條文已於今(2013)年4月15日起正式施行。此次的修法大幅度提高了可專利性的審查標準,為澳洲專利制度帶來重大變革。新法適用於2013年4月15日以後提出實體審查申請之專利申請案,在新法施行後專利申請案將受到更嚴格的審查。   重要修正如下: ‧新法去除了舊專利法關於先前技術的地理區域範圍的限制。將其他各國的先前技術也一併納入考量,規範較舊法更為國際化。 ‧新法只要求所屬技術領域具有通常知識者「可能了解」且「技術相關」即可,放寬了用來判斷進步性根據之先前技術標準,使得符合進步性的要求較舊法為提高。 ‧新專利法要求專利說明書需揭露系爭發明特定的(specific)、主要的(substantial)、可信的(credible)用途,以滿足實用性的要件。此外,專利說明書上之描述必須清楚且完整,使所屬技術領域中具有通常知識者得以了解文件內容並可據以實施, ‧新法對於可專利性的認定改採「概然性權衡」(balance of probabilities)標準,亦即若專利審查員認為,未來在進行專利有效性審理,法院有超過50%的機率認定系爭發明不具可專利性時,審查委員即得駁回該申請案。 ‧增加了修正專利說明書時禁止加入新事項的限制規定,對於專利的申請益趨嚴格。   此次修法是澳洲專利制度近20年以來的最大變革,經過此次修正可預見未來申請取得澳洲專利的難度將大幅提升。更值得注意的是,由此次修正,可發現澳洲專利制度已向大多數國家的規範靠攏,使得澳洲專利法與國際間其他國家如美國、歐盟等國家的規定更為協調一致。

替代能源再添一項 筆記型電腦燃料電池後年問世

  燃料電池是種藉由氫氣及氧氣產生電化學反應,而將化學能轉換電能之裝置,運用在交通運輸及可攜式產品(如手機或筆記型電腦等)方面,目前以質子交換膜燃料電池為主,其中的關鍵組件是電池內部兩片基板中的薄塑膠質子交換膜,目前仍是杜邦公司(Nafion膜)的專利權。   在世界石油能源有限的情況下,替代能源是各國急於開發的產品。杜邦全球科技長Thomas Connelly表示,杜邦將與台灣電腦廠商合作開發筆記型電腦燃料電池,備機時間可長達10小時,預計二至三年後推出。   燃料電池成為明星電源,乃基於三大特色︰第一是效率,它的能量轉換效率非常高;其次是乾淨,發電過程幾乎沒有造成任何污染;第三是安靜。在國外,燃料電池的發展已趨成熟並邁入商業化階段。在國內,國人對於燃料電池的應用較為熟悉應屬「電動車」,只不過成本居高不下,在政府補助不足及週邊規劃未盡完善下,造成推廣不佳,商業化困難。

TOP