日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險

日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。

隨著生成式AI的登場,日常生活以及執行業務上,利用AI的機會逐漸增加。另一方面,濫用或誤用AI等行為,可能造成網路攻擊、意外事件與資料外洩事件的發生。然而,利用AI時可能的潛在威脅或風險,尚未有充分的對應與討論。

本調查將AI區分為分辨式AI與生成式AI兩種類型,並對任職於企業、組織中的職員實施問卷調查,以掌握企業、組織於利用兩種類型之AI時,對於資料外洩風險的實際考量,並彙整如下:

1、已導入AI服務或預計導入AI服務的受調查者中,有61%的受調查者認為利用分辨式AI時,可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。

2、已導入AI利用或預計導入AI利用的受調查者中,有57%的受調查者認為錯誤利用生成式AI,或誤將資料輸入生成式AI中,有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。

日本調查報告顯示,在已導入AI利用或預計導入AI利用的受調查者中,過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務,或未來預計導入AI服務之我國企業,如欲強化AI資料的可追溯性、透明性及可驗證性,可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範;如欲避免使用AI時導致營業秘密資料外洩,則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範,以降低AI利用可能導致之營業秘密資料外洩風險。

本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。

本文同步刊登於TIPS網站(https://www.tips.org.tw

相關連結
你可能會想參加
※ 日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9235&no=64&tp=1 (最後瀏覽日:2025/12/24)
引註此篇文章
你可能還會想看
日本發布資料素養指南之資料引領判斷篇,旨在呼籲企業透過資料分析結果改善並優化企業經營

日本獨立行政法人情報處理推進機構於2025年7月發布《資料素養指南(下稱《指南》)》,指南分為三大章,第一章為整體資料環境之變化;第二章為資料治理;第三章為資料、數位技術活用案例與工具利用。指南第二章中的資料引領判斷篇,主要為呼籲企業透過資料分析結果改善企業經營。 《指南》資料引領判斷篇指出,在進行資料驅動的判斷流程時,需留意三點事項,分述如下: (一) 提出假說、驗證並進行決策 首先盤點利害關係人,蒐集各自的需求與課題,考量可以適用的技術與服務,並以此為基礎提出與事業相關的假說。其次,盤點必要資料並確認其利用可能性,同時針對所缺乏的資料進行取得可能性之評估。下一步,以所取得的資料為基礎進行假說與資料分析結果之驗證。而後,將假說與資料分析結果的驗證成果提供給利害關係人,並以利害關係人的意見為基礎,進行追加資料的取得並同時修正假說內容。最後,基於資料分析結果進行決策。 (二) 判斷決策所必要之資料的信賴性 企業在盤點必要之資料以進行分析並據此進行決策時,由於資料沒有達到特定數量無法用於分析、資料蒐集需花費時間成本,且判斷時點有時亦有其時效性,因此,在確保必要之資料時,會先檢視企業內部所持有之資料,而後確認政府機關的公開資料,如仍缺乏必要之資料,則會確認從資料市場取得之可能性等。在確保必要之資料後,則會判斷決策所必要之資料的信賴性,其主要分為兩點,一為針對資料本身之信賴性,包含資料是否有偏頗、對於資料產出者的信賴性以及資料取得日期、地區等;一為資料傳輸、編輯的信賴性,包含對於資料仲介者的信賴性、資料編輯程式以及資料整合方針。在無法完全確保資料的信賴性時,則會透過相關聯的資料進行資料正確性的檢驗。 (三) 服務導入與監視 資料分析並不僅侷限於現在資料的分析,亦會涵蓋未來資料的預測。舉例而言,自動駕駛資料不僅會分析車輛狀況以及周圍狀況,亦會預測並自動判斷是否需要剎車。透過資料分析結果導入服務後,亦應透過監視檢視決策成效,方法包含滿意度調查、平均使用時間調查等,並針對調查結果進行改善。 我國企業如欲將其所持有之資料用於分析並依照分析結果進行企業經營決策,除可參考日本所發布之《指南》資料引領判斷篇建立內含PDCA四面向之管理制度以外,亦可參考資訊工業策進會科技法律研究所創意智財中心所發布之《重要數位資料治理暨管理制度規範》,針對自身所持有之資料建立包含PDCA四面向之管理制度。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://www.tips.org.tw)

USPTO 宣佈將加速綠色科技專利案件審查

  美國專利商標局USPTO日前宣佈一項專為綠色科技(Green Technologies)而設的前導計劃(Pilot Program),透過這項計劃期望能將相關溫室氣體排減、節約能源等申請案加速其審查、公開及訴願程序,至少縮短流程一年。目前平均來說從申請至最終結果出爐需耗時40個月。這項消息係由美國商務部長駱家輝(Gary Locke)所宣佈,普遍被認為是為了呼應於哥本哈根舉行的聯合國氣候變化框架公約第15次締約方會議。   符合條件的申請案必須於2009年12月8日前送件,而且必須是尚未收到第一次官方通知(First Office Action,包括限縮專利範圍的通知),另外申請人還必須於2010年12月8日前以電子檔提交「特別審查程序」(petition to make special)並符合下列要求: ●必須是正式發明申請案(non provisional utility application),不適用於再領證(reissue) 與再審查(re-examine) 專利 ●必須是上述前導計劃中所包括的約79項專利項目之一 ●申請案必須不包含超過3個獨立項與20個專利申請範圍 ●如欲提早公告需附上申請書 (petition) ●如果USPTO判定為超過一項的發明,申請人必須同意用電話做出選擇   雖然USPTO預估目前有25,000件審核中的專利符合加速審理的資格,但他們預計只受理最初的3000件申請以評估這項計劃的效益與工作量。至於有意提出申請者則需要審慎評估快速審查之外的其他利弊,例如提早公告,限縮的運用範圍與專利申請範圍等。這項計劃公佈的同時USPTO的局長 David Kappos 亦承諾將定期對外更新該計劃的進度,並將成立一個網上的交流平台讓大眾可以對此計劃提出意見。

把生物廢棄物變黃金—英國智庫建議政府應提供更多的財務協助

  當前科學家正極力從廢棄的生物物質(biomass)中,尋找可以做為燃料使用的資源(biofuel)。使用生物燃料的概念與全球氣候變遷以及石油價格一再攀高有關,生物燃料是指在不影響食物供應的前提下,使用木材、稻桿或麥桿、庭園廢棄物等作為第二代的燃料來源。不過在鼓勵發展生物燃料之餘,發展此一領域之技術卻亦有不可忽略的問題有待解決。   以英國為例,英國法律規定在2010年以前,英國政府必須確保所有公路運輸使用的燃料中,至少有5%是使用生物燃料;而最近英國的能源檢視報告則建議,在2015年前,此項生物燃料使用的門檻值應達10%。英國國家非食用作物研究中心(National Non-Food Crops Centre, NNFCC)近期也提出報告,指出英國每年農作收成後皆剩餘大量的小麥、甜菜,若能輔以更多的政府促進措施,例如租稅減免,則達成2010年5%的門檻指標,並非難事。不過若想要達成2015年10%的指標,英國政府則必須另外從國外進口生物燃料。   生物廢棄物的利用指的是把各地方的廢棄物以及非食用作物拿來轉化成為生物燃料。使用生物燃料最大的缺點是建置成本(start-up costs)過高,舉例來說,使用甜菜或黃豆來生產生質柴油(biodiesel)的成本,每英噸約為700至800歐元,其中把生物廢棄物液態化的過程(biomass to liquids (BTL) process),約需每英噸450至500歐元;而要建置一個第一代生物燃料廠乃至運作,其投資費用高達5千萬歐元,第二代生物燃料的生產所需建置成本,則可能為前述數字的五至十倍。有鑑於此,NNFCC透過經濟模式的運算,建議英國政府應對第二代生物燃料廠提供每公升至少35%的租稅減免優惠(目前英國政府僅給予每公升20%的租稅減免優惠),始能鼓勵民間部門進行相關投資。   另一項發展生物燃料的隱憂則是,由於生物燃料與食物的來源都是取自於自然界的同一資源,發展生物燃料是否反而可能造成食物與燃料的爭戰中,侵蝕自然界的資源,最後反而導致各種價格的上升。

法國政府考慮強制業者公布使用奈米材料之相關資訊

  茲因回應2008年針對環境議題所召開之國家諮詢會議,並考量整體環境變遷快速,有待解決之相關問題與過往相較已有所不同,法國政府於2009年1月7日公布新修正之環保法令草案,力求與時俱進;其新環境法規草案著重以下主題:建築與都市計畫、交通、能源與氣候、生物多樣性、風險、健康與廢棄物處理。   其中值得注意者,係針對可能導致危害環境或人體健康的奈米粒子材料,於新法中加以規範。依該新環保法草案第73條,除非個案內容有損國家安全因而為特例之外,現行製造、輸入與使用奈米粒子材料於產品之業者,必須就該奈米材料之性質、數量與使用方式加以揭露,使公眾周知;此外,於主管機關的要求下,業者應評估並呈報該奈米材料之暴露程度與所潛藏之風險。   之所以將奈米粒子納入規範當中,係參考「化學物質登記、評估、授權和管制法」(Registration, Evaluation, Authorisation and Restriction of Chemical substances,REACH),基於永續發展之目標,因而於產品製造及銷售的過程中,賦予製造商與進口商特定之責任與義務;亦即業者必須以負責任之態度製造、進口或使用化學物質,進而取得該化學物質之相關資訊,使之透明化,以確保人體健康和環境免於受到負面影響,促成風險管理措施之順利運行。   該等觀念彰顯了本次法國環境法規修改之特色,其六大主題之規範更需要諸多政府部門的通力合作;再者,法國於積極發展奈米科技的同時,以客觀之態度審視其優缺點,試圖掌握奈米粒子材料之特性,作為管理潛在風險之判斷基準。該法案於2009年2月10日送至議會待表決,後續發展仍值得注意。

TOP