日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
英國政府於2014年7月17日公告施行「2014年資料保存和調查法」（Data Retention and Investigation Powers Act 2014）(下稱新法)。新法係為因應歐盟法院2014年4月8日判決，由於全面資料保存不合比例地干預隱私權和「歐盟基本權利憲章」（EU Charter of Fundamental Rights）對個人資料的保護，歐盟2006/24/EC資料保存指令(Data Retention Directive 2006/24/EC)應予廢棄。該指令要求歐盟各國電話及網際網路公司搜集使用者電話及電子郵件通聯紀錄，包括時間、地點及受話人或收件人，並儲存至多兩年。 新法規範重點摘要如下： 1.相關通訊資料保存： (1)通訊相關資料保存權力受到管制保障： 新法除規範資料蒐集與保存制度，並規定英國政府得要求國內外電話及網際網路業者搜集其客戶通訊資訊，最長可保存12個月。 (2)於第二節補充前一節用語定義。 2.調查權： (1)新法授權政府得基於國家安全和預防或偵查重大犯罪而監聽取得國內外通訊相關資訊。 (2)修正「2000年調查權規範」(Regulation of Investigatory Powers Act of 2000)第一編之域外規範。 (3)擴大「電信服務」定義，納入提供接取、促進使用、促進傳播通訊之創建、管理、儲存或透過相類似系統之傳播者。 (4)通訊監聽委員(the Interception of Communications Commissioner)每半年提出報告。 (5)調查權力及規範之複審。 3.開始、持續期間、範圍和簡稱：新法落日條款之規範，2016年12月31日將失其效力。
歐盟和德國對於自動駕駛及智慧交通系統之個人資料保護發展 英國新聞申訴委員會首度網路影片違反隱私權爭議作成裁定英國新聞申訴委員會(The Press Complaints Commission，簡稱PCC)日前針對某報業網路上發布之影片寄出違反隱私權之處罰裁定，該影片為一位16歲之高中學生利用行動電話所拍攝，內容紀錄該學生就讀之班級學生於教室內脫序的上課狀況，該學生錄下脫序現象之目的在向自己父母解釋其數學成績不佳之原因，此一事件被英國報紙The Sun, The Daily Mirror and The Hamilton Advertiser報導出來並將該影片公布於網路。 該校「家長、老師會」(Parent Teacher Association)為此向英國新聞申訴委員會提出申訴，主張報社報導並於網路上公布該影片之行為，構成對於影片中學生之隱私權侵害，因為包括校方、學生以及學生家長皆未對影片播放表示同意。 PCC表示，學校的風紀問題已被認定與公共利益相關，而本案影片學校對於學生鬆散管理導致之脫序行為已經影響學生學習之表現，明顯屬於重要之公共利益事項。然而，該報社於報導此事件時，無論於報紙上之圖片以及網路上之影片皆未加以處理，尤其，網路上之影片有部分學生之身分可被明顯辨識，而新聞媒體具有確保學生隱私權不致於因出現鏡頭前而受到侵害之責，雖然依據該報社表示若將學生影像模糊處理將降低事件可能造成之影響，但學生隱私之保護將比新聞媒體呈現事件之利益更為重要，故裁定該報社違反新聞媒體工作規範中之隱私權保護規定。 PCC從今年(2007年)2月已開始對於報社所擁有之多媒體網路內容規範管理，而該規範並未排除大眾提出之資料，只要該資料為該報社可編輯掌控之範圍內，皆受到規範。
英國發布《資料主體近用權指引》說明資料近用權法遵重點及實例解析英國資訊委員辦公室（Information Commissioner’s Office, ICO）於2020年10月21日發布《資料主體近用權指引》（Guidance of Right of access），針對資料主體行使資料近用權之請求（Data Subject Access Request, DSAR），受請求之機構應如何進行識別判斷、簡化處理方式，以及特殊例外情況等法遵重點提供指導方針，並進行實例說明解析，以幫助受請求之機構在面臨資料主體之近用權請求時能快速且有效的處理。 英國「個人資料保護法」（The Data Protection Act 2018）依據歐盟「一般資料保護規則」（GDPR）於2018年重新修訂，其中資料近用權更是對於資料主體相當重要的基本權利，進而影響受請求之機構必須了解如何有效率的處理資料近用權之請求，並確實履行其在法規上所要求的保護義務，主要分為三點： 在資料主體確認其資料近用權所欲請求的範圍之前，受請求之機構依法應回覆時限應予以暫停，以利受請求之機構能有更充裕完整的時間釐清及回應資料主體之近用權請求。 為了避免受請求之機構耗費大量時間判斷何謂「明顯過度之請求」（manifestly excessive request），該指引提供相關定義說明及判別標準。 針對「明顯過度之請求」收取處理費用所包含的項目，例如受請求之機構處理請求所增加人力行政成本，在受請求之機構收取處理費用時可將其納入斟酌。