日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
相較於綠色採購（Green public procurement, GPP）所揭櫫的於採購產品、服務或勞務時選擇於其生命週期中對於環境造成衝擊較小者，循環型採購（Circular Procurement）可說是在綠色採購的基礎上，加入循環經濟（Circular Economy）強調最大化資源利用效率的概念，使對於環境的影響與衝擊並非唯一的標準，而應考量產品、服務或勞務對資源的利用效益。 歐盟執委會於2017年10月發布《循環經濟公共採購範例與指引》（Public Procurement for A Circular Economy: Good Practice and Guidance），其中指出循環型採購的意義在於促進歐盟邁向循環經濟轉型，藉由循環型採購所創造的需求，達成循環經濟所強調封閉資源循環（Closing the Loop）以最大化資源利用效率的概念，並肯認政府採購為推動循環經濟轉型的重要誘因之一。 具體的循環型採購做法，包含選擇具高度資源循環利用性的產品，例如可維修、再利用或利於回收再循環的產品，以及以採購服務代替採購硬體等，透過循環型採購對於資源利用效率的重視，支持符合循環經濟概念的產品設計、研發技術與商業模式等創新成果，與提出這些解決方案的企業或團隊，進而達成促進社會邁向循環經濟轉型與永續發展的目標。
Ofcom第八次電信與付費電視申訴報告Ofcom在今(2013)年3月公佈「2012年第四季電信與付費電視申訴報告書」(Telecoms and Pay TV Complaints Q4 2012)，以履行2003年通信法(Communications Act 2003)第26條規定：Ofcom應公布通訊資訊與建議於消費者。是故，為維護消費者之權益，並促進市場競爭，Ofcom從2011年4月起每季公佈「電信申訴報告書」 (Telecoms Complaints)；同年10月修訂為「電信與付費電視申訴報告書」(Telecoms and Pay Tv Complaints)。這份報告書不僅協助消費者選擇較好供應商，更意在促進業者服務品質，而從幾次報告書中顯示，業者們被投訴量確實持續下降，可見效果斐然。 Ofcom選擇市占率超過4%、且每月被投訴超過30次的市話、固網寬頻、行動通信服務(月租)，與付費電視為調查對象，以維護統計信度。當消費者申訴具有綑綁式服務(bundled services)業者，則視其申訴是否涵蓋多種服務，以Sky同時具有電話、網路服務為例，當民眾申訴廣告不實後，則此申訴僅被記錄於網路服務。由於，民眾申訴範圍相當廣泛而難以統整，Ofcom僅向外界公布業者被投訴的次數，且有下述研究限制： 1.Ofcom僅蒐集本身受理的申訴數據，而其他組織、供應商所受理的，一概不納入報告書。 2.Ofcom雖力求數據的合理性，但不會檢驗消費者投訴的真實性。 3.當Ofcom倡導某些政策時(例如打及廣告不實)，可能會導致某些業者申訴量提高。 在這次報告中，各領域被投訴最多的業者如下：Talk Talk於市話服務被投訴最多，被投訴的理由多數為服務缺失與相關服務爭議。Orange則在固網寬頻、行動通信服務(月租)受到最多申訴，其原因是Orange採取民眾購買寬頻服務後，方得再取得免費網路，以取代原本免費網路的提供。在付費電視上，則是BT Vision受到最多申訴，而內容多為提供服務與處理申訴之缺失。Ofcom期以公佈這些資訊，讓消費者得於每個領域選擇最好的供應商。
法國CNIL認Google於Gmail中投放之偽裝廣告及個人化廣告因欠缺當事人有效同意而違法，開罰3.25億歐元法國國家資訊與自由委員會（Commission Nationale de l’Informatique et des Libertés, CNIL）於2025年9月1日針對一起由歐洲數位權利中心（noyb - The European Center for Digital Rights）提出的申訴做成決議，指Google未經Gmail使用者同意，將廣告偽裝為電子郵件進行「偽裝廣告」（Disguised Ads）投放，以及在對Gmail使用者投放個人化廣告前，未能於Gmail帳號申請流程中提供當事人提供較少cookies、選擇非個人化之通用廣告（generic ads）的選項，違反了《電子通訊法》（code des postes et des communications électroniques）與《資訊與自由法》（loi Informatique et Libertés）中關於歐盟《電子隱私指令》（ePrivacy Directive）之施行規定，對Google裁處了3.25億歐元的罰鍰，並要求改善。以下節錄摘要該裁決之重點： 一、 偽裝成電子郵件的偽裝廣告與電子郵件廣告均須獲當事人同意始得投放 歐盟《電子隱私指令》第13條1項及法國《電子通訊法》規定，電子郵件直接推銷（direct marketing）僅在其目標是已事先給予同意的使用者時被允許。CNIL，依循歐盟法院（CJEU）判例法（C-102/20）見解，認為若廣告訊息被展示在收件匣中，且形式類似真實電子郵件，與真實電子郵件相同位置，則應被認為是電子郵件直接推銷，須得到當事人之事前同意。因此，CNIL認定偽裝廣告即便技術上不是狹義的電子郵件，僅僅因其在通常專門用於私人電子郵件的空間中展示，就足以認為這些廣告是透過使用者電子郵件收件匣傳遞的廣告，屬於電子郵件廣告，而與出現在郵件列表旁邊且獨立分開的廣告横幅不同，後者非屬電子郵件廣告。 二、 Cookie Wall下當事人的有效同意：「廣告類型」的選擇、服務申請流程的隱私設計與資訊透明 CNIL參酌歐盟個人資料保護委員會（European Data Protection Board, EDPB）第2024/08號關於「同意與付費模式」意見，認為同意接受廣告在特定條件下得作為使用Gmail服務的條件。換言之，以「cookie wall」（註：拒絕cookie的蒐集即無法獲得服務之網站設計）取得之當事人「同意」，非當然不自由或無效。CNIL認為，在免費服務的框架下，cookie wall在維持提供服務與服務成本之間的經濟平衡上，要求服務申請者須接受投放廣告的cookie是合法的。惟CNIL認為，這不代表Google可以任意決定所蒐集的cookies和相應廣告模式的類型。 CNIL要求，當事人在cookie wall的框架內仍應享有選擇自由，才能取得蒐集為投放個人化廣告之cookies的當事人有效同意，亦即：在個人化廣告處理更多個資和對當事人造成更多風險的情況下，當事人應被給予機會選擇「等值的替代選項」，亦即通用廣告，並完全且清晰地了解其選擇的價值、範圍及後果。 然而，CNIL發現，Google將與廣告個性化相關的cookies拒絕機制設計得比接受機制更複雜，實際上阻礙了使用者拒絕隱私干預程度更高的cookies。這種拒絕途徑偏袒了允許個人化廣告的cookies的同意，從而影響了當事人的選擇自由。CNIL也發現，Google從未以明確方式告知使用者建立Gmail帳戶時面臨cookie wall，以及對此使用者享有甚麼選擇，而其提供的資訊更引導使用者選擇個人化廣告，導致選擇一般廣告的機會遭到犧牲。 三、 為何不是愛爾蘭資料保護委員會（Data Protection Commission, DPC）管轄？ GDPR設有「單一窗口機制」，依據該合作機制，對Google進行的GDPR調查，應由作為主任監管機關（Lead Supervisory Authority）的愛爾蘭DPC管轄。惟在本案，CNIL認為並不適用於單一窗口機制。因為與cookies使用及電子推銷相關的處理並非屬於GDPR範疇，而是適用電子隱私指令，CNIL對法國境內的cookies使用及電子推銷處理享有管轄權。此爭議反映出即便GDPR旨在確保標準化單一市場內的數位管制，但尚不足以弭平成員國間監管強度之差異。
美國FDA更新軟體預驗證計畫，以明確化數位健康科技的軟體器材審查流程美國食品及藥物管理局（the U.S. Food and Drug Administration）於2019年1月更新「軟體預驗證計畫（Software Precertification Program）」及公布該計畫「2019測試方案（2019 Test Plan）」與「運作模式初版（A Working Model v1.0）」，使審查流程更加明確及具有彈性，並促進技術創新發展。 在更新計畫中，FDA聚焦於審查架構的說明，包含考量納入醫療器材新審查途徑（De Novo pathway）及優良評估流程（Excellence Appraisal process）的審查內涵。在優良評估流程中，相關研發人員須先行提供必要資訊，以供主管機關驗證該軟體器材之確效（validation）及是否已符合現行優良製造規範（current good manufacturing practices）與品質系統規範（Quality System Regulation, QSR）的要求。而由於以上標準已在此程序中先行驗證，主管機關得簡化上市前審查的相關查證程序，並加速查驗流程。 在測試方案中，則說明FDA將同時對同一軟體器材進行軟體預驗證審查及傳統審查，並比較兩種途徑的結果，以確保軟體預驗證審查途徑中的每一個程序都可以有效評估產品上市前所應符合的必要標準。最後，FDA綜合軟體預驗證計畫及測試方案，提出「運作模式初版」，以協助相關人員了解現行的規範架構與處理程序，並期待藉此促進技術開發者及主管機關間的溝通。FDA並於運作模式文件中提到，將在2019年3月8日前持續接受相關人員的建議，而未來將參酌建議調整計畫內容。