日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
數位技術改變人們的生活，為使英國人民、企業及組織接受數位時代的變革，並確保英國做好脫離歐盟（European Union）的準備，英國數位文化媒體及運動部（Department for Digital, Culture Media & Sport）修正1998年的資料保護法（Data Protection Act 1998），於2017年9月14日，提交2017資料保護法草案（Data Protection Bill 2017）（以下簡稱：本草案）予上議院審議，以因應數位時代的來臨。 此次本草案修正的方向為： 一般資料處理（§3-26）： 一般資料處理係依歐盟的一般資料保護規則（General Data Protection Regulation，簡稱GDPR）為標準，將歐盟GDPR一般資料處理的相關規範之標準制定於此次修正之資料保護法中，並確保健康、社會安全與教育資料等個人資料之安全維護。另對於個人資料的近用與刪除予以規範以強化公共政策，並維護國家安全。 執法程序（§27-79）： 拜科技進步所賜，網路世界如遠弗屆，透過網路跨境傳輸、分享、蒐集資料，並非難事，因此，更需要一個強而有力且一致性的個人資料保護規範框架。警方、檢方或司法刑事機關為偵查犯罪行為，而蒐集、處理或利用個人資料，須有明確、正當、合法的執法目的，對於國際間個人資料的交流利用須依明確的程序規範並賦與相當之保護措施，確保英國退出歐盟後，仍可繼續與歐盟各成員國間聯手偵辦重大犯罪案件，以維護國際間之資訊安全。 國家安全（§80-111）： 因國家安全事項不在歐盟法（EU Law）規範範圍之列，故GDPR或指令法律（Law Enforcement Directive，LED）之效力不及於各成員國對於國安全之情資蒐集。故英國本次修法參採個人資料保護公約（Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data，又稱現代化公約108（modernised Convention 108））之精神，將情報單位基於維護國家安全之必要蒐集個人資料之規範，明文納入個人資料保護法之適用，以符合國際間的資訊安全規範標準。 資訊委員與執行（§112-168）： 資訊委員（Information Commissioner）係指保護資訊權之公共利益、促使公務機關公開資訊與維護個人資料隱私權之獨立政府官員，得主動偵查犯罪，並得通知或教育廣泛的資料管理者，以提高資料保護之標準。繼2010年賦與資訊委員針對金融犯罪之執法權限之後，本草案亦增列意圖還原已去識別化之個人資料、禁止不當揭露個人資料兩種犯罪類型，賦與資訊委員更廣的處理權責。違反資料保護法（如不當揭露個人資料），將處以行政罰責（最高可處1,700萬英鎊/2,000萬歐元罰鍰）。 本草案除建制一個一般資料處理、執法程序及國家安全的資料保護體系外，更加強對於學術研究、金融服務及兒童保護等領域的資料保護，以因應數位時代之變革。
歐盟執委會發布「再生能源：歐洲能源市場的重要角色」產業推動報告歐盟執委會於2009年4月23日發布再生能源指令（DIRECTIVE 2009/28/EC），目標在2020年達成20%的再生能源利用；並於2011年1月31日發布「再生能源：邁向2020目標」（Renewable Energy: Progressing towards the 2020 target）通訊報告，檢視歐洲再生能源產業概況及所面對的挑戰，透過與「歐洲及國家再生能源領域之財務檢視」（Review of European and national financing of renewable energy in accordance with Article 23(7) of Directive 2009/28/EC）、「運輸領域使用生質燃料及其他再生燃料的發展及技術評估」（Recent progress in developing renewable energy sources and technical evaluation of the use of biofuels and other renewable fuels in transport in accordance with Article 3 of Directive 2001/77/EC and Article 4(2) of Directive 2003/30/EC）及「生質燃料及生質燃油永續計畫報告」（Report on the operation of the mass balance verification method for the biofuels and bioliquids sustainability scheme in accordance with Article 18(2) of Directive 2009/28/EC）等三份報告的結合，瞭解再生能源領域發展所須的支出、確保其品質、運用最有效率及最具經濟效益的手段，架構歐洲再生能源利用之2020年目標。 為達此一目標，各會員國自行採取相關措施加以推動，每年投入的資金呈倍數的成長；然在2020年之後，卻未見相關政策規劃。為持續發展再生能源，執委會於2012年6月6日發布「再生能源：歐洲能源市場的重要角色」（Renewable Energy: a major player in the European energy market）通訊報告，呼籲各會員國在相關計畫的建立與改革採取更協調一致的措施，提升會員國間再生能源的交易，並探討2020年之後再生能源的發展框架。此一通訊報告包含兩部分：第一、為達2020年的再生能源發展目標，指出四個須加速推動的領域；第二、開始思考2020年後之規劃框架。 針對應加速推動以達成2020年發展目標的四大領域，包括（1）能源市場、（2）支援計畫（support schemes）、（3）合作機制、（4）地中海區能源合作計畫。歐盟執委會堅持達成境內能源市場的整合，並認為有必要提供投資獎勵，以順利進行。對於相關支援計畫，應鼓勵降低成本並避免過度補貼；由於支援計畫多由各國政府主導，而各國可能有缺乏透明度、突然終止、甚至補助差異，造成市場運作模式的阻礙，因此執委會呼籲透過跨國的合作來解決。此外，執委會鼓勵增加合作機制，使會員國間能透過再生能源的交易、降低成本，以達成再生能源利用目標。針對地中海區的能源合作計畫，執委會建議改善其管理框架，並著重於整合馬格里布地區（Maghreb）的市場，將有助於大規模投資，進口再生能源電力。 針對2020年後之發展，則應兼顧創新與降低成本，促進對再生能源的投資。依據歐洲「2050能源路徑圖」（Energy Roadmap 2050）之規劃，開始探討邁向2030的發展策略，主要仍以溫室氣體排放、再生能源及能源效率為政策目標。執委會強調，儘速確定2030年的發展規劃至關重要，此規劃並應使再生能源業者在能源市場上提升其競爭力。
美國新發布加強軍商二用科技產品管理行動美國政府近年來為預備恐怖活動積極部署國家安全相關措施，包括運用出口管理規則（Export Administration Regulations）監控軍商二用技術及產品（dual-use items）之輸出；然而在維護國家安全的同時，美國仍然希望能持續鞏固其經濟及技術領先地位，以及避免全球高科技及市場遭到稀釋。美國總統因此於今（2008）年初，提出一系列有關軍商二用出口管制之行政新措施，欲藉此強化軍商二用出口管制制度（dual-use export control system）。其主要目標如下： （1）適當管制外國終端用戶（Foreign End-Users）：美國政策作法是，未來軍商二用出口管制制度將要著重在美國高科技產品外國終端用戶之管理，除了保持其拒絕將敏感性科技輸給武器擴散份子、國際恐怖分子和習慣進行違背美國國家安全及外交政策與利益之國家對象之宗旨外，美國一方面將擴大受管制實體清單（Entity List）對象範圍，嚴格審查曾從事違背美國國家安全和外交政策及利益活動之外國夥伴；另方面，美國則將妥善使用所謂正當使用者計畫（Validated End User(VEU) program），免除這些受信賴之使用對象在輸出產品時受制於嚴格的出口申請程序。例如港商Manufacturing International Corporation(SMIC)最近即被納入VEU初始清單。 （2）增進國家競爭能力：美國將以維持經濟競爭力和創新研發為目標，建立一道檢討受管制軍商二用標的之常規程序，藉此重新評估並適時修正商業控制清單（Commerce Control List）所列產品及對象。 （3）透明化：為求達到資訊公開、共同促進國家安全及競爭之目的，美國商業部還會在網站上公開受到高度審查之外國夥伴清單。 最後，美國行政主管機關亦表示，為了有利於行政機關有效執行國家軍商二用出口管制政策，高度支持透過出口管理法（Export Administration Act）修正之再授權，更新違法之刑罰規定，並提升行政機關之執行權限。
環保署提京都議定書因應對策 研擬溫室氣體管制法管制全球溫室氣體排放以遏制全球暖化的京都議定書在二月十六日生效，環保署將著手推動溫室氣體管制法的法制作業工作，目前正研擬溫室氣體管制法，規劃將由中央主管機關擬訂「全國溫室氣體防制基本方案」，同時確立政府各部門、企業及國民溫室氣體減量合作及分工；並規範推動國家溫室氣體盤查、登錄及排放清冊建置；授權訂定排放管制、財稅誘因及排放交易制度；推動溫室氣體減量技術研發等；同時推動教育宣導、推廣及鼓勵使用高能源效率產品與節約能源生活方式。 環保署署長張祖恩強調，雖然現有京都議定書條文中沒有貿易制裁或違約罰款的條款，但在合作共生的理念下，我國沒有理由當一個國際溫室氣體減量列車的搭便車乘客（free rider），應在公約精神下，積極推動節約能源、再生能源開發、提昇能源效率等工作。 環保署已於2004年度起首度整合產業、運輸及住商部門領域，辦理溫室氣體盤查管理工作，建立盤查規範登錄平台，積極推動國際標準組織ISO14064驗證系統，並遴選電力、石化、鋼鐵、造紙、水泥、光電半導體等業別12家示範廠商，推動6種溫室氣體全面盤查及減量工作，其中排放大戶台灣電力股份有限公司、中國鋼鐵股份有限公司、中國石油股份有限公司均已參與環保署試行盤查減量計畫。對於溫室氣體排放持續成長的住商部門，環保署協調相關部會規劃成立技術服務團，輔導既有建築物推動節約能源及提昇能源效率工作；對於運輸部門，除持續推動大眾運輸系統外，環保署將與相關部會加強推動油電混合小客車之引進。