日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
中國人大常委會於11月7日通過了備受爭議的網路安全法(以下簡稱本法)，將於2017年6月1日開始施行。本法分為7章，共計79條。 本法立法目的係為了保障網路安全，維護網路空間主權和國家安全、社會公共利益，保護公民、法人和其他組織的合法權益，促進經濟社會資訊化健康發展(第1條)。本條賦予了管理部門極大的管理權能，引發了「中國將建立國家互聯網」的聯想。本法適用範圍包括在中華人民共和國境內建設、運營、維護和使用網路，以及網路安全的監督管理(第2條)。本法相關重點，摘要如次： 一、本法第21條將「網路實名制」明文化。規定網路營運者在為用戶辦理上網、電話等入網手續，或為用戶提供信息發布、即時通訊等服務，在與用戶簽訂契約時，應當要求用戶提供真實身份資訊。若用戶不提供真實身份資訊，網路營運者不得為其提供相關服務。 二、本法強化對個人資料之規範，例如：規定個人資料不得出售(第44條)。 三、嚴厲禁止任何網路詐騙行為(第46、67條)。 四、重大突發社會安全事件可在特定區域採取「網路通信限制」等臨時措施(第58條)。 五、境外的機構、組織、個人從事攻擊、侵入、干擾、破壞等危害中國的關鍵資訊基礎設施的活動，造成嚴重後果者，將依法追究法律責任；國務院公安部門和有關部門並可以決定對該機構、組織、個人採取凍結財產或者其他必要的制裁措施。(第75條)
美國交通部發布人工智慧政策，以生命週期及風險管理規範部內AI應用美國交通部（U.S. Department of Transportation, DOT）於2026年8月26日發布「美國交通部人工智慧政策」（U.S. Department of Transportation Artificial Intelligence (AI) Policy），規範所屬人員於部內資訊系統使用AI之行為，並自簽署日起生效。該政策採取「適當時即使用AI」（Use AI when appropriate）之預設立場，在合法範圍內盡可能允許AI應用，並強調以人為本。該政策亦適用於既有AI應用，各所屬機關應於六個月內向首席資料暨AI長（Chief Data and Artificial Intelligence Officer, CDAIO，以下簡稱AI長）提報清單。惟國家安全系統、運用AI進行之基礎及應用研究（以開發機關自用AI為目的者除外），以及受監管或受補助對象使用或開發之AI，不在適用範圍內。 政策重點包括兩大面向。首先，在AI生命週期實務方面，各機關應於設計、開發、部署、監測與評估、處置或移轉等五階段納入人為監督；AI產出如用於部內最終行政文件，須經具資格且負責之人員審查驗證。此外，生成式AI之提示詞與產出僅保留7日，期滿自動刪除；AI工具亦非核定之紀錄保存系統，相關紀錄應移轉至指定系統保存。 其次，在AI風險管理方面，監督強度依使用頻率、持續性及影響程度調整，並透過公開之AI使用案例清單（AI Use Case Inventory）揭露應用情形。政策另明定AI長、資安長（Chief Information Security Officer, CISO）及機關隱私保護高階主管（Senior Agency Official for Privacy, SAOP）等職責分工，新增或具高影響之AI使用案例，均須由AI長會同隱私保護高階主管、法務單位（Office of General Counsel, OGC）、資安長及所屬機關審核。各機關如有充分業務理由，得就特定使用案例申請豁免管理，並提出理由、已採取之管理措施、豁免期間及符合本政策之期程，由AI長以書面決定。
美國聯邦第七巡迴上訴法院宣告電業以設置智慧電表手段蒐集用電戶即時用電資訊合法美國聯邦第七巡迴上訴法院於2018年08月16日宣告，美國伊利諾伊州杜佩奇縣內珀維爾市（Naperville）所經營之「獨占性」公用售電業，以裝設智慧電表手段蒐集用電戶即時（Real Time）用電資料，並保存長達三年之行為，並無違反美國憲法第四條修正案以及伊利諾州憲法第一條第六項所宣示之不得以不合理手段對於民眾居住隱私資料進行搜索之限制。 美國聯邦第七巡迴上訴法院闡明，本案爭點有二：第一，內珀維爾市（Naperville）所經營之獨占性公用售電業以裝設智慧電表手段蒐集用電戶即時用電資料，並保存長達三年之行為，是否構成美國憲法第四條修正案以及伊利諾州憲法第一條第六項所謂之「對於民眾居住隱私資料之搜索」？第二，如內珀維爾市（Naperville）所經營之獨占性公用售電業以裝設智慧電表手段蒐集用電戶即時用電資料係構成「對於民眾居住隱私資料之搜索」，則內珀維爾市（Naperville）所經營之獨占性公用售電業是否有更高之公益，可合理化此一對於「對於民眾居住隱私資料之搜索」之行為？ 美國聯邦第七巡迴上訴法院認定內珀維爾市電業以智慧電表手段蒐集民眾用電資訊，確實是構成美國憲法第四條修正案以及伊利諾州憲法第一條第六項所謂之「對於民眾居住隱私資料之搜索」。但是由於珀維爾市電業蒐集這些用電資訊，是基於更高之公益目的，因此仍屬以合理手段對於民眾居住隱私資料進行搜索。因此判決本案珀維爾市電業勝訴。 於第一爭點，美國聯邦第七巡迴上訴法院認定智慧電表之紀錄內容包含「電器負載特徵（load signature）」以及「用電戶電力消耗慣性」，對比Kyllo v. United States, 533 U.S. 27, 31-32（2001）乙案下警方以熱感應器方式偵測住宅整體熱能有無之行為，更高度細緻化、具有侵入性，且智慧電表之設置，於現今尚非普及（not in general public use），因此構成對於民眾居住隱私資料之搜索。又內珀維爾市（Naperville）所經營之獨占性公用售電業雖辯稱用電戶於裝設智慧電表時，皆已經同意電業蒐集其個人用電資訊，然美國聯邦第七巡迴上訴法院認定，內珀維爾市（Naperville）所經營之公用售電業具有高度獨占性，故用電戶裝設智慧電表之同意難謂有效，且用電戶同意用電，不代表用電戶即同意分享其用電資訊。 惟於第二爭點，美國聯邦第七巡迴上訴法院認定，由於內珀維爾市（Naperville）所經營之獨占性公用售電業已經聲明不會將此類用電資訊分享予有關政府機關，且本案對於用電戶用電資訊之蒐集，其目的亦與刑事追訴無關，是以應以低密度審查標準看待本案即可，又本案內珀維爾市（Naperville）所經營之獨占性公用售電業裝設智慧電表之目的在於促使電網現代化，並且可使發電業供應更加穩定之電力，並且也可以透過時間電價（Time-Based Pricing）之方式促使用電戶節電，並且減少電網負載，同時也可以使發電業節省查表之人事成本，因此雖然內珀維爾市（Naperville）所經營之公用售電業透過裝設智慧電表之手段蒐集用電戶即時用電資訊係構成對於用電戶之民眾居住隱私資料之搜索，然由於其具有更高之公益性，因此仍可合理化此一對於「對於民眾居住隱私資料之搜索」之行為。 綜上，本案美國聯邦第七巡迴上訴法院判定內珀維爾市（Naperville）所經營之獨占性公用售電業勝訴。
歐盟於2020年3月提出「歐洲氣候法」草案以實踐零碳排願景歐盟執委會（European Commission）於2020年3月6日提出「歐洲氣候法」（European Climate Law）草案，執委會提出該草案之目的，係為實現2019年「歐盟綠色新政」（European Green Deal）所確立的目標，以敦促歐盟所有政策及公、私部門，皆能為零碳排願景共同努力。歐盟期望在2050年前成為世界第一個碳中和地區，並轉型為一個經濟成長卻不損及資源消耗與開採的綠色經濟體。該法性質屬於「規則」（regulation）的法律位階，具有普遍性規範效力，得直接適用於歐盟成員國，意即歐盟成員國必須遵守及實施歐洲氣候法的規範內容。「歐洲氣候法」草案全文共11條條文，其規範重點及法制架構，簡要整理如下： 氣候法草案之法律框架應與歐盟現行政策保持一致性，例如再生能源、綠色新政下的投融資計畫、產業戰略及循環經濟行動計畫等，並審查歐盟能否將原先2030年與1990年相比減少40%的減量目標，提高至減少50至55％。 法律基礎應奠基於維護、保護及改善環境品質，輔助及加強國家與地方因應氣候變遷的行動措施；在符合比例原則下，要求歐盟成員國針對氣候中和目標採取必要保護措施。 依據歐盟基本權利憲章第37條環境保護之要求，有關高標準之環境保護及環境品質改善，必須納入歐盟政策及符合永續發展原則；透過氣候法來促成及凝聚社會轉型的共識，該法要求執委會應促進利害關係人及公民社會的參與，增強公民參與的交流，透過社會參與達成廣泛的永續發展共識，並規劃多層次氣候與能源的社會對話。 考量歐盟內部公平且團結的重要性，執委會於2023年9月開始，每隔5年將監測與評估歐盟及各會員國之綱要政策與保護行動，並針對不一致行動或保護不足情形，將提供適當的改善建議及具體措施，藉以確保歐盟成員國彼此間氣候政策與歐盟框架保持一致。 歐盟執委會期望透過具有強制約束力的法制框架，除實現巴黎協定之承諾（2050年前達到零排放之願景）外，更是為了結構性脆弱與抵禦氣候變遷能力不足的成員國，提供一個公平的轉型框架。目前該草案已於2020年5月完成公眾意見徵集，歐盟執委會雖未明確公布預計通過的日期及相關規劃，但其將於2021年6月前盤點相關規範，藉以整體性調修法制規範與氣候治理行動。