日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
由歐盟二十七個會員國資料保護主管機關組成的第二十九條資料保護工作小組（The Article 29 Working Party）最近公布其應適用何國資料保護法規之意見書。 歐盟資料保護指令（EU Data Protection Directive）第四條對於蒐集或處理個人資料所應適用之法規有所規範，依該條規定，機構必須依其成立之國別適用該國資料保護法規；機構若於其他國家裝置設備處理資料，則須遵守設備所在地之法令。 隨著全球化的趨勢與新興科技的發展，目前處理資料機構之運作方式已與當初制定指令時有所不同，許多機構在世界各國設置營運點，向全球各地提供各類型服務，尤其是網際網路的發展，使得遠端服務及在虛擬環境下分享個人資訊更為容易，但同時也增加辨識資料處理所在地之困難度，因此工作小組提出該意見書，希望藉此釐清資料保護指令第四條之適用。 工作小組於該意見書中指出，資料保護指令所指的應適用法規，並非資料控制者（data controller）所在地之法規，而是附屬於該資料控制者並實質進行資料處理之機構的所在地法規。蓋因同一資料控制者可能在數國成立附屬機構，在此種狀況下判別適用法規的標準，應視實際上相關資料處理活動的發生地，亦即處理資料機構所在地。 而針對處理個人資料所使用之設備，工作小組表示，即使處理資料之機構並未擁有設備，而使用該設備處理個人資料時，亦可適用指令第四條之規定，需遵守設備所在地之相關法規；但工作小組同時特別釐清，以電信電纜或郵政服務等方式傳輸資料並不會落入資料保護法規之範疇。
美國3月發布AI國家政策框架美國3月發布AI國家政策框架 資訊工業策進會科技法律研究所 2026年06月05日 美國白宮於2026年3月發布AI國家政策（National Policy Framework for Artificial Intelligence，下稱AI框架），提出與AI相關之立法建議。該框架不具強制性，亦非創立新規範，僅係提供國會就聯邦AI立法給予立法建議，以協助國會考慮聯邦層級之AI監管方案。 壹、政策背景 川普政府自2025年上任後即撤銷前總統拜登政府時期強調風險控管與偏見防範之14110號行政命令，並於三天後簽署14179號行政命令，《消除美國AI領導障礙》(Eliminating Obstacles to American Leadership in AI)，內容確立應維持並強化美國AI於全球之領導地位。同年7月，川普政府發佈「美國AI行動計畫」(AI Action Plan)，政策重心著重於AI監管鬆綁及創新驅動；後於12月簽署《確保AI國家政策框架》(Ensuring A National Policy Framework For Artificial Intelligence)行政命令，核心目標係排除地法對國家AI政策之影響，確保聯邦法規於AI治理上之優先，避免政府政策碎片化。而2026年3月發布之AI框架延續先前之政策路線，並具體化為立法建議，包含兒童保護、智慧財產權保障、AI打詐、民生能源確保等。於組織運作上，AI框架主張不增設新AI專門單位，而是透過現有機構依其專業領域彈性管理，同時亦要求建立聯邦層級之AI法規，制定全國一致之標準。 貳、重點說明 AI框架並未涵蓋所有AI相關議題，僅針對政府認為應作為聯邦AI立法核心之7個領域給予立法建議，針對兒童、創作者及社區提供保障，並於創新、競爭力及國家安全間取得平衡。 1.保護兒童並強化家長權能 該部分係強調對於兒童在AI相關風險上之保護，要求AI服務及平台應採取保護兒童之措施，並且賦予家長管控兒童之權力。框架建議國會應持續深化兒童保護相關之修立法，強制平台建立年齡驗證機制及降低性剝削或自傷風險之防禦措施。同時，應確保現行兒童隱私法規能適用於AI系統，並且應避免模糊之內容標準及開放性責任。並且應尊重各州對於兒童保護之一般性法規。 2. 保障及強化美國社區 AI框架呼籲國會應簡化AI基礎建設之聯邦許可程序，以加速AI基處建設發展，並且同時顧及民生能源，確保一般居民不因AI資料中心建設發展之電費成本而負擔較高電費。另應加強打擊AI詐騙及詐欺，並確保國安機構對AI模型之掌握及風險控管能力；對於中小企業應提供AI資源協助，普及AI於產業中之部署。 3. 尊重智慧財產權並支持創作者 AI框架強調對創作者之保障，同時亦不應損害合法創新及言論自由。框架中強調，國會應尊重法院對於AI模型利用著作權作品進行訓練之合理使用裁決。並呼籲國會考慮建立授權框架或集管機制，以保障著作權人與AI供應商間之協商管道；同時呼籲應建立對數位複製品之保護措施，避免如聲音或肖像等個人可辨識特徵被未經授權轉為AI商用。 4. 防止審查與保護言論自由 AI框架中強調，聯邦政府須保障言論自由，並防止AI系統被用以壓制或審查合法之政治表達或異議。呼籲國會應防止美國政府強迫科技廠商，包含AI供應商，基於政黨或意識形態禁止、更改或強制內容。並應針對政府於AI平台之審查提供有效救濟方式。 5.促進創新並確保美國AI之主導地位 為推動美國於AI之領先地位，國會應建立監管沙盒鼓勵創新，並將聯邦資料庫轉化為AI可讀形式供產學界之模型訓練。在監管上，應避免建立新的監管機關，而是透過現有專業機構及產業主導標準進行分業監管，確保AI發展能於現有法規框架與產業實務下穩定成長。 6. 教育民眾並培養具備AI能力之勞動力 AI框架中強調青年培訓以及新工作機會之重要性。呼籲國會應採取非監管手段，將AI納入現有教育及職訓計畫中，制定精準的人才扶持政策，並強化贈地大學(Land-grant institutions)之AI技術支援能力。 7. 建立聯邦政策框架，避免繁瑣的州級AI法規 聯邦政府須建立聯邦層級之AI政策框架，透過聯邦優先原則取代各州不一之法律，以減輕企業合規成本並維護國家競爭力。應禁止各州干預具跨州、外交及國安特性之AI技術研發，亦不得因第三方非法行為而懲罰AI開發者；但仍須尊重傳統之州警察權力，尊重地方政府之基礎建設規畫及州政府內部使用AI規範之自主權。 參、事件評析 美國AI框架延續川普政府自上任以來之AI政策，強調監管鬆綁，並欲降低對AI之嚴格管制，促進創新及強化美國競爭力。此次框架法建議係建議國會建立聯邦層級之AI規範標準，但核心並非推動單一、全面性之法規改革，而是針對各特定領域給予立法建議，透過各領域機構之既有專業進行分業監管。 相較於歐盟透過AI Act 建立統一且具法律拘束力之AI風險分級管理制度，美國AI框架則是傾向透過既有法律體系及主管機關進行管理。雖近年來美國部分州政府已陸續推動AI相關立法，然AI框架強調建立聯邦層級之一致性政策，未來聯邦與州之間之法律及政策適用仍有爭議產生之可能。整體而言，美國AI框架透過分散式法律制度、分業監管方式處理AI相關風險，而非建立全面性總括之AI專法或專責機構。惟該框架目前僅屬白宮向國會提出之立法建議，未來國會如何將該些建議具體落實於各部會之聯邦法案中，以及是否能有效平衡監管及創新需求，仍有待後續觀察。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
紐約市實施《生物辨識隱私法》強化生物特徵保護伴隨人工智慧、大數據及雲端運算浪潮，生物辨識技術逐漸成為日常生活的一部分。所謂生物辨識技術，是指利用個人獨特之生物特徵辨識個人的技術。生物特徵包含任何人類生理或行為特徵，只要能夠滿足普遍性、獨特性、不變性及可蒐集性 ，即可作為生物辨識之資訊。由於生物辨識技術能利用生物特徵達到識別與驗證個人身分，因而引發公眾對隱私、資安等議題的關注。 對此，紐約市於2021年7月21日也開始正式施行《生物辨識隱私法》（biometric privacy act） ，期能藉由限制業者利用生物辨識技術以及賦予消費者訴訟權利作法，促成隱私權的週全保障。 該法主要有三大部分： 一、規範生物辨識資訊範圍，包含但不限於（1）視網膜或虹膜掃描（2）指紋或聲紋（3）手或臉部立體掃描或是其他可用於識別之特徵。就前開生物特徵，要求業者應在所有消費者入口處放置清晰顯眼的標誌，搭配簡單易懂方式揭露其蒐集、保留、儲存消費者生物辨識資訊行為。同時，也明文禁止業者將消費者生物辨識資訊以販賣、租賃、交易或是分享方式交換任何相關價值或利益。 二、提供受侵害之消費者訴訟權與法定賠償請求權。但是，就單純未符合揭露要求之業者，該法給予30天的補救期間，要求消費者應於起訴前30天通知業者改善，一經改善即不得再起訴。 三、闡明政府相關部門不適用本法。金融機構、業者與執法部門共享生物辨識資訊，以及單純以影像、圖像蒐集而未分析識別情形則豁免揭露規範。 綜上，紐約市於該法創設訴訟權、法定賠償數額及豁免事由，預料將會是紐約市企業隱私保護政策重要指標，而值得我們繼續關注其發展與影響。