日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
日本總務省及經濟產業省於2017年11月至2018年4月間召開6次「資料信託功能認定流程檢討會」（情報信託機能の認定スキームの在り方に関する検討会），檢討具備資料信託功能之「資料銀行」認定基準及模範條款等事項，於2018年6月公布「資料信託功能認定指引ver1.0」（情報信託機能の認定に係る指針ver1.0），以利實現個人資料流通並創造新服務型態。資料銀行係指基於與個人間資料利用契約，透過PDS(personal data store)等系統管理個人資料，根據個人指示或預先設定的條件，於判斷妥當性後向第三方提供資料之行業。目前指引內容包括︰（1）資料信託機能認定基準︰具體內容包括業者適格性、資訊安全原則、資訊安全具體基準、治理體制、業務內容等；（2）模範條款記載事項︰針對個人與資料銀行、資料銀行與資料提供者、資料銀行與接受資料提供者間關係，列出具體應記載事項；（3）資料信託機能認定流程。 作為日本總務省「資料信託功能運用推動計畫」（情報信託機能活用促進事業）一環，日立製作所、東京海上日動火災保險、日本郵局等於2018年9月10日發表將根據「資料信託功能認定指引ver1.0」，進行「資料銀行」個資管理、提供及運用等實驗，參與者分別扮演資料提供者、資料銀行和資料利用者三種角色，未來將會參考實驗結果，提出認定基準改善建議。
美國3月發布AI國家政策框架美國3月發布AI國家政策框架 資訊工業策進會科技法律研究所 2026年06月05日 美國白宮於2026年3月發布AI國家政策（National Policy Framework for Artificial Intelligence，下稱AI框架），提出與AI相關之立法建議。該框架不具強制性，亦非創立新規範，僅係提供國會就聯邦AI立法給予立法建議，以協助國會考慮聯邦層級之AI監管方案。 壹、政策背景 川普政府自2025年上任後即撤銷前總統拜登政府時期強調風險控管與偏見防範之14110號行政命令，並於三天後簽署14179號行政命令，《消除美國AI領導障礙》(Eliminating Obstacles to American Leadership in AI)，內容確立應維持並強化美國AI於全球之領導地位。同年7月，川普政府發佈「美國AI行動計畫」(AI Action Plan)，政策重心著重於AI監管鬆綁及創新驅動；後於12月簽署《確保AI國家政策框架》(Ensuring A National Policy Framework For Artificial Intelligence)行政命令，核心目標係排除地法對國家AI政策之影響，確保聯邦法規於AI治理上之優先，避免政府政策碎片化。而2026年3月發布之AI框架延續先前之政策路線，並具體化為立法建議，包含兒童保護、智慧財產權保障、AI打詐、民生能源確保等。於組織運作上，AI框架主張不增設新AI專門單位，而是透過現有機構依其專業領域彈性管理，同時亦要求建立聯邦層級之AI法規，制定全國一致之標準。 貳、重點說明 AI框架並未涵蓋所有AI相關議題，僅針對政府認為應作為聯邦AI立法核心之7個領域給予立法建議，針對兒童、創作者及社區提供保障，並於創新、競爭力及國家安全間取得平衡。 1.保護兒童並強化家長權能 該部分係強調對於兒童在AI相關風險上之保護，要求AI服務及平台應採取保護兒童之措施，並且賦予家長管控兒童之權力。框架建議國會應持續深化兒童保護相關之修立法，強制平台建立年齡驗證機制及降低性剝削或自傷風險之防禦措施。同時，應確保現行兒童隱私法規能適用於AI系統，並且應避免模糊之內容標準及開放性責任。並且應尊重各州對於兒童保護之一般性法規。 2. 保障及強化美國社區 AI框架呼籲國會應簡化AI基礎建設之聯邦許可程序，以加速AI基處建設發展，並且同時顧及民生能源，確保一般居民不因AI資料中心建設發展之電費成本而負擔較高電費。另應加強打擊AI詐騙及詐欺，並確保國安機構對AI模型之掌握及風險控管能力；對於中小企業應提供AI資源協助，普及AI於產業中之部署。 3. 尊重智慧財產權並支持創作者 AI框架強調對創作者之保障，同時亦不應損害合法創新及言論自由。框架中強調，國會應尊重法院對於AI模型利用著作權作品進行訓練之合理使用裁決。並呼籲國會考慮建立授權框架或集管機制，以保障著作權人與AI供應商間之協商管道；同時呼籲應建立對數位複製品之保護措施，避免如聲音或肖像等個人可辨識特徵被未經授權轉為AI商用。 4. 防止審查與保護言論自由 AI框架中強調，聯邦政府須保障言論自由，並防止AI系統被用以壓制或審查合法之政治表達或異議。呼籲國會應防止美國政府強迫科技廠商，包含AI供應商，基於政黨或意識形態禁止、更改或強制內容。並應針對政府於AI平台之審查提供有效救濟方式。 5.促進創新並確保美國AI之主導地位 為推動美國於AI之領先地位，國會應建立監管沙盒鼓勵創新，並將聯邦資料庫轉化為AI可讀形式供產學界之模型訓練。在監管上，應避免建立新的監管機關，而是透過現有專業機構及產業主導標準進行分業監管，確保AI發展能於現有法規框架與產業實務下穩定成長。 6. 教育民眾並培養具備AI能力之勞動力 AI框架中強調青年培訓以及新工作機會之重要性。呼籲國會應採取非監管手段，將AI納入現有教育及職訓計畫中，制定精準的人才扶持政策，並強化贈地大學(Land-grant institutions)之AI技術支援能力。 7. 建立聯邦政策框架，避免繁瑣的州級AI法規 聯邦政府須建立聯邦層級之AI政策框架，透過聯邦優先原則取代各州不一之法律，以減輕企業合規成本並維護國家競爭力。應禁止各州干預具跨州、外交及國安特性之AI技術研發，亦不得因第三方非法行為而懲罰AI開發者；但仍須尊重傳統之州警察權力，尊重地方政府之基礎建設規畫及州政府內部使用AI規範之自主權。 參、事件評析 美國AI框架延續川普政府自上任以來之AI政策，強調監管鬆綁，並欲降低對AI之嚴格管制，促進創新及強化美國競爭力。此次框架法建議係建議國會建立聯邦層級之AI規範標準，但核心並非推動單一、全面性之法規改革，而是針對各特定領域給予立法建議，透過各領域機構之既有專業進行分業監管。 相較於歐盟透過AI Act 建立統一且具法律拘束力之AI風險分級管理制度，美國AI框架則是傾向透過既有法律體系及主管機關進行管理。雖近年來美國部分州政府已陸續推動AI相關立法，然AI框架強調建立聯邦層級之一致性政策，未來聯邦與州之間之法律及政策適用仍有爭議產生之可能。整體而言，美國AI框架透過分散式法律制度、分業監管方式處理AI相關風險，而非建立全面性總括之AI專法或專責機構。惟該框架目前僅屬白宮向國會提出之立法建議，未來國會如何將該些建議具體落實於各部會之聯邦法案中，以及是否能有效平衡監管及創新需求，仍有待後續觀察。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
初探與省思我國法制下之侵權行為適用於非依軌道行駛之自動駕駛車輛之過失內涵初探與省思我國法制下之侵權行為適用於非依軌道行駛之自動駕駛車輛之過失內涵 資訊工業策進會科技法律研究所 2019年03月15日 壹、事件摘要 於2018年03月18日晚間10時許，美國亞利桑那州（Arizona，下稱Arizona）一名49歲的婦人，遭到配備Uber自動駕駛系統之車輛[1]，在運行自動領航模式（Autopilot）下撞擊，雖然該婦人立即送往醫院，但仍回天乏術而在醫院中去世。就在前開事故發生後，Arizona州長Doug Ducey因此下令其暫停測試。[2] 此外，同年12月11日晚間10時許，在我國有一輛配備自動輔助駕駛功能的Tesla，疑似駕駛人精神不濟因而未能及時注意車前狀況，導致車禍發生，雖然肇責是否牽涉Tesla之自動輔助駕駛功能或駕駛人本身有無疲勞駕駛等情事，有待進一步釐清。[3] 綜上，不論測試或道路駕駛，現今社會已不乏具有一定自動駕駛等級之車輛於路上行駛，然而在推廣、研發或應用自動駕駛車輛（下稱自駕車）的同時，若不幸發生類似前開新聞之（車禍）事故時，相關肇事責任究應如何釐清，隨著我國已於2018年12月19日公布無人載具科技創新實驗條例以積極推動自駕車相關應用，更愈顯重要，為解決前開肇事相關疑慮，本文擬針對民事上之「過失」本質，反思自駕車相關應用可能延伸的事故責任，是否因應科技發展而有不同的過失內涵。 貳、重點說明 承上，面對自駕車相關科技與應用的世界洪流，若發生車禍等交通事故時，當事人相關之損害賠償請求，仍大多以民法上之侵權行為作為基礎，雖事故肇因種類眾多，亦常見各類的肇因共同造成事故發生，但本文考量相關議題繁複，以下僅就非依軌道行駛之自駕車、駕駛人過失內涵等框架下依序進行初探與反思： 一、我國侵權行為損害賠償係以行為人有無具抽象輕過失為斷 車禍之發生，若涉及駕駛人之行為者，受有不論財產或人身損害之人而欲請求賠償者，無論係依據民法第184條以下何條侵權行為之規定（即民法第184條第1項前段、同條項後段或第191條之2等規定），請求駕駛自駕車之人賠償，前提均為駕駛人具有過失，差別僅在舉證責任是否由請求權人（受有損害之人）負擔。 承上，既然前開侵權行為之重要成立要件為過失，其具體內容為則為駕駛人之注意義務應至何種程度，然在我國民事過失責任之架構上，有不同程度上之區分，即分別為抽象輕過失、具體輕過失及重大過失三種。申言之，抽象輕過失為欠缺應盡善良管理人之注意者義務；具體輕過失者為欠缺應與處理自己事務為同一注意者；重大過失者為顯然欠缺普通人之注意者[4]。 對此，實務見解[5]以及學者[6]歷來均認侵權行為之過失標準，應以行為人是否克盡客觀化之過失標準─抽象輕過失，倘否，則應負擔過失之賠償責任，是以，就此脈絡推論，自駕車之駕駛人若有違善良管理人注意義務致車禍發生且使他人受損害，即應負損害賠償責任。 二、駕駛人注意義務與自駕車自動駕駛程度間之互動 根據引領世界自駕車標準的領銜者─國際汽車工程師學會（Society of Automotive Engineers International，下稱SAE）所分類之自動化駕駛等級，區分為等級0至等級5（共6個等級），而等級3後之自駕車即開始逐漸將環境監控的任務從駕駛人移轉至車輛本身，而駕駛人僅在特殊條件下，方須接管駕駛車輛，更甚在等級5時是由自駕車在任何狀況下均可自行駕駛，不過在等級2前之等級，環境監控之任務大多在駕駛人身上，自駕車至多僅係協助運行駕駛人之指令[7]。 然而，自駕車駕駛人因車禍所生之侵權行為責任，誠如前述，係以駕駛人存有抽象輕過失作為前提，而過失之本質，則係雖非故意，但按其情節，（1）行為人（駕駛自駕車之人）應或能注意，卻不注意，或（2）雖可預見侵權行為（車禍肇事）之事實發生，但確信不發生[8]，就此，在SAE分類等級2以前之自駕車，因監控環境之任務仍由駕駛人負擔，則該類等級自駕車之駕駛人應與一般車輛之駕駛人，負擔相同侵權行為之注意義務內容（或程度），但等級3至等級5自駕車之各式應用情境，車輛行駛環境之相關監控資訊已轉由車輛本身處理、控管，則駕駛人是否對於自駕車之車禍發生，仍具有可預見性，或得注意並防免之，則不無疑慮。 參、事件評析 綜上，本文所提不同等級自駕車，是否當然得以繼續適用傳統民事侵權行為之過失標準判斷駕駛人有無過失，實有相當程度上之衝突，蓋若自駕車之駕駛人對於行車環境資訊已不如駕駛一般車輛時，實難期待駕駛人對於車禍之發生有何預見可能，或在遇見後積極防免結果發生，倘若一概遵循傳統對車禍侵權行為之高注意義務要求─抽象輕過失責任，或將產生使不明瞭或難以預見該事故原因發生之人，卻必須就非因己誤之結果負責，某程度上似有違過失責任之本質，而質變成為無過失之擔保責任。 據此，本文認為，若要解決前開損害發生須有補償或賠償之問題，或可（1）透過保險、基金等方式填補損害，或（2）具體化等級3至等級5自駕車之駕駛人應負何等注意義務，如駕駛人須隨時處於得以接管車輛操作之狀態，使等級3以上之自駕車所應盡之注意義務與傳統侵權行為之注意義務脫鉤處理（3）與商品責任間進行相關的調和等，然而無論如何，對於此等問題或疑慮，究竟應採何方向或多方進行，甚或以其他方式解決，則有待後續更進一步的討論與分析。 [1] Uber於該州進行自動駕駛車輛之測試。 [2] ADOT director's letter to Uber halting autonomous vehicle tests, ADOT, https://www.azdot.gov/media/News/news-release/2018/03/27/adot-director's-letter-to-uber-halting-autonomous-vehicle-tests (last visited Mar. 21, 2019); Ryan Randazzo, Arizona Gov. Doug Ducey suspends testing of Uber selfdriving cars, azcentral, Mar. 26, 2018, https://www.azcentral.com/story/news/local/tempe-breaking/2018/03/26/doug-ducey-uber-self-driving-cars-program-suspended-arizona/460915002/ (last visited Mar. 21, 2019); Ryan Randazzo, Bree Burkitt & Uriel J. Garcia, Self-driving Uber vehicle strikes, kills 49-year-old woman in Tempe, azcentral, Mar. 19, 2018, https://www.azcentral.com/story/news/local/tempe-breaking/2018/03/19/woman-dies-fatal-hit-strikes-self-driving-uber-crossing-road-tempe/438256002/ (last visited Mar. 21, 2019). [3] 蘋果日報，〈台灣首例！特斯拉自動駕駛闖禍 國道上撞毀警車〉，2018/12/12，https://tw.appledaily.com/new/realtime/20181212/1482416/ （最後瀏覽日：2019/03/21）。 [4] 96年台上字第1649號判決。 [5] 19年上字第2476號判例。 [6] 王澤鑑，《侵權行為法》，自版，頁308-309（2011）。 [7] SAE International Releases Updated Visual Chart for Its “Levels of Driving Automation” Standard for Self-Driving Vehicles, SAE International, https://www.sae.org/news/press-room/2018/12/sae-international-releases-updated-visual-chart-for-its-%E2%80%9Clevels-of-driving-automation%E2%80%9D-standard-for-self-driving-vehicles (last visited Mar. 22, 2019). [8] 97年度台上字第864號判決。
聯合國討論網路身份管理計畫聯合國國家安全組織(U.N. National Security Agency)計畫於一項名為Q6/17之「網路使用者身份管理計畫」提案中，討論如何以修改網路架構之方式，確保網路通訊來源之真實性與可追溯性。此項計畫被認為可能對網路匿名性產生極大衝擊。 目前網路所賴以溝通訊息之TCP/IP通訊架構，仍允許使用者於一定範圍內保有於網路上匿名發言或活動之可能，例如Tor線上匿名軟體(Tor: anonymity online)之運作即是。然而，此種匿名式的運作架構，被抨擊可能威脅網路安全，例如駭客可利用大量偽造來源地址(spoofed source IP addresses)，發動分散式阻斷服務(DDoS)攻擊。 有鑑於此，Q6/17提案乃嘗試藉由網路連線技術架構的調整，確保未來任何網路上之活動皆可追蹤出原始網路通訊來源(“IP Trackback”)。然而，此種作法被批評為將摧毀網路匿名特性，並對個人隱私造成侵害，或成為各國政府打擊政治異議人士的工具。發表匿名言論權利曾受許多國家憲法或國際條約的肯認，例如1995年美國最高法院於McIntyre v. Ohio Elections Commission一案，做出「匿名發表權乃受憲法保護之人民基本權」見解，歐盟亦有「網路通訊自由宣言(Declaration on Freedom of Communication on the Internet)」。故Q6/17嘗試消弭發表網路匿名言論之技術突破，是否能通過世界各國憲法之嚴格檢驗，仍值得後續關注研究。