日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國參議院於2015年10月27號通過網路安全資訊共享法（Cybersecurity Information Sharing Act; CISA）。本案以74票對21票通過，今年稍早眾議院通過類似法案，預計接下來幾周送眾議院表決。歐巴馬政府及兩院議員已就資訊共享法案研議多年，目前可望兩院就立法版本達成一致而立法成功。 主導本案的參議院情報委員會（Intelligence Committee）主席Richard Burr於法案通過後發表聲明表示，「這個作為里程碑的法案最終會更周全地保護美國人的個資不受外國駭客侵害。美國商業與政府機構遭受以日計的網路攻擊。我們不能坐以待斃」。副主席Sen. Feinstein於肯定法案對網路安全的助益之外，認為「我們在杜絕隱私憂慮的方面上盡了所有努力」。 CISA授權私人機構於遭受網路攻擊，或攻擊之徵兆（threat indicators）時，基於網路安全的目的，立即將網路威脅的資訊分享給聯邦政府，並且取得洩漏客戶個資的責任豁免權。基於同樣的目的，私人機構也被授權得以監視其網路系統，甚至是其客戶或第三人的網路。但僅以防禦性措施為限，並且不得採取可能嚴重危害他人網路之行動。相對於此，聯邦政府所取得該等私人機構自發性提供的網路威脅資訊，係以具體且透明的條款規制。此外，國土安全部（Department of Homeland Security）於符合隱私義務方針的方式下，管理電子網路資訊得以共享給其他合適的聯邦機構。檢察總長及國土安全部門秘書並建立聯邦政府接收、共享、保留及使用該等網路資訊的要件，以保護隱私。 相對於此，許多科技公司對此持反對態度，例如蘋果與微軟。隱私支持者更是於法案通過前後呼籲抵制，稱其為監視法。主要的論點圍繞在企業洩漏個資訊的寬鬆免責條款，這將會促使隱私憂慮。另一方面，法案反對者也不信任聯邦政府機構將會落實隱私保護，FBI、國家安全局（National Security Agency, NSA）及國家安全部則樂於輕易地取得、共享敏感的個資而不刪除之。 這些憂慮或許可以由法案投票前，網路法及網路安全學者共同發出的公開信窺知。「整體來說，（CISA）對有缺陷的網路安全中非常根本但真切的問題一無所助，毋寧僅是為濫權製造成熟的條件」。信中提到，該法案使聯邦機構得近用迄今為止公眾的所有資訊，並且對公司授權的範圍無明確界線，使公司對判斷錯誤的可能性毫無畏懼。這對於網路安全沒有幫助，方向應該是引導各機構提高自身的資訊安全及良好管理。
演算法歧視將適用於《紐澤西州反歧視法》2025年1月9日美國紐澤西州檢查總長與民權部（Division of Civil Rights, DCR）聯合發布「演算法歧視指引」（Guidance on Algorithmic Discrimination and the New Jersey Law Against Discrimination），指出《紐澤西州反歧視法》（the New Jersey Law Against Discrimination, LAD）亦適用於基於演算法所衍生的歧視。 隨著AI技術日趨成熟，社會各領域已大量導入自動化決策工具，雖然它們能提高決策效率但也增加了歧視發生之風險。指引的目的在於闡述自動化決策工具在AI設計、訓練或部署階段可能潛藏的歧視風險，亦列舉出在各類商業實務情境中常見的自動化決策工具，並說明它們可能會如何產生演算法歧視。以下分別說明《紐澤西州反歧視法》適用範圍，以及與演算法歧視有關的行為樣態。 一、《紐澤西州反歧視法》之適用主體及適用客體 《紐澤西州反歧視法》禁止在就業、住房及公共場所等領域所發生的一切歧視行為，其適用主體相當廣泛，包含但不限於下列對象：雇主、勞工組織、就業仲介機構、房東、房地產經紀人、公共場所之經營或管理者、以及任何教唆或協助歧視行為之個人；而該法之適用客體亦有明確定義，為具有受保護特徵（如性別、族裔、身心障礙等）之自然人或法人。 此外指引特別說明，即便適用主體無意歧視、或其所使用之自動化決策工具係由第三方所開發，只要發生歧視行為依然違反《紐澤西州反歧視法》。這是因為《紐澤西州反歧視法》係針對歧視所帶來的影響進行規範，儘管無意歧視，其所帶來的影響並不一定比故意歧視還要輕微。 二、 歧視行為的三種樣態 1.差別待遇歧視 差別待遇歧視係指適用主體基於受保護特徵而對適用客體施予不同對待。舉例而言，若房東使用自動化決策工具來評估黑人潛在租戶，但不評估其他族裔的潛在租戶，則會因為其選擇性使用自動化決策工具而構成歧視。 2.差別影響歧視 差別影響歧視係指適用主體的政策或行為對適用客體造成不成比例的負面影響，且該政策或行為未能證明具有正當性、非歧視性、或不存在較少歧視性的替代方案，則該政策或行為構成歧視。例如，某商店利用臉部辨識技術來偵測過去曾有偷竊紀錄的顧客，但該系統對配戴宗教頭巾的顧客較容易產生誤判，此亦可能構成歧視。 3.未提供合理調整 合理調整係指身心障礙者、宗教信仰者、懷孕者以及哺乳者，在不會對適用主體造成過度負擔的前提下，得向其提出合理請求，以符合自身的特殊需求。以身心障礙員工為例，若雇主使用了自動化決策工具來評估員工的工作表現（例如監測員工的休息時間是否過長），在未考量合理調整的情況下，該工具可能會過度針對身心障礙員工進而構成歧視。 為減少演算法歧視發生頻率，「演算法歧視指引」特別闡述自動化決策工具可能會出現的歧視行為及歧視樣態。此份指引的另一個意義在於，縱使目前紐澤西州並沒有一部監管AI的專法，但仍可以利用現行的法律去處理AI帶來的種種問題，以利在既有的法律架構內擴充法律的解釋來回應新科技的挑戰，並達到實質管制AI的效果。
台灣每人二氧化碳排放量逐年增加 全球第二十二名台灣自一九九○年至二○○四年止，平均每人排放量自五‧五七公噸大幅增加至十一‧五九公噸，以國際能源總署 (IEA )截至2002年統計，全球排放量前三名為美國、中國及俄羅斯，台灣則排名全球第22名。 主計處表示，依 IEA 統計資料庫顯示，二○○二年全球二氧化碳排放量前六名為美國（57.1億噸，占全球23.3﹪）、中國（34.7億噸，占14.2﹪）、俄羅斯（15.2億噸，占6.2 ﹪）、日本（11.8億噸，占4.8 ﹪）、印度（10.5億噸，占4.3﹪）及德國（8.5億噸，占3.5 ﹪）。台灣則排第 22 名（1990年為第28名），排放量占全球總量約1﹪，而經濟發展程度與我國相近的南韓、新加坡排名分別為第9名（4.7億噸，占1.9﹪）及52名（5500萬噸，占0.2﹪）。 行政院主計處據工研院能源與資源研究所統計，公佈最新「我國燃料燃燒排放二氧化碳」概況，台灣溫室氣體排放以二氧化碳為最大宗，佔八成以上，至二○○四年為 2.6億噸。 主計處指出，為抑制人為溫室氣體排放導致全球氣候變遷加劇現象，聯合國在一九九二年通過「聯合國氣候變化綱要公約」，且為落實排放管制工作，具有約束效力的「京都議定書」，已在今年二月十六日正式生效，期使在二○○八至二○一二年間，六種溫室氣體排放量平均應削減至比一九九○年低五‧二 %水準。在全球持續增溫、海平面上升及氣候變遷加劇下，台灣雖非京都議定書締約國，但政府相關部會順應國際永續發展潮流，正積極落實檢討溫室氣體排放減量政策。
美國加州日前開始審查輕量自動駕駛運輸載具應用之測試申請美國加州行政法辦公室（the Office of Administrative Law）於2019年12月17日宣布，根據日前通過之修訂規範，該州車輛管理局（the Department of Motor Vehicles）將審查州內公共道路上進行輕型自動駕駛（下稱自駕）運輸服務商業化應用測試之申請，換言之，業者如取得車輛管理局之核准，可以測試重量未達10,001磅之自駕運輸車輛（如一般客車、中型貨車、可載運雜貨類商品的客貨兩用車等）服務。另外，業者如欲就該自駕運輸服務收取運輸費用，則必須另向車輛管理局申請佈署（deployment）許可，即商業化或供公眾使用之許可。 不論何種自駕運輸車輛服務之測試，均須遵循現行測試、佈署之申請程序要求，並根據車輛管理局的核准內容進行有或無安全性駕駛人（safety driver）的自駕運輸服務測試，簡要整理不同規範要求如下： 如為有安全性駕駛人之測試與應用，有以下要求： 證明車輛已經曾在符合應用目的之情境（如駕駛環境）下進行測試。 維持測試駕駛人（test driver）的培訓規劃，並且證明每位測試駕駛人均完成培訓。 確保測試駕駛人維持潔淨（clean）的駕駛記錄。 確保測試駕駛人在測試期間乘坐在駕駛座上監控車輛的運行狀況，並在有需要的時候可以即時接管車輛。 須提交年度脫離（或譯為解除自駕）報告（disengagement report），且如有發生碰撞，須於10日內提交碰撞報告予車輛管理局。 如為無安全性駕駛人之測試與應用，有以下要求： 提供測試自駕運輸服務所在地方當局之書面通知以茲證明。 證明自駕測試車輛符合以下要求： (1)車輛與遠端遙控操作者間具有通訊連結。 (2)車輛與執法部門間的通訊方式。 (3)製造商將如何監控測試車輛之說明 提交一份與執法部門如何互動交流的計畫。 證明自駕測試車輛符合聯邦機動車輛安全標準（FMVSS），或提供國家公路交通安全管理局（NHTSA）之豁免監管證明。 證明自駕測試車輛可以在沒有駕駛人存在的情況下可以自主運行，並屬於美國汽車工程師協會（SAE）標準等級4、等級5之車輛。 證明測試車輛已經曾在符合應用目的之情境（如駕駛環境）下進行測試。 通知車輛管理局將要測試營運的區域範圍。 維持遠端遙控操作相關培訓規劃，並證明每位遠端遙控操作者均完成培訓。 須提交年度脫離報告，且如有發生碰撞，須於10日內提交碰撞報告予車輛管理局。 如自駕運輸服務擬商業化或供公眾使用，申請佈署之相關要求如下： 證明車輛： (1)配備自駕車輛資料紀錄器，此技術是根據加州車輛法規（California Vehicle Code）設計來偵測並反應道路實際狀況 (2)符合聯邦機動車輛安全標準或提供國家公路交通安全管理局之豁免監管證明。 (3)符合現行關於網路攻擊、非經授權侵入或錯誤車輛控制指令之防護、偵測與回應等產業標準。 (4)製造商曾進行測試與驗證，並有足夠信心將車輛佈署於公用道路上。 提交一份與執法部門如何互動交流的計畫複本。 如果車輛不需要駕駛員，製造商必須證明其他事項： (1) 車輛與遠端遙控操作者間具有通訊連結。 (2) 當碰撞事故發生時，車輛可以顯示或傳輸相關資訊予車輛所有人或操作員。 綜上所述，若要在加州進行自駕運輸車輛服務測試，須視其服務型態及是否涉及佈署，以遵循不同規範要求，申言之，服務採行有無安全性駕駛人與是否商業化或供公眾使用，二者為併行關係，舉例來說，如業者擬佈署有安全性駕駛人之商業運輸服務，則須同時符合有安全性駕駛人之測試與應用以及佈署等要求。加州對於自駕車輛運輸服務商業化之措舉，值得我國借鏡以完善自駕車輛運輸應用之推動。