日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
以Google及微軟為首等網路業者，及名為「資訊正當法律程序」協會的數個成員，呼籲美國聯邦政府對於儲存於雲端或第三人資料儲存系統的私人電子郵件或電子資料之取得，應進行相關法律修正。 由於1986年開始施行的「電子通訊隱私法（Electronic Communications Privacy Act, ECPA）」，係立法者基於當時資通訊技術水準所制定，然近年來諸如電子郵件、雲端運算、網路社群活動及行動通訊等科技之興起，使得該法已不足因應當今狀況，故有制定更為透明、簡單且明瞭的資料取得標準之需要。尤其是現今電子資訊儲存於第三人資訊系統內情形之普遍，更讓此等資訊取得行為是否適用該法，產生相當的模糊。 此等模糊性，讓現今的司法部門認為僅需使用傳票（subpoena）或取得法院命令（court order），便可要求第三人提供客戶的資料。但是，上述這些團體希望政府應修正既有法律以與現時社會相符，確保須透過更為嚴謹的程序，始能要求第三人提供客戶的私人資訊，例如需申請「令狀」(warrant)。蓋因資料儲存於私人電腦內，需透過令狀以命其揭露，而若儲存於第三人處，理論上亦應該透過令狀以命第三人揭露該等資訊；再者，「美國人權法案（Bill of rights ）」要求政府機關除非具特定理由，否則不得對他人住宅進行無搜索令之搜索，同樣的，在電腦資訊之取得，亦不應降低保護人民之標準。 該團體揭示之四項標準為： ．政府僅能在出示正當理由，並取得搜索令（search warrant）的情況下，才能對任何受ECPA規範的實體（無線或電子通訊服務的提供者，或遠端電腦服務提供者）要求揭露未能輕易由公眾取得之資訊。且不受通訊時代，儲存工具及狀態，或提供者的權限及其通常商業活動的通訊使用所影響。 ．政府僅能在獲得具有正當理由之搜索令下，才得要求任何受ECPA規範的實體，提供行動通訊裝置的地點資訊。 ．政府僅能在獲得司法審查，及透過法院認為其已具備第2703(d)條之情形，才能要求任何受ECPA規範的實體提供撥打電話號碼的資訊，往來電子郵件、及該實體藉由電子記錄器和追蹤設備所記錄的資訊或數據。 ．政府單位經「Stored Communications Act」之授權取得傳票，其取得資訊之範圍僅得針對特定帳號或個人。其他非特定的要求，皆須司法同意後始得進行。
美國聯邦貿易委員會插手企業資訊安全引起爭議美國聯邦貿易委員會(Federal Trade Commission, FTC)於2013年8月29日對位於亞特蘭大的一家小型醫療測試實驗室LabMD提出行政控訴，指控LabMD怠於以合理的保護措施保障消費者的資訊（包括醫療資訊）安全。FTC因此依據聯邦貿易委員會法(Federal Trade Commission Act, FTC Act)第5條展開調查，並要求LabMD需強化其資安防護機制（In the Matter of LabMD, Inc., a corporation, Docket No. 9357）。 根據FTC網站揭示的資訊，LabMD因為使用了點對點（Peer to Peer）資料分享軟體，讓客戶的資料暴露於資訊安全風險中；有將近10,000名客戶的醫療及其他敏感性資料因此被外洩，至少500名消費者被身份盜用。 不過，LabMD反指控FTC，認為國會並沒有授權FTC處理個人資料保護或一般企業資訊安全標準之議題，FTC的調查屬濫權，無理由擴張了聯邦貿易委員會法第5條的授權。 本案的癥結聚焦於，FTC利用了對聯邦貿易委員會法第5條「不公平或欺騙之商業行為(unfair or deceptive acts)」的文字解釋，涉嫌將其組織定位從反托拉斯法「執法者」的角色轉換到（正當商業行為）「法規與標準制訂者」的角色，逸脫了法律與判例的約束。由於FTC過去曾對許多大型科技公司（如google）提出類似的控訴，許多公司都在關注本案後續的發展。
資通安全法律案例宣導彙編 第4輯 英國交通部推出MaaS實務準則，達成兼顧永續與包容的次世代MaaS服務英國交通部（Department for Transportation, DfT）於2023年8月30日提出「交通行動服務（MaaS）實務準則（Mobility as a Service: code of practice）」，內容針對MaaS之提供商，提出產品及服務建議。MaaS實務準則涵蓋包含以下五個面向，以提供MaaS廠商具體明確的產品設計及營運建議： 1. 交通包容性與近用性（accessibility），例如應盡力避免產品之AI演算法產生偏見、確保AI學習資料無偏差；產品介面應提供視覺、聽覺輔助功能；針對身障民眾應提供適當之交通路線建議，以及應提供偏鄉、無網路區域非線上（offline）服務管道； 2. 低碳運輸之推廣，如納入更多步行、單車等環保交通選項； 3. 友善之多元支付方式，如現金、數位支付、定期套票，並整合火車、地鐵、客運、公車之支付系統； 4. 資料分享與資料安全並重，保障使用者隱私，如採用公認之資料安全標準以及與同業簽訂資料共享契約； 5. 重視消費者權益保障，鼓勵平台間公平競爭，如釐清各參與者間之責任，避免消費者投訴無門，以及提供線上及非線上聯絡窗口，及時處理消費者需求等。