日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國資安事件頻傳，美國 8/30 驚傳電信及電報公司（ AT ＆ T ）購物網站中之顧客消費資料遭駭客竊取事件。 AT ＆ T 發言人表示工程師在發現異狀後一個小時內關閉該網站並已採取相關保護措施，據 AT ＆ T 估計約 1 萬 9 千名在該網頁上以信用卡消費的顧客機密資料已外流，目前該公司正進行通知客戶之動作，並聯繫相關信用卡公司，期能將對顧客之損害降至最低。 AT ＆ T 通知當事人之作法，符合美國立法之趨勢。目前美國除了部分州已經通過立法要求資料持有業者必須將資料外洩事件告知當事人外，今年 7 月 19 日 Virginia 州議員 Thomas Davis 亦提出美國聯邦法典第 44 編（ title 44 ）修正提案，該提案通過後將強化美國聯邦法典中對於個人資料外洩時資料收集者之告知義務，以避免當事人因此蒙受損失。 雖然法規要求漸趨嚴格、完整，但長期關注隱私權問題之 Privacy Rights Clearinghouse 估計，美國自去年 2 月起至今年 8 月底止，約有 9100 萬人次之機密資料遭到竊取，換言之，約 1/3 的美國人機密資料曾遭竊取或外洩，網際網路與駭客技術的發展使得機密資料今日已不再機密了。
英國Ofcom提出「促進智慧聯網之投資與創新」報告並對英國智慧聯網管制應補強之方向提出建議英國電信主管機關Ofcom於2015年1月提出「促進智慧聯網之投資與創新」報告（Promoting investment and innovation in the Internet of Things），對英國智慧聯網（Internet of things, IOT）之管制發表意見。Ofcom認為就英國發展智慧聯網之現況而言，在商業上確實已經進行智慧聯網發展並投資之，然，並未對複雜的發展做好準備；Ofcom亦承認英國在基礎設施和政府管制架構上，尚未具備適當的發展。於此報告中，Ofcom提出四方向的建議，分別為資料隱私與消費者認識、網路安全與防護、智慧聯網可用之頻譜和電話號碼與網址管理等四項。 首先在資料隱私與消費者認識部分，Ofcom認為以現有管制保護智慧聯網下之隱私的效果有限，因此建議英國「資訊專員辦公室」（Information Commissioner's Office , ICO）需要發展未來隱私保護議題之解決方法，並且與政府及其他管制機關就資料隱私之法制議題共同進行，包括將現有之資料保護管制之範圍進行評估，考量是否需涵蓋到所有智慧聯網設施，和訂定智慧聯網資料共享之原則。 第二，在網路安全與防護管理上，Ofcom指出英國2003年通訊法（Communication Act 2003）已就服務提供者所提供之公眾可使用的網路與服務，課與特定安全與防護責任；例如網路與服務提供者必須採取適當的手段管理安全風險，尤其需將對終端使用者之影響降至最低、網路提供者必須採取所有適當的程序，盡可能的保護網路安全。然，Ofcom認為智慧聯網並未直接規定於現有的管制中，例如智慧電網設施之高度安全與防護範圍應涵括私人網路；故，應評估必須規定於法律中的智慧聯網網路與服務種類，以達完善防護。 再者，關於智慧聯網可用之頻譜議題，著重於用於智慧聯網之技術須改進。目前使用之頻譜在2.4和5GHz（此頻譜亦用於Wi-Fi服務）；而未來的設施也可能使用到1GHz以下的頻譜，同時Ofcom也說明其將來僅會監視頻譜的利用，而不會開放新的可用頻譜。 最後，在電話號碼與網址管理方面，就智慧聯網設施之網際網路協定，未來可能會從IPv4發展成為IPv6也是相當重要的。Ofcom認為未來智慧聯網可能會發展成一個「相當大數量且顯著的設施」，故採用IPv6將顯得更為重要；然，就目前而言，英國採用IPv6之情況系落後於其他國家的。 Ofcom現正致力於發展新的頻譜管制、數據隱私、網路安全與網址等管制，殊值得繼續觀察以俾利我國智慧聯網管制與發展。
美國新一代公共安全無線寬頻的應用公共安全和國土安全局(PSHSB)局長傑米．巴尼特(Jamie Barnett)於2011年3月16日與美國聯邦通訊傳播委員會(Federal Communication Commission)分別先後宣示將更近一步加強國家寬頻計畫(The National Broadband Plan)中寬頻通訊科技在公共安全層面的應用。其具體落實在成立國家級的緊急反應互動中心(The Emergency Response Interoperability Center, ERIC)。該中心利用700 MHz頻段成立全國性的公眾安全無線網絡。 促進公共安全無線寬頻通訊的使用，是公共安全和國土安全局最主要的任務。透過建立互動式公共安全寬頻無線技術的操作框架，使警察、消防及緊急醫療人員可使用到最先進的數位式寬頻通訊技術。配備可在任何時間、地點即時傳輸資訊的薄型智慧電話，替代傳統上所使用的對講機。 其次為發展下一代的911通報網絡。目前大約70%的911通話來自手機，可是大多數的911電話通報中心，並沒有配備可接收目前主流行動通訊使用者所傳送的簡訊、電子郵件、視訊或照片的設備。新一代的查詢通知系統(Notice of Inquiry，NOI)可取代傳統的電話，使公眾透過先進的通訊科技獲得緊急救助。雖然精確定位裝置並不在整個系統之中，但通過行動通訊業者所提供的數據，仍可定位需救助者的方位。 美國將寬頻通訊科技落實在公共安全層面的應用，將有助於其提升整體緊急救護的效率。
黑莓機服務中斷數日，RIM面臨用戶集體求償全球商務人士最喜愛使用的智慧型手機「黑莓機」，在今年（2011）10月中旬出現全球大當機，手機用戶無法上網及收發簡訊，影響範圍從歐洲擴及北美與世界各地。手機製造商Research In Motion (RIM)的首席執行長Mike Lazaridis在官網上以視訊公開向全球用戶道歉，並提出可免費下載100美元的應用軟體作為補償。然而此舉無法平息用戶的怒火，許多使用者正打算對RIM提出訴訟求償，因為中斷服務害他們錯失許多訊息與會議時間。 加拿大魁北克的高等法院就收到使用者對RIM要求經濟補償的集體訴訟，因為RIM所提出的補償措施根本無法彌補中斷服務數天的損失。若法院認同訴訟主張，RIM遭求償的總額或許很高，不過使用者提出的訴求是中斷服務的1.5天，他們無法使用月付25元加幣的無線網路服務，因此按比例分攤每件可能僅1.25元。而在美國的消費訴訟律師，則考慮對RIM提出違約訴訟或是消費詐欺，前者是以RIM未依約盡到其提供服務的責任為主張；而後者消費詐欺的重點則是著眼於，RIM導致消費者誤信黑莓機的可靠性。然而使用者所面臨的困難是，要如何證明他們所受到的損害，高於原本應獲得的服務，而且因為是全區域的服務中斷，在跨州的集體訴訟中還有各州法律適用的問題。有法律專家言明，要證明因為不能使用智慧型手機的功能而造成的實際損害非常困難，畢竟在緊急時刻，溝通（communicate）還有其他選擇方式。