日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
自2009年起，歐盟執委會（European Commission，下稱執委會）開始推動統一化歐盟境內手機及其他類似電子設備之充電器，以減少不必要的電子垃圾，並改善電子設備充電器規格紊亂所造成消費者的不便利。多年來，市面上充電連接埠的規格已從過去的三十多種減少為USB Type-C、USB micro-B以及Lightning三種規格。執委會更於今（2021）年9月23日提出《無線電設備指令》（Radio Equipment Directive, 2014/53/EU）增修條文提案，欲透過立法建立統一的充電解決方案，該提案包括： 1.統一充電連接埠 USB Type-C為所有智慧型手機、平板、相機以及耳機等電子設備的通用充電連接埠，一個USB Type-C充電器將能為各種廠牌的產品充電。 2.統一快速充電技術 防止各製造商無正當理由地限制充電速度，並確保電子設備在使用任何可相容的充電器時都能有相同的充電速度。 3.電子設備及充電器的分拆販售 防止消費者被迫購買不必要的充電器，並減少未使用的充電器數量，進而達成降低電子垃圾之目的。 4.提供消費者更多資訊 製造商應提供消費者其產品之充電性能相關資訊，以利消費者判斷其現有的充電器與該產品是否相容，該資訊亦有助於消費者為該產品選購相容的充電器。 此提案仍需待歐洲議會（European Parliament）及歐盟部長理事會（Council of the European Union）決議，若決議通過，製造商將有24個月的過渡期來調整產品設計。
Refuah公司與紐約總檢察長達成和解並投資120萬美元保護病人資料紐約州總檢察長Letitia James於2024年1月5日與健康照護服務業者Refuah Health Center, Inc.（下稱Refuah公司）達成和解，主因為該公司遭受勒索軟體攻擊（ransomware attack），約25萬紐約州民個資遭到洩漏。和解協議要求Refuah公司支付共計45 萬美元之民事懲罰金及費用（penalties and costs），且應投資 120 萬美元加強網路安全（cybersecurity）。 Refuah公司主要業務為經營三家醫療機構和五輛行動醫療車（mobile medical vans）。2021 年 5 月，Refuah公司遭到勒索軟體攻擊，網路攻擊者得以近用數千名病人的資料，取得了包含姓名、地址、電話號碼、社會保險號碼、駕照號碼、出生日期、金融帳號、醫療保險號碼等資料。 依據檢察長辦公室的調查顯示，攻擊者之所以得近用這些資料，原因為 Refuah公司未採取適當安全維護措施，包括：未停用不活躍之使用者帳號（inactive user accounts）；未定期更換使用者帳號憑證（user account credentials）；未限制員工僅得近用其業務所必需之資源和資料；未使用多重要素驗證（multi-factor authentication）以及未加密病人資料。 依據協議內容，Refuah公司同意投資 120 萬美元，用於開發和維護更強大的資訊安全計畫（information security programs），以更妥適地保護病人資料。該協議還要求Refuah公司應： 1.維護全面的資訊安全計畫，以保護消費者資料的安全性、機密性和完整性； 2.實施並持續更新消費者資料近用限制相關政策和程序； 3.遠端近用資源和資料應使用多重要素驗證； 4.定期更新近用資源和資料的憑證； 5.至少每半年進行一次稽核，確保使用者僅近用其業務所必需之資源和資料； 6.對所有儲存或傳輸的消費者資料進行加密； 7.實施控制措施，監控和記錄公司網路和系統的所有安全和操作活動；以及 8.制定、實施和持續更新全面的事故應變計畫。 Refuah公司還須向州政府支付共計45 萬美元之民事懲罰金及費用，其中 10 萬美元將在該公司投入 120 萬美元開發和維護其資訊安全計畫後，得暫緩支付。
美國國家標準暨技術研究院發布「全球AI安全機構合作策略願景目標」，期能推動全球AI安全合作美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）於2024年5月21日提出「全球AI安全機構合作策略願景目標」（The United States Artificial Intelligence Safety Institute: Vision, Mission, and Strategic Goals，下稱本策略願景），美國商務部（Department of Commerce）亦於2024年參與AI首爾峰會（AI Seoul Summit）期間對外揭示本策略願景，期能與其他國家攜手打造安全、可靠且可信賴之AI生態系。 由於AI可信賴與否往往取決於安全性，NIST指出當前AI安全所面臨的挑戰包含：一、欠缺對先進AI之標準化衡量指標；二、風險測試、評估、驗證及確效（Test, Evaluation, Validation, and Verification, TEVV）方法不健全；三、欠缺對AI建模後模型架構與模型表現間因果關係的了解；四、產業、公民社會、國內外參與者等在實踐AI安全一事上合作程度極為有限。 為因應上述挑戰並促進AI創新，NIST在本策略願景中擬定以下三大戰略目標：(1)推動AI安全科學發展：為建立安全準則與工具進行技術合作研究，並預先部署TEVV方法，以利評估先進AI模型之潛在風險與應對措施；(2)推展AI安全實務作法：制定並發布不同領域AI風險管理之相關準則與指標，以達到負責任設計、開發、部署與應用AI模型與系統之目的；(3)支持AI安全合作：促進各界採用前述安全準則、工具或指標，並推動全球合作，以發展國際通用的AI安全風險應對機制。
歐盟啟用半導體供應鏈示警系統，監測各成員國半導體供應鏈狀況歐盟執委會（European Commission, EC）於2023年5月10日宣布啟用《歐盟晶片法案》（EU Chips Act）三支柱之一的半導體供應鏈示警系統（Semiconductor Alert System），其目的在於監測半導體供應鏈短缺之問題。 根據《歐盟晶片法案》，歐盟各成員國的半導體供應鏈主管機關須定期執行半導體供應鏈的觀測任務，以隨時確認半導體供應鏈之狀況。然而，由於歐盟係由眾多不同的國家所組成，各成員國間訊息的流通相比於其他單一國家可能較為緩慢，故EC決定創建半導體供應鏈示警系統，交換半導體供應鏈資訊以解決上述問題。在此系統中，私人企業得單獨對所處產業中的早期半導體短缺進行回報，惟個別產業常常單獨誇大或高估危機的發生可能性，對此，EC成立了歐盟半導體專家小組（European Semiconductor Expert Group, ESEG），協助收集各半導體產業與成員國所回報之訊息，除將其用於建立風險評估外，亦彙整並分析成有價值的資訊後再分享給各成員國。 若資訊收集完成後，ESEG或EC察覺歐盟確實有發生半導體供應鏈崩潰的危險，EC將召開特別委員會會議（extraordinary board meeting），共同尋求解決方案，包含聯合政府採購（joint procurement），或與第三國進行合作，以合力解決半導體供應鏈之危機。