日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
歐洲區塊鏈夥伴關係（European Blockchain Partnership, EBP）的成員於2023年6月正式向歐盟執委會（European Commission, EC）申請成立區塊鏈的「歐洲數位基礎設施聯盟」（European Digital Infrastructure Consortium, EDIC），若審核通過，未來歐盟將有一個正式的機構負責推動區塊鏈的發展與應用。 歐盟執委會於2023年1月發布了「2030年數位十年政策計畫」（Digital Decade Policy Programme 2030, DDPP），為促進歐盟數位轉型的大規模部署及能力建構，達到DDPP所設定的具體目標，執委會提出跨（多）國專案（Multi-Country Projects, MCPs）的概念，期待整合歐盟、各成員國、私部門的資源，以實現單一成員國無法獨立部署的數位化基礎設施。 執委會參考2009年開始陸續成立的「歐洲研究基礎設施聯盟」（European Research Infrastructure Consortium, ERIC），提出了「歐洲數位基礎設施聯盟」（EDIC）的規劃。EDIC並非由歐盟的資助計畫支持，而是由成員國申請（至少要包含3個成員國）成立以執行MCPs，EDIC具有法人格，並有獨立的財務來源；此外，EDIC成立後開放私部門參加。 2023年3月執委會發布的「數位歐洲2023~2024年工作計畫」（Digital Europe Work Programme 2023-2024）中，即將「區塊鏈」列為MCPs的重要發展項目之一。2023年6月15日於瑞典舉辦的歐盟數位大會（Digital Assembly 2023）上，執委會表示EBP及歐洲區塊鏈服務基礎設施（European Blockchain Services Infrastructure, EBSI）的相關成員國已遞交EDIC的申請。 斯洛維尼亞共和國（Republic of Slovenia）的區塊鏈小組負責人Nena Dokuzov是成立聯盟的主要推動者之一，其受訪時表示，EBSI從2018年以來，主要是由執委會以專案方式支持，未來聯盟成立以後，將能集結更充足的資源，強化歐洲區塊鏈的治理和穩定性，進一步地擴大推動歐洲區塊鏈的公共應用服務。我國「司法聯盟鏈」於2022年成立，為我國第一個跨部會、大規模的區塊鏈應用案例，並制定了跨組織協作標準規範（簡稱b-JADE），未來可持續觀測歐盟區塊鏈聯盟的發展，作為我國的參照。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
BS 10012：2017個人資訊管理系統新版標準已發布BS 10012:2009個人資訊管理系統近期轉版，英國標準協會已於2017年3月31日發布BS 10012:2017新版標準，此次修改主要係為遵循歐盟一般資料保護規則GDPR (General Data Protection Regulation )之規定。為了讓企業組織能更有效率整合內部已導入之多項標準，新標準採用ISO/IEC附錄SL之高階架構（High Level Structure），該架構為通用於各管理系統的規範框架。 2017新版架構由原本的6章變為為10章，新架構如下： 第1章 範圍 第2章 引用規範 第3章 專有名詞與定義 第4章 組織背景 第5章 領導統御 第6章 規劃 第7章 支援 第8章 營運 第9章 績效指標 第10章 改善 新標準主要修改內容如下： 個資盤點單需增加「法規」盤點項目，且應載明個資流向(軌跡紀錄)。 風險管理架構參酌ISO 31000:2009修改。 組織增設資料保護官(Data Protection Officer, DPO)。 個資蒐集、處理及利用： （1）蒐集前須先告知當事人並取得其同意。 （2）蒐集應有必要性且最小化。 （3）兒童個資蒐集、利用須先經監護人同意。 （4）若個資利用目的為開放資料（Open data）須作去識別化。 個資必須維持正確且最新。 個資保存不超過處理目的存在必要之期限(保存期限)。 增加個資完整性與機密性要求。 預先諮詢與授權，例如：網頁有使用cookies需明確告知瀏覽者。 個資管理目標與量測，包括欲導入範圍、現況評估等有效性目標。 增添文件管理規範。 BS 10012:2009版本將於2018年5月25日廢止，公司驗證轉版的過渡期為24個月，因此2019年3月未轉版者證書失效。
美國財政部制裁向俄羅斯運送伊朗製無人機之空運業者及製造商美國財政部外國資產管制辦公室（Office of Foreign Assets Control，簡稱OFAC）根據《防止大規模殺傷性武器擴散與恐怖主義》（Preventing Weapons of Mass Destruction Proliferation and Terrorism, 50 U.S. Code Ch. 43）聯邦法律之授權、第13382號總統行政命令（Executive Order，下稱行政命令）以及第14024號行政命令，於2022年9月8日將向俄羅斯運送伊朗製無人機（Unmanned Aerial Vehicles，簡稱UAVs）之空運業者納入制裁清單；另將3家公司與1位參與無人機及其零組件研究、開發、生產與採購之個人納入制裁清單，避免非來自伊朗及俄羅斯之實體支持伊朗製無人機之研發，或向俄羅斯出售任何用於對付烏克蘭的軍事裝備。 此次列於清單中之空運業者Safiran Airport Services，總部位於伊朗德黑蘭，其將伊朗製無人機、人員和相關設備從伊朗運送到俄羅斯。根據情報顯示，俄羅斯軍隊打算將伊朗製無人機與俄羅斯無人機運用在對烏克蘭的戰爭中，故OFAC依據第14024號行政命令，將該空運業者納入制裁清單。另針對無人機製造商，以Paravar Pars為例，其參與伊朗Shahed-171無人機研發和生產，故OFAC依據第13382號行政命令，將其列入制裁清單。 上述空運業者及製造商在遭受制裁後，可能會受到的影響包括： （1）在美國或由美國籍公民或企業所有或控制的所有財產和財產利益皆被凍結；禁止與美國籍公民或企業交易；或禁止與在美國境內被制裁對象的任何財產或利益交易（如金流過境美國的交易）；與前述列為清單對象進行交易之人，亦可能會被列為清單對象。 （2）任何外國金融機構故意與前述列為清單制裁對象，促成重大交易或提供重要金融服務，都可能受美國相應的制裁或對「支付過渡帳戶」（payable-through account）的制裁。而此「制裁」不限於凍結帳戶，參考OFAC官網中的第36則FAQ之說明（https://home.treasury.gov/policy-issues/financial-sanctions/faqs/topic/1601），某些案例中之交易應該被禁止，但該交易沒有可凍結的利益時（如該帳戶已為制裁清單所列對象或已被凍結的個人或政府），OFAC會以「要求美國金融機構拒絕非制裁以外的第三國企業間的交易」或以「透過禁令使美國金融機構拒絕處理該交易且退回款項予匯款人，除非有得到事前個別授權」等方式處理。
何謂「介入權」？美國拜杜法雖下放政府補助研發成果給予執行單位，但基於針對受補助者行使研發成果時若未能妥適授權運用，政府得行使「介入權」（march-in rights）。所謂的介入權，是指補助機關事後可以因為執行單位授權或運用不當，而選擇強制介入調整其授權內容。但補助機關採用介入權是有前提要件的，35 U.S.C. § 203規定：「受補助者在適當的合理期間內，未能採取有效的措施以達到該創新的實際應用或使用…」或者強制授權是「其他聯邦法律規定的保護公共健康、安全需要或公共使用」所必要者。相對我國則有經濟部於「經濟部科學技術研究發展成果歸屬及運用辦法」第21條規定政府介入權發動之要件，其與美國法制有異曲同工之妙。