日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國歐巴馬總統於2013年5月9日正式簽署「促進政府資訊開放並利機器讀取」行政命令（Executive Order 13642–Making Open and Machine Readable the New Defaut for Government Information），推崇聯邦政府過去釋出氣候、全球定位系統（GPS）等資訊對於私部門產業創新及新創事業（entrepreneurship and star-up）之正面影響，盼未來所有新增加的政府資料在資訊安全和隱私權雙重確保之前提下，將開放以可供機器可讀取之格式給公共大眾，帶動整體經濟正面循環發展。之前，美國推動聯邦政府資料開放政策，重要者為白宮科學技術政策辦公室（Office of Science and Technology Policy, OSTP）於2009年3月份啟動「開放政府倡議」（Open Government Initiative），民眾可透過「Data.gov」入口網站 ，取得高價值、機器可讀取之聯邦政府資料。 近年來，在公部門政府政策鼓勵導引下，不同的產業也逐漸發展出適用於特定產業的共同互通性標準（sectoral interoparability）。以醫療衛生領域為例，從2010年開始，歐巴馬總統乃宣布「藍色按鈕倡議」（Blue Button Initiative），病患得透過特定網頁（web-based）簡易下載其健康資訊（health information），並可供重複利用的格式下；同時，患者也可以選擇將該資訊分享給健康照護提供者（health care provider）、保險公司和信任的第三者（trusted third parties）。該倡議更挑戰軟體開發者（developer）在藍色按鈕的基礎上，開發更多的Apps軟體，使當事人更容易去管理掌控自身健康的狀況。在能源科技領域，近似於藍色按鈕倡議，白宮幕僚科技長Aneesh Chopra於2011年9月，也發起了「綠色按鈕倡議」（green button initaitive），挑戰美國境內大小事業單位（utilities）投入參與該倡議，研發一個機器可讀取之開放格式（a machine-readable open format），使消費者得透過連線網路重複近取之。 有鑒於網際網路開放的特性，且近年來來自外國網路攻擊不斷，於2013年2月份，NIST與國際間重要標準組織，如ISO、IEC和IEEE，首度就感應網絡（sensor networks）、機器對機器（M2M）和智慧聯網（IoT），提出一個跨界面之共通標準計畫（ISO/IEC/IEEE P21451-1-4 XMPP），該共通標準計畫內容包含: 封包傳輸（檢測）、全球獨特辨識、政策控制和加密，此共通標準得確保未來巨量資料領域資料近取之安全性 。
德國法院依據歐盟法院先決裁定發出第一例禁制令2015年11月3日德國杜塞道夫地方法院（以下稱德國法院）依據歐盟法院之《華為訴中興》案(Huawei v ZTE case, 16 July 2015, Case C- 170/13)的先決裁判發出第一例禁制令(Cases 4a O 144/14) (Nov. 3, 2015)。這個判決係義大利公司SISVEL公司認為青島海爾德國公司（以下稱海爾公司）侵害其有關GPRS及 UMTS無線網路專利組合之標準專利，並已經對海爾公司發出專利侵權通知，並發出授權要約，海爾公司則抗辯認為，SISVEL僅通知其母公司而未通知其分公司，且其授權要約不符合FRAND原則。 德國法院認為，SISVEL只要將足夠的專利侵權資訊及授權要約通知海爾母公司進而據以判斷是否與SISVEL展開授權協商即可，若要求專利權人亦須一一通知其分公司，則將流於形式。 其次，海爾公司雖因認為SISVEL要求之授權金過高，故拒絕SISVEL的授權要約並提出反向要約，但卻未在提出反向要約後之合理期間內依據歐盟法院在《華為訴中興》案先決裁判中之見解，對SISVEL提供保證金以擔保其授權協議尚未達成前對SISVEL專利之使用費用。故德國法院進一步對前述合理期間給予確切期間，即拒絕專利權人要約時起一個月內。 至於海爾公司主張SISVEL授權要約不符合FRAND原則之抗辯，德國法院認為因海爾公司未履行前述程序，故尚無須判斷SISVEL授權要約是否FRAND原則。故何種情形屬於符合FRAND原則，仍留由後續之實務見解加以補充。
歐盟法院做成先決裁判，臉書粉絲專頁管理員也有責任保護用戶資料隱私歐盟法院於2018年6月5日對德國行政法院依歐盟運作條約第267條（267 AEUV），就歐盟個人資料保護指令（95/46/EC）第2、4條之解釋適用，提起的先訴裁判申請做出先訴判決。判決提及利用臉書（Face Book）平台經營粉絲專頁，並獲取臉書相關服務的管理者，同樣負有保護用戶資料隱私的責任。此將影響眾多的粉絲專頁，判決指出不僅臉書，連粉絲專頁的管理員都有保護訪客資料安全的責任。 由於臉書粉絲專業的經營者，並未保存其粉絲的相關資料，既不經手資料處理，更無力影響資料如何呈現，因此主張資料處理的責任應該在於臉書身上，處罰對象也應該是臉書。判決理由指出，臉書作為粉絲專頁相關個人資料的控制者（data controller）應負相關責任並無疑問，但歐盟地區粉絲專業的管理者，應該和臉書一樣，作為資料處理的共同責任者。蓋管理者係運用臉書提供的設定參數，將粉絲專頁的近用者資料蒐集處理，應該負共同責任。因此歐盟法院判決，利用臉書平台經營粉絲專頁，並獲取臉書相關服務的管理者（administrator），並不能免於個資保護法律的法遵義務。 另外依據德國聯邦資料保護與資訊安全委員會（BFDI）意見，認為雖然判決是基於一般資料保護規則（GDPR）生效之前就已經存在的法律，但法院所確定的共同責任原則也適用於新的法律。BFDI特別建議公共機構以歐盟判決為契機，審查公共機構粉絲頁面的合法性與是否遵守法律規定，並在必要時說服Facebook調整資料保護。
美國國防部發布《國防部資訊技術發展戰略》，以促進IT變革並為未來奠定基礎美國國防部（Department of Defense, DoD）於2024年6月25日發布「關鍵點：國防部資訊技術發展戰略」（Fulcrum:DoD Information Technology (IT) Advancement Strategy），將持續促進DoD之IT變革，並為未來奠定基礎。 本戰略描述作戰人員在推動IT方面應達成之目標與重要性，並列出提供聯合作戰IT能力、資訊網路與運算現代化、最佳化IT治理、栽培第一數位人力等四大目標（Line of Effort, LOE），簡述如下： （1）提供聯合作戰IT能力（Provide Joint Warfighting IT Capabilities）：在現今不斷變化且充滿競爭的全球環境中，該目標以使用者為中心，提供具功能性、可擴增、永續且安全之IT功能。並以改善作戰人員可用資訊為重點，以利在快節奏、多領域（multi-domain）作戰中獲得決策與競爭優勢。 （2）資訊網路與運算現代化（Modernize Information Networks and Compute）：該目標著重於迅速滿足任務與商務需求，利用卓越技術與以資料為中心的零信任（Zero Trust）資通安全方法，提供安全且具更快資料傳輸速度、更低延遲與高度彈性的現代化網路。 （3）最佳化IT治理（Optimize IT Governance）：該目標將提高傳送效率、節省成本，且透過從治理到資料獲取系統的簡化政策，以轉變治理制定更好的決策，包括使用強大資料功能。 （4）栽培頂尖的數位人才（Cultivate a Premier Digital Workforce）：該目標將確保作戰人員為新興技術之布署做好準備，並持續致力於識別、招募、發展並留住最佳數位人才。其擴展DoD網路人力框架（DoD Cyber Workforce Framework, DCWF），著重於更廣義的數位人力，包括資料、人工智慧、軟體工程的工作角色。