日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
在今（2007）年1月底召開的生物多樣性公約技術專家小組會議（Technical Expert Group of the Convention on Biological Diversity），秘魯提出透過核發一種類似來源地證明的“基因護照”（genetic passports; passport for genetic resources），簡化基因資源的跨境交換（cross-border exchanges）手續，以便協助更多國家得以靈活利用各國基因資訊。由於透過基因護照的核發，一國對其基因資源的掌控得以超出其國境之外，因此秘魯此項提案受到許多專家背書支持。 根據1992簽署的生物安全議定書（Convention on Biological Diversity, CBD），各國對源自於其國境內之基因資源擁有主權。基因資源為生技研究所仰賴的重要研究資源，基因資源的豐富與否取決於生物多樣性。由於具備豐富生物多樣性的國家多集中在開發中的「南方」國家，長久以來，這些國家境內的基因資源被來自於已開發國家的機構以「研究」、「學術交流」等各種名目帶出，卻無法享受其研究成果，導致目前對基因資源已立法管理的國家（多為開發中國家），法令內容主要偏向阻擋不法利用，而非鼓勵多元利用，無形中使國際間基因資源之使用逐漸形成壁壘。 秘魯最近所提出的提案即是為了解決上述問題，根據秘魯的提案，每一種資源的“基因護照”將發給CBD會員國負責主管基因資源管理事務的政府主管機關。“基因護照”將涵蓋所有的基因資源，包括動物、植物及微生物；護照中將會註明此等物質之來源地、特性及負責單位。透過基因護照的核發，國與國之間得以建構基因資源流動及運送的國際共識。由於此項提案受到生物多樣性公約技術專家小組會議二十五國代表的全體同意，CBD秘書處希望該提案能在今（民國96）年10月將在加拿大召開的第九屆大會中通過。
個人資料保護脈絡下的「綑綁式同意」 歐盟倡議「邁向資料經濟時代」政策，規劃巨量資料Big Data發展策略2014年7月歐盟執委會針對巨量資料規劃新的政策，提出「邁向資料經濟時代」（Towards a thriving data-driven economy）政策，對研究發展帶來激勵，創造更多的商業機會。先前在2010年至2015年巨量資料科技與服務市場觀察報告中，指出預期巨量資料科技複合成長率為40%。從這些國際趨勢觀察，智慧聯網與巨量資料涉及的領域包括健康、食品安全、氣候與能源資源、智慧運輸系統以及智慧城市等，而這些都是當前歐洲無法忽略的問題。因此，此政策中指出應支持重點資料來促進公共服務與市民生活的競爭力與品質，廣泛分享使用並發展公開資料資料以及研究資料、確認相關的法律架構與政策屬有利發展、利用政府採購將資料科技帶入市場等項重點，以促成資料驅動經濟的全球化發展。 歐盟指委會並指出，推動巨量資料政策的施行尚仰賴於其他的行動計畫以及各個會員國之間的合作 。而在資料蒐集與利用逐漸擴張的情形下，歐盟執委會更於2014年7月2日發出聲明，要求各國政府應重視巨量資料帶來的問題，並且指出在巨量資料的公共諮詢中，有主要四個問題: (1)缺乏跨境的合作(2)未具有充分設施以及資金資助機會(3)缺乏資料專家以及相關技術(4)法規範過於零散且複雜。因此，歐盟執委會提出以下幾點，有助於問題的解決: 1. 透過公私營合作制度資助巨量資料發展，特別是在個人醫療領域上的應用。 2. 在Horizon 2020架構下，設立巨量資料中心，將以資料為基礎，將之與雲端使用構成供給鏈，藉此幫助中小企業。 3. 當透過智慧聯網，及機器與機器間通訊取得資料時，應針對資料所有權以及責任規範建立新的準則。 4. 建構資料標準，找出潛在的缺漏。 5. 建立一系列超級運算中心，增加歐洲資料專家。 6. 在不同會員國建立資料處理設施之聯結網絡 。 歐盟執委會希望能於上述各項政策推動下，共同建立有助資料經濟發展基礎架構及環境，並鼓勵產業界共同投入巨量資料的應用發展。
美國國安局網站違法使用長期性“Cookies”雖然美國政府明文規定禁止聯邦政府機關使用長期性“Cookies”，但國家安全局（The National Security Agency, NSA）近日卻被發現將永久性“Cookies”放置於造訪該網站民眾之電腦之情形，且保存期限長達30年（直到2035年）。 所謂“Cookies”，指於使用者端紀錄該用戶造訪某一網站的過程與從事之活動，以使得下次進行相同網路瀏覽更為容易之工具。例如，透過Cookies紀錄的功能，使用者就可以將帳號與密碼記載於電腦中，再次造訪時即不用再次輸入帳號密碼以提供認證。 根據預算管理（Office of Management and Budget, OMB）於2000年公布之備忘錄Memorandum for the Heads of Executive Departments and Agencies（M-00-13）指出，聯邦政府機關除在於「必要需求」（Compelling need）下，不得使用長期性的“Cookies”。所有留在造訪民眾端的“Cookies”，必需隨著用戶關閉視窗而被消除。 NSA發言人Don Weber表示，NSA網站過去所使用的“Cookies”都是會隨者造訪者關閉網頁即刪除的暫時性“Cookies”，而這次之所以會產生長期性的“Cookies”留存在造訪者端，完全是因為NSA電腦系統更新不小心產生的，並非刻意用來作為監視使用者之工具。但民間團體則表示，這顯示了聯邦政府機關缺乏對於隱私權規範之認知，違反了國家最基本的隱私保護規範還不自知。 目前NSA已修正該程式，並清除了這些長期性的“Cookies”。