日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
2015年9月25日，聯合國發布「2030永續發展議程（2030 Agenda for Sustainable Development）」，強調科研創新是推動永續發展願景的核心關鍵（STI for SDGs），透過科學（Science）、技術（Technology）、創新（Innovation）三項STI指標以落實各國永續發展目標（Sustainable Development Goals，簡稱SDGs）。又為達成科研創新推動永續發展目標，必須建立技術促進機制（Technology Facilitation Mechanism, TFM）， TFM主要透過聯合國成員國、民間社會、私營部門、科學界及其他利益相關方間的經驗分享與合作，由三部分組成包括：聯合國跨機構任務小組（Inter-Agency Task Team, IATT），科學、技術、創新促進永續發展目標多方利害關係人論壇（Multi-stakeholder Forum on science, technology and innovation for the sustainable development Goals, STI Forum），線上平台（online platform）。 其中，聯合國跨機構任務小組（IATT）於2019年6月擬定的「科學、技術和創新促進永續發展目標路線圖（Science, Technology and Innovation for SDGs Roadmaps, STI for SDG Roadmap）」，邀請各國參與試點計畫，協助國家檢視現有科研創新政策需求、掌握未來科研發展趨勢與可能面臨的挑戰與機會，乃協助政府決策的科技前瞻支援工具，藉此達成STI for SDGs科研創新政策與永續發展目標間之平衡。關於國家科研創新路線圖規畫方法論，可以區分為基礎（Foundation）、調適（Adaptation）、整合（Integration）三部分：盤點各國現有科研創新政策需求，歸納與SDGs間落差；嘗試將SDGs理念注入政策目標，建構符合SDGs的科研創新規範與政策監管標準；運用科技前瞻方法掌握未來發展趨勢，研擬對策並面對挑戰。
歐盟資料治理規則提出資料利他主義制度以利於公益目的之利用歐盟於2022年5月30日正式簽署通過「資料治理規則」，同時引入（EU）2018/1724修正案（REGULATION (EU) 2022/868 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on European data governance and amending Regulation (EU) 2018/1724），針對資料中介組織及資料利他主義組織業務啟動、營運等註冊程序進行補充。 資料治理規則也通稱為資料治理法（Data Governance Act, DGA）。DGA以建立一個可信賴的資料流通環境，達成資料的可利用性，以促進資料可用於各項研究以及創新的商品和服務為目標。 DGA中，特別引人注意的是第四章「資料利他主義」（Data altruism）的提出。依據資料治理規則第二條，所謂的資料利他主義係指資料主體基於自願且無償的情況下，同意他人得處理或利用其所持有的個人資料；或資料持有者在不尋求補償的情況下允許他人得利用其所有的非個人資料（non-personal data）。而這些資料利用的目的是以實現公共利益為目標，例如醫療保健、解決氣候變化、改善交通、促進公部門統計資料的產製與應用、改善公共服務、制定公共政策，或是科學研究等。 為利於資料利他主義的落實，歐盟希望有明確的的制度設計，藉以促成更多資料主體或資料持有人，在有足夠信任的基礎下，願意將資料無償提供並進行公益目的之利用，進而實現改善生活的目標。 因此，DGA中提出以下作法： 制訂「歐洲資料利他主義同意書」（European data altruism consent form）：該法授權歐盟執委會應在諮詢過歐盟資料保護委員會（European Data Protection Board）以及考慮過DGA新設之歐盟資料創新委員會（European Data Innovation Board）的意見後，制定統一的「歐洲資料利他主義同意書表格」。以此增加資料主體對於資料授權的信任，提高資料主體同意將資料釋出與流通再利用之意願，並為授權或撤銷同意建立法遵明確性。 資料利他主義組織（data altruism organisations）管理機制： (1) 資料利他主義組織採自願註冊制度，而非許可制。在資料利他主義於符合形式登記要件後，並符合非營利、透明性以及滿足保障民眾權利等要求後，於其所屬會員國中註冊以成為公認（recognised）的資料利他主義組織。採自願註冊而非許可制的目的，是希望先以管制密度較低的方式，鼓勵更多組織投入資料利他主義的推動。 (2) 給予已註冊之資料利他主義組織識別標誌：透過相關的認可機制並授予識別標誌，藉此提高資料利他主義組織的可辨識度與信賴度，讓民眾在選擇合作的組織時有所依循。 (3) 透明度要求：為了增加資料主體或資料持有者對該組織的信任度，歐盟也將對資料利他主義組織進行一定程度的監督管理，例如年報編列與管理、是否以清晰易懂方式通知資料主體或資料持有者其資料被利用的目的、需保留資料利用之所有紀錄等。此外，也需要遵守DGA授權歐盟執委會未來訂定的相關補充規範。 整體而言，歐盟將資料利他主義的公益精神經由法制化的方式納入歐洲資料治理規則，透過歐洲資料利他主義同意書以及資料利他主義的相關管理規範，降低溝通成本以及建立信任基礎，以增加資料釋出的可能性，進而提升資料被利用的程度，最終達成改善人類福祉的目標。
德國隱私保護機構指稱Facebook實名制違法Facebook之實名制政策禁止用戶使用假名，此一行為已遭德國隱私保護機構禁止。德國Schleswig-Holstein邦的資料保護中心組織（Office of the Data Protection Commissioner，簡稱ULD）控訴臉書「實名制」已違反德國電信媒體法(Telemediengesetz)。依據德國「電信媒體法」規定，只要匿名的使用具有技術上之合理性及可行性時，服務供應商必須允許用戶採用假名，惟Facebook的實名制政策卻禁止用戶使用假名。資料保護中心表示，Facebook要求用戶註冊時須填入真實姓名，違反德國電信媒體法第13條第6項。ULD表示，為確保網路用戶權利及遵守網路保護法，臉書應立即終止實名制的執行。Facebook發言人則對ULD指控不以為然，主張「服務供應商有權在現行法律下自行決定所採取之匿名政策」，並表示Facebook採取實名制係為保護社群安全，若發現用戶使用假名將刪除帳號。Facebook發言人認為「這只是在浪費德國納稅人的金錢！此法律之指控毫無意義，同時我們也將據理力爭。」Facebook認為，實名制是該網站經營之重要機制，除了能與其他社群網站做出明顯的市場區隔外，更能積極保護用戶的個人資料。
何謂美國NITRD計畫 ?美國NITRD計畫係指支持「網絡運作與資訊科技研發計畫(Networking and Information Technology Research and Development，NITRD)」之政府補助計畫。美國國會推動所謂的「網絡運作與資訊科技研發現代法(Networking and Information Technology Research and Development Modernization Act)」新法案，藉此取代1991年通過的高速運算法(High Performance Computing Act)，進行現代化修法。新法將用來繼續支持「網絡運作與資訊科技研發計畫(Networking and Information Technology Research and Development，NITRD)」之政府補助計畫，統整21個聯邦行政機關用於發展資通訊科技之業務與預算，提升政府整體效率。藉由補助學校之外，以公私協力之方式補助企業發展非加密網路、電腦、軟體、資安及相關資訊科技，將藉由加速基礎建設發展，強化資安和隱私保護之資通訊科技。但補助主軸將取代舊法對高速運算電腦研發之重視，轉為重視發展虛實融合系統(Cyber-Physical System，CPS)，以利鋪設大數據或物聯網發展所需之資通訊科技基礎建設。而這些資通訊科技的重要性不僅只是影響一般的資通訊科技發展，更能協助其他許多科技及工程領域加速發展，包括從太空科技到生技研發等。