日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
歐盟委員會在2007年03月09日，發佈了具現代化的統一文案：「電視無疆界指令」。在經過歐盟議會以及首長會議一讀後，委員會對於歐洲相關視聽的未來法律框架，有了廣泛的共識。 加速1989年電視無疆界指令的現代化，是2005年12月13日由委員會提出，目的是希能夠幫助歐洲視聽產業能更具競爭力，也期望透過對傳統電視廣播業者更彈性的規範，使其能夠因應技術的發展，接受新的技術，也能因應市場變化以及閱聽者收視習慣的改變，進一步創造新興的視聽媒體服務（數位電視中的視聽服務、行動電視、隨選視訊服務）。 除了新的規範內容，新指令還重申了自1989以來，一直為歐洲視聽政策核心的共同政策目標。這些目標包括尊重多元文化、要求各會員國採取適當措施來保護未成年人、媒體多元化、打擊種族和宗教仇恨等。此外，也明確鼓勵業者自律以及國家與非國家間的相互約束。整個新指令的文案目前正進行二讀中。
德國新營業秘密保護法—契約擬定「禁止逆向工程」條款建議德國新營業秘密保護法(The new German Trade Secrets Act, TSA)其中一個亮點即為：除非有明確契約或其他法規要求，逆向工程是合法的，其規範於該法第3條第1款，德國以往舊法（不正競爭防止法）並未特別明文，我國營業秘密法亦同。現今企業應盡快透過調整契約內容、保密政策或保密技術來防止該類法所「允許」之情形發生[1]，以避免供應鏈間之風險。德國法律專家提出有關「制定合作契約」建議供參： 禁止條款應有期間明文：契約起草禁止逆向工程條款時需注意其法律效力。法明文允許進行逆向工程，也代表著可促進企業市場參與並能從現有技術中受益做進一步發展。如契約一律禁止形同限制經濟自由，無論該條款訂於平行契約（如研發契約）或於垂直契約（如授權契約），往後遇有爭議恐被法院認為條款無效。故可折衷於「期間」加以限制，禁止逆向工程直到產品或服務上市為止，基本上企業只有在確信可以收回成本情況下才會投資於新技術開發。合理而言應在產品或服務公開上市後，才可以對產品或服務進行逆向工程。 注意誠實信用原則並延長條款效力：現行法就禁止逆向工程與否可由締約雙方協議。該禁止條款並不當然有違德國民法第307條第2項誠實信用原則而不利益於締約雙方之情況。但為避免仍有違誠實信用原則疑慮，契約可明確約定於產品或服務上市前不限制締約人使用相對人產品或服務並從中發現技術或資訊，也確保該期間內營業秘密所有權人之營業秘密專有權。合作契約亦可約定禁止條款於契約提早終止一定期間內仍有效。 [1]Dr. Henrik Holzapfel，New german law on the protection of trade secrets, https://www.mwe.com/insights/new-german-law-protection-trade-secrets/ (last visisted Sep.25,2019).
日本內閣府公開徵集「研究安全和風險管理系統開發支援計畫」，加強研究安全保障日本內閣府公開徵集「研究安全和風險管理系統開發支援計畫」，加強研究安全保障 資訊工業策進會科技法律研究所 2025年03月10日 壹、事件摘要 內閣府科學技術創新推進事務局（科学技術・イノベーション推進事務局），於2025年2月19日發布公告，自2025年2月19日至3月24日公開徵集國內負責經濟安全重要技術的補助機關和研究機構加入「研究安全和風險管理系統開發支援計畫」 [1]（研究セキュリティ・インテグリティに関するリスクマネジメント体制整備支援事業，下簡稱研究安全計畫），以加強研究安全之保障。 貳、重點說明 日本曾發生研究者在不知情的情形下與北韓研究者共著論文而危害研究安全事件，根據日本經濟新聞2024年11月28日報導，自2016年底北韓受到聯合國加強制裁以來，共有八篇北韓研究機構的國際共著論文發表，包含東京大學、名古屋大學等日本五所大學的研究者皆在共同著作者之列，雖研究者皆表示與北韓無聯繫，但此行為仍可能違反聯合國制裁規定，且一名涉及本事件的研究者在論文發表後，仍被任命為國內主導研究計畫的主持人，負責百億日圓預算及先進技術的管理，顯示日本研究安全管理問題[2]。 為避免類似事件發生及提升日本科技實力，以及配合G7國家關於研究安全與誠信的政策，內閣府公開徵集負責經濟安全重要技術的補助機關和研究機構加入研究安全計畫。該計畫將蒐集與分析國際合作研究所需的公開資訊，並整合後於2025年出版「研究安全與誠信程序手冊」（RS/RI に関する手順書）。 所謂經濟安全重要技術，係指《促進特定重要技術研發及適當運用成果基本指南》（特定重要技術の研究開発の促進及びその成果の適切な活用に関する基本指針）所列，包含AI、生物技術等先進技術領域[3]，內閣府將透過此計畫驗證學研機構所實施之研究安全與誠信措施是否得宜，並與學研機構分享典範實務，參考政府制定的研究安全與誠信規範，提出分析與改善方法。 研究安全計畫將支援日本國內研究機構和其他處理對經濟安全重要技術的機關，在國內外開展聯合研究時採取必要的技術外流防止措施，一方面提供分析資源，如協助分析研究人員及研究機構的公開資訊（職業經歷、其他工作以及研究資金流向等），另一方面支援實施風險管理的相關費用，並針對整體防止技術外流的風險控管體系進行評估後給予建議[4]。 研究安全計畫參與對象為補助研發之機關及領取補助進行研究開發的機構（如公立研究機構、研究開發公司、大學等），且應有足夠能力執行完整風險控管計畫。另計畫評選期間，研究機構不得有內閣府所定停止補助、停止推薦等情形[5]。 內閣府為結合國家政策與國際標準，全面提升日本在經濟安全重要技術領域的研究安全與誠信管理能力，透過分析與資金支援，協助研究機構構建完善的風險控管體系，確保研究中的技術外流防範措施得以落實。此舉不僅為日本科技實力的長期發展奠定基石，亦為維護國家經濟安全及國際信譽提供堅實保障。 參、事件評析 近年研究安全成為國際間之重要議題，為防止技術外流，各國亦有許多政策，如美國國家科學基金會（National Science Foundation, NSF）啟動「保護美國研究生態系統社群 」[6]（Safeguarding the Entire Community of the U.S. Research Ecosystem, SECURE）計畫，並成立 SECURE 中心；加拿大政府公告「三機構關於敏感技術研究和關注從屬性政策指南」[7]（Tri agency guidance on the Policy on Sensitive Technology Research and Affiliations of Concern, STRAC Policy）等，在如此趨勢下，日本亦開始注重研究安全之保障。 日本內閣府此次推動研究安全計畫，顯示日本政府已深刻意識到研究安全議題的迫切性與重要性。隨著全球科技競爭日益激烈，國際間的技術交流與合作頻繁，但也伴隨著技術外流、竊取敏感研究資訊等風險。尤其是北韓等受國際制裁國家，可能透過隱匿身分或間接合作的方式，取得敏感資訊，對國際社會的安全構成潛在威脅。 日本政府推動研究安全計畫，透過提供分析資源、資金支援及風險控管體系的評估建議，協助研究機構建立完善的防範機制，期望透過以上防範機制，全面提升日本在研究安全管理能力，並確保技術外流防範措施得以落實。 然而，此計畫的推動仍存在一些挑戰與考量。首先，如何在確保研究安全與維護學術自由之間取得平衡，避免過度限制造成研究自主性與創新能力的損害，將是重要課題。此外，背景審查與資訊分析機制的建置，需注意個人隱私保護，避免引發研究人員的反彈與抵制。再者，國際合作研究的審查程序若過於繁瑣，也可能影響日本研究機構與國際間的合作意願，甚至對國際學術地位造成負面影響。 因此，日本政府在推動此項政策時，應積極參考美國、加拿大等國的經驗，建立透明且具彈性的管理制度，並與國際夥伴保持密切溝通，協調一致的研究安全標準，避免孤立於國際科研社群之外。綜上所述，日本此次行動對於提升國內研究安全與誠信管理能力，並維護國家經濟安全，具有正面且積極的意義，未來仍需持續關注政策推行的成效與後續調整方向，以達成長期穩健的發展目標。 [1]〈研究セキュリティ・インテグリティに関するリスクマネジメント体制整備支援事業の公募について〉，內閣府，https://www8.cao.go.jp/cstp/kokusaiteki/integrity/kobo_r7.html （最後瀏覽日：2025/3/10）。 [2]日本経済新聞，〈東大など5大学、知らずに北朝鮮と共同研究 ｢寝耳に水｣〉， 20254/11/28，https://www.nikkei.com/article/DGXZQOUE293WI0Z20C24A1000000/ （最後瀏覽日：2025/3/10）。 [3]〈特定重要技術の研究開発の促進及びその成果の適切な活用に関する基本指針〉，內閣府，https://www.cao.go.jp/keizai_anzen_hosho/suishinhou/doc/kihonshishin3.pdf （最後瀏覽日：2025/3/10）。 [4]〈研究セキュリティ・インテグリティに関するリスクマネジメント体制整備支援事業公募要領〉，內閣府，頁3，https://www8.cao.go.jp/cstp/kokusaiteki/integrity/kobo_r7/kobo_r7.pdf （最後瀏覽日：2025/3/10）。 [5]同前註，頁4。 [6]NSF-backed SECURE Center will support research security, international collaboration, US National Science Foundation, https://www.nsf.gov/news/nsf-backed-secure-center-will-support-research (last visited Mar. 10, 2025). [7]Tri-agency guidance on the Policy on Sensitive Technology Research and Affiliations of Concern (STRAC Policy), Natural Sciences and Engineering Research Council of Canada, https://www.nserc-crsng.gc.ca/InterAgency-Interorganismes/RS-SR/strac-rtsap_eng.asp (last visited Mar. 10, 2025).
美國資訊安全分析新挑戰：巨量資料（Big Data）之應用在2013年的國際資訊安全會議（RSA Conference）上，資安專家紛紛表示，將Big Data技術應用於資訊安全分析的項目上，確實可以幫助企業建立更佳的情勢判斷能力，但在實際執行過程中是一大挑戰。 資安廠商如RSA和賽門鐵克公司，在會議上表示目前的策略是透過新的數據匯集、比對和分析協助企業篩選、過濾結構化和未結構化資料的威脅指標，這是傳統的特徵偵測（signature-based）安全工具無法做到的。 不像傳統的安全手段著重於阻斷攻擊，新的技術強調偵測並立即回應違犯行為，也就是提前遏止任何違犯行為，協助企業作全面性的偵測而不擔心有所遺漏。 由於越來越多的美國政府機關和民間企業遭受到針對性和持續性的攻擊，巨量資料技術的應用需求激增。企業內部都累積著大量的數據和多元的數據種類，而需要動新技術來保護這些數據資料免於惡意人士或對手的竊取或其他侵害行為。企業應該要因應實際面臨的威脅和所獲悉的威脅情報來建立安全模型，取代部署特定產品和外圍系統的防禦。 美國無論是政府機關或民間企業都被捲入了不對稱戰爭-對手是武器精良、準備充分並有嚴密組織的網路敵人。 「駭客只需要攻擊成功一次，但我們必須每次都是成功的」賽門鐵克的總裁deSouza表示。「因此與其專注的在阻擋所有威脅，更好的辦法是使用巨量資料技術偵測侵入行為並消解之」。而在會議中資安專家都肯認至少從理論上來說，以巨量資料技術強化資訊安全是很好的想法。 不過另有其他的說法，金融服務企業LSQ的首席安全及法務主管皮爾遜認為，許多人的電腦紀錄檔和所有的電子裝置都早就被侵入滲透了，這才是問題所在。他表示，目前現存的SIEM（安全性資訊及事件管理）工具可以讓企業聚集來自許多個安全設備的巨量登錄數據整合在同一系統內，但真正的問題是，SIEM工具必須要有能力分析數據並找出關聯性，如此才能偵測到駭客入侵的前兆證據和真實的入侵行為，這和彙整數據是不同的兩件事。許多企業所面臨的問題不是缺乏數據資料，而是要如何為資訊安全的目的建立關聯規則和應用方式，以有效率的方式找出有用的巨量數據並進行分析，和留下可供進行訴訟使用的證據。