日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
2024年7月1日，美國實務界律師撰文針對使用生成式AI（Generative AI）工具可能導致的營業秘密外洩風險提出營業秘密保護管理的強化建議，其表示有研究指出約56%的工作者已經嘗試將生成式AI工具用於工作中，而員工輸入該工具的資訊中約有11%可能包含公司具有競爭力的敏感性資訊或客戶的敏感資訊，以Chat GPT為例，原始碼（Source Code）可能是第二多被提供給Chat GPT的機密資訊類型。系爭機密資訊可能被生成式AI工具提供者（AI Provider）用於訓練生成式AI模型等，進而導致洩漏；或生成式AI工具提供者可能會監控和存取公司輸入之資訊以檢查是否有不當使用，此時營業秘密可能在人工審查階段洩漏。 該篇文章提到，以法律要件而論，生成式AI有產生營業秘密之可能，因為營業秘密與著作權和專利不同之處在於「發明者不必是人類」；因此，由生成式 AI 工具協助產出的內容可能被視為營業秘密，其範圍可能包括：公司的內部 AI 平台、基礎的訓練算法和模型、輸入參數和輸出結果等。惟基於目前實務上尚未有相關案例，故生成式AI輸出結果在法律上受保護的範圍與條件仍需待後續的判例來加以明確。 實務專家提出，即使訴訟上尚未明確，企業仍可透過事前的管理措施來保護或避免營業秘密洩露，以下綜整成「人員」與「技術」兩個面向分述之： 一、人員面： 1.員工（教育訓練、合約） 在員工管理上，建議透過教育訓練使員工了解到營業秘密之定義及保護措施，並告知向生成式AI工具提供敏感資訊的風險與潛在後果；培訓後，亦可進一步限制能夠使用AI工具的員工範圍，如只有經過培訓及授權之員工才能夠存取這些AI工具。 在合約方面，建議公司可與員工簽訂或更新保密契約，納入使用生成式AI的指導方針，例如：明確規定禁止向生成式AI工具輸入公司營業秘密、客戶數據、財務信息、未公開的產品計劃等機密資訊；亦可增加相關限制或聲明條款，如「在生成式AI工具中揭露之資訊只屬於公司」、「限制公司資訊僅能存儲於公司的私有雲上」等條款。 2.生成式AI工具提供者（合約） 針對外部管理時，公司亦可透過「終端使用者授權合約（End User License Agreement，簡稱EULA）」來限制生成式AI工具提供者對於公司在該工具上「輸入內容」之使用，如輸入內容不可以被用於訓練基礎模型，或者該訓練之模型只能用在資訊提供的公司。 二、技術方面： 建議公司購買或開發自有的生成式AI工具，並將一切使用行為限縮在公司的私有雲或私有伺服器中；或透過加密、防火牆或多種編碼指令（Programmed）來避免揭露特定類型的資訊或限制上傳文件的大小或類型，防止機密資訊被誤輸入，其舉出三星公司（Samsung）公司為例，三星已限制使用Chat GPT的用戶的上傳容量為1024位元組（Bytes），以防止輸入大型文件。 綜上所述，實務界對於使用生成式AI工具可能的營業秘密風險，相對於尚未可知的訴訟攻防，律師更推薦企業透過訴訟前積極的管理來避免風險。本文建議企業可將前述建議之作法融入資策會科法所創意智財中心於2023年發布「營業秘密保護管理規範」中，換言之，企業可透過「營業秘密保護管理規範」十個單元（包括從最高管理階層角色開始的整體規劃建議、營業秘密範圍確定、營業秘密使用行為管理、員工管理、網路與環境設備管理、外部活動管理，甚至是後端的爭議處理機制，如何監督與改善等）的PDCA管理循環建立基礎的營業秘密管理，更可以透過上述建議的做法（對單元5.使用管理、單元6.1保密約定、單元6.4教育訓練、單元7.網路與環境設備管理等單元）加強針對生成式AI工具之管理。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
美國音樂授權制度邁向新里程碑：集體授權組織MLC將於後年正式運行！美國「音樂現代化法案」(Music Modernization Act，簡稱 MMA) 於2018年10月由總統川普簽署成為有效法律之後，於今年(2019)9月17日正式對外發布消息，其依照MMA之規定，美國著作權局已於今年7月8日指定由「美國音樂發行協會」(National Music Publishers Association，簡稱NMPA)成立「機械式集體授權組織」(The Mechanical Licensing Collective，簡稱MLC)。NMPA係全美音樂發行商之貿易協會，早於1917年運行至今，現被指定成立MLC，擬於2021年1月正式開始進行全美音樂之「概括授權」(blanket license)，並維運前所未有的「透明化資料庫」，期能對接音樂串流平台，促使音樂作品比對相關著作權之權利人，藉以有效率且準確地支付相關授權金給詞曲創作人和發行人，且串流平台業者只要確實遵守MMA之概括授權與MLC之運作方式，即免於侵權責任MLC之組織體編制與人員名單資訊，亦透明地揭示於官網，其設有MLC董事會(由BMG、SONY、華納音樂等背景之人員擔任)，以及「無人認領授權金監督委員會」、「爭端解決委員會」、「營運顧問委員會」等三個委員會，各委員均由音樂著作權人或詞曲創作等人擔任。 MMA立法之初，試圖創設一全新、單一窗口非營利組織，並建置符合現代科技的數位資料庫，來解決音樂授權的痛點。而今MLC即將於後年1月正式運行，在數位時代借力科技，帶領音樂授權邁向新里程碑！
Ofcom公佈「2014年通訊基礎建設報告」英國電信管制機關Ofcom於2014年12月8日提出第二版通訊基礎建設報告(Infrastructure Report 2014)。依據英國2003年通訊法(Communications Act 2003)規定，Ofcom必須每三年向英國文化、媒體與體育大臣(Secretary of State for Culture, Media and Sport)提出英國電子通訊網路及服務檢討報告，此次報告是在2011年11月第一版通訊基礎建設報告之後，對於英國現有政策施行情況再進行檢討，重點在於檢視目前整體基礎設施建設情形，內容大致可區分為：1. 網路及服務的覆蓋率、成效以及範圍、2. 頻譜使用、3. 基礎設施共享、4. 安全性與彈性。 在未來整體的規劃上，報告指出以下三項是未來決策者可能會面臨的挑戰，在政策推行與改善時應該一併考量。 一、寬頻普及服務義務：在固網寬頻部分，2009年英國政府推行寬頻普及義務(Universal Service Commitment for Broadband)，目前英國超過2Mbit/s的寬頻覆蓋率已達97%，超過10Mbit/s的寬頻覆蓋率則達到85%。在高速寬頻方面，目前已達75%覆蓋率，家戶可接取寬頻速度至少有30Mbit/s。英國政府希望能在2017年使95%可達接取24Mbit/s以上之寬頻。 在行動網路覆蓋率部分，目前英國政府投注一億五仟萬英鎊在新的基礎建設上，希望將行動網路覆蓋率普及於未有服務的家戶，並配合其他政策增加覆蓋率，例如以漫遊、靜態基礎設施共享或MVNO業者來完成。 二、新科技廣泛運用於市場：目前，手機營運商積極推展4G服務，希望終端用戶能達98%之覆蓋率。但在推行之際，尚需要政府的補助，以及法規政策的調整。 三、檢視未來基礎建設的發展：為促進不同科技產業的發展，對固網與行動寬頻速度不斷地進行改善仍為現階段重要的推行項目。因此，應定期依據市場的供需，持續進行政策上的調整。 此外，報告指出，將來在前述三項主要政策推行目標上，除了考量基礎建設應達成的網路速度以外，符合民眾需求的品質經驗等因素亦應一併在政策施行之時納入考量。Ofcom提出之報告重點在於能提供目前英國通訊基礎建設政策推行時之參考指標，此在後續我國的通訊基礎建設方面，亦能做為參酌，以因應物聯網或其他新興科技的迅速發展。