日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
為保護青少年使用網路安全，避免性侵害犯罪者透過社交網站誘拐進而性侵未成年人，亦為提升警方追捕及起訴性侵害犯罪者的效能，美國49州及哥倫比亞特區執法當局與美國最大的社交網站 MySpace，在歷經了2年時間的討論後，於今年1月對外共同宣佈一項「社交網站重要安全原則之聯合聲明(Joint Statement on Key Principles of Social Networking Sites Safety)」，並計劃將此一原則陸續推廣於其他類似社交網站。 於該聯合聲明中，MySpace首先同意組織一個網路安全技術的專門小組，承諾研發線上身份認證技術和其他線上安全工具，以創造一個安全的線上社交環境，而該網路安全小組成員包含網路公司代表、身份認證專家、非營利組織成員，以及其他科技公司代表等。MySpace並允諾設計並落實相關技術與功能，以防止14歲以下的兒童使用MySpace網站，及避免青少年從MySpace網站上接收到不適當的內容、或有機會與成人不適當的接觸。另MySpace社交網站亦將透過網站經驗分享、提供父母免費的監控軟體、兒童郵件註冊等方式，教育父母、教育家和兒童安全和負責的社交網站使用態度。MySpace社交網站的營運者更同意與執法人員共同努力，提升調查和追訴網路犯罪行為的效能，為此MySpace將建立一個24小時的免費諮詢電話，以回應執法人員辦案上的需求。
電信業者提供視訊服務之外國法制研析 美國FCC公布網路中立規則，確保網際網路自由與開放美國「聯邦通訊委員會」（Federal Communications Commission，FCC）於2010年12月21日表決通過「網路中立性」（Net Neutrality）規則，確保網際網路的自由開放，限制網路服務提供者（ISP）不得針對網路流量與內容進行不合理的管制，保障消費者權益、意見表達的自由、網路服務的競爭與創新。 網路中立性爭議由來已久，自2005年FCC公布網際網路政策聲明以來，對於管制機關是否介入ISP對於網際網路流量與內容之管理，一直爭執不斷。網路上服務與內容的創新驅動寬頻網路的發展，寬頻網路的普及又促進更多的創新與投資，在此時，寬頻網路壅塞的問題也日益嚴重，寬頻ISP為了確保競爭優勢，開始針對網路的流量進行管理，投入新技術建立網路流量的優先權與過濾機制中。 為了避免ISP管理網路的行為影響網路的競爭與創新發展，FCC自2009年開始探討網路中立性之管理規則。 本次公布之網路中立性規則包含五個部分： 1. 透明度（Transparency）： ISP應公開揭露關於網路管理的資訊，包含網路接取服務之管理措施、商業條款，提供消費者及上下游業者做出適當的選擇。 2. 禁止封鎖（No Blocking）行為： 不得任意封鎖使用者及其他網路服務或內容提供者合法使用、接取網路的權利，凡是合法的內容、服務、應用等，皆不得被阻止。 3. 禁止不合理差別待遇（No Unreasonable Discrimination）： 不得無故對於消費者接取網路之內容與流量進行差別待遇。 4. 定義合理的網路管理行為（Reasonable network management）： 合理的網路管理包括：確保網路的安全與完整、解決網路壅塞的狀況、基於消費者自願的控制與過濾機制。 5. 區分無線行動網路與特殊服務 考量無線行動網路在速度、容量上與固定網路的差異，FCC制訂相關量測的規範，在合理網路管理的條件上，無線行動網路與固定網路將有不同的管制密度。 而FCC也將區分網路特殊服務，有別於單純的寬頻接取服務，特殊服務是在基礎網路上提供主要專業用途的服務，例如VOIP或視訊服務（IPTV），以促進更多元的私人網路投資與更創新的網路服務發展。 新的網路中立性規則仍然受到許多的批評，倡議者認為FCC宣示的管制強度太低，ISP有可能以各種手段迴避管制，公眾利益團體亦認為FCC未禁止「付費優先權」（Pay for priority），將使網際網路出現「高速/慢速」的不公平狀況；而反對者則認為FCC的管制將影響網路的創新服務發展，不利未來的投資。然而無論如何，這仍是在Comcast案受挫後，FCC維護網際網路的開放性所重新邁出之重要一步。
何謂防禦型聯盟（Defensive Patent Aggregator）?其是否為NPE的重要類型?防禦型專利聯盟係為NPE之一種重要類型，主要以抵制NPE侵擾為出發點，防禦型聯盟儘可能搶先攻擊型如NPE者去進行專利的授權或購買，加入防禦型聯盟者則可付出比與NPE進行和解所支付費用較少的金錢，成員其會員以取得不被NPE侵擾的地位。 NPE中屬於防禦型聯盟（Defensive Patent Aggregator）者，RPX（Rational Patent）之運作模式常可作為主要類型化參考對象之一。RPX為上市公司，其主要核心業務在於「緩和其會員被訴之可能」。RPX取得專利之資金主要來自會員年費，而各會員可取得RPX所有專利之「授權」，而收費結構不當然等於獲取專利之成本之分攤，以使會員已低於一般訴訟和解、或取得爭議專利等更為低的代價來防止被訴。在此同時，RPX本身也不會對他人起訴。 RPX所提供的防禦性聯盟策略，先行於其他NPE取得前那些潛在「危險性」的目標專利，甚至有可能向NPE取得專利，必要時，直接於訴訟仍在進行之時去取得專利。而在防禦以外，如其他非會員向會員起訴，會員也可以以RPX所有之專利進行反訴。 目前RPX會費在6萬5千美元至6900萬美元之間，依照會員本身營運規模之不同定之，但「會費等級」（rate card）會自加入之初鎖定不再更動，實際每年繳交費用則可能依據RPX所取得的所有專利價值增加而上昇 。而除此主要運作模式外，RPX也運用其廣泛取得專利之經驗，提供個別企業服務服務，得以較低的躉售價格取得專利（Syndicated Acquisitions），反之企業自行購買專利可能需要付出較高的「零售」價格 RPX的運作模式對於加入成為其「會員」者有兩項優勢：第一，減少「專利蟑螂」可取得的專利數量；其次，因可理解為全體會員合力進行防禦型專利取得故能減低這些專利取得之成本。