日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國環境保護署（Environmental Protection Agency，以下簡稱EPA）於2010年9月17日聯邦政府公報中，依據毒性物質管制法（Toxic Substances Control Act，以下簡稱TSCA）section 5(a)(2)授權，發布了顯著新種使用規則（Significant New Use Rules，以下簡稱SNURs）的最終規則（final rule）。此項規則於2010年10月18日生效，任何想要製造、輸入以及加工單壁奈米碳管（single-walled carbon nanotubes，以下簡稱SWCNTs）及多壁奈米碳管（multi-wall carbon nanotubes，以下簡稱MWCNTs）兩項化學物質者，必須依照TSCA section 5(a)(1)要求，在進行上述利用活動的至少90天前，報經EPA核准，否則不得使用。 事實上，EPA曾於前（2009）年6月24日發布上述SNURs的直接最終規則（direct final rule），徵詢公眾意見，並在同年8月21日撤回該規則。在重新提案的規則中，主要是新增SWCNTs、MWCNTs釋放於水中的顯著新種使用態樣，並將已完全反應、結合或嵌入已完全反應之聚合物基（polymer matrix）以及嵌入不再進行機械加工外其他處理之永久硬性聚合物形式（permanent solid polymer form）之SWCNTs、MWCNTs物質，排除在新SNURs適用範圍之外。 目前，依照TSCA section 5(e)之規定，若系爭之化學物質已列名於TSCA section 8(b)所建立之現存(existing)化學物質目錄(INVENTORY)中，其他化學物質生產者欲生產該種化學物質時，並不需再向EFA進行通報程序。然而，若EFA對該列名之化學物質曾發出TSCA section 5(e)下之具風險性命令(risk-based order)，則相關之化學物質生產者須於生產前依據TSCA section 5(a)(2)規範中之SNURs規定通報EFA，使得EFA於生產前仍有再次檢驗該系爭化學物質的機會。 這一次，EPA以制訂SNURs之方式，要求所有製造、輸入、加工該項化學物質者，有義務通報任何與原同意命令所定條款不同的使用活動。這樣的規範變動，預計將對奈米材料的製造及運用活動造成不小的影響。
日本內閣府召集研究小組 解決因AI帶來之智財問題日本內閣府組成「AI時代的智慧財產權研討小組」，由東京大學副校長渡邊敏也作為主席於今（2023）年10月4日召開首次會議，為討論生成式AI（人工智慧）發展帶來的智慧財產權問題。討論主題包括法規範現況、在人類參與有限的情況下由生成式AI所產出之發明是否可以申請專利等，目標於年底前彙整、蒐集企業經營者待解決議題。亦將從其他法律的角度進行討論，例如：AI模仿商品形態是否亦受到日本《不正競爭防止法》之拘束；AI與專利之間的關係，依據日本《專利法》，專利權目前僅授予個人參與創造過程的發明，隨著AI技術的發展，預計會出現難以做出決策的情況，將討論諸如取得專利所須的人類參與程度等問題；以及擁有大量資料的權利持有者向AI開發者提供有償資料的優缺點。與會專家表示，希冀看到從鼓勵利用AI進行新創作和發明之角度出發。日本文化廳和其他相關組織亦同步討論AI生成的作品，若與現有之受著作權保護的作品相似時是否會侵害著作權之議題。 日本內閣府早先於今年5月公布「AI相關論點之初步整理」（AIに関する暫定的な論点整理），我國行政院於今年8月31日正式揭示國科會擬定之「行政院及所屬機關（構）使用生成式AI參考指引」草案，我國經濟部智慧局亦規劃研擬就AI生成物是否享有著作權或專利權、訓練資料合理使用範圍、企業強化營業秘密保護等3大面向建立AI指引，國內外AI相關指引議題均值得持續追蹤瞭解。另，企業無論是擔憂AI技術成果外洩、不慎侵害他人智財權或智財成果被生成式AI侵害之虞等，因應數位化趨勢與數位證據保全而應強化相關管理措施，資策會科法所發布之《營業秘密保護管理規範》、《重要數位資料治理暨管理制度規範(EDGS)》協助企業檢視自身管理措施之符合性並促進有效的落實管理。 本文同步刊登於TIPS網（https://www.tips.org.tw）
何謂英國金融科技創新計畫( Project Innovate )？為了全力打造英國成為「FinTech 全球領導者地位」，及引領FinTech 國際監管規則的大國，英國金融業務監理局（Financial Conduct Authority, FCA）於2014年10月啟動了金融科技創新計畫（Project Innovate），目的就是能夠追蹤進入金融市場的新興商業模式，其中最重要的建立監理沙盒制度（Regulatory Sandbox），旨在提供企業可以在安全空間內對創新產品、服務、商業模式等進行測試，而不會立即招致參與相關活動的所有監管後果。 金融科技創新計畫增設創新中心（Innovation Hub），為創新企業提供與監管對接等各種支持。 金融科技創新計畫通過促進破壞式創新鼓勵挑戰現有的商業模式，而創新中心主要透過政策與金融科技業者交流，了解是否監管政策能夠更好的支持創新。
美國新一代公共安全無線寬頻的應用公共安全和國土安全局(PSHSB)局長傑米．巴尼特(Jamie Barnett)於2011年3月16日與美國聯邦通訊傳播委員會(Federal Communication Commission)分別先後宣示將更近一步加強國家寬頻計畫(The National Broadband Plan)中寬頻通訊科技在公共安全層面的應用。其具體落實在成立國家級的緊急反應互動中心(The Emergency Response Interoperability Center, ERIC)。該中心利用700 MHz頻段成立全國性的公眾安全無線網絡。 促進公共安全無線寬頻通訊的使用，是公共安全和國土安全局最主要的任務。透過建立互動式公共安全寬頻無線技術的操作框架，使警察、消防及緊急醫療人員可使用到最先進的數位式寬頻通訊技術。配備可在任何時間、地點即時傳輸資訊的薄型智慧電話，替代傳統上所使用的對講機。 其次為發展下一代的911通報網絡。目前大約70%的911通話來自手機，可是大多數的911電話通報中心，並沒有配備可接收目前主流行動通訊使用者所傳送的簡訊、電子郵件、視訊或照片的設備。新一代的查詢通知系統(Notice of Inquiry，NOI)可取代傳統的電話，使公眾透過先進的通訊科技獲得緊急救助。雖然精確定位裝置並不在整個系統之中，但通過行動通訊業者所提供的數據，仍可定位需救助者的方位。 美國將寬頻通訊科技落實在公共安全層面的應用，將有助於其提升整體緊急救護的效率。