日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
歐盟執委會（European Commission，下稱執委會）於2020年底提出數位服務法（Digital Services Act，DSA）以及數位市場法（Digital Market Act，DMA），而歐洲議會（European Parliament）最終於2022年7月5日以壓倒性的多數決通過上述法案，待歐盟理事會（Council of the European Union）核准通過後，法案將在公告於歐盟官方公報（EU Official Journal）後20天生效，並分別依規定時間開始適用。歐盟理事會已於2022年7月18日率先核准通過DMA，並正進行登載公報相關程序，DMA將於生效日起六個月後開始適用。以下將簡述兩法案主要內容： 1.數位服務法（DSA）：主要係處理線上非法內容、不實資訊以及其他社會風險等散播問題。依DSA，數位服務提供者於其服務或交易平台應針對涉及侵害基本權之非法內容即時採取反制措施、強化平台交易者之查核並提高可追溯性、增加平台的透明度及有責性，並應禁止具誤導性及部分特定類型之定向廣告，如針對兒童的廣告或以敏感資訊為基礎的廣告等。 2.數位市場法（DMA）：要求大型的主流線上平台於數位市場擔任「守門人」（gatekeeper），以確保消費者有公平的交易環境。守門人應與第三方交互使用服務，並使商業用戶得存取於其平台所生之資料，且不得：在其平台的檢索（index）與索引（crawl）相關排名中自我偏好（self-preferencing）自身產品及服務、令使用者難以卸載預先安裝之軟體或應用程式、以廣告為目的利用使用者個資。值得注意的是，執委會得對違反DMA規定之守門人處以其最高全球總營收10%的罰鍰，累犯者之罰鍰上限將提高至年度營收的20%。
日本國土交通省公布「道路設置電動車充電設施指引」，促進電動車普及國土交通省於2023年5月12日公布「道路設置電動車充電設施指引」（電気自動車等用充電機器の道路上での設置に関するガイドライン，簡稱本指引），回應經濟產業省於2021年6月所公布「2050年伴隨碳中和之綠色成長戰略」（2050年カーボンニュートラルに伴うグリーン成長戦略），加速電動車充電設施建置，以達推動電動車普及之目的。依日本《道路法》第32條規定，在道路上或路邊設置充電設施，需向地方行政機關申請設置許可，故本指引整理機關審查時應注意事項，重點如下： 一、充電設施設置場所：應注意是否配合當地需求整合停車場，並應考量行人、自行車、車輛等之通行動線，避免影響用路人通行。 二、審查標準：審查時需注意充電設施本身與所在位置之安全性；申請人是否具備管理、維護充電設施之能力；充電設施是否提供不特定多數人使用；充電設施設置期間以5年為原則，期滿應回復原狀等。此外，若申請人係出於營利目的申請設置充電設施，應限於設置地點不會顯著影響交通或道路完整性，且可增進用路人便利等情形。 三、其他：為確認充電設施安全性，地方行政機關可額外要求申請人提出文件說明，但應避免造成申請人負擔。
英政府推動開源碼計劃由英國政府所資助成立的一項計畫，希望透過開放原始碼廠商目錄及程式碼資料庫的建立等措施，加速公家單位對開放原始碼軟體的採用。這項名為「開放原始碼學院」（ Open Source Academy ）的計畫，是由副首相辦公室（ Office of the Deputy Prime Minister ）的電子創新投資計畫所贊助，預計在本月內將正式宣佈。 參與該計畫的開放原始碼協會（ Open Source Consortium ）執行總監表示，英國的公家機關在開放原始碼的採用上落後於歐洲各國，而這項計畫將改變目前的現況。地方政府已經可以透過網站開始分享程式碼，例如「地方政府軟體協會」（ Local Authority Software Consortium ）的網站。這項計畫裡的其他專案還包括了政府機構的入口網站計畫，可藉以尋找開放原始碼供應商的資訊；以及開放原始碼顧問的專業鑑定模式。
日本公布新創事業與廠商合作之指針草案，統整雙方不對等契約關係之問題並提出改善建議日本經濟產業省、公平交易委員會及特許廳於2020年12月23日發布「Startup與廠商合作之相關指針」（スタートアップとの事業連携に関する指針）草案，並自同日起至2021年1月25日止向外徵求公眾意見。近年，日本國內一方面看重新創事業與大型企業合作所帶來的優勢；另一方面，在此種合作關係下，雙方的契約關係亦浮現如名為共同研究、卻由大型企業方獨占專利權等問題。基此，配合2020年4月未來投資會議的決議要求，統整新創事業與大型企業間不對等契約關係的問題與提出改善建議，並參考同年11月公平交易委員會所發布的「Startup交易習慣之現況調查報告最終版」（スタートアップの取引慣行に関する実態調査について最終報告），擬定本指針草案。 本指針主要著眼於新創事業與企業間的保密協議（Non-disclosure agreement, NDA）、概念驗證（Proof of Concept, PoC）契約、共同研究契約與授權（license）契約等四種契約類型。除了統整包含訂約階段在內的各種問題實例、以及日本獨占禁止法（私的独占の禁止及び公正取引の確保に関する法律）對此的適用現況外，亦提出了相應的改善與解決方案。舉例而言，指針草案指出，新創事業可能會被合作廠商要求對其公開營業秘密，卻未能簽訂保密協議。對此，合作廠商即可能構成獨占禁止法上濫用其優勢地位之行為。會造成此狀況發生的實務情境，可能為合作廠商承諾事後會簽署保密協議，但要求新創事業先行揭露其程式的原始碼等營業秘密等。而原因則主要包含新創事業缺乏足夠法律素養（literacy）、以及有關開放式創新的相關知識不足等。基此，指針提出改善方案，例如，締約前新創事業即先行區分出可直接向契約他方揭露的營業秘密、得透過締結NDA約定揭露之營業秘密、以及不得揭露之營業秘密等；締結NDA時，應盡可能具體約定營業秘密的使用目的、對象及範圍，並且考量到通常難以舉證廠商違反保密協議，因此不建議揭露攸關新創事業核心能力（core competence）的營業秘密。