日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
為了有效管理歐洲食品安全局（European Food Safety Authority, EFSA）內部各項活動間之利益管控與監督，EFSA日前於3月5日公布利益申報（Declarations of Interest, DOIs）施行規則（Implementing Rules），並計畫於2012年7月1日正式實施，且同時搭配一個為期4個月的過渡（Transition Period）配套措施方案。該利益申報施行規則，乃為EFSA於今年初所核准之「獨立性與科學決策過程」（Independence and Scientific Decision-Making Processes）政策的基礎規範項目之一。 本次EFSA所頒布之利益申報施行規則，其訂定之理由係因，原任職於EFSA旗下基因工程植物之首席風險評估專家，轉任至一家專門研發及生產該種植物之生物科技公司；為避免並且釐清相關因該事件所衍生之利益衝突問題，乃制定本規範。故此，為具體有效管理EFSA內部人員與其他涉及EFSA各項活動之機構間的利益監督事宜，EFSA遂進一步於今年初開始著手進行相關措施之規劃。目前該利益申報施行規則除了主要針對EFSA旗下之各層級人員訂定各項利益類型之規範準則外，更重要的是，其亦提供其旗下之專業科學研究人員，各項能有效具體確認其利益界線之劃分的保護措施。由於該利益申報施行規則授與EFSA選取與管理利益申報議題若干彈性，因此EFSA能具體且有效的利用相關規範延攬頂尖研究人員，進而協助EFSA提升其內部研發人員之創新研發能力。 政府機關成員之利益申報與迴避問題，乃為全球各國政府需面對之問題，而對於如何有效且彈性的進行相關議題之管控，更是相關政策制訂時需加以考量之點。EFSA之利益申報施行規則不僅有效管理內部人員之利益衝突與申報問題，同時亦藉由彈性的管理規範方式，延攬優秀頂尖人才，達到具體提升研發水準之功效；對此，EFSA之規範方式與運作成效，實值得加以觀察與效仿。
美國針對政府雲端運算應用之資訊安全與認可評估提案為建構政府雲發展的妥適環境，美國於今年度啟動「聯邦風險與認可管理計畫」（Federal Risk and Authorization Management Program, FedRAMP），由國家技術標準局（National Institute of Standards and Technology, NIST）、公共服務行政部(General Service Administration)、資訊長聯席會(CIO Council)及其他關連私部門團體、NGO及學者代表共同組成的跨部會團隊，針對外部服務提供者提供政府部門IT共享的情形，建構一個共同授權與持續監督機制。在歷經18個月的討論後，於今（2010）年11月提出「政府雲端資訊安全與認可評估」提案（Proposed Security Assessment & Authorization for U.S Government Cloud Computing），現正公開徵詢公眾意見。 在FedRAMP計畫中，首欲解決公部門應用雲端運算所衍伸的安全性認可問題，因此，其將研議出一套跨部門共通性風險管理程序。尤其是公部門導入雲端應用服務，終究會歸結到委外服務的管理，因此本計劃的進行，是希望能夠讓各部門透過一個機制，無論在雲端運算的應用及外部服務提供之衡量上，皆能依循跨機關的共通資訊安全評定流程，使聯邦資訊安全要求能夠協調應用，並強化風險管理及逐步達成效率化以節省管理成本。 而在上述「政府雲端資訊安全與認可評估」文件中，可分為三個重要範疇。在雲端運算安全資訊安全基準的部份，主要是以NIST Special Publication 800-535中的資訊安全控制項作為基礎；並依據資訊系統所處理、儲存與傳輸的聯邦資訊的敏感性與重要性，區分影響等級。另一部份，則著重在持續性的系統監控，主要是判定所部署的資訊安全控制，能否在不斷變動的環境中持續有效運作。最後，則是針對聯邦資訊共享架構，出示模範管理模式、方策與責任分配體系。
新搜尋技術將改變數位內容產業的版圖美國麻省理工學院企業論壇 (MIT Enterprise Forum) 日前在紐約市舉行了專家座談會，與會專家指出，新的網路搜尋技術，將改變數位內容產業的版圖。一個最重要的技術躍進，在於突破目前以文字為搜尋條件的限制，未來，透過新的技術，使用者將可以圖像、聲音甚至影片來進行搜尋。如此，數位內容產業的傳播將會更具效率，整個產業的發展也會更迅速，消費者也能更快速地享受到各種數位內容。且讓我們拭目以待。
歐洲資料保護監管機關研議提出「智慧電表系統發展準備建議」研究報告歐洲資料保護監管機關（European Data Protection Supervisor,以下簡稱EDPS）是一個獨立的監督機關，其任務主要在於監督歐盟個人資料的管理程序、提供影響隱私的政策及法制建議、與其他類似機關合作以確保資料的保護。 EDPS於今（2012）年6月8日，針對歐盟執委會於今（2012）年3月9日發布的「智慧電表系統發展準備建議」（Recommendation on preparations for the roll-out of smart metering systems,以下簡稱準備建議）提出相關意見。「智慧電表系統發展準備建議」乃係針對智慧電表部署之資料安全保護及經濟成本效益評估，提出發展準備建議，供會員國於進行相關建置及制定規範時之參考。然EDPS指出，執委會對於智慧電表中個人資料保護的重視雖值得肯定，但並未在準備建議中提供更具體、全面且實用的指導原則。智慧電表系統雖能帶來顯著的利益，但造成個人資料的大量蒐集，可能導致隱私的外洩，或相關數據遭使用於其他目的。 有鑑於相關風險，EDPS認為在準備建議中，應更加強其資料保護的安全措施，至少應包含對資料控制者在處理個人資料保護評估時有強制的要求；此外，是否有必要進行歐盟層級的立法行動亦應予以評估。EDPS提出的意見主要包括：（1）應提出更多有關選擇資料當事人及處理相關資料的法律依據，例如電表讀取的頻率、是否需取得資料當事人同意；（2）應強制「提升隱私保護技術」（privacy-enhancing technologies）的適用，以限縮資料的使用；（3）從資料保護的角度來釐清參與者的責任；（4）關於保存期間的相關原則，例如對於家戶詳細消費資訊的儲存期間、或在針對帳單處理的情形；（5）消費者能直接近取其能源使用數據，提供有效的方式使資料當事人知悉其資料的處理及揭露，提供有關遠端遙控開關之功能等訊息。