日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國近期通過「外國情報偵察法」（Foreign Intelligence Surveillance Act, FISA）之修正案，其中，原先於１月份到期的第七章（Title VII）702條款（Section 702），重新延長授權6年，直至2023年12月31日。 此法案於1978年生效，為美國第一個要求政府須先獲得法院許可，始能進行電子監視的法律。法案宗旨係為平衡國家安全以及人民權利，基於憲法第四修正案對人民的保障，使身處美國領土內的人民免於被恣意監視，國家在通常情況下，須獲得外國情報偵察法院（Foreign Intelligence Surveillance Court, FISC）搜索票（warrant）才可對人民進行搜查。 本次法案修正通過後，使聯邦調查局能夠持續使用情報數據資料庫，以獲取有關美國人的信息，但法案新增要求聯邦調查局在預測性刑事調查中（predicated criminal investigation）如要索取與國家安全無關的內容，必須事先經FISC法院審查許可（court order）。 因911恐攻事件後出現的反恐需要，2008年增訂第七章702條款為FISA的正式條款，原本在今年1月到期，法案修正通過後，此條款延長授權6年。目的為美國公民提供隱私保護，禁止政府針對美國公民和位於美國境內的外國人為監視對象；僅處於國外的外國人，涉及外國情報資訊才可被列為本條進行監視的目標。允許情報部門，在三個政府部門（外國情報偵察法院，行政部門和國會）的監督下，收集關於國際恐怖分子，武器散布者以及其他位於美國境外的重要外國情報。 此項修正案保留702條款的操作靈活性，並加入了一些增強隱私措施及要求。惟，受質疑且具爭議的是，702條款條文內容規範，允許美國政府的情報機構--國家安全局（National Security Agency, NSA）基於該條款，例外不需法院搜索票，可向Google、Apple、微軟、Facebook或電信業者等美國企業蒐集、調閱國外非美國人用戶的海外通訊內容（包含電子郵件、電話、其他私人信息等），當這些被監聽的國外用戶之通訊對象係涉及美國人時亦同；意即，若美國人曾接觸被鎖定的國外對象，也會被納入調查並取得通訊紀錄等個資，且禁止業者通知受影響的用戶。曾有國會參議員試圖修改此法案，加入隱私保護條款，但最終並未獲多數同意。
FDA發佈人工智慧/機器學習行動計畫美國食品藥物管理署（U.S. Food & Drug Administration, FDA）在2021年1月12日發布有關人工智慧醫療器材上市管理的「人工智慧/機器學習行動計畫」（Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan）。該行動計畫的制定背景係FDA認為上市後持續不斷更新演算法的機器學習醫療器材軟體（Software as Medical Device, SaMD），具有極高的診療潛力，將可有效改善醫療品質與病患福祉，因此自2019年以來，FDA嘗試提出新的上市後的監管框架構想，以突破現有醫療器材軟體需要「上市前鎖定演算法、上市後不得任意變更」的監管規定。 2019年4月，FDA發表了「使用人工智慧/機器學習演算法之醫療器材軟體變更之管理架構—討論文件」（Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback）。此一諮詢性質的文件當中提出，將來廠商可在上市前審查階段提交「事先訂定之變更控制計畫」（pre-determined change control plan），闡明以下內容：(1)SaMD預先規範（SaMD Pre-Specification, SPS）：包含此產品未來可能的變更類型（如：輸入資料、性能、適應症）、變更範圍；(2)演算法變更程序（Algorithm Change Protocol, ACP）：包含變更對應之處理流程、風險控制措施，以及如何確保軟體變更後之安全及有效性。 根據「人工智慧/機器學習行動計畫」內容所述，「事先訂定之變更控制計畫」構想被多數（包含病患團體在內）的利害關係人肯認，並於相關諮詢會議當中提出完善的細部建言。FDA將根據收到的反饋意見，於2021年以前正式提出有關人工智慧/機器學習上市後監管的指引草案（Draft Guidance），並持續研究提高演算法透明度、避免演算法偏見的方法。
美國專利商標局啟動軟體專利檢視計畫美國專利商標局（United States Patent and Trademark Office, USPTO）最近宣布將運用同儕檢視的概念，啟動名為”Peer Review Pilot”的軟體專利檢視先導計畫（以下簡稱PRP），該計畫並將與紐約大學進行中的專利共同檢視計畫（Community Patent Review Project (CPRP)）合作，以確保軟體專利的品質。 CPRP乃是由紐約大學法學院設置及管理的網站，該網站允許技術專家進一步予以檢視並提供相關資訊的機會，希望專利申請案在經過同儕檢視後，才進一步送交官方審查，藉此縮減審查程序的時間；而UPSTO的PRP也有類似的運作概念，PRP計畫在USPTO開始進行官方的專利審查工作之前，提供ICT領域的技術專家一個針對專利申請書專的權利主張，提出技術之參考註解（annotated technical references）的機會。 USPTO指出，專利審查官員唯有在資訊充分的前提下，才能做出正確的決定，考量專利審查官員必須在有限的時間內找出正確的訊息以對個別案件做出決定，而軟體相關技術的來源碼又不容易取得，也沒有完整的紀錄可供查詢，因此USPTO大膽採用同儕檢視的方法，期能藉此改善軟體專利的審查時間與品質。
臉書（Facebook）被控告違反和解協議臉書（Facebook）在2011年11月與美國聯邦貿易委員會（Federal Trade Commission, FTC）針對用戶資料的隱私權問題達成和解，包括第一：臉書必須遵守其自行提出的隱私權政策；第二：臉書必須要事先得到使用者的同意，才能更改其資訊分享的設定；第三：當使用者刪除其帳號的三十天內，臉書必須實際上使任何人不能再取得相關資訊；第四：必須對新產品或服務建立並維護其隱私權保障的計畫；第五：在未來二十年內，臉書必須由獨立的第三人稽查其隱私政策，以維護使用者的資訊隱私保護。 但是公益團體電子隱私資訊中心（Electronic Privacy Information Center, EPIC）最近指控臉書的Timeline功能違反和解協議的第二條。在EPIC的指控中表示：臉書必須要事先得到使用者的同意，才能更改其資訊分享的設定。而Timeline的功能在2011年12月6日上線後，完全改變了使用者揭露其資訊的方式，強化使用者張貼的重要事件，並回溯資料至該使用者第一次登入臉書時（甚至更早至第一次輸入相關資料時）。雖然臉書提供七天時間給使用者可以編輯Timeline，刪除不希望公開的照片或貼文，但幾乎沒有人知道。EPIC因而要求FTC介入調查。