日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
澳洲雪梨聯邦法院於本月 24 日對分散式 P2P 業者 Kazaa 發出命令，要求 Kazaa 營運商 Sharman Networks 必須在 10 日內（ 12 月 5 日之前），在其提供下載的軟體中加入關鍵字過濾技術（ keyword filter system ），否則應立即停止營運。市場人士普遍認為 Kazaa 暫時停止營運的可能性相當地高。 源起於去年底澳洲當地唱片業者控告 Kazaa 一案，今年 9 月 5 日澳洲聯邦法院認定 Kazaa 營運商 Sharman Networks 構成著作權侵害，除判決唱片業者勝訴外，法院並判定 Kazaa 必須在 2 個月內修改其軟體程式，加入相關過濾技術，以避免使用者傳輸違法音樂檔案；另一方面，判決賦予唱片業界得提交 3000 個關鍵字名單 ( 包括了曲目及歌手姓名 ) 要求 Kazaa 加以過濾的權利，該名單並得每兩週加以更新。 直至本月 24 日， Kazaa 仍表示其無法控制高達 100 萬使用者的個人行為，拒絕修改其提供下載的 P2P 軟體，導致聯邦法院不得不下達最後通牒。 Kazaa 營運商 Sharman Networks 雖已提起上訴，但在現時關鍵字過濾技術實施不易之下，澳洲 Kazaa 恐將步上已於本月 7 日關閉的 Grokster 後塵。
美國白宮為因應TikTok威脅頒布行政命令，以維護資通訊技術與供應鏈國家安全美國白宮為因應TikTok威脅，於2020年8月6日頒布第13942號行政命令，以確保資通訊技術與供應鏈國家安全，禁止在美國管轄範圍內的任何人或相關實體，與中國大陸「字節跳動（ByteDance）」及其子公司為任何交易行為。本行政命令係依據美國《國際緊急經濟權力法》（International Emergency Economic Powers Act, IEEPA）、《國家緊急狀態法》（National Emergencies Act, NEA）及《美國法典》（United States Code, U.S.C.）第3篇第301條，以及2019年5月15日頒布的第13873號行政命令，要求國家應維護資訊、通信技術和供應鏈安全，並採取措施以應對國家緊急情況。由中國大陸企業開發及所有的行動應用程式，例如TikTok及WeChat等已威脅到美國國家安全、外交政策及經濟利益，必須採取應對措施。據查TikTok會自動從使用者方擷取大量資料，包括網際網路、定位資料及瀏覽紀錄等。此種資料蒐集行為將使外國人及政黨可以取得美國個人的專屬敏感資訊，追蹤到聯邦政府人員及政府承包廠商位置，建立個人資料檔案進行勒索和商業間諜活動。美國國土安全部、美國運輸安全管理局(Transportation Security Administration, TSA)和美國武裝部隊，已禁止在聯邦政府的通訊設備上使用TikTok，防止資料被竊取並傳輸至境外伺服器。 面對美國全面封殺中國大陸資通訊產品，中國大陸近來亦透過出口管制方案進行反制，2020年8月28日中國大陸商務部會同科技部，調整《中國禁止出口限制出口技術目錄》，將涉及軍民兩用的53項技術，納入出口管制清單。凡涉及向境外技術移轉，無論是採用貿易、投資或是其他方式，皆須申請省級商務主管部門的技術出口許可，獲得批准後方可對外進行實質性談判，簽訂技術出口契約。其中，因TikTok的人工智慧與演算技術，已被含蓋在目錄的管制清單內，若是TikTok要從中國大陸境內轉讓相關技術服務予境外，應暫停相關交易及實質性談判，先履行申請許可程序再為後續行動。
Facebook 捲入商標糾紛Facebook公司因使用「timeline」一詞，而被設立於芝加哥的Timelines公司提商標侵權訴訟乙案，目前Facebook公司正積極準備進一步之辯護。 Timelines公司係於2011年9月控告Facebook侵害其所有之「timeline」商標權，且違反公平競爭法。Facebook則反訴Timelines公司，主張「timeline」為一般通用名稱，應不受商標法保護，故請求確認該商標無效且無侵權事實。 美國地方法院先前裁定Facebook無法提出證據以證明Timelines公司之商標為一般通用名稱。而原定2013年4月22日在芝加哥聯邦法院開庭之上訴程序，目前已延期，但法院並未明確說明延期原因。 Facebook公司主張「timeline」是一種可使人群組織並展現對其最有意義的事件與活動之工具，其功用係將記憶呈現為依時序整理，且可查詢之個人記述。Timelines公司則為一個，可讓使用者記錄並分享歷史經歷的網站。 Facebook在線上廣告市場上仍有巨幅成長的機會，因其具有廣泛的使用者基礎，且有跨時追蹤個人細節之能力，故在線上廣告市場中成為一股令人望之生畏的強大力量。 據報導，若將來判決對Timelines公司有利，則其打算請求總金額相當於Facebook因「timeline所取得之廣告收入」之損害賠償。由於至最終之審理結果出爐據信仍需要很長時間，故在現況下不排除庭外和解的可能性。
澳洲發布「數位健康2018-2019年報」針對「我的健康紀錄系統」提出檢討及建議澳洲隱私保護辦公室（Office of the Australian Information Commissioner, OAIC）於2019年11月發布「2018-2019年數位健康年報」，其中針對「我的健康紀錄系統」（My Health Record System）日前發生資料外洩事件提出檢討及隱私建議。 「我的健康紀錄系統」於2012年開始由澳洲數位健康局（Australian Digital Health Agency）負責維運，所有健康報告以電子形式通過網站存檔或讀取，包括處方藥紀錄、醫生診療記錄、影像檢查以及其它測試紀錄等，所有資訊將置於網路並授權醫療專業人員，例如醫生、藥劑師、醫院工作人員和專職醫療人員（例如護士或物理治療師），均可登錄查詢。 「我的健康紀錄系統」原先以民眾自願選擇加入模式運作，以選擇性線上註冊方式概括同意健康資料存取。隨後為促進醫療產業發展，澳洲政府宣布「我的健康紀錄系統」全國適用並提供退出機制至2019年1月31日。而2018年澳洲修訂「我的健康紀錄法」（My Health Records Act 2012）強化個人資料管理相關規範，例如：提供永久刪除權、不得適用於保險目的、違反關鍵隱私保護而增加民事和刑事處罰等。 「2018-2019年數位健康年報」指出，隨著「我的健康紀錄系統」於2019年2月從選擇性註冊模式變為退出模式，關於隱私疑慮的查詢和投訴大幅增加。2018年至2019年OAIC收到57件投訴案，OAIC更對數位醫療產業中的受監管企業進行隱私評估，包括私人醫院、藥房等。為解決民眾疑慮，「我的健康紀錄法」修訂賦予永久刪除權，使投訴數量開始遞減，OAIC亦為醫療服務提供者發布有關保護患者個人健康資料相關指引，並與衛生部門組織合作，促進良好的隱私保護觀念，以增進健康服務提供者對預防和應對資料外洩的理解。