日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
所謂中國大陸《網路預約出租汽車經營管理暫行辦法》，是指中國大陸針對目前在各國都陸續發生法律爭議的網路出租車叫車平臺，例如源自美國加州舊金山的優步(Uber)，或是中國大陸當地發展的滴滴打車服務，所制定的專法規範，以期解決網路出租車叫車平臺所可能產生的法律爭議。 類似Uber的服務型態，之所以會產生法律爭議，主要是因為汽車運輸載客的商業行為，在各國都會受到汽車運輸業的相關管制，以保障運輸服務乘客安全及消費權益。以德國為例，就曾因此對Uber進行行政處罰，並進一步於司法判決中要求Uber司機需取得營運牌照。 也因此中國大陸交通運輸部在2016年7月14日通過，並於2016年11月1日起施行《網路預約出租汽車經營管理暫行辦法》，該規定將網路預約出租汽車服務定義為「預約出租客運」，平台業者需負擔車輛營運、收益分配與司機管理等等的任務，且其地位為中國大陸汽車運輸載客法規中的客運服務承運人，需負擔相當責任，而並非如Uber等所主張的其僅為仲介平台，不具客運服務承運人之地位。 此外，該辦法亦要求網路預約出租汽車之司機應滿足無交通肇事犯罪紀錄、無危險駕駛犯罪紀錄、無吸毒紀錄、無飲酒後駕駛紀錄、無暴力犯罪紀錄等條件。
美國科羅拉多州通過《人工智慧消費者保護法》2024年5月17日，科羅拉多州州長簽署了《人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act，下簡稱本法），其內容將增訂於《科羅拉多州修訂法規》（Colorado Revised Statutes，簡稱CRS）第6篇第17部分，是美國第一部廣泛對AI規範的法律，將於2026年2月1日生效。 本法旨在解決「高風險人工智慧系統」的演算法歧視（Algorithmic Discrimination）的問題 ，避免消費者權益因為演算法之偏見而受到歧視。是以，本法將高風險AI系統（High-risk Artificial Intelligence System）定義為「部署後作出關鍵決策（Consequential Decision）或在關鍵決策中起到重要作用的任何AI系統」。 而後，本法藉由要求AI系統開發者（Developers）與部署者（Deployers）遵守「透明度原則」與「禁止歧視原則」，來保護消費者免受演算法歧視。規定如下： (一)系統透明度： 1.開發者應向部署者或其他開發者提供該系統訓練所使用的資料、系統限制、預期用途、測試演算法歧視之文件以及其他風險評估文件。 2.部署者應向消費者揭露高風險人工智慧系統的預期用途，也應在高風險人工智慧系統做出決策之前向消費者提供聲明，聲明內容應該包含部署者之聯絡方式、該系統的基本介紹、部署者如何管理該系統可預見之風險等資訊。 (二)禁止歧視： 1.開發者應實施降低演算法歧視之措施，並應協助部署者理解高風險人工智慧系統。此外，開發者也應該持續測試與分析高風險人工智慧系統可能產生之演算法歧視風險。若開發者有意修改該系統，應將更新後的系統資訊更新於開發者網站，並須同步提供給部署者。 2.部署者應該實施風險管理計畫，該風險管理計畫應包含部署者用於識別、紀錄降低演算法歧視風險之措施與負責人員，且風險管理計畫應定期更新。在制定風險管理計畫時，必須參考美國商務部國家標準暨技術研究院（National Institute of Standards and Technology, NIST）的《人工智慧風險管理框架》（AI Risk Management Framework, AI RMF 2.0）與ISO/IEC 42001等風險管理文件。 美國普遍認為科羅拉多州的《人工智慧消費者保護法》為目前針對人工智慧系統最全面之監管法規，可作為其他州有關人工智慧法規的立法參考，美國各州立法情況與作法值得持續關注。
大倫敦政府提倡倫敦城市資料市集大倫敦政府（Greater London Authority, GLA）在今（2016）年3月公布「城市資料策略」（City Data Strategy），以發展「城市資料市集」為核心的「數位倫敦」（Data for London） 計畫，希望與合作夥伴共同推展「城市資料市集」，以節省資金、培育創新、推動經濟成長，並迎接可能之挑戰。 「數位倫敦」將城市資料分為開放資料（Open Data）、民間企業資料（Private Data）、商業資料（Commercial Data）、感知資料（Sensory Data），及公眾來源資料(crowded-sourced data)等5個類型。此外，蒐集之資料類型及如何使用該等資料，亦為計畫的執行重點之一。 「數位倫敦」之實施計畫（Implementation Plan）分短、中、長期，以近期發布之短、中期的路徑圖而言，大倫敦政府計劃在2年內分 5個階段，從編制資料目錄，建立資料庫聯盟，利用雲端系統建置一能預測並開發、利用新資料來源之資料庫，並以「引用資料，而不複製資料」之原則，持續與公開來源社群及夥伴合作。 「城市資料市集」作為發展大倫敦基礎設施建設之一環，從資料蒐集、過濾檢測、資料庫平台管理、整合平台及服務，進而建立新商業模式，期將倫敦打造成世界首屈一指的智慧城市。