日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
2020年2月28日梵諦岡教宗與兩大科技巨頭IBM及微軟聯合簽署「羅馬呼籲AI倫理道德」文件，支持制定人工智慧(AI)發展倫理與道德規範，並特別呼籲應針對臉部辨識等侵入性技術進行監管。在聯合文件上特別提及臉部識別技術潛在之濫用風險，例如警察會使用臉部辨識系統調查犯罪行為、《財富》500強公司使用AI審查求職者，這兩個例子均具有潛在且高度之風險，使用不正確或是具有偏見之AI判斷均可能會造成傷害。誠如方濟各在致辭中說：「人工智慧記錄個人資料，並使用於商業或政治目的，而且通常是在個人不知情之情況下，這種不對稱，將使少數人了解我們的一切，但我們卻對他們一無所知，這將使批判性思維和對自由的自覺變得遲鈍，不平等現象急遽擴大，知識和財富在少數人手中累積，將對民主社會構成重大風險。」 此次會議希望在國家與國際層面上共同努力促進AI道德規範，並根據以下原則來發展和使用人工智慧。第一，良好的創新：人工智慧系統必須是可理解得，並且在包容性方面必須考慮到所有人的需求，以便每個人都能受益。第二，責任：設計和實施人工智慧者必須承擔責任和保持透明度。第三，公正性：避免根據偏見進行創造或採取行動，從而維護人類平等和尊嚴。第四，可靠性：人工智慧系統必須能夠可靠的運行。第五，安全和隱私：人工智慧系統必須安全運行並尊重用戶的隱私。 目前尚不清楚其他技術公司是否會簽署該文件，以及簽署人將如何實施，但教宗與兩大科技巨頭史無前例的合作，為人工智慧未來發展方向提供遠見卓識，能更加深入的去思考AI的道德意涵以及它將如何與人類更好的合作、互動，互利共生，相輔相成。
新加坡發布《應用程式分發服務安全準則》以強化應用程式用戶保護為降低應用程式（App）用戶接觸有害內容的風險，新加坡資通訊媒體發展管理局（Infocomm Media Development Authority，IMDA）發布《應用程式分發服務安全準則》（Code of Practice for Online Safety for App Distribution Services），要求應用程式分發服務（App Distribution Services，ADSs）採取必要防護措施，並導入年齡驗證機制，以進一步強化兒童保護。該準則將於 2025 年 3 月 31 日 生效。 本次IMDA依據《廣播法》（Broadcasting Act）第45L條所發布之《應用程式分發服務安全準則》，係為進一步強化對App用戶的保護。ADSs作為數位裝置存取應用程式的主要入口，是許多網路內容（例如線上遊戲）的上架平台，當用戶透過 ADSs下載App的比例提高，其接觸不當內容的風險亦增加。因此，新加坡要求指定業者建立安全措施，以降低用戶接觸不當內容的風險。被指定業者包括：Apple App Store、Google Play Store、Huawei AppGallery、Microsoft Store及Samsung Galaxy Store等。該準則亦要求ADSs業者建立年齡驗證機制，訂定年齡分級標準並限制兒童存取及下載不適齡的App，同時強化家長控制功能。這一措施讓新加坡成為全球首批強制推動年齡驗證的國家或地區之一，其他國家包括澳洲、歐盟、英國及美國。IMDA 亦將持續與ADSs 業者溝通，確保其有效落實年齡驗證機制。 早在2023年1月，新加坡已於《廣播法》中將線上通訊服務納入規範，政府可要求業者封鎖惡性內容（egregious content），確保網路環境安全並保護兒童免受不當內容影響。此外，依據《網路安全準則》（Code of Practice for Online Safety），政府可要求指定社群媒體服務業者（如Facebook、Instagram、TikTok、Twitter與YouTube等）降低用戶接觸有害內容的風險。 為因應日益增加的有害線上內容，新加坡未來將持續與相關政府機構、產業及社群合作，推動適當的監管措施與公共教育，以確保新加坡用戶免受線上風險侵害。
新加坡個人資料保護委員會發布資料保護專員之職能與培訓準則新加坡個人資料保護委員會（Personal Data Protection Commission, PDPC）於2019年7月17日發布資料保護專員之職能與培訓準則。基於新加坡個人資料保護法（Personal Data Protection Act 2012, PDPA）明文規範非公務機關必須設立至少一名資料保護長（Data Protection Officer, DPO），負責個資保護政策之制定落實、風險評鑑及個資事故處理等工作。為了使資料保護專業人員增強能力並於企業組織有效履行其職責，新加坡個人資料保護委員會就此特別發布此準則，將資料保護專員分為三種工作職能，九項專業能力，進而規劃相關培訓課程。 此準則使企業組織能就工作職能聘僱合適之資料保護專員，亦使相關專業人員能掌握清晰之職業生涯，確定自我能力與培訓課程之落差，進而調整有效實施組織之個人資料保護管理政策與流程。其分為資料保護專員、資料保護長、區域資料保護長，依據工作職能與職責區分如下： 一、 資料保護專員 需監視與評估組織之個人資料保護管理政策與程序，並確保其遵循新加坡個人資料保護法。 識別個人資料之風險，並提出風險管控之措施。 提供組織個人資料保護政策之實施與實踐證據。 定期檢視審核，分析現況並矯正改善。 識別並規劃利害關係人之需求與利益。 二、 資料保護長 制定並審查個人資料管理計劃。 根據組織職能，視需求與流程，執行個人資料保護與風險評鑑，並解決相關業務風險。 制定培訓計劃，舉辦個人資料保護政策與流程之教育訓練。 確保組織內部個人資料保護之意識。 根據業務營運與個資法遵要求之落差評估，並建立合規性流程。 透過客戶對隱私與個人資料保護之要求，做為日後促進資料創新之實施。 三、 區域資料保護長 監督資料傳輸活動，並提供個人資料保護法之領導指南。 建立區域創新之資料保護策略。 減少區域內之個資事故。 於資料創新之運用提供戰略性，為組織創造業務價值。 評估新興趨勢與科技，如隱私增強技術、雲端運算、區塊鏈、網絡安全之風險與可行性。 針對上述工作職能與職責，結合所需之專業能力，包括個人資料管理、風險評鑑管理、個資事故緊急應變、利害關係人管理、個人資料稽核認證、個人資料治理、個人資料保護之倫理、資料共享與創新思維，規劃基礎個人資料保護相關課程與進階資料創新課程，使其個人資料保護制度更專業具有規模。目前我國對於資料保護專員並無相關立法規範，若未來修法新加坡個人資料保護委員會之做法亦值參酌。
歐盟質疑Google新訂網路隱私權政策服務條款2012年3月，Google 公告使用者的新網路隱私權政策條款，這項措施將Google 所提供的各項服務適用同一個隱私權政策，並整合多項服務於同一帳號之中，隨著隱私權政策的變動，使用者條款也一併更新，這項措施並同時透過電子郵件通知所有的使用者。然而，Google 此項新政策在歐洲地區實施時卻碰到困難，歐盟表示該隱私權條款適法性受到質疑，將可能受到有關單位的調查。 歐盟資料保護相關指令乃建構基礎架構規制網路使用者個人的隱私，相關機構與業者都必須遵守。關於此項Google 新隱私權政策條款，規定使用者的資料可以合併使用於各個不同的服務中，將可能造成使用者的個人資料將可能透過不同的服務而洩漏，並且遭受第三人使用，而有違反歐盟資料保護指令之虞。針對此問題，法國資料保護管理機構（The Commission Nationale de l'Informatique, CNIL）已對Google 提出詢問，詢問的內容包含Google是如何保存使用者的資料；如何將使用者於不同服務中揭露的資訊加以整合等問題。由於既存的使用者若要繼續使用Google相關服務，就必須同意該新訂隱私權政策條款，因此CNIL也透過此次機會了解使用者退出資料不被揭露的機制內容，以避免使用者在未經同意下個人隱私受到侵害。不過，屆至目前為止，包含英國在內的歐洲各國仍普遍認為，該隱私權政策條款並未充分賦予使用者掌握個人資料的權限。 相較於歐盟，美國聯邦交易委員會（Federal Trade Commission, FTC）對於使用者於使用網路時隱私權的保護，著重於業者隱私權保護的承諾；亦即歐盟著重於隱私權為個人基本權利，而美國普遍要求網路業者能於條款中，明確承諾保護使用者使用網路時的各項權利。無論如何，各國對於保護使用者使用網路服務的原則與概念雖然不同，但對於使用者資訊揭露的透明化要求均為一致。