日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
這是客戶的資訊，該資訊如何被使用應為客戶的選擇。」於此一理念下，美國聯邦通訊委員會（Federal Communication Commission，FCC）於2016年10月27日通過了寬頻客戶隱私規定（Broadband Consumer Privacy Rules），該規定要求寬頻網路服務提供者（broadband Internet Service Providers，ISPs）應保護其客戶之隱私，該新通過的隱私規範非禁止使用及分享客戶的資訊，而係給予客戶有更多的選擇去決定自身的資訊該如何被分享及使用。以下簡介規範內容： 一、規範對象：寬頻網路服務提供者及其他電信營運商，例如Comcast、Verizon、AT&T等。規範對象未包含聯邦貿易委員會（Federal Trade Commission，FTC）所管轄的隱私保護措施下的網站或其他邊緣服務商（edge service），例如Google、Facebook、Amazon等。亦未規範寬頻網路服務提供者營運的社交媒體網站或政府監管、加密，執法等問題。 二、 主要規範內容：將ISP所蒐集得使用及分享的資訊分為三類，建立客戶同意要件，分類如下。 （一）敏感性資訊須事前取得客戶肯定地選擇同意加入（opt-in），才得為使用及分享。敏感性資訊包含精確的地理位置、金融資訊、健康資訊、孩童資訊、社會安全碼、網站瀏覽紀錄、app使用紀錄及通訊內容。 （二）非敏感性資訊，例如電子郵件地址或服務層資訊，得使用及分享，惟當客戶選擇退出（opt-out）則不得使用及分享。 （三）同意要件之例外。除了在建立客戶與ISP關係外，針對特定目的將會被推定為已取得客戶同意，包含寬頻服務之提供或針對服 三、 其他重要規範內容：清楚告知客戶收集的資訊、將如何使用、向誰分享；實施合理的資料安全準則；保密性違反之通知。 然而針對FCC是否具有相關管制權限，質疑聲浪仍存於本次規範之通過。亦有認為該規範與FTC的管制同時運行將形成疊床架屋，造成社會大眾之混淆。並且該規範未能真實反映網路生態，未將網路公司或社交網站公司列入管制對象，無法真正保護客戶隱私。
歐盟發布頻譜政策公眾諮詢書於今年 5 月中旬，歐盟無線頻譜政策小組 ( Radio Spectrum Policy Group ，以下簡稱 RSPG ) 對於是否允許使用用以提供廣播電視服務之頻段，提供多媒體服務 (multimedia services) 一事，表示意見並徵詢共眾意見，而所稱的多媒體服務係指於行動通信環境中，提供結合傳統廣播 ( 一對多 ) 以及通訊 ( 點對點 ) 的服務。於此次的公眾意見諮詢書中， RSPG 表示此次意見諮詢的目的旨在促進多媒體服務的提供，但亦指出多媒體服務的發展不應扭曲頻譜的整體使用規劃以及市場競爭。除此之外，亦不應與歐盟各會員國境內以促進文化及媒體多元化之媒介內容規範相左。而就如何導入多媒體服務一事， RSPG 考量核發新執照，或是重新檢視現有的執照制度，以允許業者得使用頻譜提供多媒體服務。此次的公眾意見諮詢將於 6 月 14 日 結束，其發展有待未來更進一步的觀察。
英國政府將設立網路兒童保護中心英國內閣辦公室指出，英國政府將設立網路兒童保護中心以協助警方與孩童保護機構，該中心主要偵查目標為利用網際網路散佈違法之兒童影像或「打扮」兒童的戀童癖人士。其宗旨在減少利用網路協助虐童的行為，而對孩童、家庭與社會產生傷害的情況。 該中心未來將隸屬於 2006 年 4 月 1 日成立之「嚴重組織犯罪局」（ Serious Organized Agency = SOCA ）管轄，並於該局成立之同時開始運作，由專責的警察人員協同孩童保護，並由網路工業專家負責業務之執行。
歐盟出資贊助開放原始碼研究歐盟決定斥資 66 萬歐元的經費研究全球的開放原始碼軟體與標準。 歐盟在為期兩年的 FLOSSWorld 專案中，首度贊助的國際性開放原始碼軟體研發與政策發展計畫，先前的 FLOSS 專案主要只著重在歐洲的開放原始碼部分。 FLOSS 即為自由 / 開放原始碼軟體的縮寫 (free/libre/open source) ，藉由本專案，歐盟希望能夠強化歐洲在自由軟體領域的領導力，與增加國際合作夥伴。 FLOSSWorld 召集人 Rishab Aiyer Ghosh 向對外表示，歐盟通常是不贊助國際性專案的。而此次計劃共區分五大區域，而合作的國家包括中國 ( 東亞 ) 、印度與馬來西亞 ( 南亞 ) 、非洲 ( 南非 ) 、東南歐 ( 保加利亞與克羅埃西亞 ) 、中南美洲 ( 阿根廷與巴西 ) 。 研究將專注在三大領域：開放原始碼對於技能發展的影響，以及對經濟與新增職缺的影響；軟體開發的區域差異性；政府與公家單位對使用開放原始碼的態度。 Ghosh 指出 FLOSSWorld 的目標在增加國際層次的合作，增加對其他國家對於開放原始碼的使用與影響的了解程度。