日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
本週西班牙法官判決，認為行為人為私人用途而下載音樂，其行為並非藉以從中獲利，應認其為無罪。 即便，檢察官辦公室及音樂工會呼籲應對此下載音樂並且在郵件及聊天室提供音樂之被告，處以兩年有期徒刑，然而，在此案當中，卻無直接證據證明被告於銷售音樂之過程中獲利。 此判決震驚了音樂工會，如此一來，西班牙一千六百萬的網路使用者將可透過網路交換音樂而不會受到處罰。西班牙唱片工會聯盟 Promusicae 表示，他將對此項判決提起上訴。 由於歐洲不同的法律規定，關於分享檔案的訴訟也會因不同國家而有極大的差異。然而，大多數的歐洲國家傾向對此處以較高的刑罰。就同為歐盟成員的芬蘭而言，上週便有 22 人因為非法分享電影、音樂遊戲及軟體而被處以 427,000 歐元。 至於西班牙此項為個人用途而下載音樂之行為，據其司法院院長指出，則有待立法修正解決。
加拿大聯邦政府預計2018年於全國落實碳排放費用徵收加拿大總理賈斯汀．杜魯道（Justin Trudeau）於2016年10月提出一項改革方案，要求全國各省份或地區於2018年開始，須擇一實施碳稅（Carbon tax）制度或碳交易系統（Cap-and-Trade System）：前者，聯邦政府將制定徵收下限，從2018年每噸10元，逐年提高10元，直至2022年每噸50元為止；至於碳交易系統，則須設立嚴格管控規範，以達聯邦政府實施碳稅制度所得減少碳排放量之預期值。同時，杜魯道更進一步表示，費用將交由各省區自行向排放者進行徵收，並可就其所得作自由運用，反之，倘若未確實執行該項政策者，聯邦政府則將強制介入實施。 事實上，綜觀國際間徵收碳稅制度，主要有兩種類型：一類為全國落實碳稅徵收，例如：荷蘭、丹麥、德國或南韓等，其中尚可再細分是否作為一獨立稅目進行徵收，前述荷蘭及丹麥二國，即直接設立碳稅進行徵收，至於德國與南韓，則是將碳排放作為能源稅之計算因子之一作收取；另一類為國內部分地區自行決定收取，如：美國加州地區及原先加拿大不列顛哥倫比亞省與魁北克省等。 至於未來觀察重點，應在於加拿大實施上述碳排放費用徵收政策後，勢必對於民生消費習慣具相當程度影響，諸如：暖氣、民生用電、交通工具燃料、公共運輸、食品、服裝或其他消費服務，預期均有相應之漲幅，再者，各省區之經濟政策及投資環境，亦可能有不小程度之衝擊，此兩處後續發展，均值得作持續性觀察。
OECD啟動全球首創的《開發先進人工智慧系統組織的報告框架》2025年2月7日，經濟合作暨發展組織（Organization for Economic Cooperation and Development，OECD）正式啟動《開發先進人工智慧系統組織的報告框架》（Reporting Framework for the Hiroshima Process International Code of Conduct for Organizations Developing Advanced AI Systems，簡稱G7AI風險報告框架）。 該框架之目的是具體落實《廣島進程國際行為準則》（Hiroshima Process International Code of Conduct）的11項行動，促進開發先進人工智慧系統（Advanced AI Systems）的組織建立透明度和問責制。該框架為組織提供標準化方法，使其能夠證明自身符合《廣島進程國際行為準則》的行動，並首次讓組織可以提供有關其人工智慧風險管理實踐、風險評估、事件報告等資訊。對於從事先進人工智慧開發的企業與組織而言，該框架將成為未來風險管理、透明度揭露與國際合規的重要依據。 G7 AI風險報告框架設計，對應《廣島進程國際行為準則》的11項行動，提出七個核心關注面向，具體說明組織於AI系統開發、部署與治理過程中應採取之措施： 1. 組織如何進行AI風險識別與評估； 2. 組織如何進行AI風險管理與資訊安全； 3. 組織如何進行先進AI系統的透明度報告； 4. 組織如何將AI風險管理納入治理框架； 5. 組織如何進行內容驗證與來源追溯機制； 6. 組織如何投資、研究AI安全與如何降低AI社會風險； 7. 組織如何促進AI對人類與全球的利益。 為協助G7推動《廣島進程國際行為準則》，OECD建構G7「AI風險報告框架」網路平台，鼓勵開發先進人工智慧的組織與企業於2025年4月15日前提交首份人工智慧風險報告至該平台（https://transparency.oecd.ai/），目前已有包含OpenAI等超過15家國際企業提交報告。OECD亦呼籲企業與組織每年定期更新報告，以提升全球利益相關者之間的透明度與合作。 目前雖屬自願性報告，然考量到國際監理機關對生成式AI及高風險AI 系統透明度、可問責性（Accountability）的日益關注，G7 AI風險報告框架內容可能成為未來立法與監管的參考作法之一。建議企業組織持續觀測國際AI治理政策變化，預做合規準備。
ICANN將增加網域名稱的選擇性掌管網域名稱規則的組織—ICANN，於2008年6月底透過總裁Paul Twomey表示，其將計畫提出新的通用型網域名稱（Top-level domains, “TLD”），以為增加網域名稱的選擇性做準備，並且讓想透過網域名稱表現自我的使用者，有更多選擇模式。目前為止，網域名稱使用者可選擇的通用型網域名稱限於21種，例如.com、.org、.info等。 根據ICANN新的規劃，申請新的通用型網域名稱者，可以自己選擇其網域名稱，並且進行登記。所有的新申請者不但可以專屬使用其所選擇的網域名稱，也可以將該網域名稱透過登記移轉來進行買賣。 從ICANN的聲明來看，其預估申請者將會以群組做為主要的選擇，例如現有旅遊業者的.travel，另外以城市作為通用型網域名稱的需求也相當高，例如.nyc、.paris。 ICANN目前計畫限定一個期間來接受全世界的團體來申請通用型網域名稱，預估第一輪的申請期限截止後，ICANN將會透過預計9個月的評選程序，來處理所有的通用型網域名稱申請。目前ICANN的新計畫預計於2009年第二季開始接受申請。