日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
2025年12月，日本人工智慧安全研究所（AI Safety Institute，下稱AISI）與日本獨立行政法人情報處理推進機構（Information-technology Promotion Agency Japan，下稱IPA）共同發布《資料品質管理指引》（Data Quality Management Guidebook）。此指引旨於協助組織落實資料品質管理，以最大化資料與AI的價值。指引指出AI加劇了「垃圾進，垃圾出（Garbage in, Garbage out）」的難題，資料品質將直接影響AI的產出。因此，為確保AI服務的準確性、可靠性與安全性，《資料品質管理指引》將AI所涉及的資料，以資料生命週期分為8個階段，並特別強調透過資料溯源，方能建立透明且可檢核的資料軌跡。 1.資料規劃階段：組織高層應界定資料蒐集與利用之目的，並具體說明組織之AI資料生命週期之各階段管理機制。 2.資料獲取階段：此步驟涉及生成、蒐集及從外部系統或實體取得資料，應優先從可靠的來源獲取AI模型的訓練資料，並明確記錄後設資料（Metadata）。後設資料指紀錄原始資料及資料歷程之相關資訊，包含資料的創建、轉檔（transformation）、傳輸及使用情況。因此，需要記錄資料的創建者、修改者或使用者，以及前述操作情況發生的時間點與操作方式。透過強化來源透明度，確保訓練資料進入AI系統時，即具備可驗證的信任基礎。 3.資料準備階段：重點在於AI標註（Labeling）品質管理，標註若不一致，將影響AI模型的準確性。此階段需執行資料清理，即刪除重複的資料、修正錯誤的資料內容，並持續補充後設資料。此外，可添加浮水印（Watermarking）以確保資料真實性與保護智慧財產權。 4.資料處理階段（Data Processing）：建立即時監控及異常通報機制，以解決先前階段未發現的資料不一致、錯漏等資料品質問題。 5.AI系統建置與運作階段：導入RAG（檢索增強生成）技術，檢索更多具參考性的資料來源，以提升AI系統之可靠性，並應從AI的訓練資料中排除可能涉及個人資料或機密資訊外洩的內容。 6. AI產出之評估階段（Evaluation of Output）：為確保產出內容準確，建議使用政府公開資料等具權威性資料來源（Authoritative Source of Truth, ASOT）作為評估資料集，搭配時間戳記用以查核參考資料的時效性（Currentness），避免AI採用過時的資料。 7.AI產出結果之交付階段（Deliver the Result）：向使用者提供機器可讀的格式與後設資料，以便使用者透過後設資料檢查AI產出結果之來源依據，增進透明度與使用者信任。 8.停止使用階段（Decommissioning）：當資料過時，應明確標示停止使用，若採取刪除，應留存刪除紀錄，確保留存完整的資料生命週期紀錄。 日本《資料品質管理指引》強調，完整的資料生命週期管理、強化溯源為AI安全與創新的基礎，有助組織確認內容準確性、決策歷程透明，方能最大化AI所帶來的價值。而我國企業可參考資策會科法所創意智財中心發布之《重要數位資料治理暨管理制度規範（EDGS）》，同樣強調從源頭開始保護資料，歷程存證與溯源為關鍵，有助於組織把控資料品質、放大AI價值。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
德國公布NAP II，要求能源及工業部門減少二氧化碳排放量為達到京都議定書 將二氧化碳排放量減量控制到 1990 年排放量的 20 ％目標， 歐盟持續祭出多項政策措施，近一年來並已實施碳排放證交易機制。 所謂的碳排放證交易機制係指，業者若能成功減少污染即可出售多餘的碳排放證，而排放過多二氧化碳者卻必須購買碳排放證。為達成前揭目標，所有歐盟會員國均應依據歐盟的國家分配計畫（ Nationalen Allokationsplan ），於其內國推動實施。 在歐盟架構下，德國政府於日前公布第二階段的 NAP II ，以接續目前第一階段、將持續至 2007 年的 NAP I 。透過 NAP I 及 NAP II ，所有產業－包括能源、工業、交通（ Verkehr ）、家戶（ Haushalte ）、以及手工業（ Gewerbe ）、商業及服務業－均將被要求共同致力於二氧化碳減量的目標，德國政府也一一就各產業訂出排放標準。 基本上， NAP II 係有關德國能源業和工業自 2008 年至 2012 年止有關二氧化碳排放量的基本原則，重點在能源業及工業的二氧化碳排放控制，此乃因這兩個產業每年的二氧化碳排放量高達總排放量的 60 ％。 NAP II 對工業的減量要求較為寬厚，只須減少百分之一點二五的排放量，能源業卻必須減量百分之十五。德國環保部長表示，工業面對市場上激烈的競爭，可以少負擔一些氣候保護的成本。此外，為了鼓勵能源業者投資環保設備減少污染，可同時生產電力和熱能的電廠二氧化碳排放量管制將比照工業，反之，老舊的高污染燃煤電廠獲得的碳排放證，比起一般的能源業還要再縮減百分之十五。 雖則 NAP I 、 NAP II 的實施對德國整體產業均形成衝擊，不過這個從環保概念出發的政策，卻也將促使德國產業在未來幾年產生結構性的調整，政府與民間部門為了達到二氧化碳排放減量的目標，必將投入新技術的研究與發展，進而帶動永續、潔能、環境友善（ eco-friendly ）及綠色科技的發展。
日本2017年5月30日修正施行之個人資料保護法，對於家長會蒐集、處理、利用個人資料之影響依日本2017年5月30日修正施行之個人資料保護法的最新規定，家長會、同學會、管委會等，就個人資料的蒐集、處理、利用，應與以蒐集、處理、利用個人資料為業之公司行號，在法律上承擔相當之責任、義務。 因此自2017年5月30日起，家長會蒐集、處理、利用個人資料，需要注意以下四點： 一、經當事人請求，應刪除其個人資料。 修正後的個人資料保護法施行後，明知未經或不確定是否經學生監護人同意，而取得其個人資料，都是違法的行為。但目前已經取得的個人資料，即使明知未經或不確定是否經學生監護人同意，也不需要立即刪除。惟若當事人請求刪除，則必須立即刪除。 二、學校應善盡告知之義務，取得學生監護人之同意後，方得將其個人資料轉交家長會蒐集、利用、處理，。 修正後的個人資料保護法允許由學校取得學生監護人之同意後，將其個人資料轉交家長會蒐集、利用、處理。但如果校方未充分盡到告知義務，則有違法之虞。實務上在九州的熊本曾經發生過這樣的案例，由於家長會未依法蒐集、處理、利用其個人資料，監護人提起告訴，最後雙方在二審達成和解。 三、經過監護人同意，方得將其個人資料造冊並刊登照片 由於須明確取得學生監護人之同意，方得將其個人資料造冊並刊登照片。因此為避免學校未善盡告知義務，建議家長會直接請監護人填妥加入家長會之同意書，並於同意書上載明授權蒐集、處理、利用其個人資料之範圍。 四、遵從個人情報保護委員會的指導 若家長會有非法蒐集、利用、處理個人資料之虞，個人情報保護委員會可以檢查並限期改正。屆期如未改正，可裁處罰金或懲役。
美國公民自由聯盟控告兒童線上保護法侵害言論自由美國公民自由聯盟（American Civil Liberties Union, ACLU）在挑戰一網際網路審查法案—「兒童線上保護法（Child Online Protection Act, COPA）」的訴訟中獲得勝利。美國公民自由聯盟聲稱，1998年頒布的兒童線上保護法立意雖是為了防止兒童在網際網路上接觸到色情內容，但卻違反了美國憲法，也損害了數以百萬計成年網際網路使用者的言論自由。這個案件被視為對網路言論自由限度的重要檢測指標。 該法案中要求所有商業網站在允許使用者瀏覽那些有害未成年人的內容時，必須以信用卡號碼或其他方式來證明使用者的年紀。此外，在該法案中，那些製造有害未成年人內容的業者每日必須支付最高五萬美元的罰款，以及最多六個月的牢獄之災。美國公民自由聯盟認為，該法案有效杜絕色情網頁的比例甚至不到五成，而最高法院也表示，如可透過像過濾軟體或類似技術來達到防止未成年人接觸網路色情內容的目的，則法律限制的必要性則有待商榷。