英國教育部《保障兒童在教育領域之安全2026》納入AI深偽影像，強調AI過濾機制及校方審查義務
英國教育部（Department for Education，以下簡稱DfE）於2026年7月7日更新《保障兒童在教育領域之安全2026》（Keeping children safe in education 2026，下稱KCSIE 2026），將「生成式AI」納入學校之兒少保護與網路安全體系，供英國幼稚園至大學等學校參考，以保障及促進18歲以下兒童及青少年之福祉。此文件性質為不具強制力之指引，自同年9月1日起生效。以下簡要介紹《KCSIE 2026》重點。
《KCSIE 2026》建議除有正當理由，否則校方應遵循以下：
1.政策面，學校應將網路安全管理方法列入校內既有兒少保護政策中，如當學生使用AI生成具傷害性之內容（AI深偽照片、影片等）時，校方應啟動關於影像濫用的兒少保護程序。
2.系統管理面，建議學校應建立適當的過濾與監控系統（filtering and monitoring systems），每年至少應審查一次過濾系統之功能是否正常運作。
由校內人員組成之高級管理團隊（Senior Leadership Team, SLT）成員主導審查，以及由校方指定的一名或多名安全保護主管（Designated Safeguarding Lead, DSL）與IT人員從旁協助。審查重點除應確保過濾功能正常，亦應確保工作人員理解相關規定並知道向上通報事件之方式，並應留存相關審查紀錄。
建議學校除此份文件外，亦應參考英國DfE發布之《生成式AI產品安全標準》（Generative AI: product safety standards），評估AI工具是否符合教育領域的過濾與監控需求。
3.人員面，建議教職員的入職培訓以及每年至少一次兒少保護新知培訓中，應考量網路安全與學校的兒少保護政策並加以整合。
關於前文提及英國DfE於2026年1月更新之《生成式AI產品安全標準》，此文件性質同為不具強制力之指引，其提出11項安全標準供教育科技開發商、學校及學院供應商規劃與評估其生成式AI產品，包含：智慧財產權、隱私與資料保護、認知發展、心理健康及過濾機制等項目。其中，「智慧財產權」，主要提到除取得著作權人同意，否則AI產品不應儲存「輸入的資料」，亦不應將「輸入的資料」用於任何商業用途，包含但不限於作為訓練資料、產品開發。「隱私與資料保護」包含如：AI生命週期中應進行資料保護影響評估，若未確認合法依據，不得蒐集、儲存、分享或使用個人資料於任何商業目的，包括用於訓練與微調模型。「過濾機制」係指學校應確保採購之AI產品具過濾功能，可有效防止使用者（學生）接觸不當的內容。
由前文可得知，學校導入AI工具，不宜只評估AI功能之便利性，也應確認是否二次利用輸入之資料、資料傳輸至何處、具資料存取權限的人員範圍，以及是否具備過濾機制，並採取因應措施，如教職員培訓等。
臺灣教育領域導入生成式AI時，可參考此思維，於採購及委外開發流程，要求供應商揭露資料流向、限制二次利用（如用於訓練與微調模型）並保留系統操作紀錄，再由校方建立權限設定、過濾機制及事件應變制度，使教育AI的創新應用奠基於可追溯、可管控的資料管理基礎。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/）
洪亮瑄
副法律研究員 編譯整理
Keeping children safe in education, GOV.UK, https://www.gov.uk/government/publications/keeping-children-safe-in-education--2 (last visited Aug. 10, 2026).
Generative AI: product safety standards, GOV.UK, https://www.gov.uk/government/publications/generative-ai-product-safety-standards/generative-ai-product-safety-standards (last visited Aug. 10, 2026).
歐盟執委會於2022年1月27日宣布批准Meta（原Facebook）對Kustomer的併購案。Kustomer公司本身為向企業銷售客戶關係管理（customer relation management, CRM）整合軟體之公司，故本項併購可能影響Meta對消費者資訊的掌握能力，進而提升廣告市場影響力。因之，歐盟執委會基於自去（2021）年8月起深入調查本併購案有無影響公平競爭的結果，作成批准本併購案之決定，但要求Meta應遵守其提出的條件。 依據歐盟執委會的調查結果，主要擔憂本併購案可能阻礙CRM整合軟體之供給市場、以及CRM整合軟體售後客戶服務之供給市場的公平競爭。同時，調查中亦確認到Meta限制Kustomer公司的潛在競爭對手、以及新參與上述市場的業者近用Meta的訊息傳遞路徑應用程式介面（message channel API）。上述潛在競爭對手與業者和Kustomer公司相同，以中小企業為其主要銷售客群。而Meta採取此種經營方式，則可能會劇烈減少CRM整合軟體供給市場、以及CRM整合軟體售後客戶服務供給市場的競爭，導致相關軟體產品或服務的價格上揚，並伴隨品質與創新能量的下降，更可能將之轉嫁予消費者。 對上述調查結果所提出違反公平競爭秩序的疑慮，Meta則提案追加以下約款，作為條件以圖本併購案能夠獲准：（1）Meta保證於10年內，將其訊息傳遞路徑應用程式介面以無償、非歧視的方式，公開予存在競爭關係之客戶服務CRM整合軟體供應商、與新參與市場的業者取用；（2）Kustomer公司之客戶所使用Messenger、Instagram之私人通訊服務，以及WhatsApp之功能未來有進行改良或更新時，Kustomer公司之競爭對手與新進業者同樣得使用該些更新的功能。歐盟執委會最終認為Meta若踐行上述約款，將能消除其違反公平競爭秩序的疑慮，而以Meta履行該些約款為條件批准本併購案。
加拿大配合數位隱私法之推行，公告安全防護措施違反之規則草案加拿大數位隱私法（Digital Privacy Act）於2015年6月18日獲得皇室御准，該法目的係為修訂規範私部門運用個人資料的聯邦個人資料保護及電子文件法（Personal Information Protection and Electronic Documents Act, PIPEDA）。該法有多個章節於公告時便即刻施行，但仍有部分章節需待日後其他行政機關公告配套之法規後始能正式施行，例如該法的重點章節之一：「安全防護措施之違反」（Breaches of Security Safeguards）。 歷經約莫兩年，加拿大創新、科學及經濟發展部（Innovation, Science and Economic Development Canada）於2017年9月2日公告安全防護措施違反之規則草案（Breaches of Security Safeguards Regulations），以及規則衝擊分析聲明（Regulatory Impact Analysis Statement）。草案自公告時起開放30天供相關利益關係人發表意見，未來將和數位隱私法的「安全防護措施之違反」同時生效施行。 草案制定目的在於確保加拿大本國人若遇有資料外洩且具有損害風險時，可收到精確的相關資訊。私部門對本人的通知應包含使本人可理解外洩的衝擊和影響的詳細資訊。草案確保加拿大個人資料保護公署（Office of the Privacy Commissioner of Canada）之專員亦能獲得有關資料外洩的確實且對等資訊，並可監督、確認私部門遵守法規並執行。草案詳載私部門於通報個人資料保護公署時應提交的資訊，以及通知本人時應提供的資訊，且不限制私部門額外提供其他資訊。遇有資料外洩情事而故意不即時通報個人資料保護公署或通知本人者，最高將可處十萬美金罰鍰。
日本公布資料管理框架，促進資料加值應用日本經濟產業省2022年4月8日公布「協調性資料加值運用之資料管理框架-透過確保資料可信度創造資料價值之新路徑」（協調的なデータ利活用に向けたデータマネジメント・フレームワーク～データによる価値創造の信頼性確保に向けた新たなアプローチ），提示確保資料可信度之方法。經濟產業省於2019年7月31日設立「第3層︰網路空間信賴性確保之安全對策檢討工作小組」（『第3層：サイバー空間におけるつながり』の信頼性確保に向けたセキュリティ対策検討タスクフォース」，以下簡稱工作小組），討論確保資料可信度之要件，以利資料在網路空間內自由流通，並藉由資料創造出新的附加價值。 工作小組為確保資料可信度，首先定義資料管理為「將資料屬性依據其所涉之法令或組織規章，以及因蒐集、處理、利用、移轉等活動而改變之過程，視為一個生命週期加以管理」，並認為資料管理會受到屬性（資料性質，如內容、揭露範圍、利用目的、資料管理主體、資料權利者等）、場域（針對資料之特定規範，如各國、地區法令、組織內部規定、組織間契約等）及事件（產生、改變及維持資料屬性之事件，如生產、蒐集、處理、移轉、提供、儲存、刪除）等三大要素影響，並據此建立資料管理模型。 工作小組期待藉由上述三大要素，依序透過讓資料處理流程（事件）處於容易被觀察的狀態、整理所涉及之相關規範（場域），以及判斷資料屬性等步驟，讓利害關係人之間可更容易進行資料共享及資料治理。
瑞士聯邦委員會發布報告推進以數位自決權創建可信賴資料空間瑞士聯邦委員會於2022年3月30日，發布了一份關於推進可信的「資料空間」（Data Spaces）與「數位自決權」（Digital Self-Determination）報告。此份報告旨在強調資料是數位時代下創造價值的基礎，為了更好地運用資料的潛在價值，呼籲各界採用新的資料使用概念，加強資料所有者（Data Owner）或資料控管者（Data Controller）對於資料的控制，以「數位自決權」為核心，透過科學技術與法律制度，進一步為實踐「資料共享」（Data Sharing）提供一個安全、便捷、自主、開放、公平而值得信賴的「資料空間」。 值得注意的是，透過該報告，聯邦委員會指示聯邦外交部（FDFA）與聯邦環境、運輸、能源和通訊部（DETEC）實施多項措施，以期能在2023年6月份之前，制定一部由所有利害關係人參與的可信賴資料空間操作之自願行為準則。 此外，該報告列舉出當下對於充分發揮資料潛力所存在的障礙，包括： 資料愈趨集中於大企業手中，且多基於自身目的而使用。 私人和公共服務的提供者在資料的使用上存在多種障礙，例如：資源不足、缺乏專業知識以及擔心競爭劣勢。 社會對於資料的使用態度轉趨保守，無論是擔心資料被濫用而侵犯隱私，或是缺乏資料共享的動機。 該報告更進一步指出資料流通的跨國性，因而有必要創建值得信賴且國際兼容的資料空間，為此亦須建立可信賴資料空間的國際準則，以在國際間形成法律確定性。 觀諸我國個人資料保護法第1條便明確指出，本法制定的目的不僅是為了保護個人資料以及相應之人格權與隱私權，而是更進一步欲透過個人資料管理制度的建構與落實，健全社會及商業互信，以期達成資料的合理利用、創造價值並促進公共福祉的終極目標。 關於我國的資料共享體制，現階段主要從金融機構間開始萌芽，未來如何以數位自決權為基礎，同時在充分保障資訊安全的前提下，擴及其他產業並接軌國際，有賴更多科技與法制的創造與積累、外國經驗的借鑑以及國際參與，而台灣近日以創始會員身分加入「全球跨境隱私規則論壇」（Global Cross-Border Privacy Rules Forum）即為著例。