英國教育部《保障兒童在教育領域之安全2026》納入AI深偽影像，強調AI過濾機制及校方審查義務
英國教育部（Department for Education，以下簡稱DfE）於2026年7月7日更新《保障兒童在教育領域之安全2026》（Keeping children safe in education 2026，下稱KCSIE 2026），將「生成式AI」納入學校之兒少保護與網路安全體系，供英國幼稚園至大學等學校參考，以保障及促進18歲以下兒童及青少年之福祉。此文件性質為不具強制力之指引，自同年9月1日起生效。以下簡要介紹《KCSIE 2026》重點。
《KCSIE 2026》建議除有正當理由，否則校方應遵循以下：
1.政策面，學校應將網路安全管理方法列入校內既有兒少保護政策中，如當學生使用AI生成具傷害性之內容（AI深偽照片、影片等）時，校方應啟動關於影像濫用的兒少保護程序。
2.系統管理面，建議學校應建立適當的過濾與監控系統（filtering and monitoring systems），每年至少應審查一次過濾系統之功能是否正常運作。
由校內人員組成之高級管理團隊（Senior Leadership Team, SLT）成員主導審查，以及由校方指定的一名或多名安全保護主管（Designated Safeguarding Lead, DSL）與IT人員從旁協助。審查重點除應確保過濾功能正常，亦應確保工作人員理解相關規定並知道向上通報事件之方式，並應留存相關審查紀錄。
建議學校除此份文件外，亦應參考英國DfE發布之《生成式AI產品安全標準》（Generative AI: product safety standards），評估AI工具是否符合教育領域的過濾與監控需求。
3.人員面，建議教職員的入職培訓以及每年至少一次兒少保護新知培訓中，應考量網路安全與學校的兒少保護政策並加以整合。
關於前文提及英國DfE於2026年1月更新之《生成式AI產品安全標準》，此文件性質同為不具強制力之指引，其提出11項安全標準供教育科技開發商、學校及學院供應商規劃與評估其生成式AI產品，包含：智慧財產權、隱私與資料保護、認知發展、心理健康及過濾機制等項目。其中，「智慧財產權」，主要提到除取得著作權人同意，否則AI產品不應儲存「輸入的資料」，亦不應將「輸入的資料」用於任何商業用途，包含但不限於作為訓練資料、產品開發。「隱私與資料保護」包含如：AI生命週期中應進行資料保護影響評估，若未確認合法依據，不得蒐集、儲存、分享或使用個人資料於任何商業目的，包括用於訓練與微調模型。「過濾機制」係指學校應確保採購之AI產品具過濾功能，可有效防止使用者（學生）接觸不當的內容。
由前文可得知，學校導入AI工具，不宜只評估AI功能之便利性，也應確認是否二次利用輸入之資料、資料傳輸至何處、具資料存取權限的人員範圍，以及是否具備過濾機制，並採取因應措施，如教職員培訓等。
臺灣教育領域導入生成式AI時，可參考此思維，於採購及委外開發流程，要求供應商揭露資料流向、限制二次利用（如用於訓練與微調模型）並保留系統操作紀錄，再由校方建立權限設定、過濾機制及事件應變制度，使教育AI的創新應用奠基於可追溯、可管控的資料管理基礎。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/）
洪亮瑄
副法律研究員 編譯整理
Keeping children safe in education, GOV.UK, https://www.gov.uk/government/publications/keeping-children-safe-in-education--2 (last visited Aug. 10, 2026).
Generative AI: product safety standards, GOV.UK, https://www.gov.uk/government/publications/generative-ai-product-safety-standards/generative-ai-product-safety-standards (last visited Aug. 10, 2026).
日本國會2024年5月10日通過、同月17日公布《重要經濟安全資訊保護及活用法》（重要経済安保情報の保護及び活用に関する法律，以下簡稱經安資訊保護法），建立安全許可（セキュリティ・クリアランス）制度，規範政府指定重要經濟安全資訊（以下簡稱經安資訊）、向業者提供經安資訊之方式，以及可近用經安資訊之人員資格等事項，以保護與重要經濟基礎設施有關，外流可能影響國家及國民安全之重要資訊，並同時促進此類資訊之利用。 根據經安資訊保護法規定，行政機關首長得指定機關業務相關之重要資訊，如與關鍵基礎設施、關鍵原物料相關，外洩可能影響經濟安全之資訊為經安資訊。並得於下列情形，向其他行政機關、立法機關及司法機關、特定民間業者提供經安資訊： 1.其他行政機關：有利用經安資訊之必要時。 2.立法機關及司法機關：提供資訊對經濟安全不會有顯著影響時。 3.特定民間業者：為促進有助於經濟安全保障之行為，必要時得依契約向符合保安基準之業者提供經安資訊。 此外，經安資訊保護法進一步規定近用、處理經安資訊者，須通過適格性評價（適性評価），評價重點包括當事人犯罪紀錄、藥物濫用紀錄、有無精神疾病、有無酗酒、信用狀況等。由於上述內容涉及當事人隱私，故行政機關進行適格性評價前，須取得當事人同意。
美國總統拜登簽署「改善國家網路安全」行政命令美國總統拜登於2021年5月12日簽署「改善國家網路安全」總統行政命令（Executive Order on Improving the Nation’s Cybersecurity），旨在增進美國政府與私部門在網路安全議題的資訊共享與合作，以加強美國對事件發生時的因應能力。本命令分從數個面向達成前述目標，分別為： （1）情資共享之強化：消除威脅政府與私部門之間資訊共享的障礙，要求IT與OT服務者偵測到可疑動態時，與政府共享相關資訊與相關安全漏洞資料，簡化並提高服務商與聯邦政府系統服務合約之資安要求。 （2）現代化聯邦政府網路安全：針對聯邦政府網路，建構更現代化與嚴格的網路安全標準，並採取零信任架構，例如應強化雲端服務與未加密資訊之共享機制，包括由公眾直接透過WiFi連網取得或下載之資訊網頁等，針對其建構安全機制、更新加密金鑰與建構新的安全工具。 （3）強化軟體供應鏈安全：提高軟體供應鏈安全性，包括要求開發人員提高其軟體透明度、公開安全資料、利用聯邦資源促進軟體開發市場，以及建構軟體認證，使市場更容易確定該軟體的安全性。 （4）建立資安審查委員會：建立由公私部門共同合作的資安審查委員會（Cybersecurity Safety Review Board），針對重大資安事件做及時的回應、，並進行獨立第三方之審查與建議。 （5）標準化聯邦政府應對資安弱點及資安事件的教戰手冊：建構聯邦政府因應資安事件之資安事件教戰手冊，使聯邦政府得以及時並一致地回應網路攻擊事件。 （6）改進對聯邦政府網路資安弱點及資安事件之偵測：清查聯邦政府端點，改善聯邦政府對資通安全事件的偵查能力，並進一步布建強大的端點監測和回應系統（Endpoint Detect and Response, EDR）。 （7）提升聯邦政府調查與補救之能力：提升資訊安全事件調查與補救能力，並透過更頻繁與一致的資安事件日誌來減緩駭客對聯邦政府網路的入侵。 （8）建制國家安全系統：要求聯邦政府部門採用符合相關網路安全要求之國家安全系統。 本行政命令是美國政府在美國油管遭駭事件後，對相關事件之具體因應。本行政命令雖主要著眼於聯邦政府的網路安全，但亦透過總統行政命令鼓勵私部門在網路安全核心服務上加強合作與投資。預計美國在此總統行政命令基礎上，將有進一步強化公私合作的措施與資源挹注。
日本經產省修正〈電子商務交易及資訊商品交易等準則〉日本經濟產業省於2018年12月19日修正「電子商務交易及資訊商品交易等準則」（電子商取引及び情報財取引等に関する準則，以下稱「本準則」），主要係因應2018年《不正競爭防止法》在促進資料利用之環境整備方面，以及《著作權法》在應取得著作權人同意之行為範圍部分之修正。 本準則首次公布於2002年3月，係經產省透過學界、產業界及金融界專家、相關主管機關、消費者等各方合作，整理民法等各相關法規釋疑而成，因此，須隨著法規修正更新本準則中的法規適用、爭點、說明等內容。經產省期能透過本準則提高交易當事人對電子商務交易及資訊商品交易相關市場的可預見性（foreseeability），並促進交易。 本準則此次修正相關重點如下： 於網站上販售或公布用以安裝程式或存取、複製數位內容（digital content）及程式之帳號及密碼者，應負相關衍生之法律責任。 針對透過網路蒐集、輸出、於內部網路登載、投影他人著作物等利用行為者，加以限制規範。 若學校授課、企業培訓係使用網路進行遠距教學，或遠距教學服務之供應商有償向學校、企業提供課程而違法利用他人著作物者，則學校、企業、服務供應商須依著作權法負相關法律責任。 使用者（被授權人）基於契約取得供應商（授權人）之同意得以使用資訊商品，縱使該資訊商品之智慧財產權（著作權、特許權）受讓予他人，使用者仍得繼續使用該資訊商品。 因體驗版之手機應用程式、軟體、共享軟體，對使用功能或使用期間有所限制，若行為人違法散布解除限制方法於網路者，則行為人應負之法律責任。 向第三人提供全部或部份有償之資料集（dataset）等行為者，加以限制規範。 針對使用P2P共享軟體將檔案上傳至網路、自網路上下載以及提供P2P共享軟體等行為，就是否違反著作權法進行討論。 拍攝到第三人著作物之合理使用。
何謂「無人機」？無人機(Drone)也就是無人飛機或無人飛行器(Unmanned Aerial Vehicles, UAV)，具備自動飛行系統的簡易模型飛機，自動飛行系統內可能包含一電腦作業系統、一套衛星導航裝置、羅盤功能、氣壓高度計、偵測器及設計飛行之軟體等等，簡稱無人機。茲因電子與無線傳輸科技進步，無人機在國際間掀起流行，近來無人機之使用引發安全疑慮，促進各國重視無人機的使用與法制管理。目前國際間陸續針對無人機立法管理的有美國、日本及歐盟等，我國行政院亦於2015年9月24日通過「民用航空法」部分條文修正草案因應無人機遙控管理規範。觀諸國際立法及修法趨勢，無人航空器之管理，包括無人機的體積、重量、使用用途、使用區域限制、使用時間限制、飛行速度或方法、飛行高度限制等，且亦須重視安全、隱私、資料保護、損害責任與保險相關問題，以及無人機所有權明確判別之方式等，因此我國未來就無人機相關管理規範或可參考先進國家重要管理規定，擬定更適合我國之「無人航空器管理規則」，俾利發展新興科技無人機市場時，同時能兼顧確保個人、國家與領空安全之規劃。