英國教育部《保障兒童在教育領域之安全2026》納入AI深偽影像,強調AI過濾機制及校方審查義務

英國教育部(Department for Education,以下簡稱DfE)於2026年7月7日更新《保障兒童在教育領域之安全2026》(Keeping children safe in education 2026,下稱KCSIE 2026),將「生成式AI」納入學校之兒少保護與網路安全體系,供英國幼稚園至大學等學校參考,以保障及促進18歲以下兒童及青少年之福祉。此文件性質為不具強制力之指引,自同年9月1日起生效。以下簡要介紹《KCSIE 2026》重點。

《KCSIE 2026》建議除有正當理由,否則校方應遵循以下:

1.政策面,學校應將網路安全管理方法列入校內既有兒少保護政策中,如當學生使用AI生成具傷害性之內容(AI深偽照片、影片等)時,校方應啟動關於影像濫用的兒少保護程序。

2.系統管理面,建議學校應建立適當的過濾與監控系統(filtering and monitoring systems),每年至少應審查一次過濾系統之功能是否正常運作。

由校內人員組成之高級管理團隊(Senior Leadership Team, SLT)成員主導審查,以及由校方指定的一名或多名安全保護主管(Designated Safeguarding Lead, DSL)與IT人員從旁協助。審查重點除應確保過濾功能正常,亦應確保工作人員理解相關規定並知道向上通報事件之方式,並應留存相關審查紀錄。

建議學校除此份文件外,亦應參考英國DfE發布之《生成式AI產品安全標準》(Generative AI: product safety standards),評估AI工具是否符合教育領域的過濾與監控需求。

3.人員面,建議教職員的入職培訓以及每年至少一次兒少保護新知培訓中,應考量網路安全與學校的兒少保護政策並加以整合。

關於前文提及英國DfE於2026年1月更新之《生成式AI產品安全標準》,此文件性質同為不具強制力之指引,其提出11項安全標準供教育科技開發商、學校及學院供應商規劃與評估其生成式AI產品,包含:智慧財產權、隱私與資料保護、認知發展、心理健康及過濾機制等項目。其中,「智慧財產權」,主要提到除取得著作權人同意,否則AI產品不應儲存「輸入的資料」,亦不應將「輸入的資料」用於任何商業用途,包含但不限於作為訓練資料、產品開發。「隱私與資料保護」包含如:AI生命週期中應進行資料保護影響評估,若未確認合法依據,不得蒐集、儲存、分享或使用個人資料於任何商業目的,包括用於訓練與微調模型。「過濾機制」係指學校應確保採購之AI產品具過濾功能,可有效防止使用者(學生)接觸不當的內容。

由前文可得知,學校導入AI工具,不宜只評估AI功能之便利性,也應確認是否二次利用輸入之資料、資料傳輸至何處、具資料存取權限的人員範圍,以及是否具備過濾機制,並採取因應措施,如教職員培訓等。

臺灣教育領域導入生成式AI時,可參考此思維,於採購及委外開發流程,要求供應商揭露資料流向、限制二次利用(如用於訓練與微調模型)並保留系統操作紀錄,再由校方建立權限設定、過濾機制及事件應變制度,使教育AI的創新應用奠基於可追溯、可管控的資料管理基礎。

本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。

本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/)

相關連結
你可能會想參加
※ 英國教育部《保障兒童在教育領域之安全2026》納入AI深偽影像,強調AI過濾機制及校方審查義務, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9526&no=67&tp=1 (最後瀏覽日:2026/11/23)
引註此篇文章
你可能還會想看
日本內閣閣議決定2021年最新3年期網路安全戰略

  日本內閣於2021年9月28日閣議決定最新3年期《網路安全戰略》(サイバーセキュリティ戦略)。本戰略係根據網路安全基本法(サイバーセキュリティ基本法),針對日本應實施之網路安全措施進行中長期規劃。日本將從「以數位改革為基礎,推動數位轉型與網路安全」、「在網路空間朝向公共空間化與相互連繫發展下,縱觀全體以確保安全安心」、「加強風險管理措施」三大方向,推動網路安全措施。本戰略重點措施包括: 提升經濟社會活力,並推動數位轉型與網路安全:為達成數位改革,日本經濟社會須完成數位轉型改革。而在推動經濟社會數位化過程中,應將網路安全納入政策推動之考量。 實現國民得安全安心生活之數位社會:所有組織應確保完成任務,並加強風險管理措施。而數位廳將揭示並推動網路安全基本方針,以使政府提供網路安全環境保護國民與社會。 促進國際社會和平安定,並保障日本安全:為確保全球規模「自由、公正且安全之網路空間」,日本須制定展現該理念之國際規範,並加強國際合作。 推動橫向措施:在橫向措施方面,將進行中長期規劃,推動實踐性研究開發,並促進網路安全人才培育。此外,政府亦須與民間共同合作進行推廣宣傳,以強化國民對網路安全意識。

資通安全法律案例宣導彙編 第5輯

淺談創新應用服務(OTT)之創新與規範課題

淺談創新應用服務(OTT)之創新與規範課題 科技法律研究所 法律研究員 蔡博坤 2015年05月26日   隨著資通訊科技快速的發展,例如網際網路、雲端運算、智慧聯網、巨量資料、4G/5G等等,創新應用服務(Over-the-top, OTT)已逐漸包含各種基於網際網路之服務與內容。此科技應用的服務應如何在現行法律規範體系下被論及,其本身以及衍生的議題復為何,均為所欲介紹的核心,本文係以美國作為觀察之對象,希冀對於我國未來在OTT領域之法制有所助益。 壹、美國FCC對於創新應用服務(OTT)的態度觀察   在美國,聯邦通訊委員會(Federal Communication Commission, FCC)係美國境內主管電信與通訊領域聯邦層級的主管機關,對於網際網路上之新興應用服務,為鼓勵新興技術的發展,一向以避免管制為原則,也因此一些OTT TV或VoIP之商業模式,近年來無論係在美國境內抑或境外,皆有著長足的發展。另一方面,隨著科技快速變遷,FCC亦與時俱進持續透過公眾諮詢,尋求是否有調整相關定義,抑或擴張規範管制之必要。例如,2014年12月,FCC發布一個法規修訂公開意見徵集的通知(Notice of Proposed Rulemaking, NPRM),希冀更新目前於1934年通訊法(Communications Act of 1934)下之相關規範,以反映目前透過網際網路所提供的影音服務,特別將更新對於Multichannel Video Programming Distributor(MVPD)一詞定義。 貳、關鍵之法制課題   由於FCC在創新應用服務(OTT)領域市場管制者(market regulator)的角色乃至關重要,同時,提供此應用服務的業者,無論係電信業者還是新興科技業者,其彼此間相互且複雜之法律關係,所衍生之法制議題,實有必要探討以及釐清,謹就兩個層面的問題概述如下:   關於第一個層次網路中立(Net Neutrality)的議題,從相關案例實務判決觀察,2014年2月,美國有線寬頻業者Comcast即以頻寬有限資源,以及確保網路流量充足的理由,說服Netflix服務營運商,同意因此付費給Comcast,而雙方所進行之合作,也引起所謂網路中立性的爭議課題。今(2015)年2月,FCC於最新通過的Open Internet Order,有別於過往命令僅能有限度地適用於行動網路服務業者(mobile broadband),新的命令將能全面性地適用於固網以及行動網路業者,反應近年來在無線寬頻網路科技之快速進展,將擴張保護消費者近取網際網路的方式。   其次,觀察目前美國境內OTT的業者,包括Now TV、Netflix、Ditto TV、Whereever TV、Hulu、Emagine、myTV等,均有建置整合平台,俾利提供消費者新型態的商業服務,從知名Netflix公司所建構的平台政策,相關重要的規範課題包含資料的蒐集、處理與利用,也提到對於安全性的重視與兒少保護等。在相關隱私權議題面向,其指出,由於使用者得通過不同的媒介透過網際網路近取相關服務,誠是些來源皆有各自獨立之隱私權聲明、注意事項與使用規約,除了提醒用戶應盡相關的注意義務外,相關衍生的責任亦會予以劃清。 參、簡評   從上述可得知,創新應用服務(OTT)整體之發展,係與網際網路(Internet)相關推動工作係一體的,因此,我國未來如欲推動OTT相關創新服務,相關網際網路所衍生的議題,例如網路中立等,勢必將成為重要的法制層面所亟需探究之課題。   在我國,如同美國聯邦通訊委員會(FCC)角色之行政主管機關係國家通訊傳播委員會(NCC),在主管的法令中,目前依據電信法相關規範,電信事業應公平提供服務,除另有規定外,不得為差別處理(第21條);無正當理由,第一類電信事業市場主導者不得對其他電信事業或用戶給予差別待遇,抑或不得為其他濫用市場地位或經主管機關認定之不公平競爭行為(第26-1條)。   相關法律條文規範是否可因此援引作為討論創新應用服務(OTT)之法源基礎,復如何調和第一類電信事業市場主導者與新興應用服務科技業者之關係,仍存在著灰色地帶。從鼓勵產業創新之觀點出發,謹初步建議從正面的立場,鼓勵相關創新應用發展,宜避免逕就OTT服務過度管制。

英國氣候過渡計畫小組公布氣候揭露報告框架的最終版本

英國氣候過渡計畫工作小組(Transition Plan Taskforce,以下稱TPT)於2023年10月9日公布其氣候揭露報告框架(TPT Disclosure Framework,下稱「框架」)最終版本及使用指引。TPT是英國財政部在2022年4月成立,負責建立氣候過渡計畫準則。TPT則於2022年11月提出框架草案,並開始徵詢產官學界意見,最後提出正式版本。 TPT框架建議企業以宏觀、有策略的方式制定氣候過渡計畫。TPT框架從企圖心、行動力和當責性三項原則出發,分別就五個必須揭露的事項說明如何在氣候揭露報告中呈現企業的氣候過渡計畫: 一、企圖心:說明企業的基礎事項,例如氣候戰略目標和商業模式。 二、行動力:說明過渡計畫的執行策略、以及擴大參與的策略。 三、當責性:說明將採用哪些指標與標的來監督計畫的執行、以及如何將過渡計畫融入企業的治理當中。 TPT也配合框架內容制定行業指引,目前已公布40個行業摘要(Sector Summary),簡述各行業可用的脫碳手段、指標與目標。未來還將公布針對銀行業、資產擁有者、資產管理者、電力公用事業和電力發電機、食品與飲料、金屬與礦業、石油和天然氣等7個行業的深度剖析(Sector Deep Dives)。 此外,TPT網站上也提供TPT框架與相關國際主流框架或準則之比較報告給各界參考,要使這套由英國自行開發、為英國內部量身打造的框架也能接軌國際,其未來實施成效值得繼續追踪觀察。

TOP