英國資料倫理與創新中心提出「議題速覽-深度偽造與視聽假訊息」報告

  英國資料倫理與創新中心(Centre for Data Ethics and Innovation, CDEI)於2019年10月發布「議題速覽-深度偽造與視聽假訊息」報告(Snapshot Paper - Deepfakes and Audiovisual Disinformation),指出深度偽造可被定義為透過先進軟體捏造特定人、主題或環境樣貌之影片或聲音等內容。除取代特定主體之臉部外,其亦具備臉部特徵重塑、臉部生成與聲音生成之功能。而隨相關技術逐漸成熟將難辨網路視聽影像之真偽,故CDEI指出有必要採取相關因應措施,包含:

一. 立法

許多國家開始討論是否透過訂立專法因應深度偽造,例如紐約州眾議院議員提出法案禁止特定能取代個人臉部數位技術之應用,美國國會亦有相關審議中草案。然而,縱有法律規範,政府仍無法輕易的辨識影片製造者,且相關立法可能抑制該技術於正當目的上之應用,並導致言論自由之侵害,故未來英國制定相關制度之制定將審慎為之。

二. 偵測

媒體鑑識方法於刑事鑑識領域已實行多年,其也可以運用於辨識深度偽造。媒體鑑識方法之一為檢查個體是否有物理上不一致之現象,以認定特定證物是否經竄改,包括拍攝過程中被拍攝對象是否眨眼,或皮膚上顏色或陰影是否閃爍。雖目前英國相關鑑識專家對於媒體鑑識方法是否可辨識深度偽造仍有疑義,惟相關單位已經著手發展相關技術。

三. 教育

教育亦為有效因應深度偽造之方法。目前許多主流媒體均開始喚起大眾對於深度偽造之意識,例如Buzzfeed於去年即點出5個方法以辨認有問題之影片。科技公司也開始投入公眾教育,提高成人網路使用者對於假訊息與深度偽造之辨識,然而報告指出其成效仍有待觀察。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 英國資料倫理與創新中心提出「議題速覽-深度偽造與視聽假訊息」報告, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8363&no=645&tp=1 (最後瀏覽日:2026/10/26)
引註此篇文章
你可能還會想看
因應2020年社會實現自動駕駛,日本訂定自動駕駛制度整備大綱

  日本IT綜合戰略本部及官民資料活用推進本部於4月17日公佈「自動駕駛制度整備大綱」。大綱設定2020年至2025年間,日本社會實現自動駕駛下,所需檢討修正之關連法制度。   本大綱中,係以2020年實現自動駕駛至等級4為前提(限定場所、速度、時間等一定條件下為前提,系統獨自自動駕駛之情形),以在高速公路及部分地區之道路實現為條件設定。社會實現自動駕駛有以下課題需克服: 道路交通環境的整備:以自駕系統為行駛,一般道路因為環境複雜,常有無法預期狀況發生,導致自駕車的電腦系統無法對應。 確保整體的安全性:依據技術程度,設定一般車也能適用之行駛環境、設定車輛、自動駕駛之行駛環境條件以及人之互相配合,以達成與一般車相同之安全程度為方針下,由關係省廳間為合作,擬定客觀之指標。此一指標,並非全國一致,應就地方之特性,設定符合安全基準及自動駕駛行駛環境條件,建構整體確保安全之體制。 防止過度信賴自駕系統:訂定安全基準,使日本事件最先端自動車技術擴及於世界,訂定包含自駕系統安全性、網路安全等自動駕駛安全性要件指針。 事故發生時之法律責任:自動駕駛其相關人為駕駛人、系統製造商、道路管理者等多方面,其法律責任相對複雜化。現在係以被害人救濟觀點,至等級4為止之自動駕駛,適用自動車損害賠償責任險(強制責任險)方式,但是民法、刑法及行政法等法律全體之對應,仍為今後之課題,必須為早期快速處理。為了強化民事責任求償權行使、明確刑事責任之因果關係、並實現車輛安全性確保、避免所有人過度負擔等,車輛行駛紀錄器之裝置義務化、事故原因究明機制等,關係機關應合作為制度檢討。   本大綱最後並提出,在自動駕駛技術快速發展下,就其發展實際狀況應為持續半年1次召開會議檢討檢討。

法國資料保護機關要求Clearview AI刪除非法蒐集的個人資料

  法國國家資訊自由委員會(Commission nationale de l’informatique et des libertés, CNIL)自2020年5月起陸續收到民眾對臉部辨識軟體公司Clearview AI的投訴,並展開調查。嗣後,CNIL於2021年12月16公布調查結果,認為Clearview AI公司蒐集及使用生物特徵識別資料(biometric data)的行為,違反《一般資料保護規範》(General Data Protection Regulation,GDPR)的規定,分別為: 非法處理個人資料:個人資料的處理必須符合GDPR第6條所列舉之任一法律依據,始得合法。Clearview AI公司從社群網路蒐集大量全球公民的照片與影音資料,並用於臉部辨識軟體的開發,其過程皆未取得當事人之同意,故缺乏個人資料處理的合法性依據。 欠缺保障個資主體的權利:Clearview AI公司未考慮到GDPR第12條、第15條及第17條個資主體權利之行使,特別是資料查閱權,並且忽視當事人的個資刪除請求。   因此,CNIL要求Clearview AI公司必須於兩個月內改善上述違法狀態,包括:(1)在沒有法律依據的情況下,停止蒐集及使用法國人民的個資;(2)促進個資主體行使其權利,並落實個資刪除之請求。若Clearview AI公司未能於此期限內向CNIL提交法令遵循之證明,則CNIL可依據GDPR進行裁罰,可處以最高 2000萬歐元的罰鍰,或公司全球年收入的4%。

簡介美國「消費者網路視訊選擇法」草案

美國3月發布AI國家政策框架

美國3月發布AI國家政策框架 資訊工業策進會科技法律研究所 2026年06月05日 美國白宮於2026年3月發布AI國家政策(National Policy Framework for Artificial Intelligence,下稱AI框架),提出與AI相關之立法建議。該框架不具強制性,亦非創立新規範,僅係提供國會就聯邦AI立法給予立法建議,以協助國會考慮聯邦層級之AI監管方案。 壹、政策背景 川普政府自2025年上任後即撤銷前總統拜登政府時期強調風險控管與偏見防範之14110號行政命令,並於三天後簽署14179號行政命令,《消除美國AI領導障礙》(Eliminating Obstacles to American Leadership in AI),內容確立應維持並強化美國AI於全球之領導地位。同年7月,川普政府發佈「美國AI行動計畫」(AI Action Plan),政策重心著重於AI監管鬆綁及創新驅動;後於12月簽署《確保AI國家政策框架》(Ensuring A National Policy Framework For Artificial Intelligence)行政命令,核心目標係排除地法對國家AI政策之影響,確保聯邦法規於AI治理上之優先,避免政府政策碎片化。而2026年3月發布之AI框架延續先前之政策路線,並具體化為立法建議,包含兒童保護、智慧財產權保障、AI打詐、民生能源確保等。於組織運作上,AI框架主張不增設新AI專門單位,而是透過現有機構依其專業領域彈性管理,同時亦要求建立聯邦層級之AI法規,制定全國一致之標準。 貳、重點說明 AI框架並未涵蓋所有AI相關議題,僅針對政府認為應作為聯邦AI立法核心之7個領域給予立法建議,針對兒童、創作者及社區提供保障,並於創新、競爭力及國家安全間取得平衡。 1.保護兒童並強化家長權能 該部分係強調對於兒童在AI相關風險上之保護,要求AI服務及平台應採取保護兒童之措施,並且賦予家長管控兒童之權力。框架建議國會應持續深化兒童保護相關之修立法,強制平台建立年齡驗證機制及降低性剝削或自傷風險之防禦措施。同時,應確保現行兒童隱私法規能適用於AI系統,並且應避免模糊之內容標準及開放性責任。並且應尊重各州對於兒童保護之一般性法規。 2. 保障及強化美國社區 AI框架呼籲國會應簡化AI基礎建設之聯邦許可程序,以加速AI基處建設發展,並且同時顧及民生能源,確保一般居民不因AI資料中心建設發展之電費成本而負擔較高電費。另應加強打擊AI詐騙及詐欺,並確保國安機構對AI模型之掌握及風險控管能力;對於中小企業應提供AI資源協助,普及AI於產業中之部署。 3. 尊重智慧財產權並支持創作者 AI框架強調對創作者之保障,同時亦不應損害合法創新及言論自由。框架中強調,國會應尊重法院對於AI模型利用著作權作品進行訓練之合理使用裁決。並呼籲國會考慮建立授權框架或集管機制,以保障著作權人與AI供應商間之協商管道;同時呼籲應建立對數位複製品之保護措施,避免如聲音或肖像等個人可辨識特徵被未經授權轉為AI商用。 4. 防止審查與保護言論自由 AI框架中強調,聯邦政府須保障言論自由,並防止AI系統被用以壓制或審查合法之政治表達或異議。呼籲國會應防止美國政府強迫科技廠商,包含AI供應商,基於政黨或意識形態禁止、更改或強制內容。並應針對政府於AI平台之審查提供有效救濟方式。 5.促進創新並確保美國AI之主導地位 為推動美國於AI之領先地位,國會應建立監管沙盒鼓勵創新,並將聯邦資料庫轉化為AI可讀形式供產學界之模型訓練。在監管上,應避免建立新的監管機關,而是透過現有專業機構及產業主導標準進行分業監管,確保AI發展能於現有法規框架與產業實務下穩定成長。 6. 教育民眾並培養具備AI能力之勞動力 AI框架中強調青年培訓以及新工作機會之重要性。呼籲國會應採取非監管手段,將AI納入現有教育及職訓計畫中,制定精準的人才扶持政策,並強化贈地大學(Land-grant institutions)之AI技術支援能力。 7. 建立聯邦政策框架,避免繁瑣的州級AI法規 聯邦政府須建立聯邦層級之AI政策框架,透過聯邦優先原則取代各州不一之法律,以減輕企業合規成本並維護國家競爭力。應禁止各州干預具跨州、外交及國安特性之AI技術研發,亦不得因第三方非法行為而懲罰AI開發者;但仍須尊重傳統之州警察權力,尊重地方政府之基礎建設規畫及州政府內部使用AI規範之自主權。 參、事件評析 美國AI框架延續川普政府自上任以來之AI政策,強調監管鬆綁,並欲降低對AI之嚴格管制,促進創新及強化美國競爭力。此次框架法建議係建議國會建立聯邦層級之AI規範標準,但核心並非推動單一、全面性之法規改革,而是針對各特定領域給予立法建議,透過各領域機構之既有專業進行分業監管。 相較於歐盟透過AI Act 建立統一且具法律拘束力之AI風險分級管理制度,美國AI框架則是傾向透過既有法律體系及主管機關進行管理。雖近年來美國部分州政府已陸續推動AI相關立法,然AI框架強調建立聯邦層級之一致性政策,未來聯邦與州之間之法律及政策適用仍有爭議產生之可能。整體而言,美國AI框架透過分散式法律制度、分業監管方式處理AI相關風險,而非建立全面性總括之AI專法或專責機構。惟該框架目前僅屬白宮向國會提出之立法建議,未來國會如何將該些建議具體落實於各部會之聯邦法案中,以及是否能有效平衡監管及創新需求,仍有待後續觀察。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://www.tips.org.tw)

TOP