歐盟提出人工智慧法律調和規則草案
歐盟執委會（European Commission）於2021年4月21日提出「人工智慧法律調和規則草案」（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts）（簡稱AI規則草案），旨在平衡「AI運用所帶來的優勢」與「AI對個人或社會所帶來的潛在負面衝擊」，促使會員國在發展及運用AI時，能採取協調一致的態度及方法，共同維護歐洲公民基本權利與歐盟價值。
歐盟自2019年起即倡議發展「值得信賴的AI」（Trustworthy AI）。AI規則草案之提出，除了落實執委會2019年至2024年之政策願景外，亦呼應2020年歐洲議會（European Parliament）之建議—針對AI應用之機會與利益採取立法行動，並確保合乎倫理原則。惟鑒於歐盟在環境、健康、公共事務、金融、交通、農業等領域對AI應用之高度需求，以及企業仰賴AI技術提升競爭優勢等因素，執委會係以「風險為基礎」之概念取向（risk-based approach）制定AI規則草案，避免對新技術發展造成不必要的限制或阻礙。
本規則草案將AI系統，依其「對歐盟基本權利或價值所創造的風險程度」，分為下列三種類型，並施以不同程度的監理方式：
一、不可接受之風險：原則上禁止使用此類型AI系統或使其進入歐盟市場。例如：利用潛意識技術操控個人、在公共場合利用「即時遠端生物辨識系統」進行執法、公務機關普遍對個人進行社會評分等。
二、高風險：於附錄中列出所謂高風險AI系統，要求高風險AI系統之提供者遵循風險管理、資料治理、文件紀錄保存、透明性與資訊揭露、人為監督、健全性、準確性與資安等要求；且AI系統進入歐盟市場前，需進行符合性評估（conformity assessment），進入市場後，則需持續監控。
三、非不可接受之風險亦非高風險：鼓勵AI系統提供者或使用者，自願建立行為準則（codes of conduct）。
AI規則草案亦鼓勵會員國建立AI監理沙盒（regulatory sandbox）機制，且以中小企業、新創公司為優先對象，使創新AI系統進入市場之前，能於可控環境中依明確計畫進行開發、測試與驗證。
張腕純
組長 編譯整理
EUROPEAN COMMISSION, Proposal for a Regulation Laying down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts (2021), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=75788 (last visited Apr. 30, 2021).
Shaping Europe’s Digital Future: A European Approach to Artificial Intelligence, European Commission, https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence (last visited Apr. 30, 2021).
Ursula von der Leyen, My Agenda for Europe: Political Guidelines for the Next European Commission 2019-2024 (2019), https://ec.europa.eu/info/sites/default/files/political-guidelines-next-commission_en_0.pdf (last visited Apr. 30, 2021).
2009年，馬里蘭州立法通過去氧核醣核酸（下稱DNA）採集法（DNA Collection Act），允許警方向已經被起訴但尚未定讞之犯罪嫌疑人採集DNA樣本，其適用對象主要在於暴力犯罪或一級竊盜案件。對此問題，美國大約有26州立有與馬里蘭州類似的法案，例如維吉尼亞州的執法單位對於暴力犯罪在經過逮捕後即可進行DNA採集。然而，該法案卻引發了隱私權利與公眾安全之平衡的爭論。 此次爭議爆發於Alonzo Jay King Jr. v. State of Maryland案，案件中Alonzo Jay King Jr.在2009年被起訴暴力攻擊，且因此被警方採集DNA，而後又在經過DNA比對之後，發現與2003年一宗強制性交案件所遺留下的DNA樣本符合，並據此判決Alonzo Jay King Jr.強制性交罪。本案經Alonzo Jay King Jr.上訴高等法院後，高等法院認為調查人員採集其基因資料並以之與舊案件進行比對，已經侵犯了美國憲法第四修正案所賦予人民的合理隱私期待，屬於不合法的搜索，並據此判決禁止向犯罪嫌疑人採集DNA樣本。本案目前正在最高法院上訴中，而最高法院首席法官John Roberts日前發布了一份命令，阻止了高等法院判決的生效，並使得馬里蘭州在最高法院作出判決之前仍然能夠採集DNA；全案預計將在10月進行聽證，未來，最高法院將如何判決，值得吾人注意。
世界61個個資保護主管機關發布聯合聲明，避免AI生成私密影像危害兒少安全61個來自世界各國及歐盟之個資保護主管機關於2026年2月23日發布「AI生成影像及隱私保護聯合聲明」（Joint Statement on AI-Generated Imagery and the Protection of Privacy），旨在警示AI生成影像工具之開發者與使用者，未經當事人同意生成逼真私密影像及有害內容，不僅可能侵害個人隱私或名譽，亦可能嚴重威脅兒少安全。 本聯合聲明是在全球隱私大會（Global Privacy Assembly）國際執法合作工作小組（Internal Enforcement Cooperation Working Group）協調下所發起。其內容強調AI生成影像因廣泛融入社群媒體平臺，更易對兒少造成網路霸凌或剝削等潛在危害，呼籲開發及使用AI生成內容系統時，應遵循隱私與個資保護規則，並注意未經同意創建私密影像在某些國家可能構成刑事犯罪。 針對AI生成內容系統之開發者與使用者，聯合聲明提出下列基本指導原則： （1）實施健全的防護措施，避免濫用個人資料及未經同意生成私密影像或其他描述兒少之有害內容。 （2）確保透明度，有意義地揭露AI系統之功能、安全措施、可接受之用途及濫用後果。 （3）提供有效且易於使用之機制，以接收並快速回應移除有害內容之請求。 （4）向兒童、家長、監護人及教育工作者提供清晰、適齡之資訊，以應對特定兒少風險。 簽署聯合聲明之個資保護主管機關，將持續交流分享相關執法、政策推行與教育宣導經驗，共同努力應對全球隱私及兒少風險。
日本內閣府公布生成式AI初步意見彙整文件，提出風險因應、應用及開發兩大關注重點日本內閣府於2023年5月26日召開第2次「AI戰略會議」（AI戦略会議），並公布「AI相關論點之初步整理」（AIに関する暫定的な論点整理）。鑒於AI對於改善國人生活品質、提高生產力無疑有相當助益，考量生成式AI甫問世，社會大眾對其潛在風險尚心存疑慮，內閣府遂以生成式AI為核心，延續先前已公布之「AI戰略2022」（AI 戦略 2022）、「以人為中心的AI社會原則」（人間中心の AI 社会原則），以「G7廣島峰會」（G7広島サミット）所提出之願景—「符合共同民主價值的值得信賴AI」為目標，提出「風險因應」及「應用與開發」兩大關注重點，供政府有關部門參考之同時，並期待可激起各界對於生成式AI相關議題之關注與討論： 一、風險因應：AI開發者、服務提供者與使用者應自行評估風險並確實遵守法規及相關指引；政府則應針對風險應對框架進行檢討，對於已知的風險，應先以現有的法律制度、指引與機制進行處理，假如現有法制等無法完全因應這些風險，則應參考各國作法盡速對現行制度進行修正。 AI的透明度與可信賴度於風險因應至關重要。若能掌握AI學習使用哪些資料、所學習資料之來源、AI如何產生結果等，就能針對使用目的選擇適合的AI，也較易因應發生之問題，並避免AI產生錯誤結果或在對話中洩漏機密資訊等。對此，本文件呼籲AI開發者及服務提供者依據現行法令和指引主動揭露資訊，政府則應對透明度和可信賴度相關要求進行檢討，並應依普及程度及各國動向對既有的指引進行必要之修正。 二、應用與開發：本文件建議政府部門積極使用生成式AI於業務工作上，找出提升行政效率同時不會洩漏機密之方法，並向民眾宣導AI應用之益處與正確的使用方式，以培養民眾AI相關技能與素養，藉以更進一步建構AI應用與開發之框架，如人才培育、產業環境準備、相關軟硬體開發等。