歐洲資料保護監督官12月7日發表正式意見，針對歐盟執委會就AFSJ大型資訊技術系統設立作業管理機構之立法計畫，提出隱私保護法律要求
歐洲資料保護監督官(European Data Protection Supervisor, EDPS)於2009年12月7日，針對歐盟執委會(European Commission)近年所提出關於設立歐盟「自由、安全及司法領域」(area of freedom, security and justice, AFSJ)大型資訊技術系統(IT System)作業管理機構之立法計畫，基於個人資料保護之立場提出正式法律意見。如此一立法計畫順利通過，該機構預計將擔負起包括「申根資訊系統」(Schengen Information System, SIS II)、「簽證資訊系統」(Visa Information System, VIS)、「歐洲指紋系統」(European Dactylographic System, Eurodac)及其他歐盟層級之大規模資訊技術系統之作業管理(operational management)任務。
根據EDPS首長Peter Hustinx表示，由於前述各項系統之資料庫中均包含諸如護照內容、簽證及指紋等大量敏感個人資料，因此儘管設立單一之作業管理機構，可以在相當程度上釐清歐盟各部門職責歸屬及準據法適用之問題，但如此一機構欲取得合法性，其活動範圍及相關責任即必須在立法中獲得明確界定，否則即可能產生個人資料濫用(misuse of personal data)及資料庫「功能潛變」(function creep)之風險。而基於此一分析，Hustinx認為目前執委會之機構立法計畫尚未符合個人資料保護要求。
此外，針對後續立法進程，EDPS建議除應確實釐清該管理機構之活動範圍是否包括整體AFSJ，亦或僅限於邊境檢查及難民與移民事務；執委會與該機構之關聯性與責任等重要問題外，是否可在缺乏相關經驗及實證評估下，即直接將所有歐盟層級之大型資訊技術系統與資料庫歸入該機構管轄，顯然亦有商榷餘地。EDPS就此認為，透過立法界定「大型資訊系統」之範圍，並且採取資料庫分次進入該管理機構責任範圍之方式，應係日後執委會可以努力之方向。
美國國會議員Markey與Rockefeller於2014年2月提出S. 2025：「資料仲介商有責與透明法草案」（Data Broker Accountability and Transparency Act），以促進對於消費者保護，與資料仲介產業發展間的平衡。該草案預將授權「美國聯邦貿易委員會」與各州據以監督與執行。 該草案對「資料仲介商」（以下簡稱Data Broker）加以定義為係以銷售、提供第三方近用為目的，而蒐集、組合或維護非其客戶或員工之個人相關資料的商業實體；更進一步的禁止Data Broker以假造、虛構、詐欺性的陳述或聲明的方式（包括提供明知或應知悉為偽造、假造、虛構、或詐欺性陳述或聲明的文件予以他人），自資料當事人取得或使其揭露個人相關資料。 該草案亦要求Data Broker建置及提供相關程序、方式與管道，以供資料當事人進行下列事項： 1.檢視與確認其個人相關資料（除非為辨識個人為目的的姓名或住址）正確性（但有其他排除規定）。 2.更正「公共紀錄資訊」（Public Record Information）與「非公共資訊」（Non-public Information） 3.表達其個人相關資料被使用的時機與偏好。例如在符合一定條件下，資料當事人得以「選擇退出」（Opt Out）其資料被Data Broker蒐集或以行銷為目的而販售。 於此同時，加州參議院亦已於2014年5月通過S.B. 1348：Data Brokers的草案，該草案要求資料當事人擁有檢視Data Broker所持有的資料，並得要求其於刪除提出後10天內永久刪除；當資料一經刪除，該Data Broker不得再行轉發或是將其資料販售給第三人。加州參議院並提案，該法案通過後將涵蓋適用至2015年1月1日所蒐集的資料，且個人於Data Broker每次違反時得提出$1,000美元的損害賠償訴訟（律師費外加）。雖然該草案受到隱私權保護團體的支持，卻受到加州商會（California Chamber of Commerce）與直銷聯盟（Direct Marketing Association）的反對。加州在Data Broker的立法規範上是否能超前聯邦的進度，讓我們拭目以待吧。
歐盟執委會發布《受禁止人工智慧行為指引》歐盟執委會發布《受禁止人工智慧行為指引》 資訊工業策進會科技法律研究所 2025年02月24日 歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。 壹、事件摘要 歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]： 1. 不可接受風險（Unacceptable risk） 2. 高風險（High risk） 3. 有限風險，具有特定透明度義務（Limited risk） 4. 最低風險或無風險（Minimal to no risk） AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。 貳、重點說明 一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。 （二）禁止施行本行為之前提要件 1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。 2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。 3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。 4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。 5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。 二、AI Act本文第5條1（c）－社會評分行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。 3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。 三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為 （一）概念說明 本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。 3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。 4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。 四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為 （一）概念說明 本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。 3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。 4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。 五、AI Act本文第5條1（f）－情緒辨識行為 （一）概念說明 本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該系統係用於推斷情緒。 3.因果關係：該行為發生於職場或教育訓練機構。 4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。 六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為 （一）概念說明 本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。 3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。 4.因果關係：前述分類依據為其生物辨識資訊。 5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。 七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為 （一）概念說明 本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。 （二）禁止施行本行為之前提要件 1.該行為必須涉及對即時RBI系統的「使用」行為。 2.應用目的：使用目的須為執法需要。 3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。 4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。 參、事件評析 人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。 為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。 [1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025). [2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025). [3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025). [4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。 [5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。 [6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。 [7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。 [8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。 [9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。 [10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).
何謂「創新採購」？歐盟為推動歐洲單一市場，在2014年2月26日通過三項新的政府採購指令，包括「一般政府採購指令」、「公用事業政府採購指令」、「特許採購指令」，其修正宗旨主要在於從下列四個改革方向改善採購招標程序： 1.簡化及採用彈性的政府採購程序 2.擴大適用電子招標； 3.改善中小企業參與招標程序； 4.於採購招標程序中納入策略性目的之考量，以實現「歐洲2020策略（European Strategy 2020）」之創新目標。 因此一般政府採購指令第26條明訂，要求會員國應提供除原有之公開招標（open procedure，政府採購指令第27條）、限制性招標（restricted procedure，政府採購指令第28條）程序外，應另外提供創新夥伴（innovation partnerships，政府採購指令第29條）、競爭談判（competitive procedure with negotiation，政府採購指令第30條）及競爭對話（competitive dialogue，政府採購指令第31條）三種程序。 其中最重要者，在於將政府採購視為其達成創新政策之政策工具，在招標程序中推動所謂的創新採購（Public Procurement for Innovation, PPI）及商業化前採購（Pre-commercial procurement, PCP）。 前者係指創新解決方案幾乎或已經少量上市，不需要再投入資源進行新的研發（R&D）工作。而後者則針對所需要改善的技術需求，還沒有接近上巿的解決方案，需要再投入資源進行新的研發。採用競爭方法及去風險，經由一步一步的方案設計、原型設計、開發及首次產品測試來比較各替代方案的優缺點。
美國政府提出新法加強管理軍民兩用技術美國布希政府最近向國會正式提出一個以打擊恐怖主義及大規模毀滅性武器為目的的法案—出口執行法（The Export Enforcement Act of 2007），以期為執法者—美國商務部產業安全局（Bureau of Industry and Security, BIS）提供更有效的工具，防止最具有敏感性的技術或產品落入危險份子手中。 長久以來，美國用以管理敏感性技術與產品的法源是1979年制定的出口管理法（Export Administration Act），該法對軍民兩用的技術與產品，施以出口管制。出口法在2001年失效，同年發生911攻擊事件，因此，布希政府除希望獲得國會重新就出口管理法予以授權外，也希望可以有更強而有力的出口管理權限。不過行政部門迄今未得到國會就出口管理法予以重新授權。 自2001年以來，BIS係依國際緊急情形經濟權力法（International Emergency Economic Powers Act, IEEPA）行使出口管理權限，不過根據IEEPA，美國總統必須每年發布行政令（Executive Order）始能動用出口管理權限，而IEEPA對於違反出口管制規定的處罰也不若出口管理法重，因此，IEEPA除了對執法者造成出口管理的不便的困擾外，寬鬆的處罰也使得美國過去幾年非法技術外移的事件頻傳。 本次布希政府再次提出2007年出口執行法，其內容除了請求國會同意在未來五年再度授權行政部門行使1979年的出口管理法之權限外，其他重要內容尚有：（1）修正1979年的出口管理法之執行與違法規定：除增列構成犯罪之違法出口行為態樣外，並對違法者大幅加重其民刑事處罰。根據修正草案，企業之出口行為若被認定為違法，最高可科處500萬美元或違法出口技術或產品價值之十倍罰金；（2）強化了執法者打擊軍民兩用技術與產品非法出口的職權，明訂商務部特派員擁有海外調查以及秘密調查的權限；（3）對企業所提出之秘密資訊負有保護義務。 整體而言，本法案除了重新授權美國商務部管理軍民兩用技術與產品實施出口管制體系外，同時也代表美國政府於二十一世紀為維護國家安全與處理所面臨之經濟挑戰的長期與根本性改革。目前法案仍須國會討論通過後，始能生效適用。