談美國GMO管理規範之修法趨勢－從「全有全無」到「多階分級」許可管理之制度轉換
本文為「經濟部產業技術司科技專案成果」
歐盟執委會發布《受禁止人工智慧行為指引》 資訊工業策進會科技法律研究所 2025年02月24日 歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。 壹、事件摘要 歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]： 1. 不可接受風險（Unacceptable risk） 2. 高風險（High risk） 3. 有限風險，具有特定透明度義務（Limited risk） 4. 最低風險或無風險（Minimal to no risk） AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。 貳、重點說明 一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。 （二）禁止施行本行為之前提要件 1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。 2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。 3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。 4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。 5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。 二、AI Act本文第5條1（c）－社會評分行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。 3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。 三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為 （一）概念說明 本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。 3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。 4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。 四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為 （一）概念說明 本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。 3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。 4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。 五、AI Act本文第5條1（f）－情緒辨識行為 （一）概念說明 本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該系統係用於推斷情緒。 3.因果關係：該行為發生於職場或教育訓練機構。 4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。 六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為 （一）概念說明 本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。 3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。 4.因果關係：前述分類依據為其生物辨識資訊。 5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。 七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為 （一）概念說明 本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。 （二）禁止施行本行為之前提要件 1.該行為必須涉及對即時RBI系統的「使用」行為。 2.應用目的：使用目的須為執法需要。 3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。 4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。 參、事件評析 人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。 為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。 [1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025). [2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025). [3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025). [4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。 [5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。 [6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。 [7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。 [8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。 [9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。 [10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).
新國際協定針對未經請求之行銷電話或電子訊息展開聯合行動加拿大隱私專員於2016年6月14日表示，制定支持全球電信監管機構和消費者保護機構，針對垃圾郵件和行銷騷擾電話之跨境共同合作協議。 倫敦行動計畫（London Action Plan）備忘錄（MOU）之簽署國，現已可針對打擊跨國界或逾各個國家監管部門範圍之犯罪從事者的執法行動，相互分享資訊和情報，以獲取協助。 包括加拿大隱私專員辦公室（OPC）在內，目前既已簽署方分別為：澳大利亞通訊及傳媒管理局;加拿大廣播電視和電信委員會、韓國訊息安全局（KISA）、荷蘭消費者和市場監管局（ACM）、英國資訊委員辦公室及公民諮詢局、紐西蘭內政部、南非國家消費者委員會、美國聯邦貿易委員會和聯邦通訊傳播委員會。其他國家之政府當局亦表示願提交備忘錄，以及將來可能加入之意願。 對於加拿大隱私專員辦公室而言，這項協議將有助於達成加拿大反垃圾郵件法（CASL）關於電子郵件地址蒐集和間諜軟體之調查義務與責任，並與具有相同任務之夥伴機構間，進行偵查技巧及策略之分享。 加拿大隱私專員辦公室致力於和國內及國際夥伴合作，並已與國內之CASL執法合作夥伴及其他許多國家的隱私保護機構簽訂協議。
技術移民範圍放寬未來我國的技術移民政策，將放寬不再侷限於以往所重視的「高科技人才」者。內政部戶政司表示，該政策目的之改變，乃是參照了美國 、加拿大、澳洲及紐西蘭等國為促進該國經濟發展，創造就業機會，分別訂有投資移民的相關規定，供有意移民該國之外籍人士申請。 修正條文第25條第3項：外國人有下列情形之一者，亦得以向入出國及移民署申請永久居留：一 、對我國有特殊貢獻；二、為我國所需之高級專業人才。第4項：外國人得向入出國及移民署申請在我國投資移民，經審核許可且實行投資者，同意其永久居留。 因此，為了趨近國際化的趨勢，在本次的「入出國及移民法修正草案」中，將過去偏重於「高科技人才」的引入，擴大為「高級專業人才」；並且新增「投資移民」之外國人得以直接申請永久居留，以滿足多元化的經濟與社會需要。至於「大陸技術人才」亦視為外籍技術人士看待。
日本數位廳發布資料治理指引，協助企業運用資料提升企業價值日本數位廳發布資料治理指引，協助企業運用資料提升企業價值 資訊工業策進會科技法律研究所 2025年09月05日 隨著AI迅速普及已成為不可逆轉的趨勢，經濟與社會產生重大變革，手機、家電及各種智慧裝置大量蒐集資料，似已成為維持經濟與社會運作不可或缺的重要要素，在國際上已出現如歐洲共同資料空間（Common European Data Space）等先進的資料運用案例，日本亦開始推動企業跨領域資料運用，藉此提升企業生產力與附加價值[1]。 壹、事件摘要 日本數位廳（デジタル庁）於2025年6月20日發布資料治理指引（データガバナンス・ガイドライン），以企業經營者為適用對象，歸納總結資料治理之必要性、應採取之做法，與實踐治理過程中應留意之要點，協助企業推動數位轉型，發揮資料最大效用，持續提升企業價值，並進一步實現超智慧社會[2]（Society 5.0）願景[3]。 貳、指引重點 本指引歸納總結實踐資料治理的四大支柱，概述如下： 一、設計符合跨境傳輸資料實際狀況之業務流程 資料共享與協作的主要目的是推動數位轉型與提升企業價值，因此，運用跨境資料時，需要調查當地國家或地區法規，釐清國際規範，並預測後續法規動向，克服法規限制。為評估運用跨境資料之潛在風險，則須透過如顧問公司、諮詢公司等第三方外部機構進行調查與監控，採取適當風險因應措施。為明確責任，須事先與資料共享之利害關係人，將瑕疵擔保責任透過契約與相關規定明文化。在修改業務流程時，亦須與相關組織及利害關係人共享資訊，確保資料在生命週期中的可追溯性[4]。 二、確保資料安全（データセキュリティ） 以資料生命週期為基礎，掌握運用跨境資料可能產生之風險，並依照相關組織與利害關係人值得信賴之程度，進行風險分析制定因應策略。針對業務流程中取得的資料，應限制在資料產生者允許之範圍內，始得進行運用，以維護資料使用正當性。此外，亦須特別留意資料完整性，確保資料來源值得信賴且未受到偽冒，以及資料內容未遭到竄改或洩漏[5]。 三、提升資料成熟度（データマチュリティ） 制定並推動可提升資料成熟度[6]之方針，持續改善流程，將資料價值最大化，並將風險最小化，提升企業綜合能力。資料長（Chief Data Officer, CDO）須發揮領導能力，建立能迅速因應變化的體制，明確各組織相關負責人與其角色，並推動具備資料相關技能之人才培育招聘計畫。資料長亦須分析導入如AI等先進技術之費用效益，向經營者提出建議。除了公司自身狀況會影響資料成熟度外，亦可能受到資料共享與協作之利害關係人的資料成熟度水準影響。因此，公司亦須將採取之具體措施與相關資訊分享予利害關係人，並向社會公開公司目前資料成熟度水準，持續強化企業與利害關係人及社會之間的相互信賴程度[7]。 四、制定並定期檢討AI等先進技術運用行動方針 為使AI等先進技術發揮最大力量，並降低對社會與個人可能造成的負面影響，企業應參考經濟產業省（経済産業省）於2025年3月28日發布之AI業者指引第1.1版[8]（AI事業者ガイドライン第1.1版），並考量個人資料保護、機敏資料保護、透明度、可問責等重要因素，針對涉及資料運用的各種實務運用場景，由CDO主導制定運用AI等先進技術運用行動方針（AIなどの先端技術の利活用に関する行動指針），並適時檢討持續改善內容[9]。 參、事件評析 當資料留存在企業內部未被有效運用時，不僅會成為企業和產業發展之阻礙，也將導致社會整體效率低落。本指引歸納總結實踐資料治理的四大支柱。為達成協助企業運用資料推動數位轉型，提升企業價值之目標，除了需要企業管理階層主導，亦須獲得公司內部與利害關係人之理解與支持。企業應積極與其他企業、組織和機構進行資料共享與協作，積極參與資料治理，提高產品與服務價值及企業聲譽，進而促進社會永續性發展[10]。 隨著國際上已出現先進資料運用案例，我國亦須關注資料運用國際趨勢推動創新發展，日本推動企業跨領域運用資料之做法，亦可為我國未來實踐資料治理提供借鏡。 [1]〈データガバナンス・ガイドライン〉，デジタル庁，頁2-3，https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/71bf19c2-f804-488e-ab32-e7a044dcac58/b1757d6f/20250620_news_data-governance-guideline_01.pdf （最後瀏覽日：2025/09/02）。 [2]〈Society 5.0〉，内閣府，https://www8.cao.go.jp/cstp/society5_0/index.html （最後瀏覽日：2025/09/02）。 [3]前揭註1。 [4]同前註，頁13。 [5]同前註，頁15-16。 [6]資料成熟度係指企業根據其戰略或經營需求，有效運用資料的能力。可參閱同前註，頁5。 [7]同前註，頁18-19。 [8]〈AI事業者ガイドライン〉，経済産業省，https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_report.html （最後瀏覽日：2025/09/02）。 [9]前揭註1，頁20-23。 [10]同前註，頁24-25。