演算法歧視將適用於《紐澤西州反歧視法》
2025年1月9日美國紐澤西州檢查總長與民權部（Division of Civil Rights, DCR）聯合發布「演算法歧視指引」（Guidance on Algorithmic Discrimination and the New Jersey Law Against Discrimination），指出《紐澤西州反歧視法》（the New Jersey Law Against Discrimination, LAD）亦適用於基於演算法所衍生的歧視。
隨著AI技術日趨成熟，社會各領域已大量導入自動化決策工具，雖然它們能提高決策效率但也增加了歧視發生之風險。指引的目的在於闡述自動化決策工具在AI設計、訓練或部署階段可能潛藏的歧視風險，亦列舉出在各類商業實務情境中常見的自動化決策工具，並說明它們可能會如何產生演算法歧視。以下分別說明《紐澤西州反歧視法》適用範圍，以及與演算法歧視有關的行為樣態。
一、《紐澤西州反歧視法》之適用主體及適用客體
《紐澤西州反歧視法》禁止在就業、住房及公共場所等領域所發生的一切歧視行為，其適用主體相當廣泛，包含但不限於下列對象：雇主、勞工組織、就業仲介機構、房東、房地產經紀人、公共場所之經營或管理者、以及任何教唆或協助歧視行為之個人；而該法之適用客體亦有明確定義，為具有受保護特徵（如性別、族裔、身心障礙等）之自然人或法人。
此外指引特別說明，即便適用主體無意歧視、或其所使用之自動化決策工具係由第三方所開發，只要發生歧視行為依然違反《紐澤西州反歧視法》。這是因為《紐澤西州反歧視法》係針對歧視所帶來的影響進行規範，儘管無意歧視，其所帶來的影響並不一定比故意歧視還要輕微。
二、 歧視行為的三種樣態
1.差別待遇歧視
差別待遇歧視係指適用主體基於受保護特徵而對適用客體施予不同對待。舉例而言，若房東使用自動化決策工具來評估黑人潛在租戶，但不評估其他族裔的潛在租戶，則會因為其選擇性使用自動化決策工具而構成歧視。
2.差別影響歧視
差別影響歧視係指適用主體的政策或行為對適用客體造成不成比例的負面影響，且該政策或行為未能證明具有正當性、非歧視性、或不存在較少歧視性的替代方案，則該政策或行為構成歧視。例如，某商店利用臉部辨識技術來偵測過去曾有偷竊紀錄的顧客，但該系統對配戴宗教頭巾的顧客較容易產生誤判，此亦可能構成歧視。
3.未提供合理調整
合理調整係指身心障礙者、宗教信仰者、懷孕者以及哺乳者，在不會對適用主體造成過度負擔的前提下，得向其提出合理請求，以符合自身的特殊需求。以身心障礙員工為例，若雇主使用了自動化決策工具來評估員工的工作表現（例如監測員工的休息時間是否過長），在未考量合理調整的情況下，該工具可能會過度針對身心障礙員工進而構成歧視。
為減少演算法歧視發生頻率，「演算法歧視指引」特別闡述自動化決策工具可能會出現的歧視行為及歧視樣態。此份指引的另一個意義在於，縱使目前紐澤西州並沒有一部監管AI的專法，但仍可以利用現行的法律去處理AI帶來的種種問題，以利在既有的法律架構內擴充法律的解釋來回應新科技的挑戰，並達到實質管制AI的效果。
周景賀
副法律研究員 編譯整理
About the NJ Law Against Discrimination, New Jersey Office of Attorney General, https://www.njoag.gov/about/divisions-and-offices/division-on-civil-rights-home/know-the-law/ (last visited Jan. 22, 2025).
About the NJ Law Against Discrimination, New Jersey Office of Attorney General, https://www.njoag.gov/about/divisions-and-offices/division-on-civil-rights-home/know-the-law/ (last visited Jan. 22, 2025).
Troutman Pepper Locke State Attorneys General Team, New Jersey AG Platkin Announces New Guidance on AI Use(2025/1/16), Regulatory Oversight, https://www.regulatoryoversight.com/2025/01/new-jersey-ag-platkin-announces-new-guidance-on-ai-use/ (last visited Jan. 22, 2025).
歐盟委員會（European Commission）於 2025年2月3日因應將於2025年9月12日施行的資料法（Data Act），就其常見問題說明進行補充與更新為1.2版（Frequently Asked Questions on the Data Act，下稱FAQs），以協助企業面對資料法施行後的挑戰。 於新版FAQs中就資料法進行補充說明，以助企業了解資料法之適用範圍，就資料法所稱之聯網裝置與服務，聯網裝置泛指可以連上網路的裝置，包含智慧型手機，並僅限於由使用者所擁有的聯網裝置，另就聯網服務則須具備雙向資料傳遞且須與聯網產品的操作功能有影響之服務。 就資料持有者有義務提供之資料適用範圍，僅限於聯網裝置與相關服務所產出的原始資料與預處理資料（原始但可用），資料持有者就原始資料或預處理資料進行加值所產生資料，如經分析所產生之衍生資料、經投入重大資源進行清理之資料等，則不在共享義務之範圍內，另就資料的內容有其他法律保護亦不在資料法的範疇中，如網路攝影機之照片/影片有受著作權法保護係屬於資料內容，網路攝影機之使用模式/電池狀態/照明強度等資料才是資料法所規範之資料，惟須留意若影像之內容非屬著作權保護之標的，如網路攝影機因具感測功能而自動就影像判斷是否異常現象或提供建議，此類影像因不具人類創意而不受著作權保護，仍屬資料法所涵蓋範圍。 於FAQs之解釋中，就資料法實際操作與預期有所差異，歐盟委員會後續亦會整合與數位資料相關之法規，如建立資料聯盟策略（Data Union Strategy），以助於企業促進數位資料的使用與共享。國內廠商若有提供歐盟客戶相關聯網設備與服務時，須留意內部資料管理制度能否滿足資料法要求，確保組織有因應相關法規議題的變化進行制度的變更，如何將外部議題與資料管理制度連結，可參資策會科法所創意智財中心就數位資料管理機制所公布之《重要數位資料治理暨管理制度規範（EDGS）》，將組織營運所在國別之法規範變動納入關注之外部議題，並設定對應之資料政策與目標，建立符合法令規範之資料管理制度，如是否得以識別為資料法所適用之資料等，以確保組織資料管理機制符合法令要求。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
綠不綠有關係？！－論綠色資料中心及其相關能源效率法制政策 歐盟佐審官建議修正與加拿大之「航空乘客個人資料共享協議(草案)」，以維護人權歐洲聯盟法院(CJEU)佐審官 (Advocate General ) Paolo Mengozzi 於今年(2016) 9月8日提出一份不具拘束力之「航空乘客個人資料共享協議(草案)」( European Union on the transfer and processing of passenger name record data (“PNR Agreement”)) 法律意見，認為協議應遵守歐盟憲章有關人權之基本原則。此份法律意見為歐洲聯盟法院首次就國際協議草案，檢視與歐盟憲章有關規範之一致性。 [背景] PNR協議草案於2010年5月開始協商，2014年6月25日簽署。主要以反恐為目的讓歐盟與加拿大交換航空乘客資訊(包括旅客姓名、旅行日期、行程記錄、機票、聯繫資訊、旅行社等其他有關資訊)。除加拿大之外，歐盟亦與美國、澳洲簽有類似資料共享協議。關注到PNR協議有關隱私、人權之議題，歐盟議會將PNR協議提至歐洲聯盟法院審議。 [法律意見] 佐審官認為，協議同意在特定條件下就限定目標之乘客蒐集其敏感資訊，未違反歐盟憲章；然PNR協議草案仍有部分內容違反歐盟憲章：即草案允許歐盟、加拿大主管機關使用乘客姓名等數據，已逾越預防恐怖組織犯罪和跨國犯罪的必要範圍。 因歐洲聯盟法院去年已廢除歐盟與美國之間之安全港(Safe Harbor)法案，隨後雖起草隱私保護協議(Privacy Shield)，但仍有意見質疑隱私保護之完整性。PNR協議草案法律意見之提出，可窺歐盟關於隱私保護之立場。