演算法歧視將適用於《紐澤西州反歧視法》

2025年1月9日美國紐澤西州檢查總長與民權部(Division of Civil Rights, DCR)聯合發布「演算法歧視指引」(Guidance on Algorithmic Discrimination and the New Jersey Law Against Discrimination),指出《紐澤西州反歧視法》(the New Jersey Law Against Discrimination, LAD)亦適用於基於演算法所衍生的歧視。

隨著AI技術日趨成熟,社會各領域已大量導入自動化決策工具,雖然它們能提高決策效率但也增加了歧視發生之風險。指引的目的在於闡述自動化決策工具在AI設計、訓練或部署階段可能潛藏的歧視風險,亦列舉出在各類商業實務情境中常見的自動化決策工具,並說明它們可能會如何產生演算法歧視。以下分別說明《紐澤西州反歧視法》適用範圍,以及與演算法歧視有關的行為樣態。

一、《紐澤西州反歧視法》之適用主體及適用客體

《紐澤西州反歧視法》禁止在就業、住房及公共場所等領域所發生的一切歧視行為,其適用主體相當廣泛,包含但不限於下列對象:雇主、勞工組織、就業仲介機構、房東、房地產經紀人、公共場所之經營或管理者、以及任何教唆或協助歧視行為之個人;而該法之適用客體亦有明確定義,為具有受保護特徵(如性別、族裔、身心障礙等)之自然人或法人。

此外指引特別說明,即便適用主體無意歧視、或其所使用之自動化決策工具係由第三方所開發,只要發生歧視行為依然違反《紐澤西州反歧視法》。這是因為《紐澤西州反歧視法》係針對歧視所帶來的影響進行規範,儘管無意歧視,其所帶來的影響並不一定比故意歧視還要輕微。

二、 歧視行為的三種樣態

1.差別待遇歧視
差別待遇歧視係指適用主體基於受保護特徵而對適用客體施予不同對待。舉例而言,若房東使用自動化決策工具來評估黑人潛在租戶,但不評估其他族裔的潛在租戶,則會因為其選擇性使用自動化決策工具而構成歧視。

2.差別影響歧視
差別影響歧視係指適用主體的政策或行為對適用客體造成不成比例的負面影響,且該政策或行為未能證明具有正當性、非歧視性、或不存在較少歧視性的替代方案,則該政策或行為構成歧視。例如,某商店利用臉部辨識技術來偵測過去曾有偷竊紀錄的顧客,但該系統對配戴宗教頭巾的顧客較容易產生誤判,此亦可能構成歧視。

3.未提供合理調整
合理調整係指身心障礙者、宗教信仰者、懷孕者以及哺乳者,在不會對適用主體造成過度負擔的前提下,得向其提出合理請求,以符合自身的特殊需求。以身心障礙員工為例,若雇主使用了自動化決策工具來評估員工的工作表現(例如監測員工的休息時間是否過長),在未考量合理調整的情況下,該工具可能會過度針對身心障礙員工進而構成歧視。

為減少演算法歧視發生頻率,「演算法歧視指引」特別闡述自動化決策工具可能會出現的歧視行為及歧視樣態。此份指引的另一個意義在於,縱使目前紐澤西州並沒有一部監管AI的專法,但仍可以利用現行的法律去處理AI帶來的種種問題,以利在既有的法律架構內擴充法律的解釋來回應新科技的挑戰,並達到實質管制AI的效果。

相關連結
※ 演算法歧視將適用於《紐澤西州反歧視法》, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9320&no=57&tp=1 (最後瀏覽日:2026/04/24)
引註此篇文章
你可能還會想看
資訊揭露與市場競爭評估–研析英國水平協議指引中之資訊交換

資訊揭露與市場競爭評估– 研析英國水平協議指引中之資訊交換 資訊工業策進會科技法律研究所 2023年09月23日 英國競爭與市場管理局(Competition and Markets Authority,CMA)於2023年8月16日發布《1988年競爭法第一章禁令適用於水平協議之指引》(Guidance on the application of the Chapter I prohibition in the Competition Act 1998 to horizontal agreements,以下簡稱CMA水平協議指引),以規範實際或潛在競爭者間之協議[1]。CMA水平協議指引提供事業擬定協議內容的參考,事業間於業務合作的同時,亦能符合法遵之要求,以維護市場公平競爭。 壹、事件摘要 英國CMA水平協議指引解釋競爭法之適用,尤其是《1998年競爭法》(Competition Act 1998,CA98)第1章禁止水平協議。2023年1月1日,《1998年競爭法(專業協議集體豁免)2022年指令》(SABEO)與《1998年競爭法(研發協議集體豁免)2022年指令》(R&D BEO)生效,於2023年8月16日發布之CMA水平協議指引,協助事業評估特定類型的水平協議是否受益於SABEO和R&D BEO,和遵守競爭法之相關規範[2]。申言之,CMA水平協議指引協助事業評估其所簽訂之協議內容,是否屬於法規範豁免之類型,且合乎競爭法之規定。 CMA水平協議指引說明研發協議[3]、生產協議[4]、採購協議[5]、商業化協議[6]和標準化協議[7]之適用與範例。鑒於大數據分析與機器學習需使用大量的資料;而大數據分析的結果,或機器學習的應用,將影響決策的形成,資訊交換因而更顯重要[8],CMA水平協議指引亦引導事業為合理的資訊交換。 資訊交換不僅為競爭市場的共同特徵,在一般的情形亦有利於消費者;例如資訊交換有助於解決資訊不對等而提升市場效率,事業能藉由比較最佳實踐方案,以提高內部效率;能減少庫存以節省成本,並處理不穩定的需求;或藉由演算法以開發新的產品或服務;[9]或減少搜尋成本,以提供消費者利益[10]。依據實際情況,資訊交換可以是有利於競爭,競爭中立或限制競爭[11]。換言之,競爭市場中適當的資訊交換,有助於事業降低成本,提升效率。 貳、重點說明 CMA水平協議指引第8章為資訊交換(Information Exchange),目的即在指導事業為資訊交換的競爭評估[12]。資訊交換是否會引發限制競爭之效應,取決於市場的特性,包含[13]: (1)市場透明度:越透明的市場,競爭之不確定性越小[14]。 (2)市場集中度:若市場中僅有少數事業,則易於達成共識,與控制市場偏差。若市場高度集中,則訊息的交換,將有助於事業了解競爭者的市場地位和策略,而扭曲競爭,甚而增加共謀(collusion)的風險;若市場分散,則競爭者間資訊的傳播與交換,對市場而言,可能為競爭中立或有利於競爭[15]。 (3)參進障礙:此使外部競爭者無法破壞市場中的共謀結果(collusive outcome)[16]。 (4)市場穩定度:在供需穩定的市場,亦可能有共謀的結果;而需求的波動、市場中事業內部的大幅成長、新事業的參進、顛覆性創新(disruptive innovation),均可能顯示市場的穩定度不足,需提升交流,以促進競爭[17]。 競爭對手間的資訊交換,依據共享資訊的內容、目的、法律與經濟背景,可能為侵權而應受限制。包含與競爭對手交換事業目前或未來的訂價方向、生產能力、商業策略、針對需求的規劃,對未來銷售的預測,和在特定市場上的財務狀況與經營策略[18],提供價格資料而能預測事業未來的行為,和與競爭對手交換潛在參進者所提出之計畫要點[19]。申言之,事業應避免資訊所生之侵權行為;並需考量市場的特性,以評估資訊交換對競爭之限制。 參、事件評析 CMA水平協議指引第8章,提供事業間交換資訊的相關建議。為提升資訊交換對市場的效益,以資訊內容而言,事業須考量資訊交換的目的,以及藉由收集資訊、確認資訊交換的參與者係使用其具有所有權的原始資料、使用歷史資訊、僅交換與達到目標相符且必要的資訊,而能減少具有商業敏感性質的內容[20]。換言之,事業須避免機敏資料的流通,並具有使用資料的權限。 以資訊應用的角度,事業應採取措施,以控制資訊的交換與使用,包含減少頻繁的交換,以特定團隊(clean team)或信託方式進行資訊交換,或使用資料池(data pool)以確認近用資料之所有權[21]。亦即事業須確認資料的來源,與交換資料的相對人,並能管理資料流通的過程。 綜上所論,足夠的資料量,使大數據分析的結果能充分反映市場的實際需求,事業的決策和布局亦更為準確,適當的資訊交換有助於提升事業的市場競爭力。CMA水平協議指引協助事業評估資訊交換對競爭之影響,事業之資訊管理,除內部資訊之維護外,亦包含外部資訊之交換,如資訊交換之必要性,與資訊近用之權限、方式等,或可提供臺灣事業參考。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1]Guidance on Horizontal Agreements, GOV. UK, Competition and Markets Authority, https://www.gov.uk/government/publications/guidance-on-horizontal-agreements (last visited Aug. 23, 2023). [2]CMA COMPETITION & MARKETS AUTHORITY, Guidance on the application of the Chapter I prohibition in the Competition Act 1998 to horizontal agreements, CMA184 (Aug. 2023), 6, at 6, https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/1178791/Horizontal_Guidance_FINAL.pdf (last visited Sept. 01, 2023). [3]Id., at 35 below. [4]Id., at 83 below. [5]Id., at 124 below. [6]Id., at 145 below. [7]Id., at 203 below. [8]Id., at 165. [9]Id. [10]Id., at 166. [11]CMA Competition & Markets Authority, supra note 8. [12]Id. [13]Id., at 188. [14]Id. [15]Id., at 188-189. [16]Id., at 189. [17]Id. [18]Id., at 190. [19]Id., at 191. [20]Id., at 201. [21]Id.

日本公布「如何計算森林吸收的二氧化碳量」

  因應2021年10 月日本政府修訂的全球變暖對策計劃,訂立森林在2030年要達到3800萬噸的二氧化碳吸收量之目標,因此日本林業廳公布了「如何計算森林吸收的二氧化碳量」之方法,進一步展現森林吸收二氧化碳的功能,以提高民間企業和地方公共團體等公眾參與的植林、造林活動的意願,以及促進公眾對森林維護在全球暖化對策中的重要性認識。分別為下列三種計算方式: 森林一年吸收二氧化碳量的簡單計算方法   每1公頃森林一年吸收二氧化碳量=每公頃森林每年樹幹生長體積(m3/年·ha)×膨脹係數×(1+地下比率)×容積密度(t/m3)×碳含量×二氧化碳換算係數 林地復育增加森林吸收二氧化碳量的計算方法   因林地復育增加森林吸收二氧化碳量=有進行林地復育和沒有進行林地復育的森林估計累積量之差×膨脹係數×(1+地下比率)×容積密度(t/m3)×碳含量×二氧化碳換算係數 因種植森林土壤所維持之二氧化碳含量計算方法   因種植森林土壤所維持之二氧化碳含量=土壤平均碳累積量(tC/ha)×種植森林所保持的土壤量相關係數×種植森林之面積(公頃)×種植森林之年數×土壤流出時排放到大氣中的二氧化碳排放係數×二氧化碳換算係數   此份公告規範了日本未來如何計算森林吸收的二氧化碳量之方式,目前我國依據「國際氣候變遷專家委員會(IPCC)」建議公式,推估森林資源林木之碳貯存量,推估結果臺灣地區森林林木之碳貯存量約有754百萬公噸二氧化碳,每公頃平均碳存量約為每公頃378 公噸二氧化碳,對此亦可參考上述公式推算,以更了解我國的森林與碳管理關係。

違反荷蘭資料保護法,Google恐遭罰1500萬歐元

  Google為了提供客製化的廣告服務,利用搜尋引擎、Youtube、Gmail及其他服務,在事前未告知並取得使用者同意的情況下,蒐集人們的資料(包括搜尋紀錄、電子郵件、第三方網站軌跡資料、位置資訊及影片觀看紀錄等)。歐洲各國隱私監管機構對此表示憂心,認為Google恐將以前所未有的規模,掌握使用者的一舉一動,紛紛投入調查工作,並相繼認為Google確實已經違反其內國法。   荷蘭資料保護局(Data Protection Authority, DPA)主席Jacob Kohnstamm於2014年12月15日表示,使用者有權知悉他們在某一平台輸入的資料,其他平台也可以利用它們,並要求Google在合併不同服務所取得的個人資料前,應以跳出不同視窗等方式供使用者點選,俾以取得其明示同意(unambiguous consent),僅只透過一般隱私條款,並不足以提供當事人清楚且一致的資訊(clear and consistent imformation)。   DPA希望Google不要再考驗他們的耐心,並揚言對Google處以1500萬歐元罰鍰,除非它在2015年2月底前完成改善。但面對DPA的最後通牒,Google僅回應,他們已經大幅修正了隱私權政策,很遺憾DPA仍作出這樣的決定,但他們將儘快與歐洲各國隱私監管機構就後續修訂方案進行討論。

英國內閣辦公室宣布開啟「2015年開放政府夥伴英國國家行動計畫」

  英國內閣辦公室於2015年7月13日宣布開啟「2015年開放政府夥伴英國國家行動計畫」,認為身處於轉型於科學與技術、面臨了資訊革命的世界,資訊開放可以促使英國政府現代化作業,這也是讓英國邁向較佳未來的最好方式。現在英國社會已然是此一趨勢,而英國政府的任務就是讓其更佳發展,「開放政府夥伴國家行動計畫」(Open Government Partnership National Action Plan)就是英國政府規劃發展的藍圖,承諾將提供給民眾一更加開放及有責的政府。   而英國政府目前已就部分政策(資訊公開、反貪腐、財政透明以及公開政策形成過程)有相關發展,分述於下列七點摘要說明: 更高的有責性(accountability):當英國政府開始公佈其政府部門相關出差數據後,英國政府發現高階官員變得更加傾向於搭乘飛機時乘坐經濟艙,以減少開銷。而溫莎-梅登黑德皇家自治市鎮議會(Windsor and Maidenhead Council)發布了公部門建築物的即時能源使用資訊,因此協助公部門減少16%的能源帳單費用。 更佳的資訊管理:英國政府發現,將訊息公開並使其可以利用,促使英國政府本身成為更佳成熟的資訊使用者。不僅英國政府會具備更高的有責性,同時也更能獲得公眾的資訊,而資訊公開則可使英國政府的決策具有實證依據。 資訊更加公開:資訊公開的優點不僅可使英國政府獲得公眾之資訊,同樣地公眾亦可得到政府的資訊,進而提升英國政府公共服務的水準。 數據經濟(data economy):目前英國有上千家創業的新興公司正在設法取得政府創新利用的相關資訊,透過資訊的公開亦同時可幫助英國此類數據經濟的成長。 國際合作:英國政府認為於在政府透明化方面需要更多的國際合作。英國政府將以官方協助的立場公開資訊,支持採掘產業(extractive industries)財政透明的全球性標準,並承諾建立一個公司受益所有權(company beneficial ownership)的註冊中心單位,將會有關於英國各家公司最終擁有及實質管控者清楚的資訊來源,藉此打擊貪腐弊案。 地方授權:除了上述所提者,英國政府同時亦要將此規劃落實到各地,將授權予蘇格蘭、威爾斯、北愛爾蘭以及英格蘭的城市等地區。從蘇格蘭聯合政府的運作,到曼徹斯特其地方企業夥伴(Local Enterprise Partnership, LEP)公開資訊的利用,這些設置都可以作為彼此學習的借鏡,並將開放政府的原則擴散到全英國。 採取如維基(Wiki)的模式形成政策:英國政府認為應該要朝向維基百科(Wikipedia)運作的模式發展,於政策規劃方面採取與各方更高度合作的方式進行,可使資訊得以廣泛擴散。

TOP