演算法歧視將適用於《紐澤西州反歧視法》
2025年1月9日美國紐澤西州檢查總長與民權部（Division of Civil Rights, DCR）聯合發布「演算法歧視指引」（Guidance on Algorithmic Discrimination and the New Jersey Law Against Discrimination），指出《紐澤西州反歧視法》（the New Jersey Law Against Discrimination, LAD）亦適用於基於演算法所衍生的歧視。
隨著AI技術日趨成熟，社會各領域已大量導入自動化決策工具，雖然它們能提高決策效率但也增加了歧視發生之風險。指引的目的在於闡述自動化決策工具在AI設計、訓練或部署階段可能潛藏的歧視風險，亦列舉出在各類商業實務情境中常見的自動化決策工具，並說明它們可能會如何產生演算法歧視。以下分別說明《紐澤西州反歧視法》適用範圍，以及與演算法歧視有關的行為樣態。
一、《紐澤西州反歧視法》之適用主體及適用客體
《紐澤西州反歧視法》禁止在就業、住房及公共場所等領域所發生的一切歧視行為，其適用主體相當廣泛，包含但不限於下列對象：雇主、勞工組織、就業仲介機構、房東、房地產經紀人、公共場所之經營或管理者、以及任何教唆或協助歧視行為之個人；而該法之適用客體亦有明確定義，為具有受保護特徵（如性別、族裔、身心障礙等）之自然人或法人。
此外指引特別說明，即便適用主體無意歧視、或其所使用之自動化決策工具係由第三方所開發，只要發生歧視行為依然違反《紐澤西州反歧視法》。這是因為《紐澤西州反歧視法》係針對歧視所帶來的影響進行規範，儘管無意歧視，其所帶來的影響並不一定比故意歧視還要輕微。
二、 歧視行為的三種樣態
1.差別待遇歧視
差別待遇歧視係指適用主體基於受保護特徵而對適用客體施予不同對待。舉例而言，若房東使用自動化決策工具來評估黑人潛在租戶，但不評估其他族裔的潛在租戶，則會因為其選擇性使用自動化決策工具而構成歧視。
2.差別影響歧視
差別影響歧視係指適用主體的政策或行為對適用客體造成不成比例的負面影響，且該政策或行為未能證明具有正當性、非歧視性、或不存在較少歧視性的替代方案，則該政策或行為構成歧視。例如，某商店利用臉部辨識技術來偵測過去曾有偷竊紀錄的顧客，但該系統對配戴宗教頭巾的顧客較容易產生誤判，此亦可能構成歧視。
3.未提供合理調整
合理調整係指身心障礙者、宗教信仰者、懷孕者以及哺乳者，在不會對適用主體造成過度負擔的前提下，得向其提出合理請求，以符合自身的特殊需求。以身心障礙員工為例，若雇主使用了自動化決策工具來評估員工的工作表現（例如監測員工的休息時間是否過長），在未考量合理調整的情況下，該工具可能會過度針對身心障礙員工進而構成歧視。
為減少演算法歧視發生頻率，「演算法歧視指引」特別闡述自動化決策工具可能會出現的歧視行為及歧視樣態。此份指引的另一個意義在於，縱使目前紐澤西州並沒有一部監管AI的專法，但仍可以利用現行的法律去處理AI帶來的種種問題，以利在既有的法律架構內擴充法律的解釋來回應新科技的挑戰，並達到實質管制AI的效果。
周景賀
副法律研究員 編譯整理
About the NJ Law Against Discrimination, New Jersey Office of Attorney General, https://www.njoag.gov/about/divisions-and-offices/division-on-civil-rights-home/know-the-law/ (last visited Jan. 22, 2025).
About the NJ Law Against Discrimination, New Jersey Office of Attorney General, https://www.njoag.gov/about/divisions-and-offices/division-on-civil-rights-home/know-the-law/ (last visited Jan. 22, 2025).
Troutman Pepper Locke State Attorneys General Team, New Jersey AG Platkin Announces New Guidance on AI Use(2025/1/16), Regulatory Oversight, https://www.regulatoryoversight.com/2025/01/new-jersey-ag-platkin-announces-new-guidance-on-ai-use/ (last visited Jan. 22, 2025).
美國白宮於2024年2月9日宣布從《晶片與科學法》（CHIPS and Science Act）撥款110億美元執行「CHIPS研發計畫」（CHIPS Research and Development (R&D) programs），並將設立投資基金，協助美國新興半導體公司技術商業化發展。 CHIPS研發計畫源係於美國國會於2022年8月通過《晶片與科學法》，提供527億美元的經費支持美國半導體產業，其中390億美元用於補助半導體生產，110億美元用於半導體研發。此次CHIPS研發計畫的具體作法如下： （1）建置國家半導體技術中心（National Semiconductor Technology Center，簡稱NSTC）：為CHIPS研發計畫的核心項目，將投資50億美元建置NSTC，協助美國先進半導體研發與設計，確保美國於半導體領域的領先地位。NSTC將向公眾共享設施與專業知識，幫助創新者取得相關專業知識與能力。此外NSTC亦將推動利益團體（Community of Interest），將開放所有利益相關者就NSTC的規劃提供意見。 （2）投資半導體人才（Investing in the Semiconductor Workforce）：創建人才勞動卓越中心（Workforce Center of Excellence），以培育、訓練美國半導體產業所需人才，並促進產業界與學術界的合作。 （3）投資其他關鍵領域研發之需求（Investing in Other Key R&D Needs）：向美國晶片製造研究所（CHIPS Manufacturing USA Institute）投資至少2億美元，以創建美國首座半導體製造數位孿生研究所（Semiconductor Manufacturing Digital Twin Institute），以降低晶片研發製造的成本，加速創新技術商業化之週期；以及投資3億美元於先進封裝產業，以提升半導體系統之效能。以外亦投資1億美元資助「CHIPS量測計畫」（CHIPS Metrology Program）的29個項目，幫助研發新型測量設備與方法，以滿足為電子產業的技術需求。
加拿大隱私專員呼籲提升加拿大人在美國之隱私保護加拿大隱私專員表示，其國人在美國雖享有一些隱私保護，但該保護主要係依賴不具法律效力之行政協議，因而相當脆弱。 隱私專員Daniel Therrien在一封致加拿大司法部長、公共安全部長及國防部長的公開信中，請求加拿大政府官員們向其對口之美國政府部門，要求藉由將加拿大列入美國國會去（2016）年通過之「司法賠償法案（Judicial Redress Act of 2015）」指定國家清單，以強化對其國人之隱私保護。隱私專員並表示，國人關切並請加拿大隱私專員辦公室（OPC）針對美國總統唐納．川普（Donald John Trump）所發布之行政命令進行影響評估，因其將排除非美國公民及合法永久居民隱私權法中關於個人可資識別資料之保護。 倘若加拿大能如同歐洲聯盟（European Union）及26個歐洲國家一般，於今年初時被列入前述指定清單，則其公民即可透過美國法院之強制執行，獲得隱私保障。此外亦可同時強化行政協議，如：美加邊境安全行動計劃（Canada-U.S. Beyond the Border Action Plan）及其聯合隱私聲明原則（Joint Statement of Privacy Principles）給予加拿大人之保護。 聯合隱私聲明原則涵括12項，其重要者有： 1.善盡一切合理努力，確保個人資料之正確性，以及後續請求查閱及更正錯誤之權利。 2.個人資料適當安全維護措施。 3.蒐集個人資料之相關性及必要性。 4.當事人認為其隱私受侵害時，得受繼有國家當局之賠償。 5.公務機關之有效監督。 縱算美國隱私權法自始即從未適用於加拿大人，且前開行政命令亦未改變現況，該命令仍突顯出「在南邊境上對加拿大人個人資料保護的顯著差距」。 「作為一個長期盟友以及密切的貿易夥伴，加拿大應要求被給予和那些經指定列入清單之歐洲國家相同程度之保護。」
歐洲專利局發布人工智慧與機器學習專利審查指南正式生效歐洲專利局（European Patent Office, 下稱EPO）於2018年11月1日發佈新版專利審查指南已正式生效。此次新版的焦點為Part G, Chapter II, 3.3.1關於人工智慧（Artificial Intelligence, AI）與機器學習（Machine Learning, ML）的可專利性審查細則。 在新版審查指南Part G, Chapter II, 3.3中指出數學方法本身為法定不予專利事項，然而人工智慧和機器學習是利用運算模型和演算法來進行分類、聚類、迴歸、降維等發明，例如：神經網路、遺傳演算法、支援向量機（Support Vector Machines, SVM）、K-Means演算法、核迴歸和判別分析，不論它們是否能夠藉由數據加以訓練，此類運算模型和演算法本身，因具有抽象的數學性質而不具專利適格性。 其中，EPO亦針對人工智慧和機器學習相關應用舉例下列特殊情形，說明可否具備發明技術特徵： （一）可能具技術性 在心臟監測儀器運用神經網路辨別異常心跳，此種技術為具有技術貢獻。 基於低階特徵（例如：影像邊緣、像素數值）的數位影像、影片、音頻或語言訊號分類，屬於分類演算法的技術應用。 （二）可能不具技術性 根據文字內容進行分類，本身不具技術目的，而僅是語言學的目的（T 1358/09） 對抽象數據或電信網路數據紀錄進行分類，但未說明所產生分類的技術用途，亦被認定本身不具技術目的，即使該分類演算法的數據價值高（例如：穩健性）（T 1784/06）。 在新版審查指南中亦指出，當分類方法用於技術目的，其產生之訓練集（training set）和訓練分類器（training the classifier）的步驟，則能被視為發明的技術特徵。 近年來，人工智慧技術的應用分佈在我們的生活中，無論是自駕車、新藥開發、語音辨識、醫療診斷等，隨著人工智慧和機器學習技術快速發展，新版的審查指南將為此技術訂定可專利性標準，EPO未來要如何評判人工智慧和機器學習相關技術，將可透過申請案之審查結果持續進行關注。 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」
以色列發布人工智慧監管與道德政策以色列創新、科學及技術部（Ministry of Innovation, Science and Technology）於2023年12月17日公布以色列首個關於人工智慧的監管和道德政策，在各行各業將人工智慧作為未來發展方向的趨勢下，以多元、協作、原則、創新的理念為其導向，為了化解偏見、人類監督、可解釋性、透明度、安全、問責和隱私所帶來的衝擊，以色列整合政府部門、民間組織、學術界及私部門互相合作制定政策，以求解決人工智慧的七個挑戰，帶領以色列與國際接軌。 該人工智慧政策提出具體政策方向以制定措施，其中具有特色的三項為： 1. 軟性監管：人工智慧政策採取軟性監管制度，以OECD人工智慧原則（OECD AI Principles）為基礎，採行制定標準、監督與自律等方式促進人工智慧永續發展，注重以人為本的道德原則，強調創新、平等、可靠性、問責性。 2. 人工智慧政策協調中心（AI Policy Coordination Center）：邀集專家學者成立跨部門的人工智慧政策協調中心，進行人工智慧政策研議，向政府部門監管提出建言，為人工智慧的開發使用建立風險管理，並代表國家參與國際論壇。 3. 公眾參與及國際合作：政府機關與監管機構舉辦人工智慧論壇，提出人工智慧的議題與挑戰，邀請相關人士參與討論，並積極參與國際標準制定，進行國際合作。 我國科技部在2019年邀集各領域專家學者研議提出「人工智慧科研發展指引」，強調以人為本、永續發展、多元包容為核心，以八大指引為標竿，推動人工智慧發展。我國已有跨部會溝通會議對於人工智慧法制政策進行研討，可觀察各國軟性監管措施作為我國人工智慧風險管理及產業政策參考，與國際脈動建立連結。