演算法歧視將適用於《紐澤西州反歧視法》
2025年1月9日美國紐澤西州檢查總長與民權部（Division of Civil Rights, DCR）聯合發布「演算法歧視指引」（Guidance on Algorithmic Discrimination and the New Jersey Law Against Discrimination），指出《紐澤西州反歧視法》（the New Jersey Law Against Discrimination, LAD）亦適用於基於演算法所衍生的歧視。
隨著AI技術日趨成熟，社會各領域已大量導入自動化決策工具，雖然它們能提高決策效率但也增加了歧視發生之風險。指引的目的在於闡述自動化決策工具在AI設計、訓練或部署階段可能潛藏的歧視風險，亦列舉出在各類商業實務情境中常見的自動化決策工具，並說明它們可能會如何產生演算法歧視。以下分別說明《紐澤西州反歧視法》適用範圍，以及與演算法歧視有關的行為樣態。
一、《紐澤西州反歧視法》之適用主體及適用客體
《紐澤西州反歧視法》禁止在就業、住房及公共場所等領域所發生的一切歧視行為，其適用主體相當廣泛，包含但不限於下列對象：雇主、勞工組織、就業仲介機構、房東、房地產經紀人、公共場所之經營或管理者、以及任何教唆或協助歧視行為之個人；而該法之適用客體亦有明確定義，為具有受保護特徵（如性別、族裔、身心障礙等）之自然人或法人。
此外指引特別說明，即便適用主體無意歧視、或其所使用之自動化決策工具係由第三方所開發，只要發生歧視行為依然違反《紐澤西州反歧視法》。這是因為《紐澤西州反歧視法》係針對歧視所帶來的影響進行規範，儘管無意歧視，其所帶來的影響並不一定比故意歧視還要輕微。
二、 歧視行為的三種樣態
1.差別待遇歧視
差別待遇歧視係指適用主體基於受保護特徵而對適用客體施予不同對待。舉例而言，若房東使用自動化決策工具來評估黑人潛在租戶，但不評估其他族裔的潛在租戶，則會因為其選擇性使用自動化決策工具而構成歧視。
2.差別影響歧視
差別影響歧視係指適用主體的政策或行為對適用客體造成不成比例的負面影響，且該政策或行為未能證明具有正當性、非歧視性、或不存在較少歧視性的替代方案，則該政策或行為構成歧視。例如，某商店利用臉部辨識技術來偵測過去曾有偷竊紀錄的顧客，但該系統對配戴宗教頭巾的顧客較容易產生誤判，此亦可能構成歧視。
3.未提供合理調整
合理調整係指身心障礙者、宗教信仰者、懷孕者以及哺乳者，在不會對適用主體造成過度負擔的前提下，得向其提出合理請求，以符合自身的特殊需求。以身心障礙員工為例，若雇主使用了自動化決策工具來評估員工的工作表現（例如監測員工的休息時間是否過長），在未考量合理調整的情況下，該工具可能會過度針對身心障礙員工進而構成歧視。
為減少演算法歧視發生頻率，「演算法歧視指引」特別闡述自動化決策工具可能會出現的歧視行為及歧視樣態。此份指引的另一個意義在於，縱使目前紐澤西州並沒有一部監管AI的專法，但仍可以利用現行的法律去處理AI帶來的種種問題，以利在既有的法律架構內擴充法律的解釋來回應新科技的挑戰，並達到實質管制AI的效果。
周景賀
副法律研究員 編譯整理
About the NJ Law Against Discrimination, New Jersey Office of Attorney General, https://www.njoag.gov/about/divisions-and-offices/division-on-civil-rights-home/know-the-law/ (last visited Jan. 22, 2025).
About the NJ Law Against Discrimination, New Jersey Office of Attorney General, https://www.njoag.gov/about/divisions-and-offices/division-on-civil-rights-home/know-the-law/ (last visited Jan. 22, 2025).
Troutman Pepper Locke State Attorneys General Team, New Jersey AG Platkin Announces New Guidance on AI Use(2025/1/16), Regulatory Oversight, https://www.regulatoryoversight.com/2025/01/new-jersey-ag-platkin-announces-new-guidance-on-ai-use/ (last visited Jan. 22, 2025).
加拿大競爭局（Competition Bureau Canada,下稱競爭局）為更了解人工智慧如何影響或促進競爭，於2025年1月27日發布人工智慧與競爭諮詢報告(Consultation on Artificial Intelligence and Competition)。競爭局於意見徵詢期間獲得來自學術界、法律界、產業協會及大型科技公司的意見書。 諮詢報告彙整意見書內容並列出以下重點： 1. 人工智慧從資料輸入、基礎模型至終端產品或服務各階段皆在快速發展，可以為市場帶來新的競爭或阻礙競爭，人工智慧可能影響競爭原因包含資源依賴、資料控制及市場參進障礙等等。 2. 人工智慧領域中大規模投資是技術成長的重要關鍵，大型企業可藉由市場力量減少競爭或進行創新，少數大型企業因擁有較高的投資能力及數據資料專屬性，在基礎架構層（運行人工智慧所需的工具，如人工智慧晶片、雲端運算及超級電腦等）中佔有極高的市場份額，但也有部分意見認為人工智慧市場仍蓬勃發展中，亦有企業或學術機構未過度依賴專有數據但仍能開發出產品。 3. 人工智慧可能導致反競爭行為，企業雖可透過垂直整合來降低成本並提高效率，但可能會減少現行市場內部競爭，或透過具有人工智慧的演算法進行定價，達到操縱市場價格的行為，現行反壟斷法未來是否可以解決此一問題還有待觀察。 藉由諮詢的過程，競爭局更能掌握人工智慧發展、也了解公眾對話的重要性，意見書亦有助於該局未來提出兼顧人工智慧發展及促進市場競爭之政策措施。 我國公平交易委員會已於112年5月成立AI專案小組，負責掌握國際間人工智慧相關競爭議題的趨勢與發展，並針對現行人工智慧發展與競爭法執法研提政策配套措施，我國公平交易委員會與加拿大競爭局對於人工智慧與市場競爭議題之後續動態，值得持續追蹤。
全球創新指數（GII）評估COVID-19對於全球創新的影響全球創新指數（Global Innovation Index，簡稱GII）為世界智慧財產權組織（WIPO）與歐洲工商管理學院（INSEAD）等單位，共同衡量全球經濟創新績效之參考指標，於今年（2020）9月2日所發佈的全球創新指數顯示，COVID-19嚴重的阻礙全球創新的發展，但卻也對於特定領域（如醫療衛生）帶來新的創新契機。 今年與2009年（全球經濟危機時）相比，世界金融體系運作仍保持平穩，但用於資助創新型企業的資金，由於全球投資者對於疫情影響新創企業營利表現擔憂，資金的投入也連帶受到影響。而在創新融資方面，鎖定新創早期階段投資的創投公司為確保日後競爭力，轉向對當今熱門標的（如生命科學等）等進行投資，若屬於研發密集型新創企業（研發時間較長）及非投資熱點（區域）的企業，投資方面則所受疫情衝擊較大。 觀察全球主要國家，雖然皆制訂相關補助計劃用以緩解因疫情所帶來之衝擊，例如中短期欲透過貸款擔保爲企業提供支持。然而，這些補助措施並非直接爲創新和新創企業提供資金。儘管如此，專家對於全球科學和創新受COVID-19的影響也非全然悲觀，部分源自於全球對於資本回報的期待，也預估未來風險投資及創新也將轉向醫療衛生、遠距教學、大數據、電子商務、機器人等領域。
數百萬計個人資料遭竊取 引起美國重視資料保護美國接連發生電腦仲介商 ChoicePoint 與 NexisLexis 分別於 2004 年 10 月及 2004 年 4 月電腦遭入侵，數以百萬計的個人資料被竊取之事件，使得個人資料外洩的問題，受到美國國會的強烈關注。此一事件的發生，同時讓大家注意到加州資料庫外洩通知法（ SB1386 ）對於消費者保護的重要性。 SB13866 法要求持有個人敏感資料的組織、企業，當資料外洩時，需立即通知當事人。 Choice point 此次即是迫於加州州法的規定，於 2005 年 2 月通知了 3 萬 5 千名加州州民關於其個人資料遭受竊取的的消息。 鑑於個人資料保護的重要性，美國國會議員 Charles Schumer ( 紐約州 ) and Bill Nelson ( 佛羅里達州 ) 仿照 SB1386 加州立法，於 2005 年 4 月 12 日舉辦了「 2005 年個人資料保護風險通知義務法案」（ Notification of Risk to Personal Data Act of 2005 ）的公聽會。草案建議成立聯邦性法律，要求企業或政府，一旦其持有之個人資料遭到竊取，即需通知當事人。本草案同時明訂企業或政府應通知的事項；並擬允許，讓資料遭竊的個人，可於其信用報告中顯示其 7 年內可能遭受詐欺警告的紀錄。 本法案中除了包含 SB1386 的規定外，也對販賣個人敏感資料進行規範，並要求聯邦貿易委員會（ Federal Trade Commission ）設立相關組織，以協助資料遭竊之被害者。
韓國2月通過《加強保護國家高科技戰略產業競爭力特別措施法（半導體特別法）》韓國2月通過《加強保護國家高科技戰略產業競爭力特別措施法（半導體特別法）》 資訊工業策進會科技法律研究所 2022年3月23日 韓國政府意識到在高科技產業競爭環境中培育知識人才，以及保護國家戰略產業發展的重要性。2019年修訂《防止產業技術外流及產業技術保護法》（下稱產業技術保護法），針對國家核心技術外流及侵害行為加以重罰外；復於2021年12月提出《國際霸權技術競爭下之科技保護策略》（下稱韓國科技保護策略），並於2022年2月3日通過《加強保護國家高科技戰略產業競爭力特別措施法》[1]，於同年8月4日生效。分別說明如下： 壹、韓國高科技保護機制發展趨勢 韓國核心科技保護法制體系的特色，是在《防止不當競爭及營業秘密保護法》禁止竊密及《對外貿易法》出口管制之外，訂定了保護產業技術之專法《產業技術保護法》，並以韓國科技保護策略，宣告政府科技保護策略整體方針。 一、產業技術保護法 （一）立法目的 韓國於2006年10月27日制定《產業技術保護法》，該法第1條載明該法立法目的為：「防止工業技術的過度洩露和保護工業技術，以加強韓國工業的競爭力，促進國家安全和國民經濟的發展。」該法規範之國家核心技術係指在國內外市場中，具有較高經濟價值或高度產業成長潛力之技術，此類技術若外洩到國外，對於國家的安全保障及國民經濟發展，將造成重大惡劣影響之虞。 （二）產業技術保護委員會選定國家核心技術防止外流 《產業技術保護法》規定由產業通商資源部部長擔任產業技術保護委員會的委員長，成員包括財政部、教育部、科學部、外交部、法務部、國防部、農林部、保健部、環境部、交通部、海洋部、中小事業部次長、智慧局局長以及民間代表。 各部會由主管業務之產業技術範圍中選定國家核心技術名單，再由產業通商資源部部長及各主管部會部長選定國家核心技術，最後經由產業技術保護委員會經法定程序予以指定、變更、撤銷。該委員會主要根據該產業技術對國家安全保障及國民經濟衍生效益、國內外市占率，以及產業影響力，來進行考量國家核心技術清單，在每年2月底檢討前一年度執行情形，並於10月底更新下一年度國家核心技術及其保護計畫，決定國家核心技術清單。2021年1月產業技術保護委員會審議通過之「國家核心技術指定項目公告」修訂版，指定之國家核心技術包括半導體、顯示器、資通訊、電機電子、機械、機器人、鋼鐵、造船、交通、航太、核能、生命科學等12大領域共71項。 （三）防止國家核心技術外流加重罰則 《產業技術保護法》先後經歷8次修法強化保護力道，最新一次修法是在2019年8月，修法內容包括加強外資管控，凡是國外併購、合併，無論技術是自行開發或政府資助，皆須向政府申報，如果政府認為有影響國安之虞，可下令暫停或禁止；另外是加強技術保護責任，要求國家核心技術之持有及管理者採取必要的保護措施；修法前對於技術外流之懲罰規定僅設有上限（15年有期徒刑及15億韓元），故增訂技術外流至海外之最低罰則為3年以上有期徒刑及15億韓元罰金。 二、韓國科技保護策略 韓國政府2021年12月宣布之科技保護策略，旨在制定各部會科技保護策略方針，以避免韓國核心技術不法外流。該保護策略宣告： （一）將定期檢視國家核心技術之指定、變更與撤銷。 （二）針對國家核心技術清單制定一定執行期間（如5-10年，視技術項目而定）。 （三）規劃於2023年修正《產業技術保護法》，針對外資的認定，增訂間接持股、雙重國籍等情事。 （四）以過去出口管制之企業、投資審查之對象為基礎，將可能持有國家核心技術之企業登錄、加強管制，並建立國家核心技術專家資料庫，以持續監控其出入境。 （五）規劃跨部會合作，包括應用智慧財產局的專利資料庫，認定擁有國家核心技術之相關人員或機構。 貳、《加強保護國家高科技戰略產業競爭力特別措施法》 《加強保護國家高科技戰略產業競爭力特別措施法》（下稱半導體特別法），在《產業技術保護法》之「國家核心技術」外，額外定義「國家高科技戰略技術」，除出口、併購應依現行《產業技術保護法》事先取得產業通商資源部許可外。對於不法侵害國家高科技戰略技術，訂定更嚴厲的罰則；同時針對相關產業提供系統性支援措施。 一、成立由韓國總理主導的「國家高科技戰略產業委員會」，制定5年戰略產業培育及保護的基本計畫。 委員會組成：提高管理層級，由總理為主席，成員包括部會首長、產學研專家，委員人數不超過20名，並由產業通商資源部擔任秘書處。 各領域專門委員會：為協助委員會審查和事先審議，各戰略產業領域得設立專門委員會，每領域委員不超過10名，各專門委員會之主席由「國家高科技戰略產業委員會」主席根據部會首長推薦任命之。 二、「國家高科技戰略技術」由「國家高科技戰略產業委員會」指定，定義為： 影響國家及經濟安全重大者，例如影響供應鏈穩定之半導體技術。 具成長潛力、技術困難度及產業重要性者。 對於相關產業具重大漣漪效益者。 「國家高科技戰略產業」則指研究、開發、商業化國家高科技戰略技術，或以國家高科技戰略技術為基礎，商業化生產產品或服務的產業。 三、加重不法侵害國家高科技戰略技術的罰則：意圖在境外使用或使技術在外國使用，而不法侵害國家高科技戰略技術者，處15年以下有期徒刑、15億韓元以下罰金；未取得許可出口、投資併購而不法侵害國家高科技戰略技術者，處15年以下有期徒刑、15億韓元以下罰金。 四、中央及地方政府應制定培育、保護國家高科技戰略產業必要的政策。有關國家高科技戰略技術的保護，除半導體特別法有規定外，依《產業技術保護法》之規定。< 五、為支持國家高科技戰略產業，提供加速辦理許可、迅速處理環安或職安民事投訴、投入政府預算、減免稅金、培育專業人才等方案。 六、為穩定國家高科技戰略產業供應鏈，政府因自然災害或國際貿易形勢導致相關技術供需穩定有疑慮時，經營者、進出口、運輸、倉儲業者或國營事業，應依據總統令，以六個月為期限，於期間內辦理生產計畫、國內優惠供應方案或設施擴建等事項。 參、代結論：韓國本次《半導體特別法》評析 韓國《半導體特別法》在認定國家高科技戰略技術時，將民間企業或專家的意見，納入國家高科技戰略技術認定與管制機制的決策程序中，綜合考量該技術對國家及經濟安全、技術成長潛力等影響，在最小必要範圍內選定之。另，《半導體特別法》亦特別提出國家高科技戰略產業發展的優惠政策方案，讓該些產業雖因其重要性須受嚴厲管制，但同時也得到政府加速辦理許可、減免稅金等支持。就韓國本次修法，在其認定重要技術的評估方法，以及提供對應配套機制上，值得做為我國未來在保護重要高科技產業做法上的參考。 [1] Cabinet passes National High-Tech Strategic Industries Special Act, Jan. 25, 2022, https://english.motie.go.kr/en/pc/pressreleases/bbs/bbsView.do?bbs_cd_n=2&bbs_seq_n=911 (last visited 2022/03/20)