伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
資訊工業策進會科技法律研究所
2024年12月09日
伊利諾伊州人權法修正案（Amendment to the Illinois Human Rights Act）於2024年8月由伊利諾伊州州長簽署並通過，成為繼科羅拉多州人工智慧消費者保護法（Consumer Protections for Artificial Intelligence Act）之後美國第二部監管私部門使用人工智慧的法律。
本法規範重點在於解決人工智慧導入就業市場而衍生之就業歧視議題，伊利諾伊州透過修訂伊利諾伊州人權法，增加人工智慧（Artificial Intelligence）與生成式人工智慧（Generative Artificial Intelligence）之法律定義[1]，以及增加伊利諾伊州的雇主使用人工智慧的相關義務，使員工在就業法律方面獲得更完善之保障。
壹、事件摘要
近年來人工智慧大量被使用在就業市場，例如：雇主使用人工智慧自動篩選履歷、績效管理等等。[2]人工智慧所伴隨的就業歧視議題，遂成為美國聯邦政府與各州政府近年來之人工智慧法制重點。
2023年2月，伊利諾伊州眾議員Jaime M. Andrade, Jr.將伊利諾伊州人權法修正案提交給議會書記官（Clerk）[3]，伊利諾伊州人權法修正案在一系列的審議之後，終於在2024年5月通過參眾議院同意，並於2024年8月9日由伊利諾伊州州長簽署，使伊利諾伊州人權法案成為美國第二部監管私部門使用人工智慧的法律[4]，修正部分將於2026年1月1日生效。[5]
貳、重點說明
伊利諾伊州人權法（Illinois Human Rights Act，775 ILCS 5）由伊利諾伊州人權部（The Illinois Department of Human Rights，IDHR）負責執行。其宗旨為確保伊利諾伊州內之所有人免受歧視，並就主要領域訂定規範，包含「公平住宅」、「金融」、「公共場所」、「教育領域之性騷擾」以及「就業」[6]，其中有關就業歧視之議題為第5節所規範。
伊利諾伊州人權法修正案之目的為解決雇主使用人工智慧工具導致的就業歧視問題，因此主要修訂伊利諾伊州人權法案第5節有關「就業」之規定[7]。而有關本修正法案之執行細節，如通知方式、期限，由伊利諾伊州人權法授權伊利諾伊州人權部訂定並執行。[8]
一、法案修正內容
（一）增訂人工智慧與生成式人工智慧之定義
伊利諾伊州人權法修正案所修訂之範圍涵蓋人工智慧與生成式人工智慧之定義與使用，將新增於伊利諾伊州人權法第5節第2-101小節M款與N款：
1. 人工智慧（Artificial Intelligence）定義
伊利諾伊州人權法修正案將人工智慧定義為一種機器系統，該系統根據其接收之輸入資訊，為目標（不論明確或模糊）推論輸出結果，例如預測、內容、推薦或決策，這些輸出結果能夠影響真實與虛擬環境。[9]須注意此處所指人工智慧包含生成式人工智慧。[10]
2. 生成式人工智慧（Generative Artificial Intelligence）定義
新增之第5節第2-101小節N款將生成式人工智慧定義為一種自動化計算系統，當接受人類的提示、描述或問題，能生成模擬人類所創作之內容加以輸出，其生成內容包含且不限於文字、圖像、多媒體等。[11]
（二）雇主不得因使用人工智慧導致員工權利受侵害
所謂「雇主」（Employer），根據伊利諾伊州人權法第5節第2-101小節B項之規定，係指在伊利諾伊州內雇用員工（Employee）者，其員工數目只要達一名即符合雇主之定義。[12]而依據伊利諾伊州人權法修正案之修訂內容，雇主所使用之人工智慧不得導致員工在招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件等方面受到歧視。[13]
例如根據1964年《民權法》（Civil Rights Act of 1964）第七章，雇主在僱用、解雇、晉升等方面，不得因種族、膚色、國籍、性別或宗教信仰表現出就業歧視行為。[14]而民權法第七章所認定之歧視範圍包含了歧視性編碼（discriminatory coding），例如郵遞區號（Zip Codes），因為有許多少數族群會居住在特定區域。[15]
有鑑於此，伊利諾伊州人權法修正案也規範雇主於使用人工智慧時，不得使用郵遞區號作為本條款的替代指標[16]，避免因郵遞區號造成就業歧視。
（三）雇主負有主動通知員工使用人工智慧工具情形之義務
伊利諾伊州人權法修正案新增雇主之通知義務，凡有使用人工智慧從事招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件者，不得於未通知員工的情況下使用人工智慧為上述目的。[17]意即雇主應該主動應告知其員工有使用人工智慧進行前述行為之情事，至於通知的方式與時限則有待伊利諾伊州人權部訂定。
二、違法效力與救濟方式
（一）雇主可能需要負擔損害賠償費用與民事罰款
違反伊利諾伊州人權法修正案有關就業歧視禁止規範者，等同違反伊利諾伊州人權法。根據伊利諾伊州人權法第8-108條與第8-109條，違反者需要負擔相應的損害賠償，包含財產與非財產上的損害賠償費用[18]，以及復職等補救措施。[19]除此之外，違反之雇主也可能面臨民事處罰。[20]
（二）權利受侵害者得向伊利諾伊州人權部提起申訴或向法院提起訴訟
伊利諾伊州人權法案賦予民眾得以尋求救濟之權利，其方式大致有二，一為向伊利諾伊州人權部提出申訴，二則是直接向法院提起訴訟。
向伊利諾伊州人權部申訴者，將由人權部進行調查與調解[21]。調查後，伊利諾伊州人權部將提供申訴人調查報告[22]，該調查報告將就申訴人遭受違法權利侵害之實質證據提出建議。[23]在伊利諾伊州人權部完成調查後，申訴人仍可至法院提起訴訟。[24]
參、事件評析
一、人工智慧就業歧視為美國當前優先處理之法制議題，雇主應加強法遵意識
演算法偏見所導致的歧視問題，正是美國各州政府所欲立法解決之議題。雖然尚未出現聯邦層級之法律，但各州卻於今年陸續通過相關法案。例如科羅拉多州州長於今年5月17日所簽署之《科羅拉多州人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act）[25]、猶他州以及本文介紹之伊利諾伊州人權法修正案，皆已針對人工智慧就業歧視訂定相應規範。
在人工智慧的監管趨勢中，雇主應善加注意人工智慧之應用是否符合當地法規範，以避免遭受處罰。
二、立法方式採修訂既有法律，執行細節另行訂定
伊利諾伊州人權法修正案將有關使用人工智慧之規定增訂於《伊利諾伊州人權法》，其執行細節則授權伊利諾伊州人權部訂定，尤其伊利諾伊州人權法修正案之部分條文僅說明雇主使用的人工智慧不得導致員工在招聘、聘用、晉升、解僱、紀律或僱用條款、特權或條件等方面受到基於受保護類別的歧視，並未詳細規定雇主應以何方式避免之，因此仍有持續關注之必要。
三、本法賦予當事人申訴管道，較完整保障就業權利
伊利諾伊州人權法可以作為民眾權利之請求基礎，向伊利諾伊州人權部提出申訴或至法院訴訟。因此當伊利諾伊州雇主違反伊利諾伊州人權法時，其員工得依法主張權利，可以請求復職或損害賠償，而非只是由主管機關對雇主裁罰。故對於當事人之就業權利，有相對完整之保障。
[1]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024).
[2]Illinois Enacts New Law Regulating Employer Use of Artificial Intelligence, Lexology, https://www.lexology.com/library/detail.aspx?g=dfebd021-1398-41eb-92ee-9631183fa8ce (last visited Sep. 9, 2024).
[3]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[4]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[5]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[6]Illinois Human Rights Act, 775 ILCS §§1-5(2024).
[7]Illinois Human Rights Act, 775 ILCS §5 (2024).
[8]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). The Department shall adopt any rules necessary for the implementation and enforcement of this subdivision, including, but not limited to, rules on the circumstances and conditions that require notice, the time period for providing notice, and the means for providing notice.
[9]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.
[10]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" includes generative artificial intelligence.
[11]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Generative artificial intelligence" means an automated computing system that, when prompted with human prompts, descriptions, or queries, can produce outputs that simulate human-produced content, including, but not limited to, the following: (1) textual outputs, such as short answers, essays, poetry , or longer compositions or answers; (2) image outputs, such as fine art, photographs, conceptual art, diagrams, and other images; (3) multimedia outputs, such as audio or video in the form of compositions, songs, or short-form or long-form audio or video; and (4) other content that would be otherwise produced by human means.
[12]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Employer" includes: (a) any person employing one or more employees within Illinois during 20 or more calendar weeks within the calendar year of or preceding the alleged violation.
[13]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[14]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[15]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[16]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[17]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[18]Illinois Human Rights Act, 775 ILCS §5/8-108 (2024).
[19]Illinois Human Rights Act, 775 ILCS §5/8-109 (2024).
[20]Illinois Human Rights Act, 775 ILCS §5/8A-104 (2024).
[21]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[22]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[23]Illinois Department of Human Right, Charge Process, https://dhr.illinois.gov/filing-a-charge/legal-review.html (last visited Oct. 22, 2024).
[24]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[25]Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited Oct. 22, 2024).
美國商務部（Department of Commerce）、財政部（Department of Treasury）以及司法部（Department of Justice）於2024年3月6日發布出口管制與制裁法令遵循指引，以避免邪惡政權（malign regimes）與其他不法人士試圖濫用商業與金融管道，取得有危害美國國家安全與外交政策利益、全球和平與繁榮風險的貨品、技術以及服務，特別提供「非美國公司」（non-U.S. companies），降低相關風險的遵循指引。 該指引分享3則違反制裁法規的案例，重點如下： （1）某家總部位於澳洲的國際貨運代理和物流公司，運送貨品至北韓、伊朗以及敘利亞（皆為被制裁之目的地），且透過美國金融系統發起或收受交易款項，導致美國金融機構與被制裁之對象交易，並向受制裁的司法管轄區輸出金融服務。該公司最終繳納6,131,855美元罰款。 （2）某阿聯酋公司與杜拜以及伊朗公司共謀，透過在出口文件中將一家杜拜公司錯誤地列為最終使用人，然後從一家美國公司出口「儲槽清洗裝置」（storage tank cleaning units）到伊朗，構成違反出口管制規定行為。後與主管機關達成行政和解，繳納415,695美元罰款。 （3）某家總部位於瑞典的國際金融機構的子公司，因其客戶從被制裁的司法管轄區的IP位址，使用子公司的網路銀行平台，透過美國代理銀行向位於被制裁司法管轄區的交易對象付款，因此繳納3,430,900美元罰款。
美國總統簽署《強化美國訊號情報活動命令》，具體落實美歐跨大西洋資料保護框架美國總統拜登於2022年10月簽署了《強化美國訊號情報活動行政命令》（Executive Order On Enhancing Safeguards For United States Signals Intelligence Activities），指示美國將採取哪些步驟以落實歐盟與美國間資料隱私架構下的承諾。其目的在於解決歐盟法院（Court of Justice of the EU）在2020年7月的Schrems II判決中宣布隱私盾協議（EU-U.S. Privacy Shield framework）無效時所提出的疑慮與問題。 新的行政命令為美國的情報監視活動規定了某些「隱私和公民自由保護措施」，並且為非美國人制定了一種新的權利救濟管道，該行政命令主要規定了以下幾點： 1.規定美國的訊號情報活動應為必要的，並且符合有效的情報優先事項。 該行政命令規定，美國的訊號情報只有在「促進有效情報優先事項所必需」，並且「只有在與授權事項相襯的範圍與方式下」才能進行。該命令規定，基於了解或評估對美國、其盟友或夥伴的國家安全構成當前或潛在威脅的國外組織的能力、意圖或活動；防止由外國政府、外國組織或外國個人實施或代表其實施的恐怖主義、劫持人質；以及了解或評估影響全球安全的跨國威脅等目的，可以對某些合法目標進行情報偵察活動。且不得對與新聞自由、異議、思想或政治觀點的自由表達造成限制或使其立於不利地位，也不得蒐集商業訊息；這些訊息的蒐集僅限用於美國、其盟友或夥伴的國家安全。 2.規定訊號情報活動蒐集到的個人資料之處理方式。 針對通過訊號情報活動所蒐集的個人資料，美國情報系統在處理資料的每個環節必須建立制度和相關程序，以盡量減少個人資料的傳輸和保存環節。且只有在適用法規允許蒐集、保留美國人特定類型的資訊之情況下，才能夠保留非美國人的該類型訊息，不得因被蒐集資料的對象並非美國人而有所差異。並要求資訊處理的單位人員保持適當的培訓，以確保相關人員能夠理解規範的要求。 3.規定非美國人的權利救濟程序，以審查美國情報界的訊號情報活動。 在此行政命令頒布後60天內，國家情報總監（DNI）在與美國司法部和情報界各部門協商後，針對非美國人「藉由相應國家機構所移轉符合資格之投訴」建立處理程序。而美國的司法部長可以與國務卿、商務部長和DNI進行協商，將一個國家或是經濟區域、組織指定為符合資格的國家或是國際群體，其人民可以進行權利救濟。DNI的公民自由保護辦公室（Civil Liberties Protection Officer, CLPO）將對這些非美國人的申訴進行審查，並於必要時進行適當的補救措施，包含刪除未經合法授權獲得的資料，或是將合法蒐集資料的訪問權限限制於經過適當培訓的人員。 4.建立資料保護審查法院，以審查CLPO對於合格申訴的判定結果。 新成立的資料保護審查法院應任命針對資料隱私和國家安全法領域具備適當經驗的法律從業人員來擔任法官。投訴人可於CLPO做出決定後，向該法院申請審查CLPO的決定。
個人資料受害該向誰求償？ 美國規劃推動「供應鏈之星」計畫，國會提出「節能暨產業競爭力法」並審議美國國會於2013年4月提出「節能暨產業競爭力法」(Energy Savings and Industrial Competitiveness Act of 2013)草案，並進行審議。該草案由參議員Shaheen女士及Portman先生共同提出，於二讀後交付予參議院「能源暨自然資源委員會」(the Committee on Energy and Natural Resources)進行討論表決。委員會於2013年5月13日以多數決批准該草案並修正若干條款，全案排入美國國會第113會期等待表決。 本草案屬於包裹式立法，旨在提昇住宅及商用建築並產業等多面向之能源節約，共分成四個章節: 首先對於提昇產業生產競爭力領域(Industrial Efficiency and Competitiveness)，加強產業轉型，草案中修正「能源獨立及安全法」(Energy Independence and Security Act of 2007)、「能源政策及管理法」(Energy Policy and Conservation Act，並刪修「2005年能源政策法」及「1992年能源政策法」若干條款。計劃在能源部下，成立「供應鏈之星」(Supply Star Program) 計畫，推動整體產業供應鏈之能源效率，達節能、節水或其他自然資源目的。 其次，在建築(Buildings)領域，草案乃修正「能源管理及生產法」(Energy Conservation and Production Act)，更新「模範建築能源規範」(model building energy codes)；就住宅建築及商用建築，分別以「2009國際能源管理規範」 (International Energy Conservation Code, IECC)及「ASHRAE標準90.1-2010」作為基準，並將經濟成本效益納入考量。 以及在私用商業建築效率提升融資機制(Private Commercial Building Efficiency Financing)上，能源部將啟動「商業建築能源融資倡議」(Commercial Building Energy Financing Initiative)，在州的層級，擴大私部門及商業建築進行能源效率翻新工程之補助範疇。 第四，關於聯邦公部門機關之能源效率(Federal Agency Energy Efficiency)，草案乃修正「國家能源管理政策法」(National Energy Conservation Act)，討論將在聯邦公部門建築導入資通訊科技(ICT)，推動能源效率及節約。 本草案就公部門及私部門能源效率之提升皆有著墨，觀察該草案目前已獲得美國商會等數百位企業團體支持。若本會期能順利通過，勢必對於既有能源法制產生一定之變革，相關趨勢當值留意之。