伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
資訊工業策進會科技法律研究所
2024年12月09日
伊利諾伊州人權法修正案（Amendment to the Illinois Human Rights Act）於2024年8月由伊利諾伊州州長簽署並通過，成為繼科羅拉多州人工智慧消費者保護法（Consumer Protections for Artificial Intelligence Act）之後美國第二部監管私部門使用人工智慧的法律。
本法規範重點在於解決人工智慧導入就業市場而衍生之就業歧視議題，伊利諾伊州透過修訂伊利諾伊州人權法，增加人工智慧（Artificial Intelligence）與生成式人工智慧（Generative Artificial Intelligence）之法律定義[1]，以及增加伊利諾伊州的雇主使用人工智慧的相關義務，使員工在就業法律方面獲得更完善之保障。
壹、事件摘要
近年來人工智慧大量被使用在就業市場，例如：雇主使用人工智慧自動篩選履歷、績效管理等等。[2]人工智慧所伴隨的就業歧視議題，遂成為美國聯邦政府與各州政府近年來之人工智慧法制重點。
2023年2月，伊利諾伊州眾議員Jaime M. Andrade, Jr.將伊利諾伊州人權法修正案提交給議會書記官（Clerk）[3]，伊利諾伊州人權法修正案在一系列的審議之後，終於在2024年5月通過參眾議院同意，並於2024年8月9日由伊利諾伊州州長簽署，使伊利諾伊州人權法案成為美國第二部監管私部門使用人工智慧的法律[4]，修正部分將於2026年1月1日生效。[5]
貳、重點說明
伊利諾伊州人權法（Illinois Human Rights Act，775 ILCS 5）由伊利諾伊州人權部（The Illinois Department of Human Rights，IDHR）負責執行。其宗旨為確保伊利諾伊州內之所有人免受歧視，並就主要領域訂定規範，包含「公平住宅」、「金融」、「公共場所」、「教育領域之性騷擾」以及「就業」[6]，其中有關就業歧視之議題為第5節所規範。
伊利諾伊州人權法修正案之目的為解決雇主使用人工智慧工具導致的就業歧視問題，因此主要修訂伊利諾伊州人權法案第5節有關「就業」之規定[7]。而有關本修正法案之執行細節，如通知方式、期限，由伊利諾伊州人權法授權伊利諾伊州人權部訂定並執行。[8]
一、法案修正內容
（一）增訂人工智慧與生成式人工智慧之定義
伊利諾伊州人權法修正案所修訂之範圍涵蓋人工智慧與生成式人工智慧之定義與使用，將新增於伊利諾伊州人權法第5節第2-101小節M款與N款：
1. 人工智慧（Artificial Intelligence）定義
伊利諾伊州人權法修正案將人工智慧定義為一種機器系統，該系統根據其接收之輸入資訊，為目標（不論明確或模糊）推論輸出結果，例如預測、內容、推薦或決策，這些輸出結果能夠影響真實與虛擬環境。[9]須注意此處所指人工智慧包含生成式人工智慧。[10]
2. 生成式人工智慧（Generative Artificial Intelligence）定義
新增之第5節第2-101小節N款將生成式人工智慧定義為一種自動化計算系統，當接受人類的提示、描述或問題，能生成模擬人類所創作之內容加以輸出，其生成內容包含且不限於文字、圖像、多媒體等。[11]
（二）雇主不得因使用人工智慧導致員工權利受侵害
所謂「雇主」（Employer），根據伊利諾伊州人權法第5節第2-101小節B項之規定，係指在伊利諾伊州內雇用員工（Employee）者，其員工數目只要達一名即符合雇主之定義。[12]而依據伊利諾伊州人權法修正案之修訂內容，雇主所使用之人工智慧不得導致員工在招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件等方面受到歧視。[13]
例如根據1964年《民權法》（Civil Rights Act of 1964）第七章，雇主在僱用、解雇、晉升等方面，不得因種族、膚色、國籍、性別或宗教信仰表現出就業歧視行為。[14]而民權法第七章所認定之歧視範圍包含了歧視性編碼（discriminatory coding），例如郵遞區號（Zip Codes），因為有許多少數族群會居住在特定區域。[15]
有鑑於此，伊利諾伊州人權法修正案也規範雇主於使用人工智慧時，不得使用郵遞區號作為本條款的替代指標[16]，避免因郵遞區號造成就業歧視。
（三）雇主負有主動通知員工使用人工智慧工具情形之義務
伊利諾伊州人權法修正案新增雇主之通知義務，凡有使用人工智慧從事招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件者，不得於未通知員工的情況下使用人工智慧為上述目的。[17]意即雇主應該主動應告知其員工有使用人工智慧進行前述行為之情事，至於通知的方式與時限則有待伊利諾伊州人權部訂定。
二、違法效力與救濟方式
（一）雇主可能需要負擔損害賠償費用與民事罰款
違反伊利諾伊州人權法修正案有關就業歧視禁止規範者，等同違反伊利諾伊州人權法。根據伊利諾伊州人權法第8-108條與第8-109條，違反者需要負擔相應的損害賠償，包含財產與非財產上的損害賠償費用[18]，以及復職等補救措施。[19]除此之外，違反之雇主也可能面臨民事處罰。[20]
（二）權利受侵害者得向伊利諾伊州人權部提起申訴或向法院提起訴訟
伊利諾伊州人權法案賦予民眾得以尋求救濟之權利，其方式大致有二，一為向伊利諾伊州人權部提出申訴，二則是直接向法院提起訴訟。
向伊利諾伊州人權部申訴者，將由人權部進行調查與調解[21]。調查後，伊利諾伊州人權部將提供申訴人調查報告[22]，該調查報告將就申訴人遭受違法權利侵害之實質證據提出建議。[23]在伊利諾伊州人權部完成調查後，申訴人仍可至法院提起訴訟。[24]
參、事件評析
一、人工智慧就業歧視為美國當前優先處理之法制議題，雇主應加強法遵意識
演算法偏見所導致的歧視問題，正是美國各州政府所欲立法解決之議題。雖然尚未出現聯邦層級之法律，但各州卻於今年陸續通過相關法案。例如科羅拉多州州長於今年5月17日所簽署之《科羅拉多州人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act）[25]、猶他州以及本文介紹之伊利諾伊州人權法修正案，皆已針對人工智慧就業歧視訂定相應規範。
在人工智慧的監管趨勢中，雇主應善加注意人工智慧之應用是否符合當地法規範，以避免遭受處罰。
二、立法方式採修訂既有法律，執行細節另行訂定
伊利諾伊州人權法修正案將有關使用人工智慧之規定增訂於《伊利諾伊州人權法》，其執行細節則授權伊利諾伊州人權部訂定，尤其伊利諾伊州人權法修正案之部分條文僅說明雇主使用的人工智慧不得導致員工在招聘、聘用、晉升、解僱、紀律或僱用條款、特權或條件等方面受到基於受保護類別的歧視，並未詳細規定雇主應以何方式避免之，因此仍有持續關注之必要。
三、本法賦予當事人申訴管道，較完整保障就業權利
伊利諾伊州人權法可以作為民眾權利之請求基礎，向伊利諾伊州人權部提出申訴或至法院訴訟。因此當伊利諾伊州雇主違反伊利諾伊州人權法時，其員工得依法主張權利，可以請求復職或損害賠償，而非只是由主管機關對雇主裁罰。故對於當事人之就業權利，有相對完整之保障。
[1]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024).
[2]Illinois Enacts New Law Regulating Employer Use of Artificial Intelligence, Lexology, https://www.lexology.com/library/detail.aspx?g=dfebd021-1398-41eb-92ee-9631183fa8ce (last visited Sep. 9, 2024).
[3]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[4]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[5]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[6]Illinois Human Rights Act, 775 ILCS §§1-5(2024).
[7]Illinois Human Rights Act, 775 ILCS §5 (2024).
[8]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). The Department shall adopt any rules necessary for the implementation and enforcement of this subdivision, including, but not limited to, rules on the circumstances and conditions that require notice, the time period for providing notice, and the means for providing notice.
[9]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.
[10]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" includes generative artificial intelligence.
[11]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Generative artificial intelligence" means an automated computing system that, when prompted with human prompts, descriptions, or queries, can produce outputs that simulate human-produced content, including, but not limited to, the following: (1) textual outputs, such as short answers, essays, poetry , or longer compositions or answers; (2) image outputs, such as fine art, photographs, conceptual art, diagrams, and other images; (3) multimedia outputs, such as audio or video in the form of compositions, songs, or short-form or long-form audio or video; and (4) other content that would be otherwise produced by human means.
[12]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Employer" includes: (a) any person employing one or more employees within Illinois during 20 or more calendar weeks within the calendar year of or preceding the alleged violation.
[13]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[14]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[15]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[16]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[17]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[18]Illinois Human Rights Act, 775 ILCS §5/8-108 (2024).
[19]Illinois Human Rights Act, 775 ILCS §5/8-109 (2024).
[20]Illinois Human Rights Act, 775 ILCS §5/8A-104 (2024).
[21]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[22]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[23]Illinois Department of Human Right, Charge Process, https://dhr.illinois.gov/filing-a-charge/legal-review.html (last visited Oct. 22, 2024).
[24]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[25]Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited Oct. 22, 2024).
長久以來，中國民眾對於抗菌藥物（如抗生素等）存有高度的依賴性，造就了國內規模龐大的抗菌藥物市場，依據中國衛生部統計，中國民眾對抗菌藥物的人均消費額幾乎是美國民眾的10倍。對此，世界衛生組織早於2011年4月7日便正式提出警告與呼籲，若中國未能控制抗菌藥物濫用的情況，很快將面臨「無藥可用」的窘境，並演變為全球人類的災難。 為扭轉前述抗菌藥物濫用狀況，中國衛生部於2012年4月24日正式發布了「抗菌藥物臨床應用管理辦法」(以下稱管理辦法)，分別對於抗菌藥物的使用及醫療院所之管理制度作了如下的完整規範： 1. 對抗菌藥物採分級管理制，分為「非限制使用級」、「限制使用級」及「特殊使用級」三類，並要求醫療院所依此分類，擬定「抗菌藥物供應目錄」，凡具有同一通用名稱者，其注射型和口服型各不得超過兩種、具有相似或相同藥理學特徵的藥物亦不得重複列入。 2. 依上述分級對抗菌藥物作臨床使用管理：「限制使用級」者，只有當發生嚴重感染、免疫功能下降合併感染，或病菌只對限制級藥物有反應時，才允許使用；「特殊使用級」者，非經醫療院所內設置的「抗菌藥物管理工作機構」同意，不得使用；惟若係為搶救生命垂危的病患或其他緊急情況下，可以越級使用，但須於24小時內補行程序。 3. 各院所必須設置「抗菌藥物管理工作機構」或專責人員，負責制定抗菌藥物管理制度、擬定「抗菌藥物供應目錄」，並建立細菌抗藥預警制度。 管理辦法將於2012年8月起正式施行，一般預料將有助於改善中國抗菌藥物濫用的現象，然用藥限制也必定衝擊現今許多對抗菌藥物產品銷售已存有高度依賴性的企業；相反地，由於管理辦法中明文將「具有抗菌作用的中醫製劑」排除於管制範圍外，或許將促成抗菌中醫藥品的發展契機，而值得持續觀察之。
德國提出｢對外貿易條例｣修正草案德國聯邦經濟與能源部(Bundesministerium für Wirtschaft und Energie，BMWi)在2017年7月提出｢對外貿易條例｣(Außenwirtschaftsverordnung)修正草案，以規定基於德國的公共政策安全或基本安全利益，對於外國人(或企業)收購國內公司，在必要時得予以禁止或增加強制條件。 如果交易完成後（一）歐盟之外的收購方將直接或間接持有目標公司25％以上的表決權以及（二）出於公共秩序或安全原因有必要採取上述措施，聯邦經濟與能源部可禁止對德國公司的收購交易。 該法修正草案亦進一步規定，聯邦經濟能源部將在本法律框架下對於涉及以下（技術）領域相關企業併購案之合約談判的各方進行審查程序，以確保國家實質安全利益： 部分能源電力領域，例如：電廠控制技術、電網工程技術、電廠系統或系統操作的控制技術(供電、供氣、燃油或集中供熱等)。 部分用水領域，例如：用水控制、調配或自動化技術(飲用水供應或污水處理設施)。 訊息技術和電信軟體領域，例如：語音和數據傳輸、數據儲存系統及處理系統)。 金融和保險部門、其運營的軟體或現金系統。 涉及醫療保健軟體部門或醫院管理訊息系統、處方藥和實驗室訊息系統的運行等領域部分。 涉及運輸和交通領域內的控制系統、工廠或設施的運行、航空運輸、乘客和貨物系統、鐵路運輸、海運和內河運輸、公路運輸、公共交通或後勤物流等領域。
英國禁止限制級(R18級)情色影片以網路方式行銷為貫徹對未成年人的保護，避免未成年人以網路方式購買 R18 級情色影片，英國政府規定該類影片只能於獲有執照之供應商店販售，並僅有實際到店的顧客方得購買，禁止以郵購、網路或電話方式行銷，引發業者反彈，其中兩家公司遭受罰鍰處分後提起訴訟，日前上訴英國高等法院 (High Court) 主張此項限制對英國境內業者並不公平，境外業者可以規避此限制而仍於網路上販售 R18 級影片，將嚴重影響英國境內業者的發展。 該法院於五月二十三日作出決定認為此項限制為合法，蓋因網路購物難以確認購買者的年齡，強制規定必須到店購買將有助於確認購買者是否已達法定年齡，降低未成年人購得 R18 級影片的可能性。
OECD發布《支持綠色創業的政策：在丹麥建立綠色創業中心》報告經濟合作暨發展組織（Organisation for Economic Co-operation and Development, OECD）於2022年6月13日發布《支持綠色創業的政策：在丹麥建立綠色創業中心》（Policies to Support Green Entrepreneurship: Building a Hub for Green Entrepreneurship in Denmark）報告，以協助丹麥落實強化綠色創業生態系之倡議。 「綠色創業」一詞雖常見於學術文獻及政策文件，卻無明確統一之定義。本報告所採之定義為：「由新創公司發展及採用綠色產品、服務及製程。」所謂綠色，係指以「減少或防止任何形式的環境破壞、減少汙染物及廢棄物排放，或具有同等品質與效益但卻更節約資源」的方式為之。本報告評估丹麥的綠色創業狀況及政策建議，摘要如下： （一）丹麥綠色創業生態系現況 1.丹麥在綠色創業上是成熟的全球參與者，惟尚非全球樞紐。依2022年Startup Genome全球創新生態系報告，歐洲有12個潔淨技術（Cleantech）的新創生態系排名高於哥本哈根。 2.丹麥在環境技術領域之新創公司就業人口高於一般新創公司平均就業人口，但其規模擴大率則低於一般公司平均規模擴大率，顯示丹麥的綠色新創企業在擴大營運規模上遭遇困難。 3.相較於英國及瑞典等歐洲國家，丹麥的創投市場規模較小。融資管道的不足，可能成為影響丹麥綠色創業成長的原因之一。 （二）丹麥綠色創業政策藍圖 1.透過一系列融資工具提供綠色創業財務支持，如丹麥綠色投資基金（Danish Green Investment Fund）、丹麥成長基金（Danish Growth Fund）、丹麥創新基金（Innovation Fund Denmark）等。 2.國家級的丹麥能源創育聚落（Energy Cluster Denmark）與民間創新中心CLEAN共同橋接丹麥研發機構與企業進行合作。 3.更多且更廣泛之企業支援措施，如六個區域商業中心、Virksomhedsguiden入口網站、育成中心及加速器網路（如Beyond Beta）等。 （三）丹麥核心政策建議 1.發展整合公私部門之綠色創業策略，並追蹤綠色創業相關案例，作為未來制定政策之依據。 2.發展綠色創業的一站式平台，提升可供利用服務的能見度。此類服務可進一步引導綠色創業，包括明確區分開發新的或實施現有的綠色解決方案，以展現對綠色創業的支持。 3.加強對專業育成中心及加速器等既有政策的支援。