伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
資訊工業策進會科技法律研究所
2024年12月09日
伊利諾伊州人權法修正案（Amendment to the Illinois Human Rights Act）於2024年8月由伊利諾伊州州長簽署並通過，成為繼科羅拉多州人工智慧消費者保護法（Consumer Protections for Artificial Intelligence Act）之後美國第二部監管私部門使用人工智慧的法律。
本法規範重點在於解決人工智慧導入就業市場而衍生之就業歧視議題，伊利諾伊州透過修訂伊利諾伊州人權法，增加人工智慧（Artificial Intelligence）與生成式人工智慧（Generative Artificial Intelligence）之法律定義[1]，以及增加伊利諾伊州的雇主使用人工智慧的相關義務，使員工在就業法律方面獲得更完善之保障。
壹、事件摘要
近年來人工智慧大量被使用在就業市場，例如：雇主使用人工智慧自動篩選履歷、績效管理等等。[2]人工智慧所伴隨的就業歧視議題，遂成為美國聯邦政府與各州政府近年來之人工智慧法制重點。
2023年2月，伊利諾伊州眾議員Jaime M. Andrade, Jr.將伊利諾伊州人權法修正案提交給議會書記官（Clerk）[3]，伊利諾伊州人權法修正案在一系列的審議之後，終於在2024年5月通過參眾議院同意，並於2024年8月9日由伊利諾伊州州長簽署，使伊利諾伊州人權法案成為美國第二部監管私部門使用人工智慧的法律[4]，修正部分將於2026年1月1日生效。[5]
貳、重點說明
伊利諾伊州人權法（Illinois Human Rights Act，775 ILCS 5）由伊利諾伊州人權部（The Illinois Department of Human Rights，IDHR）負責執行。其宗旨為確保伊利諾伊州內之所有人免受歧視，並就主要領域訂定規範，包含「公平住宅」、「金融」、「公共場所」、「教育領域之性騷擾」以及「就業」[6]，其中有關就業歧視之議題為第5節所規範。
伊利諾伊州人權法修正案之目的為解決雇主使用人工智慧工具導致的就業歧視問題，因此主要修訂伊利諾伊州人權法案第5節有關「就業」之規定[7]。而有關本修正法案之執行細節，如通知方式、期限，由伊利諾伊州人權法授權伊利諾伊州人權部訂定並執行。[8]
一、法案修正內容
（一）增訂人工智慧與生成式人工智慧之定義
伊利諾伊州人權法修正案所修訂之範圍涵蓋人工智慧與生成式人工智慧之定義與使用，將新增於伊利諾伊州人權法第5節第2-101小節M款與N款：
1. 人工智慧（Artificial Intelligence）定義
伊利諾伊州人權法修正案將人工智慧定義為一種機器系統，該系統根據其接收之輸入資訊，為目標（不論明確或模糊）推論輸出結果，例如預測、內容、推薦或決策，這些輸出結果能夠影響真實與虛擬環境。[9]須注意此處所指人工智慧包含生成式人工智慧。[10]
2. 生成式人工智慧（Generative Artificial Intelligence）定義
新增之第5節第2-101小節N款將生成式人工智慧定義為一種自動化計算系統，當接受人類的提示、描述或問題，能生成模擬人類所創作之內容加以輸出，其生成內容包含且不限於文字、圖像、多媒體等。[11]
（二）雇主不得因使用人工智慧導致員工權利受侵害
所謂「雇主」（Employer），根據伊利諾伊州人權法第5節第2-101小節B項之規定，係指在伊利諾伊州內雇用員工（Employee）者，其員工數目只要達一名即符合雇主之定義。[12]而依據伊利諾伊州人權法修正案之修訂內容，雇主所使用之人工智慧不得導致員工在招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件等方面受到歧視。[13]
例如根據1964年《民權法》（Civil Rights Act of 1964）第七章，雇主在僱用、解雇、晉升等方面，不得因種族、膚色、國籍、性別或宗教信仰表現出就業歧視行為。[14]而民權法第七章所認定之歧視範圍包含了歧視性編碼（discriminatory coding），例如郵遞區號（Zip Codes），因為有許多少數族群會居住在特定區域。[15]
有鑑於此，伊利諾伊州人權法修正案也規範雇主於使用人工智慧時，不得使用郵遞區號作為本條款的替代指標[16]，避免因郵遞區號造成就業歧視。
（三）雇主負有主動通知員工使用人工智慧工具情形之義務
伊利諾伊州人權法修正案新增雇主之通知義務，凡有使用人工智慧從事招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件者，不得於未通知員工的情況下使用人工智慧為上述目的。[17]意即雇主應該主動應告知其員工有使用人工智慧進行前述行為之情事，至於通知的方式與時限則有待伊利諾伊州人權部訂定。
二、違法效力與救濟方式
（一）雇主可能需要負擔損害賠償費用與民事罰款
違反伊利諾伊州人權法修正案有關就業歧視禁止規範者，等同違反伊利諾伊州人權法。根據伊利諾伊州人權法第8-108條與第8-109條，違反者需要負擔相應的損害賠償，包含財產與非財產上的損害賠償費用[18]，以及復職等補救措施。[19]除此之外，違反之雇主也可能面臨民事處罰。[20]
（二）權利受侵害者得向伊利諾伊州人權部提起申訴或向法院提起訴訟
伊利諾伊州人權法案賦予民眾得以尋求救濟之權利，其方式大致有二，一為向伊利諾伊州人權部提出申訴，二則是直接向法院提起訴訟。
向伊利諾伊州人權部申訴者，將由人權部進行調查與調解[21]。調查後，伊利諾伊州人權部將提供申訴人調查報告[22]，該調查報告將就申訴人遭受違法權利侵害之實質證據提出建議。[23]在伊利諾伊州人權部完成調查後，申訴人仍可至法院提起訴訟。[24]
參、事件評析
一、人工智慧就業歧視為美國當前優先處理之法制議題，雇主應加強法遵意識
演算法偏見所導致的歧視問題，正是美國各州政府所欲立法解決之議題。雖然尚未出現聯邦層級之法律，但各州卻於今年陸續通過相關法案。例如科羅拉多州州長於今年5月17日所簽署之《科羅拉多州人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act）[25]、猶他州以及本文介紹之伊利諾伊州人權法修正案，皆已針對人工智慧就業歧視訂定相應規範。
在人工智慧的監管趨勢中，雇主應善加注意人工智慧之應用是否符合當地法規範，以避免遭受處罰。
二、立法方式採修訂既有法律，執行細節另行訂定
伊利諾伊州人權法修正案將有關使用人工智慧之規定增訂於《伊利諾伊州人權法》，其執行細節則授權伊利諾伊州人權部訂定，尤其伊利諾伊州人權法修正案之部分條文僅說明雇主使用的人工智慧不得導致員工在招聘、聘用、晉升、解僱、紀律或僱用條款、特權或條件等方面受到基於受保護類別的歧視，並未詳細規定雇主應以何方式避免之，因此仍有持續關注之必要。
三、本法賦予當事人申訴管道，較完整保障就業權利
伊利諾伊州人權法可以作為民眾權利之請求基礎，向伊利諾伊州人權部提出申訴或至法院訴訟。因此當伊利諾伊州雇主違反伊利諾伊州人權法時，其員工得依法主張權利，可以請求復職或損害賠償，而非只是由主管機關對雇主裁罰。故對於當事人之就業權利，有相對完整之保障。
[1]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024).
[2]Illinois Enacts New Law Regulating Employer Use of Artificial Intelligence, Lexology, https://www.lexology.com/library/detail.aspx?g=dfebd021-1398-41eb-92ee-9631183fa8ce (last visited Sep. 9, 2024).
[3]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[4]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[5]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[6]Illinois Human Rights Act, 775 ILCS §§1-5(2024).
[7]Illinois Human Rights Act, 775 ILCS §5 (2024).
[8]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). The Department shall adopt any rules necessary for the implementation and enforcement of this subdivision, including, but not limited to, rules on the circumstances and conditions that require notice, the time period for providing notice, and the means for providing notice.
[9]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.
[10]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" includes generative artificial intelligence.
[11]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Generative artificial intelligence" means an automated computing system that, when prompted with human prompts, descriptions, or queries, can produce outputs that simulate human-produced content, including, but not limited to, the following: (1) textual outputs, such as short answers, essays, poetry , or longer compositions or answers; (2) image outputs, such as fine art, photographs, conceptual art, diagrams, and other images; (3) multimedia outputs, such as audio or video in the form of compositions, songs, or short-form or long-form audio or video; and (4) other content that would be otherwise produced by human means.
[12]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Employer" includes: (a) any person employing one or more employees within Illinois during 20 or more calendar weeks within the calendar year of or preceding the alleged violation.
[13]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[14]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[15]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[16]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[17]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[18]Illinois Human Rights Act, 775 ILCS §5/8-108 (2024).
[19]Illinois Human Rights Act, 775 ILCS §5/8-109 (2024).
[20]Illinois Human Rights Act, 775 ILCS §5/8A-104 (2024).
[21]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[22]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[23]Illinois Department of Human Right, Charge Process, https://dhr.illinois.gov/filing-a-charge/legal-review.html (last visited Oct. 22, 2024).
[24]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[25]Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited Oct. 22, 2024).
法國憲法委員會於今（2020）年6月18日宣告今年5月甫通過之《打擊網路仇恨言論法》（Lutte contre la haine sur internet, Fighting Hate on the Internet，又稱Avia Law）違憲，認該法侵害人民言論自由之權利。 為打擊網路上日益嚴重之仇恨性言論，法國國民議會於今年5月13日通過《打擊網路仇恨言論法》，該法旨在課予網路社交平台之責任，在其使用者提出檢舉後，平台應於24小時期限內移除明顯的不法言論，包含歧視、仇恨、暴力、煽動犯罪、涉及恐怖主義或兒童色情等，尤以，若該訊息涉及兒童色情或煽動恐怖主義者，則平台刪除該訊息之期限將縮短為1小時內。倘平台若未於期限內刪除之，面臨之罰緩最高達125萬歐元；如經法國高等視聽委員會（Conseil superieur de l'audiovisuel, CSA）審核，發現該平台之內容審查系統存在嚴重且反覆之缺陷者，則最高可對該平台處以其全球收入4%之罰鍰。 該法原定於今年7月1日施行，但經法國憲法委員會審查後，認該法如前述之多項條款要求私人企業判斷使用者之言論是否為明顯涉及非法，將鞏固私人審查權，高額罰款恐將促進平台積極刪除平台上之言論，違反憲法保障之言論自由，因而宣告該條款違憲無效。目前尚不確定法國政府是否會如期施行其餘條款，惟由該法即可看出，法國傾向授權CSA於對網路平台採取更嚴格監管之態度，然是否能有效抑制仇恨性言論，後續尚值得密切觀察。
中國大陸將加速行動遊戲審批程序、落實管制中國大陸國家新聞出版廣電總局於日前公告「國家新聞出版廣電總局貫徹落實國務院全面督查整改落實進展情況」，提出將針對移動網絡遊戲(下稱行動遊戲)審批制度進行改革，改善目前審批時間過長、效率不高問題。 據公告內容顯示，未來審批制度將朝向雙軌制方向發展，對於未涉及民族、宗教、歷史、政治、疆域等議題，且無故事情節或故事情節單純(如棋盤類等休閒益智遊戲)之陸製行動遊戲，將採取簡易審批制度，以提高審查效率。另外，將增倍審查專家員額至20名，以維持審查品質。在上述改革推動下，目標將縮短審查時間，由現行30天初審、15天複審期限，分別壓縮至15天及5天。其進一步具體做法，中國大陸國家新聞出版廣電總局現正研擬「關於規範移動網絡遊戲出版審批管理的通知」，預計於2014年12月下旬發布施行。 面對近幾年行動遊戲的興起，中國大陸政府不斷重申行動遊戲須符合網路遊戲審批相關規定。然現實是，在行動遊戲數量呈現爆炸性成長，以及生命週期短暫之特色下，遊戲業者未依規定送審情形，並不少見。此次改革的推動，加上先前其他部會針對行動遊戲已提出之配套管制方案(如工信部之APP黑名單數據庫、文化部之企業自審作法)，可預期行動遊戲的內容管制將日趨落實。對此，我方行動遊戲開發業者宜留意相關發展，納入後續遊戲開發方向與市場策略布局之評估要素一環。
Sandoz藥廠和Momenta藥廠將支付1.2億美金和解反托拉斯訴訟諾華（Novartis）旗下學名藥廠山德士（Sandoz）和美國學名藥廠Momenta，同意支付1.2億美金，使涉及其暢銷救命藥Enoxaparin之反托拉斯集體訴訟達成和解。本案原告為非營利醫院Nashville綜合醫院和紐約州公務員工會醫療計畫組織DC 37，於2014年美國田納西中區聯邦地方法院起訴。根據訴訟文件提到，Enoxaparin原是訴外人賽諾菲（Sanofi-Aventis）以Lovenox為品牌名販售的抗凝血劑，用於預防和治療深部靜脈血栓、肺栓塞及急性冠心症等症狀，2010年Momenta證明其學名藥Enoxaparin和Lovenox具相同療效，申請簡易新藥上市（Abbreviated New Drug Application，ANDA）獲准。 原告指稱2008年Momenta欺瞞美國藥典委員會（United States Pharmacopeial Convention，USP），使其開發之Enoxaparin檢測方法，成為美國食品藥品監督管理局（U.S. Food and Drug Administration，FDA）指定的檢測方法之一，但在此過程中未向藥典委員會揭露自己正為該檢測方法申請專利。隔年Momenta之檢測方法取得專利（No.7,575,886），因該檢測方法無法迴避，故其它欲生產Enoxaparin的學名藥廠皆可能侵害該專利，而難以進入市場。又Momenta和山德士早在2003年就簽有合作協議，Momenta將該專利授權給山德士，共同創造一個壟斷的學名藥市場，以抬高售價賺取暴利。 未來和解金將用於賠償醫院、保險公司、為員工支付醫療費用的公司，及田納西州其它29區受山德士和Momenta反競爭行為影響的人們。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
美國食品及藥物管理局推動細胞治療新指引草案增加「傘狀試驗」加速細胞產品開發美國食品及藥物管理局（U.S. Food and Drug Administration, USFDA）於2021年9月30日發佈了最新細胞與基因治療指南草案，提出細胞治療可透過「傘狀試驗」（umbrella trial）機制，使細胞治療於同一個臨床試驗計畫之下，針對同一類疾病，可進行兩種以上細胞治療技術試驗，來加速細胞治療臨床開發速度。 每個癌症病患實際上會有不同的基因變異，即使是相同類型的癌症也少有完全一樣的疾病機制（disease mechanism），因此，傳統臨床試驗僅能評估疾病機制較大族群的療效，但不同基因型的受試者對於相同藥物的反應可能有所差異，故難以預測病人是否將受益，亦或產生嚴重副作用，導致治癒效果不如預期。且現行的臨床治療規範中，即便醫師知道某標靶治療藥物對於特定基因體變異有效，但若此藥物未經USFDA核准於該腫瘤類型的適應症，醫師也無法使用。因此，透過傘狀實驗可提高細胞產品研發的靈活性與效率，並降低大量重複性工作，例如重複進行臨床前批次試驗、製程驗證、毒性測試…等等。若發生安全性疑慮，USFDA可針對個別研究組進行終止實驗，而不須將全部的臨床試驗計畫終止。 台灣未來可考慮將傘狀試驗納入細胞治療臨床試驗設計模式，並參考USFDA審核方式與標準，以加速台灣細胞治療或精準醫療發展。