伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
資訊工業策進會科技法律研究所
2024年12月09日
伊利諾伊州人權法修正案（Amendment to the Illinois Human Rights Act）於2024年8月由伊利諾伊州州長簽署並通過，成為繼科羅拉多州人工智慧消費者保護法（Consumer Protections for Artificial Intelligence Act）之後美國第二部監管私部門使用人工智慧的法律。
本法規範重點在於解決人工智慧導入就業市場而衍生之就業歧視議題，伊利諾伊州透過修訂伊利諾伊州人權法，增加人工智慧（Artificial Intelligence）與生成式人工智慧（Generative Artificial Intelligence）之法律定義[1]，以及增加伊利諾伊州的雇主使用人工智慧的相關義務，使員工在就業法律方面獲得更完善之保障。
壹、事件摘要
近年來人工智慧大量被使用在就業市場，例如：雇主使用人工智慧自動篩選履歷、績效管理等等。[2]人工智慧所伴隨的就業歧視議題，遂成為美國聯邦政府與各州政府近年來之人工智慧法制重點。
2023年2月，伊利諾伊州眾議員Jaime M. Andrade, Jr.將伊利諾伊州人權法修正案提交給議會書記官（Clerk）[3]，伊利諾伊州人權法修正案在一系列的審議之後，終於在2024年5月通過參眾議院同意，並於2024年8月9日由伊利諾伊州州長簽署，使伊利諾伊州人權法案成為美國第二部監管私部門使用人工智慧的法律[4]，修正部分將於2026年1月1日生效。[5]
貳、重點說明
伊利諾伊州人權法（Illinois Human Rights Act，775 ILCS 5）由伊利諾伊州人權部（The Illinois Department of Human Rights，IDHR）負責執行。其宗旨為確保伊利諾伊州內之所有人免受歧視，並就主要領域訂定規範，包含「公平住宅」、「金融」、「公共場所」、「教育領域之性騷擾」以及「就業」[6]，其中有關就業歧視之議題為第5節所規範。
伊利諾伊州人權法修正案之目的為解決雇主使用人工智慧工具導致的就業歧視問題，因此主要修訂伊利諾伊州人權法案第5節有關「就業」之規定[7]。而有關本修正法案之執行細節，如通知方式、期限，由伊利諾伊州人權法授權伊利諾伊州人權部訂定並執行。[8]
一、法案修正內容
（一）增訂人工智慧與生成式人工智慧之定義
伊利諾伊州人權法修正案所修訂之範圍涵蓋人工智慧與生成式人工智慧之定義與使用，將新增於伊利諾伊州人權法第5節第2-101小節M款與N款：
1. 人工智慧（Artificial Intelligence）定義
伊利諾伊州人權法修正案將人工智慧定義為一種機器系統，該系統根據其接收之輸入資訊，為目標（不論明確或模糊）推論輸出結果，例如預測、內容、推薦或決策，這些輸出結果能夠影響真實與虛擬環境。[9]須注意此處所指人工智慧包含生成式人工智慧。[10]
2. 生成式人工智慧（Generative Artificial Intelligence）定義
新增之第5節第2-101小節N款將生成式人工智慧定義為一種自動化計算系統，當接受人類的提示、描述或問題，能生成模擬人類所創作之內容加以輸出，其生成內容包含且不限於文字、圖像、多媒體等。[11]
（二）雇主不得因使用人工智慧導致員工權利受侵害
所謂「雇主」（Employer），根據伊利諾伊州人權法第5節第2-101小節B項之規定，係指在伊利諾伊州內雇用員工（Employee）者，其員工數目只要達一名即符合雇主之定義。[12]而依據伊利諾伊州人權法修正案之修訂內容，雇主所使用之人工智慧不得導致員工在招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件等方面受到歧視。[13]
例如根據1964年《民權法》（Civil Rights Act of 1964）第七章，雇主在僱用、解雇、晉升等方面，不得因種族、膚色、國籍、性別或宗教信仰表現出就業歧視行為。[14]而民權法第七章所認定之歧視範圍包含了歧視性編碼（discriminatory coding），例如郵遞區號（Zip Codes），因為有許多少數族群會居住在特定區域。[15]
有鑑於此，伊利諾伊州人權法修正案也規範雇主於使用人工智慧時，不得使用郵遞區號作為本條款的替代指標[16]，避免因郵遞區號造成就業歧視。
（三）雇主負有主動通知員工使用人工智慧工具情形之義務
伊利諾伊州人權法修正案新增雇主之通知義務，凡有使用人工智慧從事招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件者，不得於未通知員工的情況下使用人工智慧為上述目的。[17]意即雇主應該主動應告知其員工有使用人工智慧進行前述行為之情事，至於通知的方式與時限則有待伊利諾伊州人權部訂定。
二、違法效力與救濟方式
（一）雇主可能需要負擔損害賠償費用與民事罰款
違反伊利諾伊州人權法修正案有關就業歧視禁止規範者，等同違反伊利諾伊州人權法。根據伊利諾伊州人權法第8-108條與第8-109條，違反者需要負擔相應的損害賠償，包含財產與非財產上的損害賠償費用[18]，以及復職等補救措施。[19]除此之外，違反之雇主也可能面臨民事處罰。[20]
（二）權利受侵害者得向伊利諾伊州人權部提起申訴或向法院提起訴訟
伊利諾伊州人權法案賦予民眾得以尋求救濟之權利，其方式大致有二，一為向伊利諾伊州人權部提出申訴，二則是直接向法院提起訴訟。
向伊利諾伊州人權部申訴者，將由人權部進行調查與調解[21]。調查後，伊利諾伊州人權部將提供申訴人調查報告[22]，該調查報告將就申訴人遭受違法權利侵害之實質證據提出建議。[23]在伊利諾伊州人權部完成調查後，申訴人仍可至法院提起訴訟。[24]
參、事件評析
一、人工智慧就業歧視為美國當前優先處理之法制議題，雇主應加強法遵意識
演算法偏見所導致的歧視問題，正是美國各州政府所欲立法解決之議題。雖然尚未出現聯邦層級之法律，但各州卻於今年陸續通過相關法案。例如科羅拉多州州長於今年5月17日所簽署之《科羅拉多州人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act）[25]、猶他州以及本文介紹之伊利諾伊州人權法修正案，皆已針對人工智慧就業歧視訂定相應規範。
在人工智慧的監管趨勢中，雇主應善加注意人工智慧之應用是否符合當地法規範，以避免遭受處罰。
二、立法方式採修訂既有法律，執行細節另行訂定
伊利諾伊州人權法修正案將有關使用人工智慧之規定增訂於《伊利諾伊州人權法》，其執行細節則授權伊利諾伊州人權部訂定，尤其伊利諾伊州人權法修正案之部分條文僅說明雇主使用的人工智慧不得導致員工在招聘、聘用、晉升、解僱、紀律或僱用條款、特權或條件等方面受到基於受保護類別的歧視，並未詳細規定雇主應以何方式避免之，因此仍有持續關注之必要。
三、本法賦予當事人申訴管道，較完整保障就業權利
伊利諾伊州人權法可以作為民眾權利之請求基礎，向伊利諾伊州人權部提出申訴或至法院訴訟。因此當伊利諾伊州雇主違反伊利諾伊州人權法時，其員工得依法主張權利，可以請求復職或損害賠償，而非只是由主管機關對雇主裁罰。故對於當事人之就業權利，有相對完整之保障。
[1]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024).
[2]Illinois Enacts New Law Regulating Employer Use of Artificial Intelligence, Lexology, https://www.lexology.com/library/detail.aspx?g=dfebd021-1398-41eb-92ee-9631183fa8ce (last visited Sep. 9, 2024).
[3]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[4]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[5]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[6]Illinois Human Rights Act, 775 ILCS §§1-5(2024).
[7]Illinois Human Rights Act, 775 ILCS §5 (2024).
[8]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). The Department shall adopt any rules necessary for the implementation and enforcement of this subdivision, including, but not limited to, rules on the circumstances and conditions that require notice, the time period for providing notice, and the means for providing notice.
[9]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.
[10]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" includes generative artificial intelligence.
[11]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Generative artificial intelligence" means an automated computing system that, when prompted with human prompts, descriptions, or queries, can produce outputs that simulate human-produced content, including, but not limited to, the following: (1) textual outputs, such as short answers, essays, poetry , or longer compositions or answers; (2) image outputs, such as fine art, photographs, conceptual art, diagrams, and other images; (3) multimedia outputs, such as audio or video in the form of compositions, songs, or short-form or long-form audio or video; and (4) other content that would be otherwise produced by human means.
[12]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Employer" includes: (a) any person employing one or more employees within Illinois during 20 or more calendar weeks within the calendar year of or preceding the alleged violation.
[13]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[14]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[15]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[16]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[17]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[18]Illinois Human Rights Act, 775 ILCS §5/8-108 (2024).
[19]Illinois Human Rights Act, 775 ILCS §5/8-109 (2024).
[20]Illinois Human Rights Act, 775 ILCS §5/8A-104 (2024).
[21]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[22]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[23]Illinois Department of Human Right, Charge Process, https://dhr.illinois.gov/filing-a-charge/legal-review.html (last visited Oct. 22, 2024).
[24]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[25]Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited Oct. 22, 2024).
日本經濟產業省、公平交易委員會及特許廳於2020年12月23日發布「Startup與廠商合作之相關指針」（スタートアップとの事業連携に関する指針）草案，並自同日起至2021年1月25日止向外徵求公眾意見。近年，日本國內一方面看重新創事業與大型企業合作所帶來的優勢；另一方面，在此種合作關係下，雙方的契約關係亦浮現如名為共同研究、卻由大型企業方獨占專利權等問題。基此，配合2020年4月未來投資會議的決議要求，統整新創事業與大型企業間不對等契約關係的問題與提出改善建議，並參考同年11月公平交易委員會所發布的「Startup交易習慣之現況調查報告最終版」（スタートアップの取引慣行に関する実態調査について最終報告），擬定本指針草案。 本指針主要著眼於新創事業與企業間的保密協議（Non-disclosure agreement, NDA）、概念驗證（Proof of Concept, PoC）契約、共同研究契約與授權（license）契約等四種契約類型。除了統整包含訂約階段在內的各種問題實例、以及日本獨占禁止法（私的独占の禁止及び公正取引の確保に関する法律）對此的適用現況外，亦提出了相應的改善與解決方案。舉例而言，指針草案指出，新創事業可能會被合作廠商要求對其公開營業秘密，卻未能簽訂保密協議。對此，合作廠商即可能構成獨占禁止法上濫用其優勢地位之行為。會造成此狀況發生的實務情境，可能為合作廠商承諾事後會簽署保密協議，但要求新創事業先行揭露其程式的原始碼等營業秘密等。而原因則主要包含新創事業缺乏足夠法律素養（literacy）、以及有關開放式創新的相關知識不足等。基此，指針提出改善方案，例如，締約前新創事業即先行區分出可直接向契約他方揭露的營業秘密、得透過締結NDA約定揭露之營業秘密、以及不得揭露之營業秘密等；締結NDA時，應盡可能具體約定營業秘密的使用目的、對象及範圍，並且考量到通常難以舉證廠商違反保密協議，因此不建議揭露攸關新創事業核心能力（core competence）的營業秘密。
日本專利局公布大學研發成果落地運用案例研究，協助大學衍生新創日本專利局（特許庁）自2019年啟動「智財戰略規劃師派遣計畫」（知財戦略デザイナー派遣事業），向大專院校派遣智財戰略規劃師，發掘大學內部埋藏之研發成果，協助研發成果落地運用或衍生新創公司，進而帶動產業創新。為支援智財戰略規劃師達成上述工作，日本專利局於2023年4月14日公布「大學研究成果衍生新創案例研究」（大学研究成果の社会実装ケーススタディ，以下簡稱案例集），介紹大學衍生新創重要案例，並針對新創公司設立、簽約等各階段，以對話形式說明應注意事項。 案例集分為第1章「新創篇」、第2章「與企業合作篇」，以及第3章「其他篇」，每篇介紹不同案例，一共收錄9個案例，如「以和企業共有之專利作價，投資設立之新創公司」、「AI新創公司之商業模式」、「新藥開發平臺相關之商業模式」、「活用智財戰略設立之新創公司」、「以與企業共同研究為基礎之專利申請戰略」等。上述案例均依照「發現發掘」（発明発掘）、「制定智財戰略」、「預備衍生新創」（社会実装準備）、「支援後階段」等4個流程展開，以圖文及對話形式，提醒規劃師在各階段應注意之支援重點及注意事項，並以專欄形式說明失敗案例，期能作為大學研究者、產學合作窗口衍生新創之參考。
歐盟REACH規則之登錄義務與化學品創新商業模式歐盟REACH規則之登錄義務與化學品創新商業模式 資訊工業策進會科技法律研究所 2019年12月 依據「聯合國化學品管理策略方針 」（UN Strategic Approach to International Chemical Management SAICM）要求在化學品的製造、使用及管理上，應盡可能地減少對環境及人體健康的負面衝擊，並以聯合國2030年永續發展目標為基礎，持續推動化學品管理，減少有毒物化學物質與危險材料的釋出，將全球的回收與安全再使用率提高，使化學品健全管理成為實現永續發展的必要條件，透過開發創新的化學品商業模式與經濟活動，來促進綠色化學及永續發展之目標前進。 壹、歐盟REACH規則與登錄義務之要求 一、歐盟REACH規則之立法目的及意旨 歐盟於2006年以「化學品登錄、評價、許可及限制規則」（Registration, Evaluation, Authorization and Restriction of Chemicals, REACH）[1]，作為歐盟境內統一性化學物質管理法制。依據REACH規則第1條規定「本規章之目的為確保人類健康及環境之高度保障（high level of protection），包括促進對於因化學物質（substance）產生之危險之替代評估方法，維護物質於歐洲內部市場之自由流通，及同時提高競爭力和創新。」其目的除管制歐盟境內之化學物質，來保護人類健康與環境安全，達到永續發展之目的外，亦期望透過歐盟境內一致性的協調性規範，使化學物質的流通能夠順暢，以促進經濟的發展。 二、歐盟REACH規則之登錄義務要求 為掌握歐盟境內化學物質之風險管理與因應措施，REACH規則第5條以下要求製造者或輸入者須完成化學物質本身或混合物或成品中化學物質之登錄後，始得製造或輸入。登錄制度之建立有助於獲取更多化學物質的資訊，並使相關產業之供應鏈及公眾獲知更多相關物質資訊。特別是，對於後續進行化學物質之風險管理，具有重要性之影響與作用。依REACH規則第5條至第14條規定，登錄義務人（化學物質之製造者與輸入者）須提供其生產或輸入之化學物質的相關資訊及暴露情境、暴露評估及風險特性等資訊，並且針對該物質應提出適當之風險管理措施的建議。 三、歐盟REACH規則之登錄義務對於產業之影響 由於製造商與輸入商須提供暴露情境、暴露評價與風險評估報告之義務，該報告內容包含簡易資訊卡（the simple infocard）、細節性摘要檔案（the detailed brief profile）及完整來源數據（the full source data）之資訊。該登錄義務對於上游供應鏈業者而言，往往面臨缺乏對物質情境與風險管理之相關資訊，例如其對於勞工與消費者接觸之危害程度、化學物質之用途以及對於評價之風險應提出何安全建議等[2]。除此之外，中小企業由於資源有限性、人力及成本的考量，相較於大型企業容易在物質資訊交換論壇（Substance Information Exchange Forums, SIEF）遇到困難[3] 。 貳、創新化學品商業模式與REACH規則登錄義務之交互作用 一、以服務為導向之化學品租賃商業模式 國家發展與經濟成長的同時，化學工業的生產、製程與發展的過程中，為人們生活條件與經濟物質帶來許多便利性；然而，過程中所排放的廢氣、廢水與廢棄物等污染，可能為人類健康與環境安全，帶來直接、間接或隱藏性的危害。有鑑於此，聯合國工業發展組織（United Nations Industrial Development Organization, UNIDO）與奧地利政府合作，推動「以服務為導向」的化學品租賃服務（Chemikalienleasing, ChL），此一創新化學品之商業模式有助於循環經濟體系之推動，除同時確保化學品內廢棄物回收物質之風險，更有利於降低人類健康及環境安全之危害物質[4]。 二、化學品租賃有助於REACH登錄義務之履行 化學品租賃係供應商以「化學品的產品週期」的產品服務取代傳統「數量或容量」之實物作為契約交付方式；從客戶端而言，其得按其對於化學品之實際需求，購買相關使用化學品之提供及後續產品維護等服務[5] 。從而，由於化學品之製造或輸入商提供化學品使用之服務，即實質地掌握物質的物質資訊、使用情境與風險危害資訊，相對於傳統線性模式有較完整之風險評估與防範措施。就此而論，其符合REACH規則之建置基礎，精準地掌握物質風險、有效控管物質危害及減少客戶依據REACH規則遵守登錄要求[6]。 三、化學品租賃有助於達成綠色化學與永續發展之目標 當下游使用者或客戶不再以擁有化學品的所有權為主，反而係享受化學品的使用服務時，除加深產業鏈之間的資訊交流緊密度，更有效地擺脫傳統線性經濟之取得、製造、丟棄之線性經濟模式，降低原物料的成本與減少對環境之污染，成為有效推動綠色經濟轉型與提升產業競爭力之關鍵綠色轉型契機例如SAFECHEM業者將汽車金屬製品的洗劑，改用租借整套清洗機台與洗劑給使用者，除讓清潔劑（化學品）可以被循環使用，並為客戶減少93%的溶劑使用量[7]。。 參、小結與建議 化學工業產業作為所有產業的一切基礎，如何讓化學工業發展對環境更有好的技術研發、降低危害性質之安全替代物質，以及發展更節省成本與降低污染的商業模式，固有發揮其重要性意義與亟迫需求。環保署現無一統籌性推行創新化學品商業之單位與措施，根據「107年至109年資源回收再利用推動計畫」建議加強推動化學品級產品租賃服務，藉以延長產品之壽命[8]。關於化學品租賃之推動多由民間業者自主發起與推行。 由於使用後之化學品，依據廢棄物清理法第28條規定，須委託經許可清理、處理廢棄物之公民營廢棄物清除處理機構予以清理、處理，造成供應商無法回收、再利用使用後之化學品、溶劑或副產品等。現行解套措施為環保署同意改以資源物處理，經專案申請核可後，同意供應廠商收回純化、再製循環使用，以協助廠商推動化學品租賃制度。惟僅係個案性解套化學品租賃之法規障礙，對於回收使用後之化學物質之風險資訊及危害程度，並無法實質性與國內「毒性及關注化學物質管理法」做鏈結與接軌。 從而，國內若能透過調修相關化學物質管理法制之規範，由此通盤性打造有利於「創新化學品商業模式」之制度框架，建置符合循環經濟利用資源不斷循環、再利用為基礎，善用化學品租賃之新型商業模式與創新合作關係，將有助於協助引導化工產業之企業進行永續化學之綠色轉型，降低使用化學品所產生之空氣污染、廢水及廢棄物等，俾利於保護人類健康及環境安全之雙贏目標。 [1] Regulation (EC) No 1907/2006 of the European Parliament and of the Council of 18 December 2006 concerning the Registration, Evaluation, Authorisation and Restriction of Chemicals (REACH). [2] ECHA, ECHA, Report on the Operation REACH and CLP 2016 (2016), at 10, https://echa.europa.eu/documents/10162/13634/operation_reach_clp_2016_en.pdf (last visited Dec. 1, 2019). [3] id. at 32. [4] United Nations Industrial Development Organization [UNIDO], https://www.unido.org/our-focus/safeguarding-environment/resource-efficient-and-low-carbon-industrial-production/chemical-leasing (last visited Dec. 1, 2019) [5] Bundesministerium für Umwelt, Naturschutz und nukleare Sicherheit [BMU], Chemikalienleasing als Modell zur nachhaltigen Entwicklung mit Prüfprozeduren und Qualitätskriterien anhand von Pilotprojekten in Deutschland (Mar. 1, 2010), S. 7, https://www.bmu.de/fileadmin/Daten_BMU/Pools/Forschungsdatenbank/fkz_370767407_chemikalienleasing.pdf (last visited Dec. 1, 2019) [6] United Nations Industrial Development Organization [UNIDO], GLOBAL PROMOTION AND IMPLEMENTATION OF CHEMICAL LEASING BUSINESS MODELS IN INDUSTRY (2016), at 13-14, http://www.recpnet.org/wp-content/uploads/2016/08/10-Years-Chemical-Leasing-Report.pdf (last visited Dec. 1, 2019). [7] SAFECHEM, https://safechem.com/de/metallreinigung/compleasetm.html (last visited Dec. 1, 2019) [8] 行政院環保署，推動循環經濟—廢棄物資源化，頁12，網址：https://www.ey.gov.tw/File/A7633C551685F1CC?A=C （最後瀏覽日：2020/1/8）。
基因改造食品標示問題有新進展加拿大目前對基因改造產品的政策是採取自願標示制度。然而魁北克省的消費者贊成應對含有機因改造成份之食品實施強制標示。本月初，該省農林廳長在一項會議中指出，基因改造產品可能存有環境方面的風險並且有消費者疑慮的問題，因此應嚴謹以對，改採取強制性標示制度，讓消費者可以自行選擇。雖然目前聯邦官員以及其他省份仍贊同現行的自願標示制度，首長們 ( 大部分反對強制標示的立法 ) 同意繼續討論此議題。 此外，目前近日美國阿拉斯加州亦通過 Bill 25 法案，強制對基因改造魚類及相關魚類產品作明顯標示。這項法案通過後，該州成為美國第一個針對基因改造食品標示問題作明確立法的一州，該法案更成為美國第一個要求標示基因改造食品的法案。有關觀察家預期這個法案將會帶動美國各州對基因改造食品之標示進行必要的規範。根據美國 Rutgers 大學於 2004 年 11 月所作的民調顯示，約有 89 ％的美國民眾希望基因改造食品應有明確的標示。