伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
資訊工業策進會科技法律研究所
2024年12月09日
伊利諾伊州人權法修正案（Amendment to the Illinois Human Rights Act）於2024年8月由伊利諾伊州州長簽署並通過，成為繼科羅拉多州人工智慧消費者保護法（Consumer Protections for Artificial Intelligence Act）之後美國第二部監管私部門使用人工智慧的法律。
本法規範重點在於解決人工智慧導入就業市場而衍生之就業歧視議題，伊利諾伊州透過修訂伊利諾伊州人權法，增加人工智慧（Artificial Intelligence）與生成式人工智慧（Generative Artificial Intelligence）之法律定義[1]，以及增加伊利諾伊州的雇主使用人工智慧的相關義務，使員工在就業法律方面獲得更完善之保障。
壹、事件摘要
近年來人工智慧大量被使用在就業市場，例如：雇主使用人工智慧自動篩選履歷、績效管理等等。[2]人工智慧所伴隨的就業歧視議題，遂成為美國聯邦政府與各州政府近年來之人工智慧法制重點。
2023年2月，伊利諾伊州眾議員Jaime M. Andrade, Jr.將伊利諾伊州人權法修正案提交給議會書記官（Clerk）[3]，伊利諾伊州人權法修正案在一系列的審議之後，終於在2024年5月通過參眾議院同意，並於2024年8月9日由伊利諾伊州州長簽署，使伊利諾伊州人權法案成為美國第二部監管私部門使用人工智慧的法律[4]，修正部分將於2026年1月1日生效。[5]
貳、重點說明
伊利諾伊州人權法（Illinois Human Rights Act，775 ILCS 5）由伊利諾伊州人權部（The Illinois Department of Human Rights，IDHR）負責執行。其宗旨為確保伊利諾伊州內之所有人免受歧視，並就主要領域訂定規範，包含「公平住宅」、「金融」、「公共場所」、「教育領域之性騷擾」以及「就業」[6]，其中有關就業歧視之議題為第5節所規範。
伊利諾伊州人權法修正案之目的為解決雇主使用人工智慧工具導致的就業歧視問題，因此主要修訂伊利諾伊州人權法案第5節有關「就業」之規定[7]。而有關本修正法案之執行細節，如通知方式、期限，由伊利諾伊州人權法授權伊利諾伊州人權部訂定並執行。[8]
一、法案修正內容
（一）增訂人工智慧與生成式人工智慧之定義
伊利諾伊州人權法修正案所修訂之範圍涵蓋人工智慧與生成式人工智慧之定義與使用，將新增於伊利諾伊州人權法第5節第2-101小節M款與N款：
1. 人工智慧（Artificial Intelligence）定義
伊利諾伊州人權法修正案將人工智慧定義為一種機器系統，該系統根據其接收之輸入資訊，為目標（不論明確或模糊）推論輸出結果，例如預測、內容、推薦或決策，這些輸出結果能夠影響真實與虛擬環境。[9]須注意此處所指人工智慧包含生成式人工智慧。[10]
2. 生成式人工智慧（Generative Artificial Intelligence）定義
新增之第5節第2-101小節N款將生成式人工智慧定義為一種自動化計算系統，當接受人類的提示、描述或問題，能生成模擬人類所創作之內容加以輸出，其生成內容包含且不限於文字、圖像、多媒體等。[11]
（二）雇主不得因使用人工智慧導致員工權利受侵害
所謂「雇主」（Employer），根據伊利諾伊州人權法第5節第2-101小節B項之規定，係指在伊利諾伊州內雇用員工（Employee）者，其員工數目只要達一名即符合雇主之定義。[12]而依據伊利諾伊州人權法修正案之修訂內容，雇主所使用之人工智慧不得導致員工在招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件等方面受到歧視。[13]
例如根據1964年《民權法》（Civil Rights Act of 1964）第七章，雇主在僱用、解雇、晉升等方面，不得因種族、膚色、國籍、性別或宗教信仰表現出就業歧視行為。[14]而民權法第七章所認定之歧視範圍包含了歧視性編碼（discriminatory coding），例如郵遞區號（Zip Codes），因為有許多少數族群會居住在特定區域。[15]
有鑑於此，伊利諾伊州人權法修正案也規範雇主於使用人工智慧時，不得使用郵遞區號作為本條款的替代指標[16]，避免因郵遞區號造成就業歧視。
（三）雇主負有主動通知員工使用人工智慧工具情形之義務
伊利諾伊州人權法修正案新增雇主之通知義務，凡有使用人工智慧從事招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件者，不得於未通知員工的情況下使用人工智慧為上述目的。[17]意即雇主應該主動應告知其員工有使用人工智慧進行前述行為之情事，至於通知的方式與時限則有待伊利諾伊州人權部訂定。
二、違法效力與救濟方式
（一）雇主可能需要負擔損害賠償費用與民事罰款
違反伊利諾伊州人權法修正案有關就業歧視禁止規範者，等同違反伊利諾伊州人權法。根據伊利諾伊州人權法第8-108條與第8-109條，違反者需要負擔相應的損害賠償，包含財產與非財產上的損害賠償費用[18]，以及復職等補救措施。[19]除此之外，違反之雇主也可能面臨民事處罰。[20]
（二）權利受侵害者得向伊利諾伊州人權部提起申訴或向法院提起訴訟
伊利諾伊州人權法案賦予民眾得以尋求救濟之權利，其方式大致有二，一為向伊利諾伊州人權部提出申訴，二則是直接向法院提起訴訟。
向伊利諾伊州人權部申訴者，將由人權部進行調查與調解[21]。調查後，伊利諾伊州人權部將提供申訴人調查報告[22]，該調查報告將就申訴人遭受違法權利侵害之實質證據提出建議。[23]在伊利諾伊州人權部完成調查後，申訴人仍可至法院提起訴訟。[24]
參、事件評析
一、人工智慧就業歧視為美國當前優先處理之法制議題，雇主應加強法遵意識
演算法偏見所導致的歧視問題，正是美國各州政府所欲立法解決之議題。雖然尚未出現聯邦層級之法律，但各州卻於今年陸續通過相關法案。例如科羅拉多州州長於今年5月17日所簽署之《科羅拉多州人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act）[25]、猶他州以及本文介紹之伊利諾伊州人權法修正案，皆已針對人工智慧就業歧視訂定相應規範。
在人工智慧的監管趨勢中，雇主應善加注意人工智慧之應用是否符合當地法規範，以避免遭受處罰。
二、立法方式採修訂既有法律，執行細節另行訂定
伊利諾伊州人權法修正案將有關使用人工智慧之規定增訂於《伊利諾伊州人權法》，其執行細節則授權伊利諾伊州人權部訂定，尤其伊利諾伊州人權法修正案之部分條文僅說明雇主使用的人工智慧不得導致員工在招聘、聘用、晉升、解僱、紀律或僱用條款、特權或條件等方面受到基於受保護類別的歧視，並未詳細規定雇主應以何方式避免之，因此仍有持續關注之必要。
三、本法賦予當事人申訴管道，較完整保障就業權利
伊利諾伊州人權法可以作為民眾權利之請求基礎，向伊利諾伊州人權部提出申訴或至法院訴訟。因此當伊利諾伊州雇主違反伊利諾伊州人權法時，其員工得依法主張權利，可以請求復職或損害賠償，而非只是由主管機關對雇主裁罰。故對於當事人之就業權利，有相對完整之保障。
[1]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024).
[2]Illinois Enacts New Law Regulating Employer Use of Artificial Intelligence, Lexology, https://www.lexology.com/library/detail.aspx?g=dfebd021-1398-41eb-92ee-9631183fa8ce (last visited Sep. 9, 2024).
[3]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[4]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[5]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[6]Illinois Human Rights Act, 775 ILCS §§1-5(2024).
[7]Illinois Human Rights Act, 775 ILCS §5 (2024).
[8]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). The Department shall adopt any rules necessary for the implementation and enforcement of this subdivision, including, but not limited to, rules on the circumstances and conditions that require notice, the time period for providing notice, and the means for providing notice.
[9]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.
[10]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" includes generative artificial intelligence.
[11]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Generative artificial intelligence" means an automated computing system that, when prompted with human prompts, descriptions, or queries, can produce outputs that simulate human-produced content, including, but not limited to, the following: (1) textual outputs, such as short answers, essays, poetry , or longer compositions or answers; (2) image outputs, such as fine art, photographs, conceptual art, diagrams, and other images; (3) multimedia outputs, such as audio or video in the form of compositions, songs, or short-form or long-form audio or video; and (4) other content that would be otherwise produced by human means.
[12]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Employer" includes: (a) any person employing one or more employees within Illinois during 20 or more calendar weeks within the calendar year of or preceding the alleged violation.
[13]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[14]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[15]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[16]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[17]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[18]Illinois Human Rights Act, 775 ILCS §5/8-108 (2024).
[19]Illinois Human Rights Act, 775 ILCS §5/8-109 (2024).
[20]Illinois Human Rights Act, 775 ILCS §5/8A-104 (2024).
[21]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[22]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[23]Illinois Department of Human Right, Charge Process, https://dhr.illinois.gov/filing-a-charge/legal-review.html (last visited Oct. 22, 2024).
[24]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[25]Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited Oct. 22, 2024).
因製作「星海爭霸」（StarCraft）、魔獸世界（World of Warcraft）等名作而廣受玩家喜愛的線上遊戲公司Blizzard Entertainment，於2010年7月7月對外宣布，將針對旗下遊戲的官方網路論壇（Game Forum），推動實名制度（Real ID System），引發各界議論。 Blizzard對外表示遊戲論壇旨在提供一個供玩家交流遊戲資訊的管道，玩家亦得透過論壇提供Blizzard改進遊戲內容的建議或發表其他意見。然而，部分使用者卻肆意透過論壇散布人身攻擊言論，或從事其他不法行為。Blizzard希望透過推動論壇實名制度，約束人們透過論壇發表攻擊性言論的現象。然而，論壇實名制度訊息公布未久，Blizzard旋即收到眾多玩家的抗議信件。為平息反彈聲浪，Blizzard共同創辦人兼執行長Mike Morhaime於7月9日於官方論壇發表聲明，宣布Blizzard將不會實施論壇實名制，為整起事件劃下句點。 相較於Blizzard放棄推動遊戲論壇實名制度，中國大陸文化部於2010年6月22日發布「網路遊戲管理暫行辦法」，實施「網路遊戲實名制」，自8月1日起，中國大陸線上遊戲玩家即必須使用真名及有效的身分資料進行註冊，而遊戲公司亦必須妥善保存玩家身分資料。中國大陸新法同樣引發諸多爭辯，玩家紛紛表示擔心個人資料遭到外洩；而遊戲業者也憂慮此舉將導致玩家人口大量流失。
日本政府發布2024年版「實現數位社會重點計畫」.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 日本於2024年6月21日內閣決議更新「實現數位社會重點計畫」（デジタル社会の実現に向けた重点計画），作為日本最新數位與資料治理革新之上位政策，以達成實現Society5.0以及整合並協調各機關數位政策之目標，力求克服日本近年面臨人口減少、勞動力不足、產業競爭力下降、災害風險等之課題。 「實現數位社會重點計畫」自2021年發布第一版起，即以六項願景整合相關政策，分別為： 1. 數位化實現成長：數位轉型推動整體社會的生產力與競爭力； 2. 重要領域數位化：資料串連推動醫療、教育、防災、兒童等領域的安全發展； 3. 數位化實現區域振興：數位工具活化各區域特色； 4. 沒有人落後的數位社會：使所有人都可以體驗數位化服務； 5. 開發與保護數位人力：建立持續培養數位人力的社會； 6. 推動國際資料流通：實現資料可信任的跨國自由流通。 2024年「實現數位社會重點計畫」以六項願景分述各機關計劃推動的320個相關政策，如有醫院急救時共享醫療資訊、電子母子健康手冊、兒童資料串接、減少長者數位障礙、女性數位人才培育，以及推動資料可信任自由流通（Data Free Flow with Trust）等。 此外，本次更新之計畫新增「業務、系統、制度三位一體」作為推動架構。其中業務指結合資料與數位應用的行政服務；系統則是指適合於業務運作的軟、硬體；制度則指透過包含資料標準、指引或法令等方式形成之規範。日本藉此推動架構評估資料與數位之政策從起草、規劃到執行等階段中業務、系統與制度之間的協調性，為政策的制定者、使用者提供便利與高品質的數位體驗。 由2024年實現數位社會重點計畫的更新可知，日本強調在數位轉型階段中社會整體革新的企圖，加強政策在業務、系統、制度三個層面的一致性，以在邁向數位社會的同時克服社會轉型的挑戰。
德國Brüstle vs. Greenpeace案於歐盟再掀人類胚胎幹細胞研究爭議歐盟1998年生物科技發明法律保護指令(Directive on the legal protection of biotechnological inventions，98/44/EC)第6條(2)(c)雖規定「將人類胚胎作產業或商業用途之使用不具備可專利性」，但並未定義何謂「人類胚胎」及「產業或商業用途使用」，因此德國聯邦最高法院於2009年審理Brüstle vs. Greenpeace一案時，遂提請歐盟法院就前述問題為初步裁定。 在歐盟法院提出初步裁決前，佐審官(Advocate General)M. Yves Bot已先於2011年3月10日提出其法律意見書，認定人類胚胎的概念包括從受精、發展為起始性全能幹細胞(initial totipotent cells)到形成完整人體的整個階段，凡已具備發展為完整人體的基本特質與能力者，均符合指令第6條(2)(c)所稱之胚胎，而不具有可專利性；此外，任何涉及毀損人類胚胎或以人類胚胎為基礎材料的技術亦違反公共秩序與道德，而不得授予專利。至於「產業或商業用途」，其認為係指任何基於產業或商業目的大量製造及使用人類胚胎之行為。 歐盟法院將於近日作出初步裁決，由於佐審官之意見向來對於裁決結果具有實質影響力，故該意見書已引發各界高度關注與討論；雖然德國聯邦最高法院未必會依循裁決結果進行判決，但該裁決內容已涉及人類胚胎幹細胞研究的核心-胚胎定義與研究成果的可專利性問題，因此未來將對各國幹細胞研究的立法政策走向造成何種影響，值得密切觀察。
歐美貿易與技術理事會發表第6次聯合聲明，確保雙方於新興技術及數位環境之領導地位歐美貿易與技術理事會（EU－U.S. Trade and Technology Council，TTC） 2024年4月4日至5日在比利時魯汶舉行第6屆部長會議，依據會後聯合聲明，雙方針對數位轉型所帶來的機遇與挑戰，同意在新興技術和數位環境等面向促進雙邊貿易和投資、進行經濟安全合作，並捍衛人權價值。未來雙方將針對AI、半導體、量子技術和6G無線通訊系統等制定互通機制及標準，簡述如下： (1) AI技術：採取「風險基礎方法」（risk-based approach）實施「可信任人工智慧和風險管理聯合路徑圖（Joint Roadmap for Trustworthy AI and Risk Management），提高透明度以降低公民及社會使用AI的風險；更新關鍵AI術語清單（a list of key AI terms），減少雙方於概念認知上的誤差；承諾建立對話機制，以深化雙邊合作。 (2) 半導體：為促進半導體供應鏈韌性（resilience）與協調（coordination），將延長實施「供應鏈早期預警機制」（joint early warning mechanism）及「透明機制」（transparency mechanism）兩項行政安排，共同解決半導體產業市場扭曲、供應鏈過度依賴特定國家等挑戰。 (3) 量子技術：雙方將成立量子工作小組（Quantum Task Force），以制定統一量子技術標準，加速技術研發。 (4) 6G技術：雙方通過「6G願景」（6G vision），並對於未來研究合作簽署行政安排（administration arrangement），建立6G技術開發共同原則。 歐美雙方期望透過上述作法，促進半導體和關鍵技術研發和供應鏈多元化，以確保經濟安全及落實數位轉型，確保歐美於新興技術和數位環境之領導地位。