伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
資訊工業策進會科技法律研究所
2024年12月09日
伊利諾伊州人權法修正案（Amendment to the Illinois Human Rights Act）於2024年8月由伊利諾伊州州長簽署並通過，成為繼科羅拉多州人工智慧消費者保護法（Consumer Protections for Artificial Intelligence Act）之後美國第二部監管私部門使用人工智慧的法律。
本法規範重點在於解決人工智慧導入就業市場而衍生之就業歧視議題，伊利諾伊州透過修訂伊利諾伊州人權法，增加人工智慧（Artificial Intelligence）與生成式人工智慧（Generative Artificial Intelligence）之法律定義[1]，以及增加伊利諾伊州的雇主使用人工智慧的相關義務，使員工在就業法律方面獲得更完善之保障。
壹、事件摘要
近年來人工智慧大量被使用在就業市場，例如：雇主使用人工智慧自動篩選履歷、績效管理等等。[2]人工智慧所伴隨的就業歧視議題，遂成為美國聯邦政府與各州政府近年來之人工智慧法制重點。
2023年2月，伊利諾伊州眾議員Jaime M. Andrade, Jr.將伊利諾伊州人權法修正案提交給議會書記官（Clerk）[3]，伊利諾伊州人權法修正案在一系列的審議之後，終於在2024年5月通過參眾議院同意，並於2024年8月9日由伊利諾伊州州長簽署，使伊利諾伊州人權法案成為美國第二部監管私部門使用人工智慧的法律[4]，修正部分將於2026年1月1日生效。[5]
貳、重點說明
伊利諾伊州人權法（Illinois Human Rights Act，775 ILCS 5）由伊利諾伊州人權部（The Illinois Department of Human Rights，IDHR）負責執行。其宗旨為確保伊利諾伊州內之所有人免受歧視，並就主要領域訂定規範，包含「公平住宅」、「金融」、「公共場所」、「教育領域之性騷擾」以及「就業」[6]，其中有關就業歧視之議題為第5節所規範。
伊利諾伊州人權法修正案之目的為解決雇主使用人工智慧工具導致的就業歧視問題，因此主要修訂伊利諾伊州人權法案第5節有關「就業」之規定[7]。而有關本修正法案之執行細節，如通知方式、期限，由伊利諾伊州人權法授權伊利諾伊州人權部訂定並執行。[8]
一、法案修正內容
（一）增訂人工智慧與生成式人工智慧之定義
伊利諾伊州人權法修正案所修訂之範圍涵蓋人工智慧與生成式人工智慧之定義與使用，將新增於伊利諾伊州人權法第5節第2-101小節M款與N款：
1. 人工智慧（Artificial Intelligence）定義
伊利諾伊州人權法修正案將人工智慧定義為一種機器系統，該系統根據其接收之輸入資訊，為目標（不論明確或模糊）推論輸出結果，例如預測、內容、推薦或決策，這些輸出結果能夠影響真實與虛擬環境。[9]須注意此處所指人工智慧包含生成式人工智慧。[10]
2. 生成式人工智慧（Generative Artificial Intelligence）定義
新增之第5節第2-101小節N款將生成式人工智慧定義為一種自動化計算系統，當接受人類的提示、描述或問題，能生成模擬人類所創作之內容加以輸出，其生成內容包含且不限於文字、圖像、多媒體等。[11]
（二）雇主不得因使用人工智慧導致員工權利受侵害
所謂「雇主」（Employer），根據伊利諾伊州人權法第5節第2-101小節B項之規定，係指在伊利諾伊州內雇用員工（Employee）者，其員工數目只要達一名即符合雇主之定義。[12]而依據伊利諾伊州人權法修正案之修訂內容，雇主所使用之人工智慧不得導致員工在招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件等方面受到歧視。[13]
例如根據1964年《民權法》（Civil Rights Act of 1964）第七章，雇主在僱用、解雇、晉升等方面，不得因種族、膚色、國籍、性別或宗教信仰表現出就業歧視行為。[14]而民權法第七章所認定之歧視範圍包含了歧視性編碼（discriminatory coding），例如郵遞區號（Zip Codes），因為有許多少數族群會居住在特定區域。[15]
有鑑於此，伊利諾伊州人權法修正案也規範雇主於使用人工智慧時，不得使用郵遞區號作為本條款的替代指標[16]，避免因郵遞區號造成就業歧視。
（三）雇主負有主動通知員工使用人工智慧工具情形之義務
伊利諾伊州人權法修正案新增雇主之通知義務，凡有使用人工智慧從事招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件者，不得於未通知員工的情況下使用人工智慧為上述目的。[17]意即雇主應該主動應告知其員工有使用人工智慧進行前述行為之情事，至於通知的方式與時限則有待伊利諾伊州人權部訂定。
二、違法效力與救濟方式
（一）雇主可能需要負擔損害賠償費用與民事罰款
違反伊利諾伊州人權法修正案有關就業歧視禁止規範者，等同違反伊利諾伊州人權法。根據伊利諾伊州人權法第8-108條與第8-109條，違反者需要負擔相應的損害賠償，包含財產與非財產上的損害賠償費用[18]，以及復職等補救措施。[19]除此之外，違反之雇主也可能面臨民事處罰。[20]
（二）權利受侵害者得向伊利諾伊州人權部提起申訴或向法院提起訴訟
伊利諾伊州人權法案賦予民眾得以尋求救濟之權利，其方式大致有二，一為向伊利諾伊州人權部提出申訴，二則是直接向法院提起訴訟。
向伊利諾伊州人權部申訴者，將由人權部進行調查與調解[21]。調查後，伊利諾伊州人權部將提供申訴人調查報告[22]，該調查報告將就申訴人遭受違法權利侵害之實質證據提出建議。[23]在伊利諾伊州人權部完成調查後，申訴人仍可至法院提起訴訟。[24]
參、事件評析
一、人工智慧就業歧視為美國當前優先處理之法制議題，雇主應加強法遵意識
演算法偏見所導致的歧視問題，正是美國各州政府所欲立法解決之議題。雖然尚未出現聯邦層級之法律，但各州卻於今年陸續通過相關法案。例如科羅拉多州州長於今年5月17日所簽署之《科羅拉多州人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act）[25]、猶他州以及本文介紹之伊利諾伊州人權法修正案，皆已針對人工智慧就業歧視訂定相應規範。
在人工智慧的監管趨勢中，雇主應善加注意人工智慧之應用是否符合當地法規範，以避免遭受處罰。
二、立法方式採修訂既有法律，執行細節另行訂定
伊利諾伊州人權法修正案將有關使用人工智慧之規定增訂於《伊利諾伊州人權法》，其執行細節則授權伊利諾伊州人權部訂定，尤其伊利諾伊州人權法修正案之部分條文僅說明雇主使用的人工智慧不得導致員工在招聘、聘用、晉升、解僱、紀律或僱用條款、特權或條件等方面受到基於受保護類別的歧視，並未詳細規定雇主應以何方式避免之，因此仍有持續關注之必要。
三、本法賦予當事人申訴管道，較完整保障就業權利
伊利諾伊州人權法可以作為民眾權利之請求基礎，向伊利諾伊州人權部提出申訴或至法院訴訟。因此當伊利諾伊州雇主違反伊利諾伊州人權法時，其員工得依法主張權利，可以請求復職或損害賠償，而非只是由主管機關對雇主裁罰。故對於當事人之就業權利，有相對完整之保障。
[1]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024).
[2]Illinois Enacts New Law Regulating Employer Use of Artificial Intelligence, Lexology, https://www.lexology.com/library/detail.aspx?g=dfebd021-1398-41eb-92ee-9631183fa8ce (last visited Sep. 9, 2024).
[3]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[4]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[5]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[6]Illinois Human Rights Act, 775 ILCS §§1-5(2024).
[7]Illinois Human Rights Act, 775 ILCS §5 (2024).
[8]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). The Department shall adopt any rules necessary for the implementation and enforcement of this subdivision, including, but not limited to, rules on the circumstances and conditions that require notice, the time period for providing notice, and the means for providing notice.
[9]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.
[10]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" includes generative artificial intelligence.
[11]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Generative artificial intelligence" means an automated computing system that, when prompted with human prompts, descriptions, or queries, can produce outputs that simulate human-produced content, including, but not limited to, the following: (1) textual outputs, such as short answers, essays, poetry , or longer compositions or answers; (2) image outputs, such as fine art, photographs, conceptual art, diagrams, and other images; (3) multimedia outputs, such as audio or video in the form of compositions, songs, or short-form or long-form audio or video; and (4) other content that would be otherwise produced by human means.
[12]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Employer" includes: (a) any person employing one or more employees within Illinois during 20 or more calendar weeks within the calendar year of or preceding the alleged violation.
[13]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[14]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[15]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[16]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[17]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[18]Illinois Human Rights Act, 775 ILCS §5/8-108 (2024).
[19]Illinois Human Rights Act, 775 ILCS §5/8-109 (2024).
[20]Illinois Human Rights Act, 775 ILCS §5/8A-104 (2024).
[21]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[22]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[23]Illinois Department of Human Right, Charge Process, https://dhr.illinois.gov/filing-a-charge/legal-review.html (last visited Oct. 22, 2024).
[24]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[25]Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited Oct. 22, 2024).
國家高速公路運輸安全局（NHTSA）發佈即將針對車輛與車輛間通訊訂立規則的訊息，以管理車對車之間（V2V）通訊技術，V2V技術最主要著眼在於避免碰撞，根據調查百分之94的車禍事故都有人為因素牽涉其中，V2V技術可以讓車輛有效的認知碰撞的情況與潛在威脅。V2V技術仰賴的是鄰近車輛之間的通訊溝通並交換訊息，以警告駕駛潛在的導致碰撞安全威脅，例如：V2V可以警告駕駛前車正在煞停，所以候車必須隨之減速以免碰撞，或是警告駕駛在經過十字路口的時候處於不安全的情況，因為有一輛看不見的車輛正以高速朝路口靠近。V2V通訊技術使用精密的短距離通訊技術以交換車與車子之間的基本訊息，諸如：位置、速度、方向已決定是否要警告駕駛以避免碰撞。本項規則制訂的提案可謂是數十年來NHTSA與各部門間合作努力的成果，包含汽車產業界、各州運輸交通部門、學術機構以建立共識的標準。NHTSA的提案當中規制運用在所有輕型車輛V2V技術使用無線電傳輸協定與光譜頻寬總稱為精密短距通訊技術（DSRC）。這項立法規制要求所有的車輛都應該要透過標準化技術講共同的語言，並且要求所有車輛均要納入安全與隱私保護的措施。本次即將管制的車輛包括一般轎車、多功能車（MPV）、卡車、公車，車輛在4536公斤以下的車輛未來必須配備V2V的通訊系統。 ●交換資訊部分 僅交換基本安全訊息，其中包含車輛的動態訊息諸如行進方向、速度、位置。這些基本的安全訊息每秒交換高達10次，裝有V2V裝置的車輛將保留這些訊息，去評判是否有碰撞的威脅。如果系統覺得有必要，將立即發出訊息警告駕駛採取必要措施避免立即碰撞。 ●V2V未來可能應用 ■十字路口動態輔助：車輛進入十字路口前，如果會發生碰撞會加以警示。 ■左轉輔助：駕駛一旦左轉會撞上來車的時候，特別在於駕駛視線被擋住的情況下，會加以警示。 ■警急電子煞車燈：同方向行進車輛，前車忽然減速的情況下，V2V技術可以允許使經過透視前車的情況下，知道駕駛目前正在減速，所以可以針對視線外的急煞車預先因應。 ■前端碰撞警示：前端碰撞警示將警告駕駛即將到來的撞擊，避免撞擊前車。 ■盲點警示與變換車道警示：車輛變換車道的時候系統將警告位於盲點區域的車輛即將靠近，避免在變換車道的時候發生碰撞。 ■超車警示：警告駕駛超車並不安全，因為對向車道正有車輛往此方向前進。 ●面對網路攻擊 ■設計訊息認證方案，確保交換訊息時的安全性。 ■每一項交換的訊息均會經過偵測避免惡意攻擊。 ■惡意攻擊的回報機制：諸如身份錯誤配置的訊息、惡意車輛阻擋V2V訊息。 ●隱私保護 在設計最初期即導入V2V僅允許分享蒐集通用的安全資訊，對於個人或其他車輛的資訊不能加以蒐集與傳輸。 目前NHTSA將針對本項提案蒐集公眾意見（預計將進行九十天），並審核公眾所提交意見是否可行，在發佈最終的規則。
美國參議員提案鬆綁天使投資人須揭露自身財務資料的規定美國民主黨參議員Chris Murphy在2015年4月16日捲土重來提出「榮光法案」（Helping Angels Lead Our Startups Act，以下簡稱HALOS Act）。HALOS法案在上個會期胎死腹中，此次重新提出，旨在強調暢通管道以投資新創公司之重要性，Murphy表示：「我們應該尋求更便利的管道，讓各種財務狀態但具備財務知識的投資人（knowledgeable investors of any financial status）都能投資新創公司，利用他們的專業和資金來增強新創公司成功的可能性。」 舉辦「Demo Days」或「Pitch Events」，是現行許多美國創業家藉以增加與天使投資人（Angel Investors）連結的方式。在「Demo Days」此種場合，創業家通常僅向與會者展示其產品或服務，而不主動進行籌資，避免提及或發送與公司財務預測、業務成長等等與招募投資人有關的資訊、文件。 在「Pitch Events」的場合，其主要目的則為發掘潛在投資人，進而籌募新創公司所需之資金。但此種類似投資說明會的「Pitch Events」必須受到美國2012年「新創企業啟動法」（Jumpstart Our Business Startups Act，以下簡稱JOBS法）的規範，也就是會議進行方式是否涉及1933年證券交易法Rule 502(c) of Regulation D所指之「公開徵求」（general solicitation）、參與者是否為「合格投資人」（accredited investor）等問題。所謂的合格投資人是指符合一定的資格而足以被認定具有充分財務決定能力，JOBS法因此要求這些天使投資人必須交出一定的個人財務資料作為佐證。 批評者認為這些規定無助於讓新創公司籌募所需資金，也因此無法創造更多就業機會，因為許多投資人對於必須將自己的財務狀況分享給新創公司，甚至是活動策展人，往往是感到不太自在的。Murphy參議員認為這些規定是「繁瑣的第三方審核程序」、「是一種對隱私的侵犯，嚇跑了那些想要想要支持新創公司的投資人，特別是在新創公司最需要資金的時刻」。 Murphy參議員提出此法案回應了批評者的建議，主張法規對於這些天使投資人團體（Angel Investor Group）應該有不一樣的規範方式，因為這些天使投資人與新創公司通常早已具有家族或朋友等人際網絡關係。
世界智慧財產權組織發表2020年全球創新指數報告世界智慧財產權組織（World Intellectual Property Organization, WIPO）於2020年9月2日發表「2020年全球創新指數報告」（Global Innovation Index 2020, GII 2020），報告中比較131個經濟體之最新全球創新趨勢。GII為一年一度發行之報告，除了比較不同經濟體的創新指數外，每年會挑選不同創新議題進行深度研究，2020年研究主題為「誰投資創新？」（WHO WILL FINANCE INNOVATION?）。 GII的報告評比，區分為七大指標分別為：組織機構（Institutions）、研發與人力資源（Human capital and research）、基礎建設（Infrastructure）、市場成熟度（Market Sophistication）、企業成熟度（Business sophistication）、知識技術產出（Knowledge and technology outputs）以及創意產出（Creative outputs）。其下再區分為21個次標和80個小標例如政府效能（Government effectiveness）、法規範環境建構（Regulatory environment）、教育支出占GDP比例、外國學生比例、R&D支出占GDP比例、生態永續度、高科技出口、資通訊服務出口等。2020年評比全球創新指數最高的10個國家排名分別為：瑞士、瑞典、美國、英國、荷蘭、丹麥、芬蘭、新加坡、德國和南韓，均為高所得國家；這也是南韓第一次躋身進入前10名。 另外報告中亦說明，2020年COVID-19大流行引發前所未有的經濟停滯。在COVID-19爆發之前，研發支出成長明顯快於全球GDP成長，創業投資（Venture capital）和IP應用達到高峰，但疫情發生的現階段全球經濟成長大幅度下降。然而經濟成長停滯之下，突破性技術創新的潛力仍在繼續存在，例如許多仍保有現金流的大型ICT企業仍持續推動數位創新，製藥技術與生物科技產業的研發支出大量增加，健康產業研發也受到重點關注。此外，COVID-19危機亦會促進傳統產業（例如旅遊、教育和零售等）之創新，以及改變企業在本地或全球之生產工作組織方式。而在各國政府為忙於制定緊急救濟計畫（emergency relief packages），以緩解地域封鎖所造成的負面影響和經濟衰退的同時，這些緊急救濟計畫對新創公司之融資多半不夠明確，到目前為止，各國政府並沒有創新研發作為當前刺激經濟計畫中的優先事項（priority）。 報告中針對「誰投資創新？」之主題，統計數據顯示創新金融（Innovation finance）雖然受疫情影響有所下降，但金融體系尚屬健全。惟資助新創企業的資金正在枯竭（drying up），北美、亞洲和歐洲地區的創業投資交易也急劇下降，幾乎看不到首次公開發行（IPO）。即使是倖存下來的新創公司，其盈利能力和對創投者（Venture Capitalist）的吸引力也在下降。也因為疫情影響，創投者減少對創新、小型和多元化的新創事業提供資金，取而代之關注所謂的「大型交易」（mega-deals），也就是資助大型企業的發展，並將投資領域轉向健康、線上教育（online education）、大數據、電子商務和機器人科技。此外，報告中亦說明近期創投多半集中在可以短期得到報酬的創新事業，例如資通訊軟體及服務、消費性產品服務、金融商品等，取得創投機構大量資金。相較之下，若研發較為複雜的前瞻科學技術，反而取得之資金較少；同時COVID-19惡化此現象，使研發期較長之產業和企業面臨更嚴峻的財務限制。
美國白宮呼籲採取行動，打擊利用AI生成影像進行之性虐待行為美國白宮於2024年5月23日公開呼籲採取行動以打擊利用AI生成性影像，及未經當事人同意傳播真實影像的性虐待行為。此次呼籲源自白宮「解決線上騷擾與虐待問題工作小組」（Task Force to Address Online Harassment and Abuse）相關行動、總統第14110號行政命令－「安全、可靠且可信任之AI開發及利用」（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence），以及尖端AI公司自願管理AI風險之承諾（Voluntary AI Commitments）。 白宮指出，迄今為止生成式AI已淪為性虐待的主要工具，同時，涉及未經同意散布或威脅散布私人性影像，亦將對受害者造成嚴重的心理傷害。白宮呼籲相關利害關係人透過自願性承諾，預防與減輕性虐待影像之影響，如： （1）阻止性虐待影像獲利： 對於從事性虐待影像業務的網站或應用程式，支付平臺與金融機構可限制或拒絕對其提供支付服務。 （2）停止創建深偽性虐待影像 ： 對於可透過AI生成性影像之網路服務或應用程式，雲端服務供應商與應用程式商店得減少此類網路服務或應用程式運作。此外，應用程式商店可要求應用程式開發人員採取措施，防止使用者製作非經當事人同意的AI生成性影像。 （3）防止散播性虐待影像： 應用程式與作業系統開發人員可啟用技術保護措施，以保護數位裝置上儲存之內容，防止未經當事人同意分享其影像。 （4）支援並參與為受害者提供有效補救措施之服務： 平臺與利害關係人可選擇與相關組織合作，使性虐待影像受害者可輕鬆且安全地從線上平臺中刪除未經同意之內容。此外，白宮亦呼籲國會修訂於2022年重新授權之「婦女暴力防制法」（Violence Against Women Act Reauthorization），延續並加強原有法律保護效力，同時為AI生成之性虐待影像的受害者提供關鍵援助資源。