伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
資訊工業策進會科技法律研究所
2024年12月09日
伊利諾伊州人權法修正案（Amendment to the Illinois Human Rights Act）於2024年8月由伊利諾伊州州長簽署並通過，成為繼科羅拉多州人工智慧消費者保護法（Consumer Protections for Artificial Intelligence Act）之後美國第二部監管私部門使用人工智慧的法律。
本法規範重點在於解決人工智慧導入就業市場而衍生之就業歧視議題，伊利諾伊州透過修訂伊利諾伊州人權法，增加人工智慧（Artificial Intelligence）與生成式人工智慧（Generative Artificial Intelligence）之法律定義[1]，以及增加伊利諾伊州的雇主使用人工智慧的相關義務，使員工在就業法律方面獲得更完善之保障。
壹、事件摘要
近年來人工智慧大量被使用在就業市場，例如：雇主使用人工智慧自動篩選履歷、績效管理等等。[2]人工智慧所伴隨的就業歧視議題，遂成為美國聯邦政府與各州政府近年來之人工智慧法制重點。
2023年2月，伊利諾伊州眾議員Jaime M. Andrade, Jr.將伊利諾伊州人權法修正案提交給議會書記官（Clerk）[3]，伊利諾伊州人權法修正案在一系列的審議之後，終於在2024年5月通過參眾議院同意，並於2024年8月9日由伊利諾伊州州長簽署，使伊利諾伊州人權法案成為美國第二部監管私部門使用人工智慧的法律[4]，修正部分將於2026年1月1日生效。[5]
貳、重點說明
伊利諾伊州人權法（Illinois Human Rights Act，775 ILCS 5）由伊利諾伊州人權部（The Illinois Department of Human Rights，IDHR）負責執行。其宗旨為確保伊利諾伊州內之所有人免受歧視，並就主要領域訂定規範，包含「公平住宅」、「金融」、「公共場所」、「教育領域之性騷擾」以及「就業」[6]，其中有關就業歧視之議題為第5節所規範。
伊利諾伊州人權法修正案之目的為解決雇主使用人工智慧工具導致的就業歧視問題，因此主要修訂伊利諾伊州人權法案第5節有關「就業」之規定[7]。而有關本修正法案之執行細節，如通知方式、期限，由伊利諾伊州人權法授權伊利諾伊州人權部訂定並執行。[8]
一、法案修正內容
（一）增訂人工智慧與生成式人工智慧之定義
伊利諾伊州人權法修正案所修訂之範圍涵蓋人工智慧與生成式人工智慧之定義與使用，將新增於伊利諾伊州人權法第5節第2-101小節M款與N款：
1. 人工智慧（Artificial Intelligence）定義
伊利諾伊州人權法修正案將人工智慧定義為一種機器系統，該系統根據其接收之輸入資訊，為目標（不論明確或模糊）推論輸出結果，例如預測、內容、推薦或決策，這些輸出結果能夠影響真實與虛擬環境。[9]須注意此處所指人工智慧包含生成式人工智慧。[10]
2. 生成式人工智慧（Generative Artificial Intelligence）定義
新增之第5節第2-101小節N款將生成式人工智慧定義為一種自動化計算系統，當接受人類的提示、描述或問題，能生成模擬人類所創作之內容加以輸出，其生成內容包含且不限於文字、圖像、多媒體等。[11]
（二）雇主不得因使用人工智慧導致員工權利受侵害
所謂「雇主」（Employer），根據伊利諾伊州人權法第5節第2-101小節B項之規定，係指在伊利諾伊州內雇用員工（Employee）者，其員工數目只要達一名即符合雇主之定義。[12]而依據伊利諾伊州人權法修正案之修訂內容，雇主所使用之人工智慧不得導致員工在招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件等方面受到歧視。[13]
例如根據1964年《民權法》（Civil Rights Act of 1964）第七章，雇主在僱用、解雇、晉升等方面，不得因種族、膚色、國籍、性別或宗教信仰表現出就業歧視行為。[14]而民權法第七章所認定之歧視範圍包含了歧視性編碼（discriminatory coding），例如郵遞區號（Zip Codes），因為有許多少數族群會居住在特定區域。[15]
有鑑於此，伊利諾伊州人權法修正案也規範雇主於使用人工智慧時，不得使用郵遞區號作為本條款的替代指標[16]，避免因郵遞區號造成就業歧視。
（三）雇主負有主動通知員工使用人工智慧工具情形之義務
伊利諾伊州人權法修正案新增雇主之通知義務，凡有使用人工智慧從事招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件者，不得於未通知員工的情況下使用人工智慧為上述目的。[17]意即雇主應該主動應告知其員工有使用人工智慧進行前述行為之情事，至於通知的方式與時限則有待伊利諾伊州人權部訂定。
二、違法效力與救濟方式
（一）雇主可能需要負擔損害賠償費用與民事罰款
違反伊利諾伊州人權法修正案有關就業歧視禁止規範者，等同違反伊利諾伊州人權法。根據伊利諾伊州人權法第8-108條與第8-109條，違反者需要負擔相應的損害賠償，包含財產與非財產上的損害賠償費用[18]，以及復職等補救措施。[19]除此之外，違反之雇主也可能面臨民事處罰。[20]
（二）權利受侵害者得向伊利諾伊州人權部提起申訴或向法院提起訴訟
伊利諾伊州人權法案賦予民眾得以尋求救濟之權利，其方式大致有二，一為向伊利諾伊州人權部提出申訴，二則是直接向法院提起訴訟。
向伊利諾伊州人權部申訴者，將由人權部進行調查與調解[21]。調查後，伊利諾伊州人權部將提供申訴人調查報告[22]，該調查報告將就申訴人遭受違法權利侵害之實質證據提出建議。[23]在伊利諾伊州人權部完成調查後，申訴人仍可至法院提起訴訟。[24]
參、事件評析
一、人工智慧就業歧視為美國當前優先處理之法制議題，雇主應加強法遵意識
演算法偏見所導致的歧視問題，正是美國各州政府所欲立法解決之議題。雖然尚未出現聯邦層級之法律，但各州卻於今年陸續通過相關法案。例如科羅拉多州州長於今年5月17日所簽署之《科羅拉多州人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act）[25]、猶他州以及本文介紹之伊利諾伊州人權法修正案，皆已針對人工智慧就業歧視訂定相應規範。
在人工智慧的監管趨勢中，雇主應善加注意人工智慧之應用是否符合當地法規範，以避免遭受處罰。
二、立法方式採修訂既有法律，執行細節另行訂定
伊利諾伊州人權法修正案將有關使用人工智慧之規定增訂於《伊利諾伊州人權法》，其執行細節則授權伊利諾伊州人權部訂定，尤其伊利諾伊州人權法修正案之部分條文僅說明雇主使用的人工智慧不得導致員工在招聘、聘用、晉升、解僱、紀律或僱用條款、特權或條件等方面受到基於受保護類別的歧視，並未詳細規定雇主應以何方式避免之，因此仍有持續關注之必要。
三、本法賦予當事人申訴管道，較完整保障就業權利
伊利諾伊州人權法可以作為民眾權利之請求基礎，向伊利諾伊州人權部提出申訴或至法院訴訟。因此當伊利諾伊州雇主違反伊利諾伊州人權法時，其員工得依法主張權利，可以請求復職或損害賠償，而非只是由主管機關對雇主裁罰。故對於當事人之就業權利，有相對完整之保障。
[1]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024).
[2]Illinois Enacts New Law Regulating Employer Use of Artificial Intelligence, Lexology, https://www.lexology.com/library/detail.aspx?g=dfebd021-1398-41eb-92ee-9631183fa8ce (last visited Sep. 9, 2024).
[3]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[4]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[5]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[6]Illinois Human Rights Act, 775 ILCS §§1-5(2024).
[7]Illinois Human Rights Act, 775 ILCS §5 (2024).
[8]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). The Department shall adopt any rules necessary for the implementation and enforcement of this subdivision, including, but not limited to, rules on the circumstances and conditions that require notice, the time period for providing notice, and the means for providing notice.
[9]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.
[10]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" includes generative artificial intelligence.
[11]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Generative artificial intelligence" means an automated computing system that, when prompted with human prompts, descriptions, or queries, can produce outputs that simulate human-produced content, including, but not limited to, the following: (1) textual outputs, such as short answers, essays, poetry , or longer compositions or answers; (2) image outputs, such as fine art, photographs, conceptual art, diagrams, and other images; (3) multimedia outputs, such as audio or video in the form of compositions, songs, or short-form or long-form audio or video; and (4) other content that would be otherwise produced by human means.
[12]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Employer" includes: (a) any person employing one or more employees within Illinois during 20 or more calendar weeks within the calendar year of or preceding the alleged violation.
[13]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[14]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[15]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[16]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[17]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[18]Illinois Human Rights Act, 775 ILCS §5/8-108 (2024).
[19]Illinois Human Rights Act, 775 ILCS §5/8-109 (2024).
[20]Illinois Human Rights Act, 775 ILCS §5/8A-104 (2024).
[21]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[22]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[23]Illinois Department of Human Right, Charge Process, https://dhr.illinois.gov/filing-a-charge/legal-review.html (last visited Oct. 22, 2024).
[24]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[25]Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited Oct. 22, 2024).
今(2018)年2月，一家成立於2013年、位於美國維吉尼亞州的雲端策略服務公司REAN Cloud Llc.以其他交易(Other Transaction, OT)模式獲得了美國國防部(Department of Defense)5年合計9.5億美金的合約，讓OT自2016年10 U.S. Code §2371b正式生效進一步確認美國國防部針對原型(Prototype)及其後續之產品開發適用OT以來[1]，再次引起討論。 OT源於冷戰時期的美國，主要用於讓聯邦政府部門取得尖端國防技術的研究與發展(Research and Development, R & D)成果和原型。OT並非傳統之契約(contract)、授權書(grant)或合作協議(cooperative agreement)，且法並無明確定義OT究竟實質內容為何。OT不受聯邦併購規則(Federal Acquisition Regulation, FAR)所規範，更接近一般私人商業契約，因此具備極大的合作彈性，可大幅度縮短私部門與政府合作常碰到的冗長時程。由於OT快速、彈性的這兩項特質，近年來應用於國防以外之新創或尖端科技之公私合作亦逐漸普遍。 然OT雖然簡化了政府採購的時程與限制，但同時也減少了問責可能性和透明度，因此目前只限具備美國國會授予其他交易授權(Other Transaction Authority, OTA)的聯邦政府機構得以使用OT。在美國計有太空總署(NASA)、美國國防部、美國聯邦航空總署(Federal Aviation Administration)、美國運輸部(Department of Transportation)、國土安全部(Department of Homeland Security)、運輸安全管理局(Transportation Security Administration)、衛生與公共服務部(Department of Health and Human Services)、美國能源部(Department of Energy)獲得國會授予OTA，其餘未獲OTA之政府部門僅得以在聯邦預算管理局(Office of Management and Budget)主任授權下有條件地使用OT。 尖端技術的R&D在不同領域皆有其特殊性，難以一體適用FAR，是以OT在實務運作上為兼顧持有尖端技術的公司重視速度和營業秘密之特質與採購之公平性，其運作模式通常為：聯邦政府成立某種技術領域的OT聯盟(consortium)，私部門的潛在締約者可以申請加入，繳交會費並同意該聯盟的約定條款。聯盟之約定條款通常較政府採購契約來的有彈性，例如智慧財產權的歸屬是以個案個別約定。擁有OTA之政府機關嗣後可向聯盟成員徵求產品或服務白皮書，之後再從中挑選優秀者進一步繳交更詳細的產品或服務計畫書，最終經由聯盟管理機構(consortium management organization)挑選出最適者。 OT與OT聯盟的運作模式，為公私合作提供極大的法律彈性，且非常迅速。平均而言，從政府徵求白皮書到成功找到最適者，不過兩個月時間。時間與彈性乃是新創企業或尖端技術持有者與政府合作時最有疑慮之處，OT可以解決此一問題。然需注意OT在適用上仍存在諸多挑戰，例如成效難以評估、較不透明導致監督困難、智慧財產權歸屬爭議等，有待克服。 [1] 美國國防部在此前乃是遵循Section 845 of the National Defense Authorization Act(NDAA) for Fiscal Year(FY) 1994, Public Law 103-160適用OT。
Google與著名品牌的商標戰爭勝出希望濃厚網路搜尋引擎龍頭Google靠其所提供的關鍵字搜尋服務在廣告市場上已獲取一定之利潤，惟此種服務並沒有獲得全球各地品牌持有人的認同，因此而向Google提起訴訟者，亦所在多有；然而，針對關鍵字廣告的訴訟，Google在歐盟法院的判決中很有機會取得初步的勝利。 所謂關鍵字廣告，係指廣告主使用此項服務時，得以自行命名「引發曝光」的關鍵字（Keyword Triggers），該關鍵字可設定為品牌之名稱，亦即當一般民眾使用搜尋功能，輸入特定品牌名稱作為關鍵字時，搜尋結果就會出現當初命名該關鍵字的廣告主網站訊息，只是同樣的關鍵字也有可能為競爭對手甚或商品仿冒者所使用；換言之，民眾輸入特定品牌名稱並點擊「搜尋」之後，搜尋結果將有可能同時出現品牌持有人、競爭對手，或是仿冒者三種不同角色。從而包含Louis Vuitton在內的歐洲知名精品商，相繼以此理由向Google提起訴訟，強調該項服務使廣告主不需經商標權人允許即可使用其商標，Google係已侵害其商標權。 對此，歐盟法院顧問卻認為，廣告主選擇特定關鍵字之後並非直接產生商品販售或是服務提供的行為，亦即使用關鍵字搜尋本身並不會造成商標的侵害或淡化，真正使其權利受損者，乃係廣告主所提供令人混淆的廣告內容。故Google所提供的關鍵字廣告服務，雖未對品牌名稱設下限制，惟「自由選取品牌名稱為關鍵字」一事，並不會侵害品牌持有人之商標權；但需注意者是，經由關鍵字產生的廣告內容中，如果品牌持有人得以舉證該內容已侵害其商標時，Google仍可能負有侵害責任。 歐盟法院顧問之見解雖然並非具有實質的拘束力，但約莫八成的案件顯示，歐盟法院多數將會採納顧問的意見。上述案件將有可能在11月份做出正式判決，令人拭目以待。
美國基改食品標示新發展－強制標示與否的拔河 美國白宮對具危險性的生物研究提出新規範美國白宮為避免由聯邦補助的生物科技研究案，因研究涉及具危險性生物，而不經意製造出生化武器，繼此於2014年9月24日由國家衛生研究院（National Institutes of Health，NIH）和白宮科技政策辦公室（White House Office of Science and Technology）共同提出新規範，即「美國政府對生物科學雙重用途研究與考量的機構監督政策」（United States Government Policy for Institutional Oversight of Life Sciences Dual Use Research of Concern），旨在加強由聯邦預算補助的生物雙重用途研究（Dual Use of Research）安全性。 前述生物科技研究中的生物雙重用途研究，意指以增進公共衛生、國家安全、農業、環境等為主旨的生命科學研究之外，尚有其他具殺傷力或致命性的合法研究，例如合成病毒、除草劑等。早於2013年，美國白宮即已開始實施「美國政府對生物科學雙重用途研究與考量的監督政策」（United States Government Policy for Oversight of Life Sciences Dual Use Research of Concern），惟本次另以機構為主要規範對象。而作成新規範之重點分述為三如下： 1.原先以補助單位（通常為國家衛生研究院），為具危險性生物研究案為監督、責成單位，現將該監督責任歸屬移轉至取得相關補助的科學家、大學或研究機構。 2.從事相關具危險性生物研究之科學家，必須通報其所屬機構，並且須召開審查委員會評估相關風險，亦須通知聯邦層級的補助單位。此外，該科學家與其機構必須提交一份風險防範之計畫書，例如建立生物安全等級（biosafety rating）較高的實驗室等。 3.違反相關規範之受補助對象，將面臨中止、限制或終止補助之處分，甚至失去申請未來聯邦補助單位所補助一切與生命科學相關研究補助的機會。