伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
伊利諾伊州通過人權法修正案，致力解決人工智慧可能造成之就業歧視風險
資訊工業策進會科技法律研究所
2024年12月09日
伊利諾伊州人權法修正案（Amendment to the Illinois Human Rights Act）於2024年8月由伊利諾伊州州長簽署並通過，成為繼科羅拉多州人工智慧消費者保護法（Consumer Protections for Artificial Intelligence Act）之後美國第二部監管私部門使用人工智慧的法律。
本法規範重點在於解決人工智慧導入就業市場而衍生之就業歧視議題，伊利諾伊州透過修訂伊利諾伊州人權法，增加人工智慧（Artificial Intelligence）與生成式人工智慧（Generative Artificial Intelligence）之法律定義[1]，以及增加伊利諾伊州的雇主使用人工智慧的相關義務，使員工在就業法律方面獲得更完善之保障。
壹、事件摘要
近年來人工智慧大量被使用在就業市場，例如：雇主使用人工智慧自動篩選履歷、績效管理等等。[2]人工智慧所伴隨的就業歧視議題，遂成為美國聯邦政府與各州政府近年來之人工智慧法制重點。
2023年2月，伊利諾伊州眾議員Jaime M. Andrade, Jr.將伊利諾伊州人權法修正案提交給議會書記官（Clerk）[3]，伊利諾伊州人權法修正案在一系列的審議之後，終於在2024年5月通過參眾議院同意，並於2024年8月9日由伊利諾伊州州長簽署，使伊利諾伊州人權法案成為美國第二部監管私部門使用人工智慧的法律[4]，修正部分將於2026年1月1日生效。[5]
貳、重點說明
伊利諾伊州人權法（Illinois Human Rights Act，775 ILCS 5）由伊利諾伊州人權部（The Illinois Department of Human Rights，IDHR）負責執行。其宗旨為確保伊利諾伊州內之所有人免受歧視，並就主要領域訂定規範，包含「公平住宅」、「金融」、「公共場所」、「教育領域之性騷擾」以及「就業」[6]，其中有關就業歧視之議題為第5節所規範。
伊利諾伊州人權法修正案之目的為解決雇主使用人工智慧工具導致的就業歧視問題，因此主要修訂伊利諾伊州人權法案第5節有關「就業」之規定[7]。而有關本修正法案之執行細節，如通知方式、期限，由伊利諾伊州人權法授權伊利諾伊州人權部訂定並執行。[8]
一、法案修正內容
（一）增訂人工智慧與生成式人工智慧之定義
伊利諾伊州人權法修正案所修訂之範圍涵蓋人工智慧與生成式人工智慧之定義與使用，將新增於伊利諾伊州人權法第5節第2-101小節M款與N款：
1. 人工智慧（Artificial Intelligence）定義
伊利諾伊州人權法修正案將人工智慧定義為一種機器系統，該系統根據其接收之輸入資訊，為目標（不論明確或模糊）推論輸出結果，例如預測、內容、推薦或決策，這些輸出結果能夠影響真實與虛擬環境。[9]須注意此處所指人工智慧包含生成式人工智慧。[10]
2. 生成式人工智慧（Generative Artificial Intelligence）定義
新增之第5節第2-101小節N款將生成式人工智慧定義為一種自動化計算系統，當接受人類的提示、描述或問題，能生成模擬人類所創作之內容加以輸出，其生成內容包含且不限於文字、圖像、多媒體等。[11]
（二）雇主不得因使用人工智慧導致員工權利受侵害
所謂「雇主」（Employer），根據伊利諾伊州人權法第5節第2-101小節B項之規定，係指在伊利諾伊州內雇用員工（Employee）者，其員工數目只要達一名即符合雇主之定義。[12]而依據伊利諾伊州人權法修正案之修訂內容，雇主所使用之人工智慧不得導致員工在招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件等方面受到歧視。[13]
例如根據1964年《民權法》（Civil Rights Act of 1964）第七章，雇主在僱用、解雇、晉升等方面，不得因種族、膚色、國籍、性別或宗教信仰表現出就業歧視行為。[14]而民權法第七章所認定之歧視範圍包含了歧視性編碼（discriminatory coding），例如郵遞區號（Zip Codes），因為有許多少數族群會居住在特定區域。[15]
有鑑於此，伊利諾伊州人權法修正案也規範雇主於使用人工智慧時，不得使用郵遞區號作為本條款的替代指標[16]，避免因郵遞區號造成就業歧視。
（三）雇主負有主動通知員工使用人工智慧工具情形之義務
伊利諾伊州人權法修正案新增雇主之通知義務，凡有使用人工智慧從事招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件者，不得於未通知員工的情況下使用人工智慧為上述目的。[17]意即雇主應該主動應告知其員工有使用人工智慧進行前述行為之情事，至於通知的方式與時限則有待伊利諾伊州人權部訂定。
二、違法效力與救濟方式
（一）雇主可能需要負擔損害賠償費用與民事罰款
違反伊利諾伊州人權法修正案有關就業歧視禁止規範者，等同違反伊利諾伊州人權法。根據伊利諾伊州人權法第8-108條與第8-109條，違反者需要負擔相應的損害賠償，包含財產與非財產上的損害賠償費用[18]，以及復職等補救措施。[19]除此之外，違反之雇主也可能面臨民事處罰。[20]
（二）權利受侵害者得向伊利諾伊州人權部提起申訴或向法院提起訴訟
伊利諾伊州人權法案賦予民眾得以尋求救濟之權利，其方式大致有二，一為向伊利諾伊州人權部提出申訴，二則是直接向法院提起訴訟。
向伊利諾伊州人權部申訴者，將由人權部進行調查與調解[21]。調查後，伊利諾伊州人權部將提供申訴人調查報告[22]，該調查報告將就申訴人遭受違法權利侵害之實質證據提出建議。[23]在伊利諾伊州人權部完成調查後，申訴人仍可至法院提起訴訟。[24]
參、事件評析
一、人工智慧就業歧視為美國當前優先處理之法制議題，雇主應加強法遵意識
演算法偏見所導致的歧視問題，正是美國各州政府所欲立法解決之議題。雖然尚未出現聯邦層級之法律，但各州卻於今年陸續通過相關法案。例如科羅拉多州州長於今年5月17日所簽署之《科羅拉多州人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act）[25]、猶他州以及本文介紹之伊利諾伊州人權法修正案，皆已針對人工智慧就業歧視訂定相應規範。
在人工智慧的監管趨勢中，雇主應善加注意人工智慧之應用是否符合當地法規範，以避免遭受處罰。
二、立法方式採修訂既有法律，執行細節另行訂定
伊利諾伊州人權法修正案將有關使用人工智慧之規定增訂於《伊利諾伊州人權法》，其執行細節則授權伊利諾伊州人權部訂定，尤其伊利諾伊州人權法修正案之部分條文僅說明雇主使用的人工智慧不得導致員工在招聘、聘用、晉升、解僱、紀律或僱用條款、特權或條件等方面受到基於受保護類別的歧視，並未詳細規定雇主應以何方式避免之，因此仍有持續關注之必要。
三、本法賦予當事人申訴管道，較完整保障就業權利
伊利諾伊州人權法可以作為民眾權利之請求基礎，向伊利諾伊州人權部提出申訴或至法院訴訟。因此當伊利諾伊州雇主違反伊利諾伊州人權法時，其員工得依法主張權利，可以請求復職或損害賠償，而非只是由主管機關對雇主裁罰。故對於當事人之就業權利，有相對完整之保障。
[1]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024).
[2]Illinois Enacts New Law Regulating Employer Use of Artificial Intelligence, Lexology, https://www.lexology.com/library/detail.aspx?g=dfebd021-1398-41eb-92ee-9631183fa8ce (last visited Sep. 9, 2024).
[3]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[4]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[5]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024).
[6]Illinois Human Rights Act, 775 ILCS §§1-5(2024).
[7]Illinois Human Rights Act, 775 ILCS §5 (2024).
[8]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). The Department shall adopt any rules necessary for the implementation and enforcement of this subdivision, including, but not limited to, rules on the circumstances and conditions that require notice, the time period for providing notice, and the means for providing notice.
[9]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.
[10]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" includes generative artificial intelligence.
[11]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Generative artificial intelligence" means an automated computing system that, when prompted with human prompts, descriptions, or queries, can produce outputs that simulate human-produced content, including, but not limited to, the following: (1) textual outputs, such as short answers, essays, poetry , or longer compositions or answers; (2) image outputs, such as fine art, photographs, conceptual art, diagrams, and other images; (3) multimedia outputs, such as audio or video in the form of compositions, songs, or short-form or long-form audio or video; and (4) other content that would be otherwise produced by human means.
[12]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Employer" includes: (a) any person employing one or more employees within Illinois during 20 or more calendar weeks within the calendar year of or preceding the alleged violation.
[13]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[14]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[15]Civil Rights Act of 1964, title VII, 29 CFR Part 1601.
[16]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[17]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024).
[18]Illinois Human Rights Act, 775 ILCS §5/8-108 (2024).
[19]Illinois Human Rights Act, 775 ILCS §5/8-109 (2024).
[20]Illinois Human Rights Act, 775 ILCS §5/8A-104 (2024).
[21]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[22]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[23]Illinois Department of Human Right, Charge Process, https://dhr.illinois.gov/filing-a-charge/legal-review.html (last visited Oct. 22, 2024).
[24]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024).
[25]Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited Oct. 22, 2024).
日本智慧財產推進計畫2015分析（中） 資策會科技法律研究所 104年10月02日 日本智慧財產戰略本部於今年6月19日所公布「智慧財產推進計畫2015」[1]，係以智慧財產的創造、保護、活用及三者間的有效連接作為宗旨，並以少子高齡化與地方經濟衰退、智財糾紛處理機制的使用狀況和便利性、以及內容產業海外拓展的潛力及對智財戰略之重要性為背景，提出三項核心議題並分別剖析各項議題其現狀課題及主管部會應努力之方向，其中第二項議題「活化智財紛爭處理機制」之內容如下： 一、活化智財紛爭處理機制 （一）現狀與課題 1. 證據收集未見確實 在訴訟中，為能作成適切的裁判，原告、被告兩側需提出充分的證據，惟專利侵權訴訟中，多數情況下證據是為被告所掌握，權利人主張侵權之立證較為困難，就此日本認為應就以下三點檢討證據收集程序的機能：在訴訟開始的階段，確保爭點整理之程序充分發揮效用；確保「文書提出命令」作為證明被告有侵害事實有力手段之一，能充分發揮效用；作為證據收集的前提，確保證據保全制度能充分發揮效用。 2.權利安定性不足 從權利賦予乃至於紛爭處理的過程中，專利權等智財權之安定性亦相當重要。日本於2004年針對專利侵權訴訟，於專利法新增第104條之3[2]，導入「專利無效抗辯」之制度，其後雖然有意見認為應廢止專利無效抗辯制度，但整體而言因無效抗辯制度的導入，確實使專利無效訴訟（無効審判）審理遲緩的狀況明顯獲得改善。而由於2015年日本再度導入專利異議制度（異議申立制度）[3]，因此無論就權利者及疑似侵權者之間的平衡，或是產業政策上就專利權進步性要件的判斷等，本年度的推進計畫中均指出有就本條之內容再作檢討之必要。 3.損害認定額偏定 在損害賠償的額度方面，雖然在歷年來多次專利法之修正後已經獲得一定程度的改善，但普遍看法仍認為訴訟實務上法院所認定的侵權損害賠償數額，和商業實態上所造成的影響及需求相比仍是顯然偏低。另日本為求簡化便利損害賠償額的舉證難度，雖已於1998年修正專利法第102條[4]之規定，但於司法實務上並未能充分運用，加以民法上對不法行為之賠償側重實際上造成之損害，而未能從研究開發投資所得之專利權受損之角度思考，造成日本在專利權等智財糾紛中損害賠償額普遍偏低，此一問題仍有待解決。 4.中小企業專利權人不易勝訴 根據日本知的財產戰略事務局之統計，日本專利侵權訴訟中有約六成為中小企業提起，但扣除和解之部分單以終局判決而言，中小企業的原告勝訴率在二成以下，其中對大企業的勝訴率更不到一成，探究其原因，日本認為除了中小企業與專利、法律專業人員間合作程度有所不足外，在權利取得的階段就未能針對未來權利行使、保護充分進行戰略性規劃也可能是問題所在，故應對中小企業的權利取得、行使及訴訟進行上給予一定的支援。 （二）今後施政方向 日本為強化智財紛爭解決體系的機能，於2015年智財推進計畫中指出三個方向：首先是「強化智財紛爭處理體系的機能」，在權利人及侵害嫌疑人間地位平衡的前提下，對證據收集手續、損害賠償額、權利安定性和禁制令的核發等各方面為綜合性的檢討；其次是「促進智財紛爭處理體系的活用」，針對中小企業與大企業的往來過程中，就智財保護、紛爭預防、訴訟對應等面向提供進一步的支援，例如廣設據點提供充分的諮詢、提供具有訴訟實績的專家團隊、減輕進行訴訟之負擔等。此外針對「智財紛爭處理有關之資訊普及化」，為創造能因應經濟全球化之商業環境，除有必要將日本智財相關法令翻譯為英文提供予世界各國，尚應持續針對各國法院、專利局、及訴訟外紛爭解決等智財紛爭處理體系，與日本制度間的異同進行調查研究並公開揭露。 （三）小結 智慧財產權的保護和國家經濟發展息息相關，而僅有優質的專利申請程序及審查品質，仍無法達到健全智慧財產制度及其相關產業之目的，完善的智慧財產爭議解決程序，乃其中不可或缺之一環。有鑑於此，我國於2008年7月參考德、美、日等智財先進國家之作法成立智慧財產法院，目的即在於藉由專業的審判人員及程序，解決具備國際性及高等專業性的智慧財產案件，進而達到智慧財產案件審判的專業化、效率化。 而在智慧財產法院成立已滿七年的今日，學術界和產業界仍持續對提出各項檢討意見，例如法院於專利侵權訴訟中可自行就個案認定專利無效影響專利安定性、專利權人勝訴率偏低、損害賠償數額偏低、訴訟當事人審級利益保障不足等[5]，此等議題和前揭日本智財推進計畫中所提出「活化智財紛爭處理機制」，當中的各項現況與課題同質性甚高，由此可知我國及日本目前在強化智財紛爭處理機制上，均面臨類似的問題有待克服。 二十一世紀為知識經濟時代，由於科技發展及商業型態的多元化，以知識產能為基礎所形成的專利、商標及著作權等智慧財產權，不僅 性質上與傳統的財產權有異，在權利保護上亦有不同的面貌。尤其高科技產業發達與否，攸關國家競爭力，而以鉅額投資研發取得高科技成果，常存有多種智慧財產權，必須藉由法律程序的保護，始能確保該產業在國際市場的競爭力。因此，就法律層面而言，必須建構妥適保護智慧財產權的制度程序，方足以維持國家在國際社會的競爭力[6]。我國後續或可參考前述日本作法，從事前紛爭預防和事後案件處理兩個面向同時著手，降低智財紛爭的發生率並提高解決效率和滿意度，逐步實現活化智財紛爭處理機制之目標。 [1]〈知的財産推進計画2015〉，知的財産戦略本部，http://www.kantei.go.jp/jp/singi/titeki2/kettei/chizaikeikaku20150619.pdf（最後瀏覽日：2015/08/14） [2] 特許法（昭和三十四年法律第百二十一号）第百四条の三（特許権者等の権利行使の制限）：「特許権又は専用実施権の侵害に係る訴訟において、当該特許が特許無効審判により又は当該特許権の存続期間の延長登録が延長登録無効審判により無効にされるべきものと認められるときは、特許権者又は専用実施権者は、相手方に対しその権利を行使することができない。 ２ 前項の規定による攻撃又は防御の方法については、これが審理を不当に遅延させることを目的として提出されたものと認められるときは、裁判所は、申立てにより又は職権で、却下の決定をすることができる。 ３ 第百二十三条第二項の規定は、当該特許に係る発明について特許無効審判を請求することができる者以外の者が第一項の規定による攻撃又は防御の方法を提出することを妨げない。」 [3] 日本於2003年廢止原有之專利異議制度，2015年專利法修正時雖再度納入，但其內容及性質與舊法時之規定略有不同。 [4] 特許法第百二条第一項（損害の額の推定等）：「特許権者又は専用実施権者が故意又は過失により自己の特許権又は専用実施権を侵害した者に対しその侵害により自己が受けた損害の賠償を請求する場合にお いて、その者がその侵害の行為を組成した物を譲渡したときは、その譲渡した物の数量（以下この項において「譲渡数量」という。）に、特許権者又は専用実施 権者がその侵害の行為がなければ販売することができた物の単位数量当たりの利益の額を乗じて得た額を、特許権者又は専用実施権者の実施の能力に応じた額を 超えない限度において、特許権者又は専用実施権者が受けた損害の額とすることができる。ただし、譲渡数量の全部又は一部に相当する数量を特許権者又は専用 実施権者が販売することができないとする事情があるときは、当該事情に相当する数量に応じた額を控除するものとする。」 [5] 李素華，〈智慧財產法院運作之觀察與檢討-以專利侵權訴訟為中心〉，《全國律師》，第18卷第10期，頁18以下。 [6] 同註5，頁42。
中國大陸將展開為期一年關於科技成果使用、處置和收益管理的試點工作根據中國大陸國務院於2014年7月2日召開國務院常務會議後的決定，未來大陸地區將在其國家自主創新示範區和自主創新綜合試驗區內，選擇部分中央級事業單位，展開為期一年關於科技成果使用、處置和收益管理的試點工作。 以鼓勵科研創新作為驅動經濟發展的策略，已是最新一屆大陸地區中央領導人施政的重點。早在2007年其政府修訂之《科學技術進步法》，已對申請項目的承擔者（類似我國執行單位或計畫主持人）依法取得發明專利權等知識產權有所規範。然目前大陸地區對於整體科技成果之無形資產的使用權、處置權和收益權等，並無一致性的作法。 惟為加速科技成果移轉（大陸地區稱為「轉化」）和事業化，進一步提升研發創新，中國大陸財政部曾於2011年在北京中關村的國家自主創新示範區，展開中央級事業單位科技成果處置權和收益權的管理改革，簡化800萬以下的科技成果處置流程（註：關於此部分發展趨勢可另參考近期國務院法制辦公室對外公告之「關於《促進科技成果轉化法（修訂草案送審稿）》公開徵求意見通知」等相關內容）。 本次中國大陸國務院常務會議進一步決定，允許更多的試點單位可以採取轉讓、許可、作價入股等方式移轉科技成果，將所得收入全部留歸試點單位自主分配。相信這樣的方式有助於激勵對科技成果創造做出重要貢獻的機構和人員，因本次試點工作為期一年，其具體執行成果將持續觀察、瞭解。
日本經產省公布零售電力業指引修正案，以配合電力市場新制度之實施日本經濟產業省2018年9月公布《零售電力業指引》 （電力の小売営業に関する指針，以下稱「本指引」）修正案。 本次主要修正方向為零售電力業者購買電力時若有以下情形，應如何於電源結構表上說明供用電戶參考：（1）跨區調度電力：同年10月開始，零售電力業者若需跨區調度電力，改由日本電力交易所使用「間接競拍」（間接オークション）分配電力容量。故本指引配合規定，原則上以跨區調度取得之電力歸類於電源結構表的「電力交易所」中；（2）使用非化石價值證書：本指引規定，若零售電力業者自日本電力交易所購得非化石價值證書，可於電源結構表中標示使用非化石價值證書之電力配比，並註明如：「本公司販售之受再生能源躉購費率制度（FIT）補助之電力，係使用再生能源限定之非化石價值證書，具有以再生能源發電之實質價值。」；（3）販售特定電源方案：若零售電力業者提供用電戶特定的電源方案，本指引建議業者在製作電源結構表時，應先扣除總電量中特定電源方案之電量後，再計算餘下電量及配比，並註明如：「本公司向部分用戶販售內含水力發電20%以上之特定電源方案，其他非以特定電源方案進行銷售的電源結構請參考圖表。」若未先扣除再計算，也應在表中註明總電量中內含特定電源方案銷售之電量數據。（4）標示電力產地：若零售電力業者以電力產地做為賣點，可依電力來源於電源結構表中標示「自產自消」或「○○地域產電力」。
歐盟法院裁定連結未授權影音串流網站之多媒體播放器違反著作權指令歐盟法院裁定連結未授權影音串流網站之多媒體播放器違反著作權指令 歐盟法院於2017年4月26日就Stichting Brein v Wullems案作出裁定，依據2001年的「歐洲議會與執委會關於資訊社會中著作權及著作鄰接權調和指令（Directive No. 2001/29/EC of the European Parliament and of the Council of 22 May 2001 on the harmonisation of certain aspects of copyright and related rights in the information society）」，認定販售多媒體播放器，其上安裝附加軟體使用戶可透過建立好的選單，連結到含有未獲著作權人同意影音授權的第三方串流網站之行為，符合著作權指令中「對公眾傳輸（communication to the public）」的定義。歐盟著作權指令第3條第1項並規定，會員國應提供著作權人授權或禁止任何對「公眾傳輸」其作品的權利，包含使用有線或無線的途徑使公眾可以任意地在任何時間地點接觸這些著作。 歐盟法院指出「公眾傳輸」的概念應包含兩個部分：「傳輸行為」以及「公眾。「傳輸行為」包含了各種形式的傳輸或再次傳輸，不管是透過有線或是無線；並且只要是讓公眾可得接觸作品的行為，即構成「傳輸行為」。至於「公眾」的意義為不特定的多數人，並應考慮潛在接觸用戶的可能性，且不僅是從單一時點接觸用戶多寡評斷，而是應觀察連續性累積的情況。 歐盟法院認定此販售多媒體撥放器之行為，考量該行為對於該著作一般利用的影響，對著作人合法權益產生不合理的侵害因而不符合該指令的重製權例外，故對著作權產生侵害。