與時俱進的新興科技法制-美國無人飛行器(UAS)管理法制初探
科技法律研究所
法律研究員 陳世傑
2015年07月30日
壹、事件摘要
因電子與無線傳輸科技的進步,俗稱Drone的無人飛行器(Unmanned Aerial Vehicles,UAV),自美國亞瑪遜公司(Amazon)擬採為運送網路購物商品的工具後,無人飛行器的運用,已逐步從單純娛樂用途跨向商業用途的應用。無人飛行器的廣泛運用,是否可能影響安全、隱私、甚至政府監視的警察國家爭議,已經引起美國各級政府的重視,也紛紛立法加以因應。聯邦議會與各州議會亟思如何在法規上妥善調適,以因應越來越多商用無人飛行器的用途需求與其他公益保護之考量,例如飛航安全、隱私安全、甚至國土安全等,美國已經採取相關法制規劃,以完善UAV之管理。
貳、重點說明
一、美國聯邦管理法規
無人飛行器在美國由其聯邦航空總署(Federal Aviation Administration,FAA)主管,2012年2月14日生效的FAA現代化及改革法(The FAA Modernization and Reform Act of 2012,FMRA),為美國聯邦法律主要的管理法源。
FMRA對無人飛行器所採正式名稱為無人飛行機(Unmanned Aircraft),依其第331節定義,UAS指,而小型UAS(Small unmanned aircraft)則指55磅以下之UAS。
FAA指出,無人飛行系統(Unmanned Aircraft Systems,UAS)依其用途區分為公務用(Public Operations)、民用(Civil Operations)、娛樂用(Model Aircraft)三種,並有不同的管理規定。
公務用無人飛行器使用管理相關聯邦法律,有49 U.S.C. § 40102(a)(41)及49 U.S. Code § 40125就「公務用飛行器」(Public Aircraft)使用範疇之相關規定。
法律規定之公務用無人飛行器,FAA得發給飛航許可(Certificate of Waiver or Authorization,COA),而在其許可之特定空間範圍、操作方式或使用目的下操作公務用無人飛行器。FAA發給公務用無人飛行器之COA時多會附加公共安全之要求,例如不得於人口密集區域使用、避免影響其他飛行器路權(right-of-way rules)的使用。
民用無人飛行器之使用,可向FAA申請兩種使用許可,一為FMRA第333節之特許(Section 333 Exemption),其次為FAA第8130.34號行政命令特別適航性許可(Special Airworthiness Certificate,SAC)。
FMRA第333節之特許規定要求,美國聯邦運輸部得經申請,在一定體積、重量、飛行速度、安全性等要求下,特許申請人以無人飛行器進行商業使用(Certificate of Waiver or Authorization,COA),文前所述Amazon所遞交之申請即為此種COA。
SAC特別適航性許可則是要求申請人,於檢具所申請之飛行系統之硬體結構與軟體開發、控制與其管理(configuration management)之設計、規劃、製造上具適航性之說明以進行SAC申請。
娛樂用無人飛行器之使用,依照FMRA第336節規定,毋須經主管機關許可,惟仍須符合以下規定,包括飛行高度須低於400呎且維持飛行區域之淨空,且飛行器應隨時處於使用者目視可及之範圍。
二、美國各州管理法規
在聯邦層級法律以外,除華盛頓特區已為無人機禁用區(No Drone Zone)外,美國各州對於無人飛行器之使用,也各自有不同的立法。至2015年6月為止,美國共有25州對無人飛行器之定義、使用、管理等已有相關法律施行。2015年美國已有45州計151個法案與無人飛行器之使用管理進行規定。阿肯色州等15州完成立法,阿拉斯加等4州通過提案交付審查,喬治亞洲決議交由州議會成立特別委員會進行無人飛行器法案研究、新墨西哥州則由州參眾兩院通過備忘錄就無人飛行器的使用對於野生動物保護之影響進行研究。
參、事件評析
美國自聯邦乃至各州法規對於UAS之管理密度與保護面向各有不同,惟就聯邦FAA受理申請之情形,與各州之立法進度,顯見UAS此一新興科技所帶來的法制調適已經如火如荼的展開。UAS的逐漸普及所帶來的法規相應調整或跟進的需求,已促使美國聯邦與州政府的重視。甚至除了使用的管制外,有關UAS的輸出,美國國務院亦於2015年2月發布有關軍事用途UAS的出口管制政策,其中也同時對商用無人機之出口進行一定程度之管理,可見無人機技術的進步,未來將逐步帶動法制面從使用管理、產品管理甚至朝向技術管理發展。
本文為「經濟部產業技術司科技專案成果」
德國聯邦資訊技術,電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南,旨在提升企業數位化與社會責任,並提升消費者權益保護。 德國司法及消費者保護部次長Gerd Billen於會議中指出,無論技術細節和具體應用如何發展,法律和消費者保護政策應確保人工智慧安全性,且不因此受歧視,以及盡可能確保技術利用透明度。而隨著人工智慧的發展,應設法解決使用人工智慧產生的法律問題。 例如,如何在製造商,供應商和消費者之間公平分配責任歸屬問題?在家庭,物流和手術室等領域已有越來越多具備自我學習的機器人被應用,相關權利是否會有所不同?如果機器出現不明原因故障,會發生什麼情況及如何處置?當機器透過在製造時尚未完全預定的環境感官認知做出具體決定時,該自動行為所生效力為何? 本份指南則提出六項建議: 促進企業內部及外部訂定相關準則 提升產品及服務透明度 使用相關技術應為全體利益著想 決策系統的可靠性仍取決資料的準確性。 重視並解決解決機器偏差問題 在特別需要負責的決策過程,應設計成由責任主體保留最終的決策權力,直到AI的控制品質已達到或高於所有參與者水平。
美國產學合作利益衝突管理機制美國產學合作利益衝突管理機制 資策會科技法律研究所 法律研究員 朱啟文 104年11月27日 自從1980年美國拜度法案(Bayh-Dole Act[1])通過後,智慧財產權下放至大學與研究機構,大學有權自主把智慧財產授權予廠商甚至成立新創公司[2],從而衍生出拜度法案潛藏副作用之ㄧ:「鼓勵學術機構與私人企業將研發成果商品化,將使學術機構產生利益衝突[3]」。因此「利益衝突」問題逐漸引起各界關注,特別是大學如何兼顧好教學、研究及公共服務[4];以及研究人員、大學教授在技術移轉或研發成果商品化過程中,應該扮演的角色及獲取何種利益,常因為法律或大學政策規定的不周全、認知的不一致,而造成教研人員的困惑[5]。 產學合作的利益衝突,容易發生於顧問服務、技術移轉、贊助研究、臨床試驗、科研採購、師生指導關係、機構關係與特定贈禮等活動中,因此利益衝突管理為產學合作中不可忽視的重要措施。以往「揭露利益衝突」被視為是管理利益衝突之主要方法[6],但此種管理利益衝突措施應該加以改進,且須建立處理學研機構內利益衝突之新思維,為了健全國內產學合作發展,政府有必要率先提出更新、更有效率之利益衝突管理方式,才能達到預防、監督、控管效果。本文擬藉由美國產學合作利益衝突法制規範,及美國大學因應解決產學合作利益衝突方式,提出對於本國法制調整之建議。 壹、美國利益衝突管制類型 美國利益衝突管制規範分成兩大類型[7],一是針對政府所屬的研究機構,像美國國家衛生院NIH;另一是一般研究機構或大學(包含公、私立),當它們申請聯邦政府經費的時候所受規範。如果是對於政府所屬的研究機構,它的利益衝突規範是比後者更為嚴格,因為研究人員直接領取國家薪水和使用國家經費,負有更多「公」的任務。舉例而言:一名美國國家衛生院研究員,亦是研究阿茲海默症的知名科學家,因其研究與藥廠間的利益衝突,於2006年12月被聯邦法院判決有罪,隨後被迫從NIH 離職。三名哈佛大學醫學院教授,2009年3月由檢察官、聯邦衛生福利部進行調查,他們擔任某藥廠顧問,但同時發表研究論文,支持醫界增加使用該藥廠生產之特定藥物,被質疑有利益衝突問題[8]。 貳、美國利益衝突管制規範 美國聯邦法律規定(18 US Code §208-Acts affecting a personal financial interest[9]),凡是向聯邦政府申請研究經費的各個學術機構,無論公立或是私立,其研究人員都必須向所屬機構「申報揭露」自己及家人與產業界的的財務上利益,並接受機構的審查監督,以避免科學研究的誠實正確性被個人利益影響,確保病人或受試者的安全與權益,並且維護社會大眾對於科學研究的信賴[10]。 1995年10月公布的美國國家科學基金會(以下簡稱「NSF」)《研究員財務揭露政策[11]》,與食品藥物管理局(以下簡稱「FDA[12]」)《研究規範中的客觀性[13]》規範中,提出了相當近似的概念,均要求學研機構須訂有「書面記載利益衝突的政策,並對利益衝突的政策應落實執行」;利益衝突政策內容至少要包含(1)限定且具指標性的財務報告,(2)任命特定人檢閱此等報告,(3)管理機制實施,且當發現無法解決的問題時,應向出資機構報告等[14]。 其中NSF的《研究員財務揭露政策》規定:「當能合理地認為有顯著的利益,能直接或顯著的影響此項研究或教育活動的報告、行為、設計時,即認可在此存在利益衝突。『顯著的財產上利益』,指任何有價的物品,不限於薪水或其他服務提供對價(如諮詢費或報酬)、股本利益(如股票、股票選擇權,或其他財產利益),和智慧財產權(如專利、著作權,和其他權利的授權利潤)[15]」。 參、學研機構自主管理機制 美國對於產學利益衝突的管制,主要是透過政府、學術組織、大學等方面加以控管。就大學而言,以麻省理工學院為例,教職員雖可擔任企業顧問,但不可擔任企業的正式職員,對於個人的企業持股,必須受到各系所委員會的監督審查,在校內的研究方向亦須和其所持股公司之職責有所區別[16]。另外,哈佛大學在1993年即制訂利益衝突的行為規範,其中包括授權對象係由技轉辦公室整體評估,當教研人員與授權相關的研究成果發表時,必須公開財務利益關係及其內容[17]。而史丹佛大學關於技術授權,則有完整的標準作業流程(Research Policy Handbook)及利益衝突政策[18],可供校內教研人員依循參考。 許多美國學研機構都列有利益衝突的規範,甚至是管理利益衝突的專屬委員會,當研究人員就其研究結果牽涉個人或家人的商業利益時,原則上就不得參與該研究計畫。這也正是「美國全國醫學院聯盟[19]」(American Association of Medical Colleges,簡稱「AAMC」) 及「美國全國大學協會[20]」(Association of American Universities,簡稱「AAU」) 所建議的利益衝突規範標準;「美國大學技術經理人協會[21]」(The Association of University Technology Managers,簡稱「AUTM」)的技術移轉實務指南,對利益衝突部份也著墨甚多[22]。當學研機構明確管理標準,就能避免掉許多爭議,而能在產學合作與維持科學信任間取得平衡。 肆、結論與建議 一、美國利益衝突規範越趨嚴格 美國自1995年起便將利益衝突規範入法,早期政策比較寬鬆但隨著法令修改後逐漸趨於嚴格。2011年8月美國國家衛生主管機關[23](HHS),亦修正公布有關「公共衛生經費贊助之研究案,申請人有義務促進科學研究之客觀性」(42 C.F.R. Part 94)及「應負責的潛在契約主體」(45 C.F.R. Part 94)此二部分相關規定[24],要求接受國家衛生主管機關贊助款項或與國家衛生主管機關合作機構,必須符合上開二部分監管規定[25]。首先,除申報門檻降低外,凡與研究者在所屬機關內之工作義務或責任有關的所有利益,均須申報,不再限於1995年規定的財務上利益方須申報。其次,新規定也從原僅須向研究計劃主持人所屬機關申報的「內部揭露」,改成須向大眾公開的「外部揭露[26]」,並強制要求所有執行聯邦政府資金補助計劃之研究者,定期接受包括利益衝突相關規範在內的研究倫理訓練[27]。另外自2013年起,美國的醫材與藥品製造者,每年須定期透過電子申報方式,提供所資助學研機構與金額資料,低至10美元以上都得通報;美國聯邦衛生福利部與國民健康有關的政府資助計畫(PHS funding),針對財務利益衝突也詳加規範認定、申報及處理之措施[28]。 二、我國利益衝突政府規範不足 我國針對「科研機構及其人員利益衝突」問題,於民國100年通過修正的《科學技術基本法》第6條第3項規定,凡由政府出資的科技研究其所獲得之智慧財產及成果,關於其歸屬及運用,針對「迴避及其相關資訊之揭露事項」,授權行政院統籌及各主管機關訂定相關子法,即修訂《政府科學技術研究發展成果歸屬及運用辦法》第5條;《科學技術基本法》第17條針對「技術作價投資比例及兼任職務與數額」事項,授權行政院會同考試院訂定相關辦法,即增訂《從事研究人員兼職與技術作價投資事業管理辦法》第4至8條。目前各主管機關已陸續完成相關子法修正,要求學研機構制定內部管理機制及利益衝突規範。 雖然在《科學技術基本法》修訂後,對於產學合作利益衝突問題已有初步規範,但由我國產學合作利益衝突子法可得知,目前政府主管機關並未有ㄧ套完整、具體之產學合作利益衝突監管政策,且各主管機關標準寬鬆不ㄧ,欠缺實質完整監管機制,無法切實維持政府所資助研究計畫之客觀性。其中針對政府補助計畫所涉利益衝突的申報揭露範圍事項和具體數額,及申報揭露後之審核與糾正等,相關子法條款並未如同美國主管機關建立具體管制措施,及「向社會大眾公開揭露」之管制模式,以有效達到預防、監督、控管效果。 三、配套法令機制具體修正建議 為有效達到預防、監督、控管效果,本文建議政府參考美國衛生主管機構HHS所制定之利益衝突監管規定,制定資助機構利益衝突基本原則並提供指引協助、將研究人員含配偶及未成年子女於特定定期間內獲得超過一定金額以上報酬或股權利益、智慧財產權等重大財務利益收益列為揭露事項、要求研究人員應定期接受教育訓練、由學研機構於申請補助時及發現利益衝突時向資助機關提出報告、要求學研機構明訂解決利益衝突方式例如請該研究人員退出計畫、修改計畫、減少或消除持股等,並對未被即時查覺或管理的利益衝突事件於限期內回顧審查並向資助機關報告。透過上述內部/外部監控,蒐集學研機構之利益衝突政策及相關資訊(透明化機制),助益資助機關進行調查評估違反利益衝突情形並酌量是否必須暫停補助款之發放,如此將可進一步建立更完整、具體之產學合作利益衝突監管法令制度。 [1] Bayh-Dole Act,Landmark Law Helped Universities Lead the Way http://www.autm.net/advocacy-topics/government-issues/advocacy-public-policy/legislative-issues/bayh-dole-act/ (最後瀏覽日:2015/11/26)。 [2] 南佐民,<《拜杜法案》與美國高校的科技商業化>,《比較教育研究》,第25卷第8期,頁75-78(2004)。 [3] 王偉霖,<產學合作引發利益衝突及知識近用限制之研究>,第二屆科技發展與法律規範學術研討會,頁1-2(2008)。 [4] 新台灣國策智庫網站,<由陳垣崇事件省思台灣的國家創新系統>,http://www.braintrust.tw/article_detail/251(最後瀏覽日:2015/11/26)。 [5] 2011年6月22日檢調懷疑中研院生醫所所長陳垣崇,將兩種人體專利試劑轉移給與其親屬相關的世基公司,再轉賣回中研院,因此約談陳垣崇夫婦及其助理,以及搜索陳垣崇辦公室。陳垣崇最後以六十萬元交保。這是台灣最高學術桂冠的中研院,第一次遭檢調搜索,若遭起訴,也將是第一位院士遭到起訴。陳垣崇案,引發最大的爭議就是技轉後,科學家能否與這家公司繼續合作以及合作模式為何,此為檢調偵辦的重點。 [6] 王偉霖,<產學合作引發利益衝突及知識近用限制之研究>,第二屆科技發展與法律規範學術研討會,頁2-3(2008)。 [7] 王偉霖,<美國產學合作制度利弊之檢討-台灣科學技術基本法之借鏡>,《世新法學》,第3期,頁1-41(2006)。 [8]陳志剛,<論生物醫學產學合作中利益衝突之規範>,中原大學財經法律系碩士論文,頁23-24(2013) [9] 刑法利益衝突及除外規定:嚴格禁止國家機關行政人員(含官員與受雇主)之決定涉及其知識上、本身、配偶、未成年子女、合夥人、或其服務組織之財務利益;事先向指派其任務的長官諮詢過,完全揭露此利益;服務之需要性遠超過其潛在利益衝突;原則公開揭露,不公開為例外。https://www.law.cornell.edu/uscode/text/18/208(最後瀏覽日:2015/11/26) [10]5 C.F.R. Part 2640: Interpretation, Exemptions, Waiver Guidance Concerning 18 U.S.C. 208 (Acts Affecting a Personal Financial Interest)。http://www.oge.gov/Laws-and-Regulations/OGE-Regulations/5-C-F-R--Part-2640--Interpretation,-Exemptions,-Waiver-Guidance-Concerning-18-U-S-C--208-(Acts-Affecting-a-Personal-Financial-Interest)/(最後瀏覽日:2015/11/26)。 [11] NSF 510 CONFLICT OF INTEREST POLICIES(July 2005),http://www.nsf.gov/pubs/manuals/gpm05_131/gpm5.jsp#510(最後瀏覽日:2015/11/26)。 [12] 對於美國生技產業而言舉足輕重的管制機關食品藥物管理局(FDA),自1999年起也要求申請產品上市的藥廠和醫材公司於提出申請時,必須揭露其當做申請基礎的臨床試驗研究者,和該公司之間的財物給付和財務利益關係,以便FDA進行審查時評估上述關係是否影響研究設計及數據可信度。 [13] FDA CONFLICT OF INTEREST POLICIES,http://www.fda.gov/iceci/compliancemanuals/regulatoryproceduresmanual/ucm176718.htm#SUB3-5-1(最後瀏覽日:2015/11/26)。 [14] 劉江彬,<借鏡美國利益衝突管理>,高教技職簡訊:高教論壇,2012年10月12日,http://tekezgo.com/index.php?do=news&act=detail&id=103(最後瀏覽日:2015/11/20)。 [15] 曾瑞鈴,<院資本主義下的美國生技醫藥產業:兼論台灣現況>,《社會科學論叢》,第3卷第2期,頁119-154(2009)。 [16] 麻省理工學院:MIT Policies and Procedures-4.4 Conflict of Interest,http://web.mit.edu/policies/4/4.4.html(最後瀏覽日:2015/11/26)。 [17] 哈佛大學:Policy on Conflicts of Interest and Commitment,http://hms.harvard.edu/about-hms/integrity-academic-medicine/hms-policy/faculty-policies-integrity-science/interim-policy-statement-conflicts-interest-and-commitment(最後瀏覽日:2015/11/26)。 [18] 史丹福大學:Research Policy Handbook https://doresearch.stanford.edu/policies/research-policy-handbook,Faculty Policy on Conflict of Commitment and Interest (RPH 4.1),https://doresearch.stanford.edu/policies/research-policy-handbook/conflicts-commitment-and-interest/faculty-policy-conflict-commitment-and-interest(最後瀏覽日:2015/11/26)。 [19] American Association of Medical Colleges (AAMC), Task Force on Financial Conflicts of Interest in Clinical Research, 78 ACADEMIC MEDICINE 225 (2003), https://www.aamc.org/download/75302/data/firstreport.pdf (last visited Nov. 26, 2015) [20] Association of American Universities (AAU), Framework Document on Managing Financial Conflicts of Interest, Elements of a Conflict-of-Interest Policy 1-13 (1993), http://www.aau.edu/WorkArea/DownloadAsset.aspx?id=2690 (last visited Nov. 26, 2015) [21] The Association of University Technology Managers (AUTM), Conflicts of Interest Policies, http://www.autm.net/resources-surveys/technology-transfer-practice-manual/ttp-manual-2nd-edition/volume-1-pr-test/1/pertinent-policies/strong-conflict-of-interest-policies-strong/ (last visited Nov. 26, 2015) [22] 李素華,<美國技術移轉相關立法與機制之簡介>,《技術尖兵》,第55期,頁17(1999)。 [23]5 CFR Part 5501 - Supplemental Standards Of Ethical Conduct For Employees Of The Department Of Health And Human Services美國衛生主管機構補充標準。1995放寬取消院外活動的時間數、報酬與持股等限制,一年最高總酬勞可超過5萬美元,但是必須填寫利益衝突揭露表,目的留住高水準科學家。2005年趨嚴禁止所有的科學家從事院外的諮詢、演講等活動,賣掉所持有的生技藥物公司股份,非生技的股票必須低於1.5萬美元。https://www.law.cornell.edu/cfr/text/5/part-5501(最後瀏覽日:2015/11/26) [24] 2011 Public Health Service (PHS) Regulations: Responsibility of Applicants for Promoting Objectivity in Research for which PHS Funding is Sought (42 C.F.R. Part 50, Subpart F); Responsible Prospective Contractors (45 C.F.R. Part 94),http://grants.nih.gov/grants/policy/coi/(最後瀏覽日:2015/11/26) [25] 李毓華,<從美國生醫研究利益衝突新規範檢視我國相關法制>,《醫事法學》第19卷第2期,頁22-24(2012)。 [26] 財務揭露報告義務:填寫實質受影響組織財務利益表格-HHS Form 716 (共14頁;公開),https://ethics.od.nih.gov/forms/hhs-716f.pdf;HHS From 717-1 (共14頁;不公開),https://ethics.od.nih.gov/procedures/HHS-717-1-Employee-Instructions.pdf(最後瀏覽日:2015/11/26);美國國會2010年通過的健康保險改革立法裡,規定生醫廠商必須定期向政府申報其給付醫師及教學醫院的顧問費、研究經費、差旅費、餐費等酬勞和補助,以及其在各該公司的投資及股份,並必須對外公開揭露,一般大眾均可查詢。 [27] 劉靜怡,<透明治理與公共課責>,蘋果日報即時新聞,2014年07月11日,http://www.appledaily.com.tw/realtimenews/article/new/20140711/431221/(最後瀏覽日:2015/11/26)。 [28] 陳志剛,<論生物醫學產學合作中利益衝突之規範>,中原大學財經法律系碩士論文,頁78-84(2013)
伊利諾伊州通過人權法修正案,致力解決人工智慧可能造成之就業歧視風險.Pindent{text-indent: 2em;} .Noindent{margin-left: 22px;} .NoPindent{text-indent: 2em; margin-left: 38px;} .No2indent{margin-left: 54px;} .No2Pindent{text-indent: 2em; margin-left: 54px} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 伊利諾伊州通過人權法修正案,致力解決人工智慧可能造成之就業歧視風險 資訊工業策進會科技法律研究所 2024年12月09日 伊利諾伊州人權法修正案(Amendment to the Illinois Human Rights Act)於2024年8月由伊利諾伊州州長簽署並通過,成為繼科羅拉多州人工智慧消費者保護法(Consumer Protections for Artificial Intelligence Act)之後美國第二部監管私部門使用人工智慧的法律。 本法規範重點在於解決人工智慧導入就業市場而衍生之就業歧視議題,伊利諾伊州透過修訂伊利諾伊州人權法,增加人工智慧(Artificial Intelligence)與生成式人工智慧(Generative Artificial Intelligence)之法律定義[1],以及增加伊利諾伊州的雇主使用人工智慧的相關義務,使員工在就業法律方面獲得更完善之保障。 壹、事件摘要 近年來人工智慧大量被使用在就業市場,例如:雇主使用人工智慧自動篩選履歷、績效管理等等。[2]人工智慧所伴隨的就業歧視議題,遂成為美國聯邦政府與各州政府近年來之人工智慧法制重點。 2023年2月,伊利諾伊州眾議員Jaime M. Andrade, Jr.將伊利諾伊州人權法修正案提交給議會書記官(Clerk)[3],伊利諾伊州人權法修正案在一系列的審議之後,終於在2024年5月通過參眾議院同意,並於2024年8月9日由伊利諾伊州州長簽署,使伊利諾伊州人權法案成為美國第二部監管私部門使用人工智慧的法律[4],修正部分將於2026年1月1日生效。[5] 貳、重點說明 伊利諾伊州人權法(Illinois Human Rights Act,775 ILCS 5)由伊利諾伊州人權部(The Illinois Department of Human Rights,IDHR)負責執行。其宗旨為確保伊利諾伊州內之所有人免受歧視,並就主要領域訂定規範,包含「公平住宅」、「金融」、「公共場所」、「教育領域之性騷擾」以及「就業」[6],其中有關就業歧視之議題為第5節所規範。 伊利諾伊州人權法修正案之目的為解決雇主使用人工智慧工具導致的就業歧視問題,因此主要修訂伊利諾伊州人權法案第5節有關「就業」之規定[7]。而有關本修正法案之執行細節,如通知方式、期限,由伊利諾伊州人權法授權伊利諾伊州人權部訂定並執行。[8] 一、法案修正內容 (一)增訂人工智慧與生成式人工智慧之定義 伊利諾伊州人權法修正案所修訂之範圍涵蓋人工智慧與生成式人工智慧之定義與使用,將新增於伊利諾伊州人權法第5節第2-101小節M款與N款: 1. 人工智慧(Artificial Intelligence)定義 伊利諾伊州人權法修正案將人工智慧定義為一種機器系統,該系統根據其接收之輸入資訊,為目標(不論明確或模糊)推論輸出結果,例如預測、內容、推薦或決策,這些輸出結果能夠影響真實與虛擬環境。[9]須注意此處所指人工智慧包含生成式人工智慧。[10] 2. 生成式人工智慧(Generative Artificial Intelligence)定義 新增之第5節第2-101小節N款將生成式人工智慧定義為一種自動化計算系統,當接受人類的提示、描述或問題,能生成模擬人類所創作之內容加以輸出,其生成內容包含且不限於文字、圖像、多媒體等。[11] (二)雇主不得因使用人工智慧導致員工權利受侵害 所謂「雇主」(Employer),根據伊利諾伊州人權法第5節第2-101小節B項之規定,係指在伊利諾伊州內雇用員工(Employee)者,其員工數目只要達一名即符合雇主之定義。[12]而依據伊利諾伊州人權法修正案之修訂內容,雇主所使用之人工智慧不得導致員工在招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件等方面受到歧視。[13] 例如根據1964年《民權法》(Civil Rights Act of 1964)第七章,雇主在僱用、解雇、晉升等方面,不得因種族、膚色、國籍、性別或宗教信仰表現出就業歧視行為。[14]而民權法第七章所認定之歧視範圍包含了歧視性編碼(discriminatory coding),例如郵遞區號(Zip Codes),因為有許多少數族群會居住在特定區域。[15] 有鑑於此,伊利諾伊州人權法修正案也規範雇主於使用人工智慧時,不得使用郵遞區號作為本條款的替代指標[16],避免因郵遞區號造成就業歧視。 (三)雇主負有主動通知員工使用人工智慧工具情形之義務 伊利諾伊州人權法修正案新增雇主之通知義務,凡有使用人工智慧從事招聘、僱用、晉升、續聘、培訓、解僱、紀律處分、任期或雇用條件者,不得於未通知員工的情況下使用人工智慧為上述目的。[17]意即雇主應該主動應告知其員工有使用人工智慧進行前述行為之情事,至於通知的方式與時限則有待伊利諾伊州人權部訂定。 二、違法效力與救濟方式 (一)雇主可能需要負擔損害賠償費用與民事罰款 違反伊利諾伊州人權法修正案有關就業歧視禁止規範者,等同違反伊利諾伊州人權法。根據伊利諾伊州人權法第8-108條與第8-109條,違反者需要負擔相應的損害賠償,包含財產與非財產上的損害賠償費用[18],以及復職等補救措施。[19]除此之外,違反之雇主也可能面臨民事處罰。[20] (二)權利受侵害者得向伊利諾伊州人權部提起申訴或向法院提起訴訟 伊利諾伊州人權法案賦予民眾得以尋求救濟之權利,其方式大致有二,一為向伊利諾伊州人權部提出申訴,二則是直接向法院提起訴訟。 向伊利諾伊州人權部申訴者,將由人權部進行調查與調解[21]。調查後,伊利諾伊州人權部將提供申訴人調查報告[22],該調查報告將就申訴人遭受違法權利侵害之實質證據提出建議。[23]在伊利諾伊州人權部完成調查後,申訴人仍可至法院提起訴訟。[24] 參、事件評析 一、人工智慧就業歧視為美國當前優先處理之法制議題,雇主應加強法遵意識 演算法偏見所導致的歧視問題,正是美國各州政府所欲立法解決之議題。雖然尚未出現聯邦層級之法律,但各州卻於今年陸續通過相關法案。例如科羅拉多州州長於今年5月17日所簽署之《科羅拉多州人工智慧消費者保護法》(Consumer Protections for Artificial Intelligence Act,Colorado AI Act)[25]、猶他州以及本文介紹之伊利諾伊州人權法修正案,皆已針對人工智慧就業歧視訂定相應規範。 在人工智慧的監管趨勢中,雇主應善加注意人工智慧之應用是否符合當地法規範,以避免遭受處罰。 二、立法方式採修訂既有法律,執行細節另行訂定 伊利諾伊州人權法修正案將有關使用人工智慧之規定增訂於《伊利諾伊州人權法》,其執行細節則授權伊利諾伊州人權部訂定,尤其伊利諾伊州人權法修正案之部分條文僅說明雇主使用的人工智慧不得導致員工在招聘、聘用、晉升、解僱、紀律或僱用條款、特權或條件等方面受到基於受保護類別的歧視,並未詳細規定雇主應以何方式避免之,因此仍有持續關注之必要。 三、本法賦予當事人申訴管道,較完整保障就業權利 伊利諾伊州人權法可以作為民眾權利之請求基礎,向伊利諾伊州人權部提出申訴或至法院訴訟。因此當伊利諾伊州雇主違反伊利諾伊州人權法時,其員工得依法主張權利,可以請求復職或損害賠償,而非只是由主管機關對雇主裁罰。故對於當事人之就業權利,有相對完整之保障。 [1]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). [2]Illinois Enacts New Law Regulating Employer Use of Artificial Intelligence, Lexology, https://www.lexology.com/library/detail.aspx?g=dfebd021-1398-41eb-92ee-9631183fa8ce (last visited Sep. 9, 2024). [3]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024). [4]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024). [5]IL HB3773 | 2023-2024 | 103rd General Assembly, Legiscan, https://legiscan.com/IL/bill/HB3773/2023 (last visited Sep.9, 2024). [6]Illinois Human Rights Act, 775 ILCS §§1-5(2024). [7]Illinois Human Rights Act, 775 ILCS §5 (2024). [8]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). The Department shall adopt any rules necessary for the implementation and enforcement of this subdivision, including, but not limited to, rules on the circumstances and conditions that require notice, the time period for providing notice, and the means for providing notice. [9]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments. [10]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Artificial intelligence" includes generative artificial intelligence. [11]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Generative artificial intelligence" means an automated computing system that, when prompted with human prompts, descriptions, or queries, can produce outputs that simulate human-produced content, including, but not limited to, the following: (1) textual outputs, such as short answers, essays, poetry , or longer compositions or answers; (2) image outputs, such as fine art, photographs, conceptual art, diagrams, and other images; (3) multimedia outputs, such as audio or video in the form of compositions, songs, or short-form or long-form audio or video; and (4) other content that would be otherwise produced by human means. [12]Illinois Human Rights Act, 775 ILCS §5/2-101 (2024). "Employer" includes: (a) any person employing one or more employees within Illinois during 20 or more calendar weeks within the calendar year of or preceding the alleged violation. [13]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). [14]Civil Rights Act of 1964, title VII, 29 CFR Part 1601. [15]Civil Rights Act of 1964, title VII, 29 CFR Part 1601. [16]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). [17]Illinois Human Rights Act, 775 ILCS §5/2-102 (2024). [18]Illinois Human Rights Act, 775 ILCS §5/8-108 (2024). [19]Illinois Human Rights Act, 775 ILCS §5/8-109 (2024). [20]Illinois Human Rights Act, 775 ILCS §5/8A-104 (2024). [21]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024). [22]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024). [23]Illinois Department of Human Right, Charge Process, https://dhr.illinois.gov/filing-a-charge/legal-review.html (last visited Oct. 22, 2024). [24]Illinois Department of Human Right, Procedures for Non-Housing Charges, https://dhr.illinois.gov/filing-a-charge/path-of-a-charge/procedures-for-non-housing-charges.html (last visited Oct. 22, 2024). [25]Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited Oct. 22, 2024).
英國政府制定監管計畫以應對科技巨頭帶來的問題英國政府於2022年5月6日宣布將針對大型企業(major firms)壟斷市場的情況制定新的監管計畫。該監管計畫將重新平衡大型與中小企業和消費者的關係,以利中小企業和消費者受到更好的保護,並使市場競爭環境更為公平。 該監管計畫針對的大型企業,即是國際市場上的科技巨頭(tech giants),如Google and Facebook。此類科技巨頭擁有並控制大量用戶的網路資料,並將該資料應用在特定應用程式與瀏覽器的搜尋演算法上,以確保其市場壟斷地位,使潛在的競爭者難以進入市場,進而影響市場的公平競爭以及消費者的自由選擇權。為解決前揭問題,英國預計透過修法賦予競爭和市場管理局下的「數位市場部門」(Digital Markets Unit, DMU)法定權力與監管權限,並搭配措施與作法如下: 強化市場公平性:英國政府預計提出價格糾紛解決機制,平衡內容提供商(如媒體業與廣告業)與科技巨頭間的議價能力,以確保更為公平、透明的市場。此外,科技巨頭亦應將其演算法之資訊分享給一般公司,避免科技巨頭濫用其市場力量。 增進消費者權益:科技巨頭必須確保消費者在使用資訊設備或服務時有充分的自主權與選擇權。例如,於手機的IOS和 Android 系統之間轉換或是社交軟體帳戶之間的資訊移轉時不會喪失其資料和訊息。DMU也將限制公司預先安裝瀏覽器、社交軟體等APP,讓消費者在APP上有更多選擇權。而隨著新業者進入市場,智慧型手機用戶將可以有更多搜尋引擎和社交平台選擇。此外消費者亦可選擇退出具有針對性的個人化廣告發送,以達成讓消費者擁有更多的資料自主權。 為能有效落實上述措施,DMU將有權指定特定企業為具有「戰略市場地位」(strategic market status)的公司。指定標準將依公司的營業額、對消費者的影響力、對市場活動的影響力、公司的活躍程度與規模等綜合評估,檢視其是否達到強大且根深蒂固的力量(substantial and entrenched market power)。DMU並將針對少數主導數位市場的企業應如何公平對待其用戶和其他公司提出行為準則。被指定的公司若違反相關規範,將面臨全球年營業額最高10%的罰款,如果連續違反,則可被處以全球每日營業額5%的額外罰款。 英國政府期待透過新的監管計畫及未來的修法介入市場競爭,促使市場環境更為公平且適於創新,同時讓消費者擁有更多選擇權。英國新監管計畫之實施情形,值得持續關注。