在一片低迷的全球經濟成長中,2015年11月11日世界智慧財產權組織(WIPO),公布了最新的「世界智慧財產報告:突破創新與經濟成長( World Intellectual Property Report: Breakthrough Innovation and Economic Growth)」,探討知識產權的角色與創新及經濟成長之關連,並鎖定在突破性創新之影響。該報告除討論具代表性歷史創新技術,另也探討當今具有潛在突破性發展之創新技術,同時敦促各國政府及企業,應增加此三領域創新技術相關之投資。
在過去300年來的創新技術發展,已經觸及人類活動的各個層面,並改變了世界的經濟結構。依據2015年WIPO報告,顯示出三領域歷史創新技術如何觸發當時新的企業活動:即飛機、抗生素和半導體。該報告考量到創新驅動成長及未來展望,另探究了三領域具有潛在突破性發展之當今技術:即3D列印、奈米和機器人技術。調查報告也顯示,日本和美國正帶領著一小群國家,推動此三領域創新技術進行突破研究,正因此三領域前瞻技術,掌握著推動未來經濟增長之潛力。
朝向工業化發展的新興中等收入國家中國大陸,自2005年以來在3D列印和機器人領域的專利申請量占全球四分之一以上,為全球國家中比率最高;在奈米技術方面,中國大陸專利申請人占全球近15%,是第3大申請國,但與其他資深創新國家不同的是,中國大陸的大學和公立研究機構申請案所占比例相當高。
WIPO報告強調,創新生態系統的成功要素有三:政府資助科學技術研究,並協助具前景技術從實驗室走到商品化階段;透過充滿活力的金融市場和健全的法規,以及鼓勵企業創新來加強市場競爭力;促進公、私部門創新單位的連結溝通流暢。
該報告亦說明大學和公立研究機構與創新如何日形密切,和傳統飛機、抗生素和半導體領域相較,學研機構在3D列印、奈米技術和機器人領域的專利申請所占比例較高,尤其是在奈米技術領域,全球的學術機構申請人約占四分之一。另外著作權在技術創新也變得更加常見且緊密相關,包括電腦軟體納入著作權保護標的,及3D物品設計和電腦IC晶片設計等的任何形式數位表達之保護。
WIPO「世界智慧財產報告」每兩年發行一次,每期的重點放在不同的IP領域新趨勢,先前的報告已探討「品牌在全球市場的角色(the role that brands play in a global marketplace)」及「不斷變化的創新(the changing face of innovatio)」。
由於美國之主要電信業者與有線電視業者紛紛推出語音、數據與影音三合一服務(triple play),彼此之間的競爭也日益激烈。為搶奪市場,電信業者與有線電視業者分別向美國聯邦通訊傳播委員會(FCC)提出申訴,指競爭對手以不公平方式阻擋客戶轉換服務提供業者。如2008年2月間,Comcast、Time Warner 等有線電視業者向FCC申訴,Verizon 及其他既有電信業者在消費者申請電信號碼可攜服務過程中,以違反通訊法(the Communications Act of 1934)規定方式,利用消費者之個人資料進行「客戶忠誠度行銷」(Customer retention marketing)。電信業者在3月間亦向FCC申訴,有線電視業者拒絕接受競爭對手代替消費者申請取消原訂服務,而要求消費者親自申請,造成消費者轉換服務提供業者之困擾,不利電信業者爭取客戶轉向訂閱其他業者之影音服務。 針對有線電視業者所提出之申訴,FCC執行局(the Enforcement Bureau)認為,就法條解釋觀之,電信業者此一利用消費者資料的方式並未違反通訊法之規定,故建議FCC駁回有線電視業者之申訴。然而,有鑑於電信業者與有線電視業者之間競爭逐漸白熱化,執行局建議FCC就「客戶忠誠度行銷」行為涉及之客戶資料使用與市場競爭利益發佈「初步立法公告」(Notice of Proposed Rulemaking, NPRM),徵詢各方意見,希望建立能一體適用於各個不同平台之規範,以因應跨業競爭問題。
美國產學合作利益衝突管理機制美國產學合作利益衝突管理機制 資策會科技法律研究所 法律研究員 朱啟文 104年11月27日 自從1980年美國拜度法案(Bayh-Dole Act[1])通過後,智慧財產權下放至大學與研究機構,大學有權自主把智慧財產授權予廠商甚至成立新創公司[2],從而衍生出拜度法案潛藏副作用之ㄧ:「鼓勵學術機構與私人企業將研發成果商品化,將使學術機構產生利益衝突[3]」。因此「利益衝突」問題逐漸引起各界關注,特別是大學如何兼顧好教學、研究及公共服務[4];以及研究人員、大學教授在技術移轉或研發成果商品化過程中,應該扮演的角色及獲取何種利益,常因為法律或大學政策規定的不周全、認知的不一致,而造成教研人員的困惑[5]。 產學合作的利益衝突,容易發生於顧問服務、技術移轉、贊助研究、臨床試驗、科研採購、師生指導關係、機構關係與特定贈禮等活動中,因此利益衝突管理為產學合作中不可忽視的重要措施。以往「揭露利益衝突」被視為是管理利益衝突之主要方法[6],但此種管理利益衝突措施應該加以改進,且須建立處理學研機構內利益衝突之新思維,為了健全國內產學合作發展,政府有必要率先提出更新、更有效率之利益衝突管理方式,才能達到預防、監督、控管效果。本文擬藉由美國產學合作利益衝突法制規範,及美國大學因應解決產學合作利益衝突方式,提出對於本國法制調整之建議。 壹、美國利益衝突管制類型 美國利益衝突管制規範分成兩大類型[7],一是針對政府所屬的研究機構,像美國國家衛生院NIH;另一是一般研究機構或大學(包含公、私立),當它們申請聯邦政府經費的時候所受規範。如果是對於政府所屬的研究機構,它的利益衝突規範是比後者更為嚴格,因為研究人員直接領取國家薪水和使用國家經費,負有更多「公」的任務。舉例而言:一名美國國家衛生院研究員,亦是研究阿茲海默症的知名科學家,因其研究與藥廠間的利益衝突,於2006年12月被聯邦法院判決有罪,隨後被迫從NIH 離職。三名哈佛大學醫學院教授,2009年3月由檢察官、聯邦衛生福利部進行調查,他們擔任某藥廠顧問,但同時發表研究論文,支持醫界增加使用該藥廠生產之特定藥物,被質疑有利益衝突問題[8]。 貳、美國利益衝突管制規範 美國聯邦法律規定(18 US Code §208-Acts affecting a personal financial interest[9]),凡是向聯邦政府申請研究經費的各個學術機構,無論公立或是私立,其研究人員都必須向所屬機構「申報揭露」自己及家人與產業界的的財務上利益,並接受機構的審查監督,以避免科學研究的誠實正確性被個人利益影響,確保病人或受試者的安全與權益,並且維護社會大眾對於科學研究的信賴[10]。 1995年10月公布的美國國家科學基金會(以下簡稱「NSF」)《研究員財務揭露政策[11]》,與食品藥物管理局(以下簡稱「FDA[12]」)《研究規範中的客觀性[13]》規範中,提出了相當近似的概念,均要求學研機構須訂有「書面記載利益衝突的政策,並對利益衝突的政策應落實執行」;利益衝突政策內容至少要包含(1)限定且具指標性的財務報告,(2)任命特定人檢閱此等報告,(3)管理機制實施,且當發現無法解決的問題時,應向出資機構報告等[14]。 其中NSF的《研究員財務揭露政策》規定:「當能合理地認為有顯著的利益,能直接或顯著的影響此項研究或教育活動的報告、行為、設計時,即認可在此存在利益衝突。『顯著的財產上利益』,指任何有價的物品,不限於薪水或其他服務提供對價(如諮詢費或報酬)、股本利益(如股票、股票選擇權,或其他財產利益),和智慧財產權(如專利、著作權,和其他權利的授權利潤)[15]」。 參、學研機構自主管理機制 美國對於產學利益衝突的管制,主要是透過政府、學術組織、大學等方面加以控管。就大學而言,以麻省理工學院為例,教職員雖可擔任企業顧問,但不可擔任企業的正式職員,對於個人的企業持股,必須受到各系所委員會的監督審查,在校內的研究方向亦須和其所持股公司之職責有所區別[16]。另外,哈佛大學在1993年即制訂利益衝突的行為規範,其中包括授權對象係由技轉辦公室整體評估,當教研人員與授權相關的研究成果發表時,必須公開財務利益關係及其內容[17]。而史丹佛大學關於技術授權,則有完整的標準作業流程(Research Policy Handbook)及利益衝突政策[18],可供校內教研人員依循參考。 許多美國學研機構都列有利益衝突的規範,甚至是管理利益衝突的專屬委員會,當研究人員就其研究結果牽涉個人或家人的商業利益時,原則上就不得參與該研究計畫。這也正是「美國全國醫學院聯盟[19]」(American Association of Medical Colleges,簡稱「AAMC」) 及「美國全國大學協會[20]」(Association of American Universities,簡稱「AAU」) 所建議的利益衝突規範標準;「美國大學技術經理人協會[21]」(The Association of University Technology Managers,簡稱「AUTM」)的技術移轉實務指南,對利益衝突部份也著墨甚多[22]。當學研機構明確管理標準,就能避免掉許多爭議,而能在產學合作與維持科學信任間取得平衡。 肆、結論與建議 一、美國利益衝突規範越趨嚴格 美國自1995年起便將利益衝突規範入法,早期政策比較寬鬆但隨著法令修改後逐漸趨於嚴格。2011年8月美國國家衛生主管機關[23](HHS),亦修正公布有關「公共衛生經費贊助之研究案,申請人有義務促進科學研究之客觀性」(42 C.F.R. Part 94)及「應負責的潛在契約主體」(45 C.F.R. Part 94)此二部分相關規定[24],要求接受國家衛生主管機關贊助款項或與國家衛生主管機關合作機構,必須符合上開二部分監管規定[25]。首先,除申報門檻降低外,凡與研究者在所屬機關內之工作義務或責任有關的所有利益,均須申報,不再限於1995年規定的財務上利益方須申報。其次,新規定也從原僅須向研究計劃主持人所屬機關申報的「內部揭露」,改成須向大眾公開的「外部揭露[26]」,並強制要求所有執行聯邦政府資金補助計劃之研究者,定期接受包括利益衝突相關規範在內的研究倫理訓練[27]。另外自2013年起,美國的醫材與藥品製造者,每年須定期透過電子申報方式,提供所資助學研機構與金額資料,低至10美元以上都得通報;美國聯邦衛生福利部與國民健康有關的政府資助計畫(PHS funding),針對財務利益衝突也詳加規範認定、申報及處理之措施[28]。 二、我國利益衝突政府規範不足 我國針對「科研機構及其人員利益衝突」問題,於民國100年通過修正的《科學技術基本法》第6條第3項規定,凡由政府出資的科技研究其所獲得之智慧財產及成果,關於其歸屬及運用,針對「迴避及其相關資訊之揭露事項」,授權行政院統籌及各主管機關訂定相關子法,即修訂《政府科學技術研究發展成果歸屬及運用辦法》第5條;《科學技術基本法》第17條針對「技術作價投資比例及兼任職務與數額」事項,授權行政院會同考試院訂定相關辦法,即增訂《從事研究人員兼職與技術作價投資事業管理辦法》第4至8條。目前各主管機關已陸續完成相關子法修正,要求學研機構制定內部管理機制及利益衝突規範。 雖然在《科學技術基本法》修訂後,對於產學合作利益衝突問題已有初步規範,但由我國產學合作利益衝突子法可得知,目前政府主管機關並未有ㄧ套完整、具體之產學合作利益衝突監管政策,且各主管機關標準寬鬆不ㄧ,欠缺實質完整監管機制,無法切實維持政府所資助研究計畫之客觀性。其中針對政府補助計畫所涉利益衝突的申報揭露範圍事項和具體數額,及申報揭露後之審核與糾正等,相關子法條款並未如同美國主管機關建立具體管制措施,及「向社會大眾公開揭露」之管制模式,以有效達到預防、監督、控管效果。 三、配套法令機制具體修正建議 為有效達到預防、監督、控管效果,本文建議政府參考美國衛生主管機構HHS所制定之利益衝突監管規定,制定資助機構利益衝突基本原則並提供指引協助、將研究人員含配偶及未成年子女於特定定期間內獲得超過一定金額以上報酬或股權利益、智慧財產權等重大財務利益收益列為揭露事項、要求研究人員應定期接受教育訓練、由學研機構於申請補助時及發現利益衝突時向資助機關提出報告、要求學研機構明訂解決利益衝突方式例如請該研究人員退出計畫、修改計畫、減少或消除持股等,並對未被即時查覺或管理的利益衝突事件於限期內回顧審查並向資助機關報告。透過上述內部/外部監控,蒐集學研機構之利益衝突政策及相關資訊(透明化機制),助益資助機關進行調查評估違反利益衝突情形並酌量是否必須暫停補助款之發放,如此將可進一步建立更完整、具體之產學合作利益衝突監管法令制度。 [1] Bayh-Dole Act,Landmark Law Helped Universities Lead the Way http://www.autm.net/advocacy-topics/government-issues/advocacy-public-policy/legislative-issues/bayh-dole-act/ (最後瀏覽日:2015/11/26)。 [2] 南佐民,<《拜杜法案》與美國高校的科技商業化>,《比較教育研究》,第25卷第8期,頁75-78(2004)。 [3] 王偉霖,<產學合作引發利益衝突及知識近用限制之研究>,第二屆科技發展與法律規範學術研討會,頁1-2(2008)。 [4] 新台灣國策智庫網站,<由陳垣崇事件省思台灣的國家創新系統>,http://www.braintrust.tw/article_detail/251(最後瀏覽日:2015/11/26)。 [5] 2011年6月22日檢調懷疑中研院生醫所所長陳垣崇,將兩種人體專利試劑轉移給與其親屬相關的世基公司,再轉賣回中研院,因此約談陳垣崇夫婦及其助理,以及搜索陳垣崇辦公室。陳垣崇最後以六十萬元交保。這是台灣最高學術桂冠的中研院,第一次遭檢調搜索,若遭起訴,也將是第一位院士遭到起訴。陳垣崇案,引發最大的爭議就是技轉後,科學家能否與這家公司繼續合作以及合作模式為何,此為檢調偵辦的重點。 [6] 王偉霖,<產學合作引發利益衝突及知識近用限制之研究>,第二屆科技發展與法律規範學術研討會,頁2-3(2008)。 [7] 王偉霖,<美國產學合作制度利弊之檢討-台灣科學技術基本法之借鏡>,《世新法學》,第3期,頁1-41(2006)。 [8]陳志剛,<論生物醫學產學合作中利益衝突之規範>,中原大學財經法律系碩士論文,頁23-24(2013) [9] 刑法利益衝突及除外規定:嚴格禁止國家機關行政人員(含官員與受雇主)之決定涉及其知識上、本身、配偶、未成年子女、合夥人、或其服務組織之財務利益;事先向指派其任務的長官諮詢過,完全揭露此利益;服務之需要性遠超過其潛在利益衝突;原則公開揭露,不公開為例外。https://www.law.cornell.edu/uscode/text/18/208(最後瀏覽日:2015/11/26) [10]5 C.F.R. Part 2640: Interpretation, Exemptions, Waiver Guidance Concerning 18 U.S.C. 208 (Acts Affecting a Personal Financial Interest)。http://www.oge.gov/Laws-and-Regulations/OGE-Regulations/5-C-F-R--Part-2640--Interpretation,-Exemptions,-Waiver-Guidance-Concerning-18-U-S-C--208-(Acts-Affecting-a-Personal-Financial-Interest)/(最後瀏覽日:2015/11/26)。 [11] NSF 510 CONFLICT OF INTEREST POLICIES(July 2005),http://www.nsf.gov/pubs/manuals/gpm05_131/gpm5.jsp#510(最後瀏覽日:2015/11/26)。 [12] 對於美國生技產業而言舉足輕重的管制機關食品藥物管理局(FDA),自1999年起也要求申請產品上市的藥廠和醫材公司於提出申請時,必須揭露其當做申請基礎的臨床試驗研究者,和該公司之間的財物給付和財務利益關係,以便FDA進行審查時評估上述關係是否影響研究設計及數據可信度。 [13] FDA CONFLICT OF INTEREST POLICIES,http://www.fda.gov/iceci/compliancemanuals/regulatoryproceduresmanual/ucm176718.htm#SUB3-5-1(最後瀏覽日:2015/11/26)。 [14] 劉江彬,<借鏡美國利益衝突管理>,高教技職簡訊:高教論壇,2012年10月12日,http://tekezgo.com/index.php?do=news&act=detail&id=103(最後瀏覽日:2015/11/20)。 [15] 曾瑞鈴,<院資本主義下的美國生技醫藥產業:兼論台灣現況>,《社會科學論叢》,第3卷第2期,頁119-154(2009)。 [16] 麻省理工學院:MIT Policies and Procedures-4.4 Conflict of Interest,http://web.mit.edu/policies/4/4.4.html(最後瀏覽日:2015/11/26)。 [17] 哈佛大學:Policy on Conflicts of Interest and Commitment,http://hms.harvard.edu/about-hms/integrity-academic-medicine/hms-policy/faculty-policies-integrity-science/interim-policy-statement-conflicts-interest-and-commitment(最後瀏覽日:2015/11/26)。 [18] 史丹福大學:Research Policy Handbook https://doresearch.stanford.edu/policies/research-policy-handbook,Faculty Policy on Conflict of Commitment and Interest (RPH 4.1),https://doresearch.stanford.edu/policies/research-policy-handbook/conflicts-commitment-and-interest/faculty-policy-conflict-commitment-and-interest(最後瀏覽日:2015/11/26)。 [19] American Association of Medical Colleges (AAMC), Task Force on Financial Conflicts of Interest in Clinical Research, 78 ACADEMIC MEDICINE 225 (2003), https://www.aamc.org/download/75302/data/firstreport.pdf (last visited Nov. 26, 2015) [20] Association of American Universities (AAU), Framework Document on Managing Financial Conflicts of Interest, Elements of a Conflict-of-Interest Policy 1-13 (1993), http://www.aau.edu/WorkArea/DownloadAsset.aspx?id=2690 (last visited Nov. 26, 2015) [21] The Association of University Technology Managers (AUTM), Conflicts of Interest Policies, http://www.autm.net/resources-surveys/technology-transfer-practice-manual/ttp-manual-2nd-edition/volume-1-pr-test/1/pertinent-policies/strong-conflict-of-interest-policies-strong/ (last visited Nov. 26, 2015) [22] 李素華,<美國技術移轉相關立法與機制之簡介>,《技術尖兵》,第55期,頁17(1999)。 [23]5 CFR Part 5501 - Supplemental Standards Of Ethical Conduct For Employees Of The Department Of Health And Human Services美國衛生主管機構補充標準。1995放寬取消院外活動的時間數、報酬與持股等限制,一年最高總酬勞可超過5萬美元,但是必須填寫利益衝突揭露表,目的留住高水準科學家。2005年趨嚴禁止所有的科學家從事院外的諮詢、演講等活動,賣掉所持有的生技藥物公司股份,非生技的股票必須低於1.5萬美元。https://www.law.cornell.edu/cfr/text/5/part-5501(最後瀏覽日:2015/11/26) [24] 2011 Public Health Service (PHS) Regulations: Responsibility of Applicants for Promoting Objectivity in Research for which PHS Funding is Sought (42 C.F.R. Part 50, Subpart F); Responsible Prospective Contractors (45 C.F.R. Part 94),http://grants.nih.gov/grants/policy/coi/(最後瀏覽日:2015/11/26) [25] 李毓華,<從美國生醫研究利益衝突新規範檢視我國相關法制>,《醫事法學》第19卷第2期,頁22-24(2012)。 [26] 財務揭露報告義務:填寫實質受影響組織財務利益表格-HHS Form 716 (共14頁;公開),https://ethics.od.nih.gov/forms/hhs-716f.pdf;HHS From 717-1 (共14頁;不公開),https://ethics.od.nih.gov/procedures/HHS-717-1-Employee-Instructions.pdf(最後瀏覽日:2015/11/26);美國國會2010年通過的健康保險改革立法裡,規定生醫廠商必須定期向政府申報其給付醫師及教學醫院的顧問費、研究經費、差旅費、餐費等酬勞和補助,以及其在各該公司的投資及股份,並必須對外公開揭露,一般大眾均可查詢。 [27] 劉靜怡,<透明治理與公共課責>,蘋果日報即時新聞,2014年07月11日,http://www.appledaily.com.tw/realtimenews/article/new/20140711/431221/(最後瀏覽日:2015/11/26)。 [28] 陳志剛,<論生物醫學產學合作中利益衝突之規範>,中原大學財經法律系碩士論文,頁78-84(2013)
「反間諜程式法草案」於參議院尋求闖關通過美國眾議院已於本週(2007.05.23)口頭表決通過「反間諜程式法草案」,未來將有待於參議院表決通過後,公佈施行該法。 間諜程式通常是指涉收集電腦使用者資訊的惡意軟體,該惡意軟體通常係安裝免費軟體中不知名的某個套件,或者是隱含在所下載網路遊戲程式中、不請自來的廣告頁面或者電腦中毒所導致。其危險之處即在於,該惡意軟體將使電腦使用者的使用者帳號、密碼以及個人金融帳目細節等等個人資料傳遞出去,以詐欺該使用者。 由於該法案要求程式開發商於使用者下載此類程式前,需要提醒使用者以及獲得他們的同意,因此,軟體產業非常反對該項規範。 據了解,美國眾議院已於2004年及2005年以壓倒性的勝利表決通過「反間諜軟體法案」,惟當時該法案並無法獲得參議院的青睞,而慘遭否決。
歐盟執委會發布《受禁止人工智慧行為指引》歐盟執委會發布《受禁止人工智慧行為指引》 資訊工業策進會科技法律研究所 2025年02月24日 歐盟繼《人工智慧法》[1](Artificial Intelligence Act, 下稱AI Act)於2024年8月1日正式生效後,針對該法中訂於2025年2月2日始實施之第5條1,有關「不可接受風險」之內容中明文禁止的人工智慧行為類型,由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。 壹、事件摘要 歐盟AI Act於2024年8月1日正式生效,為歐盟人工智慧系統引入統一之人工智慧風險分級規範,主要分為四個等級[3]: 1. 不可接受風險(Unacceptable risk) 2. 高風險(High risk) 3. 有限風險,具有特定透明度義務(Limited risk) 4. 最低風險或無風險(Minimal to no risk) AI Act之風險分級系統推出後,各界對於法規中所說的不同風險等級的系統,究竟於實務上如何判斷?該等系統實際上具備何種特徵?許多內容仍屬概要而不確定,不利於政府、企業遵循,亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統,推出相關指引,目的在明確化規範內涵規範,協助主管機關與市場參與者予以遵循。 貳、重點說明 一、AI Act本文第5條1(a)、(b)-有害操縱、欺騙與剝削行為 (一)概念說明 本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削,使他人淪為實現特定目的工具之行為,以保護社會上最為脆弱且易受有害操控與剝削影響的群體。 (二)禁止施行本行為之前提要件 1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」(placing on the market)[4]、「啟用」(putting into service)[5]或「使用」(use)[6]。 2.應用目的:該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」,此種扭曲明顯削弱個人或團體做出正確決定的能力,導致其做出的決定偏離正常情形。 3.技術特性:關於(a)有害的操縱與欺騙部分,係指使用潛意識(超出個人意識範圍)、或刻意操控或欺騙的技術;關於(b)有害地利用弱勢群體部分,是指利用個人年齡、身心障礙或社會經濟狀況上弱點。 4.後果:該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。 5.因果關係:該人工智慧系統所採用的技術、個人或團體行為的扭曲,以及由此行為造成或可合理預見將造成的重大傷害之間,具備相當因果關係。 二、AI Act本文第5條1(c)-社會評分行為 (一)概念說明 本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果,以及引發與歐盟價值觀不相容的社會控制與監視行為。 (二)禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的:該人工智慧系統必須用於對一定期間內,自然人及群體的社會行為,或其已知、預測的個人特徵或人格特質進行評價或分類。 3.後果:透過該人工智慧系統所產生的社會評分,必須可能導致個人或群體,在與評分用資料生成或蒐集時無關的環境遭受不利待遇,或遭受與其行為嚴重性不合比例的不利待遇。 三、AI Act本文第5條1(d)-個人犯罪風險評估與預測行為 (一)概念說明 本禁止行為規定之目的,旨在考量自然人應依其實際行為接受評判,而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等,即逕予評估或預測個人犯罪風險。 (二)禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的:該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。 3.後果:前述風險評估結果僅依據於對自然人的剖析,或對其人格特質與個人特徵的評估。 4.除外規定:若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實,針對個人涉入犯罪活動之程度進行評估,則不適用本項禁止規定。 四、AI Act本文第5條1(e)-無差別地擷取(Untargeted Scraping)臉部影像之行為 (一)概念說明 本禁止行為規定之目的,旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像,用以建立或擴充人臉辨識資料庫,將嚴重干涉個人的隱私權與資料保護權,並剝奪其維持匿名的權利。 (二)禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的:該行為以建立或擴充人臉辨識資料庫為目的。 3.技術特性:填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。 4.因果關係:建立或擴充人臉辨識資料庫之影像來源,須為網路或監視器畫面。 五、AI Act本文第5條1(f)-情緒辨識行為 (一)概念說明 本禁止行為規定之目的,旨在考量情緒辨識可廣泛應用於分析消費者行為,以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力,以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異,缺乏明確性、較不可靠且難以普遍適用,因此應用情緒辨識可能導致歧視性結果,並侵害相關個人或群體的權利,尤以關係較不對等的職場與教育訓練環境應加以注意。 (二)禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的:該系統係用於推斷情緒。 3.因果關係:該行為發生於職場或教育訓練機構。 4.除外規定:為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中,情緒辨識可協助偵測憂鬱症、預防自殺等,具有正面效果。 六、AI Act本文第5條1(g)-為推測敏感特徵所進行之生物辨識分類行為 (一)概念說明 本禁止行為規定之目的,旨在考量利用人工智慧之生物辨識分類系統(Biometric Categorisation System)[7],可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊,並可能在當事人不知情的情況下依據此資訊對自然人進行分類,進而可能導致不公平或歧視性待遇。 (二)禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的:該行為係針對個人進行分類;而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。 3.技術特性:該系統必須為利用人工智慧,並依據自然人的生物辨識資料,將其歸類至特定類別之生物辨識分類系統。 4.因果關係:前述分類依據為其生物辨識資訊。 5.除外規定:本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記(Labelling)或過濾(Filtering)行為,如用於執法目的等。 七、AI Act本文第5條1(h)-使用即時遠端生物辨識(Remote Biometric Identification, RBI)系統[8]執法[9]之行為 (一)概念說明 本禁止行為規定之目的,旨在考量在公共場所使用即時RBI系統進行執法,可能對人民權利與自由造成嚴重影響,使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外,RBI系統的不準確性,將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。 (二)禁止施行本行為之前提要件 1.該行為必須涉及對即時RBI系統的「使用」行為。 2.應用目的:使用目的須為執法需要。 3.技術特性:該系統必須為利用人工智慧,在無需自然人主動參與的情況下,透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料,從而達成識別自然人身份目的之RBI系統。 4.因果關係:其使用情境須具備即時性,且使用地點須為公共場所。 參、事件評析 人工智慧技術之發展固然帶來多樣化的運用方向,惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為,亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」,對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。 為在促進創新與保護基本權利及歐盟價值觀間取得平衡,歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見,推出《受禁止人工智慧行為指引》,針對各項禁止行為提出「概念說明」與「成立條件」,期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性,並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織,則亦可作為實務參考,有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。 [1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025). [2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025). [3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025). [4]依據本指引第2.3點,所謂「投放於歐盟市場」(placing on the market),係指該人工智慧系統首次在歐盟市場「提供」;所謂「提供」,則係指在商業活動過程中,以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。 [5]依據本指引第2.3點,所謂「啟用」(putting into service),係指人工智慧系統供應者為供應使用者首次使用或自行使用,而於歐盟內供應人工智慧系統。 [6]依據本指引第2.3點,「使用」(use)之範疇雖未在AI Act內容明確定義,惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後,其生命週期內的任何使用或部署;另參考AI Act第5條的規範目的,所謂「使用」應包含任何受禁止的誤用行為。 [7]依據AI Act第3條(40)之定義,生物辨識分類系統係指一種依據自然人的生物辨識資料,將其歸類至特定類別之人工智慧系統。 [8]依據AI Act第3條(41)之定義,RBI系統係指一種在無需自然人主動參與的情況下,透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料,從而達成識別自然人身份目的之人工智慧系統。 [9]依據AI Act第3條(46)之定義,「執法(law enforcement)」一詞,係指由執法機關或其委任之代表,代替其執行目的包括預防、調查、偵測或起訴刑事犯罪,或執行刑事處罰,並涵蓋防範與應對公共安全威脅等範疇之行為。 [10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).