「數位藥丸(digital pill)」新運用
英國航空公司(British Airways)近來對數位藥丸申請了專利，並且調查乘客是否願意吞食數位藥丸，使空服員得對其提供更好的服務。
該數位藥丸以主要是一個可食用的偵測系統，藉此航空公司得以知悉乘客的身理狀況，包含偵測乘客的心跳、體溫、或是否處於睡眠等生理反應，航空公司便可據此調整基上的的燈光、用餐時間以及機上娛樂設施等等。這一整套「為了提升乘客旅遊品質」的系統現在被寫成專利申請書，並於2016年提出英國航空公司表示利用不同的資料可以幫助機員了解乘客是醒或睡、是否緊張、冷熱或感到不舒適，並通知機員。依據其專利申請書，英國航空希望創造一個App，協助乘客改善整體旅遊品質，不僅是在機上，而是乘客從踏出家門開始到旅程結束，均能享受此科技之便利。
本文為「經濟部產業技術司科技專案成果」
蔡佳穎
法律研究員 編譯整理
自2016年Mirai殭屍網路攻擊事件後，物聯網設備安全成為美國國會主要關注對象之一，參議院於2017年曾提出「2017年物聯網網路安全促進法」（Internet of Things Cybersecurity Improvement Act of 2017）草案，防止美國政府部門購買有明顯網路安全性漏洞之聯網設備，並制定具體規範以保護聯網設施之網路安全，然而該法案最終並未交付委員會審議。 2019年4月，美國參議員Mark Warner提出「2019年物聯網網路安全促進法」草案（Internet of Things Cybersecurity Improvement Act of 2019），再度嘗試建立物聯網網路安全監管框架。本法將授權主管機關建立物聯網設備所應具備之安全性條件清單，而該清單將由美國國家標準與技術研究院（National Institute of Standards and Technology）擬定，並由管理與預算局（Office of Management and Budget, OMB）負責督導後續各聯邦機關導入由美國國家標準與技術研究院所制定之網路安全指引。本法草案相較於2017年的版本而言雖較具彈性，惟網路安全專家指出，清單之擬定與執行管理分別交由不同單位主責，未來可能導致規範無法被有效執行，且聯邦各層級單位所需具備之資安防護等級不盡相同，如何制宜亦係未來焦點。
由歐盟網路中立規範看Three及Vodafone被調查之流量管理措施由歐盟網路中立規範看Three及Vodafone被調查之流量管理措施 資訊工業策進會科技法律研究所 法律研究員 吳采薇 107年5月18日 歐盟於2016年4月30日正式通過Regulation 2015/2120[1]，此為歐盟近年來針對網路中立重要的基本規範，直接拘束所有會員國（含英國）境內之電子通訊網路與服務[2]，歐洲電子通傳監管機構（Body of European Regulators for Electronic Communications, BEREC）依據前揭規範，發布「執行網路中立管制之指導原則[3]」，供執法之參考。 在歐盟網路中立規範下，英國通訊局（Office of Communications, OFCOM）為網路中立管制之執法機關，其須使網路服務提供者（Internet Service Provider, ISP）的行為遵守歐盟網路中立之規範，以確保消費者可以自由且以一定的網路品質接取網路內容或使用服務[4]。OFCOM於2018年3月6日宣布針對英國行動通訊營運商Three及Vodafone啟動首波違反網路中立之調查[5]，此亦為歐盟網路中立規範施行後，英國境內首次發起之網路中立調查行動，其調查重點主要為ISP業者的流量管理措施，包括行動漫遊的網路流量，以及前述歐盟網路中立規範限制之行為。 本文以前述OFCOM對Three及Vodafone之調查案，說明ISP業者可能違反歐盟網路中立之流量管理措施態樣，並從歐盟網路中立規範進行適法性之討論，期望透過本案的探討能幫助各界對歐盟或英國網路中立之發展有所瞭解。 壹、Three及Vodafone被調查之流量管理措施 OFCOM於2018年3月6日宣布將對英國ISP業者啟動違反網路中立之調查[6]。OFCOM在經過證據蒐集程序後，後續將特別著重於Three及Vodafone兩家業者的流量管理措施，以決定其是否違反歐盟網路中立之規範，同時也不排除可能會調查其他ISP業者的流量管理措施，相關調查結果預計將於2018年6月公布[7]。有關OFCOM對於Three及Vodafone的調查重點項目，分別說明如下： 一、針對Three的重點調查項目 Three係由Hutchison 3G UK Limited公司所經營，其提供3G及4G行動數據與寬頻服務[8]。本次OFCOM調查Three的重點項目包括： （一）限制網路熱點共享 在Three部分服務資費方案中，可能有限制網路熱點共享（tethering）之功能，亦即使用者無法利用其裝置（device）分享網路接取服務，以供其他裝置使用。 （二）對SIM卡的使用施加限制 根據初步資料顯示，使用者購買Three門號搭配手機之資費方案，所取得之SIM卡無法替換至平板使用。 （三）對特定種類之流量進行降速 Three流量管理措施可能針對特定種類之流量進行降速，例如視訊流量（video traffic）、點對點網際網路傳輸技術（P2P）及虛擬私人網路（Virtual Private Network, VPN）流量等，特別是消費者處於漫遊服務（roaming）時降速情況較為明顯。 二、針對Vodafone的重點調查項目 Vodafone係由Vodafone Limited公司所經營，其提供的電信服務包括固網與行動寬頻服務[9]。OFCOM調查其所提供之Vodafone Passes[10]資費方案可能涉及違反網路中立。調查重點如下： （一）對特定服務降速 Vodafone Passes可能有施加流量管理措施之情形，亦即針對特定類別服務的流量進行降速，特別是消費者在特定地區使用漫遊服務時降速情況更為明顯。 （二）零費率項目不夠透明 對於Vodafone Passes零費率（zero-rating）服務所排除之項目，相關資訊不夠透明，造成消費者難以清楚知悉。申言之，Vodafone Passes零費率的應用服務中，部分服務功能所使用之網路流量仍會被計入資費方案流量之中，而非如消費者所預期中之零費率服務，且消費者未能有效取得相關資訊。 貳、歐盟網路中立規範下Three及Vodafone流量管理措施之適法性探討 針對前述Three及Vodafone被調查之流量管理措施，本節嘗試以歐盟網路中立規範進行適法性之探討。首先將概述歐盟網路中立規範之核心內涵，接著依據前述調查重點項目，歸納本案所涉及之流量管理措施態樣，進而討論Three及Vodafone的流量管理措施在歐盟網路中立規範下之適法性。 一、歐盟網路中立規範之核心內涵 歐盟Regulation 2015/2120之目標為「建立網際網路接取與數據傳輸之平等且不歧視原則[11]」，其要求網路接取服務之提供，除為法律義務之履行、維持網路之完整性或在特殊情況下所為之網路壅塞管理外，不可封鎖、減速或歧視內容或應用服務提供者，以確保消費者可以自由且以一定的網路品質接取網路內容或使用服務。 在規範主體與範圍的部份，Regulation 2015/2120第1條將「終端使用者」（End-users）列為網路中立政策之受益者，而BEREC所頒布之指導原則[12]進而解釋「終端使用者」之內涵，一是作為自然人身份的消費者，即普通歐洲民眾，另一是帶有法人性質的網際網路內容和應用服務提供商（Content and Application Provider），例如提供網頁、部落格、影片、搜尋引擎、網際網路協定通話技術（Voice over IP）等業務的實體法人[13]。 在實體權利部分，Regulation 2015/2120第3條及第4條確立了網路中立與資訊透明原則。針對第3條網路中立權利的保障，該條目的為保障開放的網際網路接取，包括讓終端使用者有權接取及傳送網路資訊與內容、自由選擇終端設備，以及禁止ISP業者流量傳輸之差別待遇、限制或干擾流量傳輸等。 接著，在第4條確保網路中立的資訊透明措施，要求ISP業者必須採取透明化措施，包括應清楚載明並公開流量管制措施及其所產生的影響、流量上限、傳輸速度及其他可能影響服務品質的情況，以及終端使用者隱私及個資保護措施等。 二、Three及Vodafone流量管理措施之適法性探討 承續前述Three及Vodafone被調查之流量管理措施，OFCOM網路中立調查之文件，並未載明Three及Vodafone之流量管理措施可能違反哪些網路中立規範。但經本研究初步歸納發現，Three及Vodafone遭到調查之行為，其可能違反Regulation 2015/2120之條文，包括：（一）Three限制網路熱點共享的功能，以及對SIM卡的使用施加限制，可能與Regulation 2015/2020第3條第1項規定終端使用者能「自由選擇終端設備」之意旨有所違背；（二）Three與Vodafone對特定種類之流量進行降速，可能違反前述第3條第3項「流量傳輸之差別待遇」規定；（三）Vodafone Pass 零費率項目資訊未能透明化，恐違反前述第4條「資訊透明化措施」之要求。有關各該條文內容與適用至個別行為之探討，詳細說明如下： （一）自由選擇終端設備 根據歐盟Regulation 2015/2020第3條第1項規定，任何網路終端使用者有權透過網路接取服務，近用並傳送資訊與內容，亦得使用、散布網路應用軟體與服務，且可自由選擇終端設備，此權利不受終端使用者或網路內容提供者所在之地點限制，也不會因為其資訊、內容、應用或服務之形成與來源有所限制。BEREC指導原則針對前述第3條第1項規定進一步說明，有關「自由選擇終端設備（terminal equipment of their choice）的權利」，各國監管機關應該評估ISP業者是否提供設備予其用戶，並限制該終端用戶以自己的設備更換該設備的能力[14]，易言之，ISP業者提供的設備實質上屬於「強制性設備」（obligatory equipment）[15]。 其次，各國監管機關應評估前述「強制性設備」的使用，是否是基於客觀上的技術要求並為ISP網路的必要部分。若否，但ISP業者仍限制消費者自由選擇終端設備的權利，則可能侵害消費者自由選擇終端設備之權利，而與規範意旨有別。例如，限制網路熱點共享的措施極可能構成限制終端使用者「自由選擇終端設備」之行為，因為ISP業者、終端設備的製造商或經銷商，都不應該對連接網路所使用的終端設備，施加任何限制[16]。 因此，本案Three限制裝置之間的網路熱點共享，以及對SIM卡的使用施加限制（僅能使用於手機），都可能侵害使用者自由選擇終端設備的權利，而違反歐盟網路中立之規範。 （二）流量傳輸之差別待遇 歐盟Regulation 2015/2020第3條第3項第1款規定，網路接取服務提供者應公平對待所有的網路流量，不可對傳送方或接收方有任何歧視、限制或干擾[17]；此條款明示網路接取服務提供者不得有封鎖（block）、減速（throttle）或歧視線上內容、應用與服務的行為。但同項第2款中另有業者得進行合理網路管理之例外條款存在，允許服務提供者在非基於商業考量下，可執行合理流量管理措施，然該措施應符合透明、不歧視及比例原則，且不得監控特定之內容或持續超過所必須之時間。同時，同項第3款也明確指出流量管理措施必須是基於履行歐盟或會員國之法律義務、確保網路之完整性與安全性，或預防可能發生之網路壅塞（impending network congestion）或特殊情況下之網路壅塞[18]。 本案Three對於視訊流量、P2P及VPN流量疑似有降速措施，而Vodafone似乎也有在特定地區對Vodafone Passes產品降速之疑慮，因此評估適法性之重點在於業者的降速措施，是否為歐盟網路中立規範容許範圍。根據BEREC指導原則對前述第3條第3項之說明，各國監管機關可採取兩步驟的評估方式，第一、先評估是否所有流量皆平等對待；第二、應評估情況是否相似或不同，以及是否有客觀依據可以證明ISP業者係對不同情況採取不同的對待[19]。 是故，OFCOM必須先確定Three及Vodafone是否對於特定流量採取差別待遇。其次，若有差別待遇的事實，則需進一步探討該差別待遇是否符合前述第3項第2款之例外條款，亦即有客觀依據可以證明ISP業者係針對不同情況，例如為履行法律義務、確保網路之完整性與安全性，或預防可能發生之網路壅塞，而合法地採取差異性的流量管理措施。 （三）資訊透明化措施 Regulation 2015/2020第4條針對透明化措施規定，網路接取服務提供者應在服務契約中清楚載明並公開揭露相關事項，例如：（1）流量管理措施對相關服務所產生之影響、終端使用者隱私與個人資料保護措施；（2）說明任何對流量的限制、傳輸速度及其他可能影響服務品質的情況；（3）對於終端使用者所使用或購買之終端設備應適用第3條第5項[20]之規定，並提供消費者詳盡之解釋等。 BEREC指導原則建議資訊透明之實際作法，包括：（1）於契約條款中以清楚、易於理解的內容並讓人容易瞭解之形式揭露，甚至是將揭露資訊公開於ISP業者網站；（2）各國監理機構應確保ISP業者實踐資訊揭露義務，以及其揭露的資訊係清楚且易於理解的，相關評估準則例如：該資料易於取得及辨別、資料正確且持續更新、對終端使用者具有意義、不同提供者之間資料可作比較，以瞭解其差異性與相同性；（3）資料可分為一般概述性資料（general）及更多技術性參數細節兩部分進行揭露[21]。 本案Vodafone所提供之Vodafone Passes屬於零費率產品，並不違反歐盟網路中立之規範[22]。但在透明化措施方面則仍有不足，其官方網站或契約中僅說明特定內容或應用服務享有零費率，但實際上該特定內容或應用服務僅部分適用零費率，其他部分則仍會被計算流量收費，且消費者未能清楚知悉與辨別，是以可能違反前述第4條對於透明化措施之要求。 參、結語 本次OFCOM對Three及Vodafone網路中立的調查結果，勢將成為ISP業者在遵守網路中立規範與執行上的重要適法性參考文件。同時，本次調查一旦發現有違反流量管理及透明化措施義務之事實，OFCOM將可依據歐盟相關規範之授權進行裁罰，裁罰金額最高可達該業者相關業務營業額的10％，並要求違反的業者提交改善與補償措施[23]。 歐盟網路中立之規範已正式上路，但該規範僅對於網路中立作原則性的規範。BEREC公布的網路中立指導原則雖可作為各會員國監管機關落實網路中立之參考標準，但如何涵攝至具體實務之上，仍需仰賴後續個案的討論，以建立執法基準並讓ISP業者知所舉措，因此，歐盟網路中立規範的運作及發展將值得吾人持續觀察。 [1] REGULATION （EU） 2015/2120 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL of 25 November 2015 laying down measures concerning open internet access and amending Directive 2002/22/EC on universal service and users’ rights relating to electronic communications networks and services and Regulation （EU） No 531/2012 on roaming on public mobile communications networks within the Union. [2] 依據歐洲聯盟運作條約第288條規定，規章（Regulation）具有一般的效力；並直接適用於每個會員國。參考自陳麗娟，《里斯本條約後歐洲聯盟新面貌》，五南圖書出版，第二版，頁63（2013）。 [3] BEREC, BEREC Guidelines on the Implementation by National Regulators of European Net Neutrality Rules, BoR （16） 127, Aug. 2016, available at http://berec.europa.eu/eng/document_register/subject_matter/berec/download/0/6160-berec-guidelines-on-the-implementation-b_0.pdf （last visited Apr. 02, 2018）. [4] European Commission, Open Internet, https://ec.europa.eu/digital-single-market/en/open-internet-net-neutrality （last visited Mar. 19, 2017）. [5] OFCOM, Own-initiative enforcement programme into fixed and mobile Internet Service Provider traffic management measures, and other practices covered by the EU Open Internet Access Regulation, Mar. 06, 2018, https://www.ofcom.org.uk/about-ofcom/latest/bulletins/competition-bulletins/open-cases/cw_01210 （last visited Mar. 26, 2018）. [6] Supra note 3. [7] Id. [8] Company Overview of Hutchison 3G UK Limited, Bloomberg, https://www.bloomberg.com/research/stocks/private/snapshot.asp?privcapId=26671318 （last visited April 03, 2018）. [9] Company Overview of Vodafone Limited, Bloomberg, https://www.bloomberg.com/research/stocks/private/snapshot.asp?privcapId=8186589 （last visited April 03, 2018）. [10] Vodafone Passes為Vodafone推出之零費率（zero-rating）產品，該產品可以將使用者經常使用之特定高流量服務排除於基本流量之計算，例如Netflix、YouTube、Facebook等。Vodafone Passes又分成四種子類別，包括視聽類（video pass）、通訊類（chat pass）、音樂類（music pass）及社群類（social pass），各類別的零費率項目皆不相同。資料來源：Vodafone, Vodafone Passes, https://www.vodafone.co.uk/pass/ （last visited Mar. 29, 2018）. [11] Supra note 1. [12] Supra note 3, at 15. [13] Id, at 4. [14] Id, at 15. [15] Id, at 9. [16] Ibid. [17] Supra note 3, at 8. [18] Ibid. [19] Supra note 3, at 14. [20] Regulation 2015/2020在第3條第5項第1段定義特殊服務（specialised services），該條款允許ISP業者基於服務特性、內容應用之特別品質要求（specific quality requirements），如遲延（latency）、封包遺失（packet loss）等，得提供特殊服務。 [21] Supra note 3, at 31. [22] 零費率的實施不得與Regulation 2015/2020第3條抵觸，亦即當消費者已達其可使用數據服務之流量上限（data cap），而被服務提供者降速或停止使用數據服務時，如果零費率的應用依舊可以使用或其使用相較於其他應用有不同的傳輸速度，則服務提供者即違反第3條應公平對待所有傳輸數據之規定。易言之，只要消費者在未達到其資費方案之數據傳輸上限前，零費率並不違反前揭第3條的規定。Supra note 3, at 11-13. [23] Id, at.6.
美國音樂授權制度邁向新里程碑：集體授權組織MLC將於後年正式運行！美國「音樂現代化法案」(Music Modernization Act，簡稱 MMA) 於2018年10月由總統川普簽署成為有效法律之後，於今年(2019)9月17日正式對外發布消息，其依照MMA之規定，美國著作權局已於今年7月8日指定由「美國音樂發行協會」(National Music Publishers Association，簡稱NMPA)成立「機械式集體授權組織」(The Mechanical Licensing Collective，簡稱MLC)。NMPA係全美音樂發行商之貿易協會，早於1917年運行至今，現被指定成立MLC，擬於2021年1月正式開始進行全美音樂之「概括授權」(blanket license)，並維運前所未有的「透明化資料庫」，期能對接音樂串流平台，促使音樂作品比對相關著作權之權利人，藉以有效率且準確地支付相關授權金給詞曲創作人和發行人，且串流平台業者只要確實遵守MMA之概括授權與MLC之運作方式，即免於侵權責任MLC之組織體編制與人員名單資訊，亦透明地揭示於官網，其設有MLC董事會(由BMG、SONY、華納音樂等背景之人員擔任)，以及「無人認領授權金監督委員會」、「爭端解決委員會」、「營運顧問委員會」等三個委員會，各委員均由音樂著作權人或詞曲創作等人擔任。 MMA立法之初，試圖創設一全新、單一窗口非營利組織，並建置符合現代科技的數位資料庫，來解決音樂授權的痛點。而今MLC即將於後年1月正式運行，在數位時代借力科技，帶領音樂授權邁向新里程碑！
歐盟執委會發布《受禁止人工智慧行為指引》歐盟執委會發布《受禁止人工智慧行為指引》 資訊工業策進會科技法律研究所 2025年02月24日 歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。 壹、事件摘要 歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]： 1. 不可接受風險（Unacceptable risk） 2. 高風險（High risk） 3. 有限風險，具有特定透明度義務（Limited risk） 4. 最低風險或無風險（Minimal to no risk） AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。 貳、重點說明 一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。 （二）禁止施行本行為之前提要件 1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。 2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。 3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。 4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。 5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。 二、AI Act本文第5條1（c）－社會評分行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。 3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。 三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為 （一）概念說明 本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。 3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。 4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。 四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為 （一）概念說明 本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。 3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。 4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。 五、AI Act本文第5條1（f）－情緒辨識行為 （一）概念說明 本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該系統係用於推斷情緒。 3.因果關係：該行為發生於職場或教育訓練機構。 4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。 六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為 （一）概念說明 本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。 3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。 4.因果關係：前述分類依據為其生物辨識資訊。 5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。 七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為 （一）概念說明 本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。 （二）禁止施行本行為之前提要件 1.該行為必須涉及對即時RBI系統的「使用」行為。 2.應用目的：使用目的須為執法需要。 3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。 4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。 參、事件評析 人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。 為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。 [1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025). [2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025). [3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025). [4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。 [5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。 [6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。 [7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。 [8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。 [9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。 [10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).