世界衛生組織(World Health Organization, WHO)於2023年10月19日發布「人工智慧於健康領域之監管考量因素」(Regulatory considerations on artificial intelligence for health)文件,旨在協助各國有效監管健康領域之人工智慧,發揮其潛力同時最大限度地降低風險。本文件以下列六個領域概述健康人工智慧之監管考量因素:
(1)文件化與透明度(Documentation and transparency)
開發者應預先規範(pre-specifying)以及明確記錄人工智慧系統(以下簡稱AI系統)之預期醫療目的與開發過程,如AI系統所欲解決之問題,以及資料集之選擇與利用、參考標準、參數、指標、於各開發階段與原始計畫之偏離及更新等事項,並建議以基於風險之方法(Risk-based approach),根據重要性之比例決定文件化之程度、以及AI系統之開發與確效紀錄之保持。
(2)風險管理與AI系統開發生命週期方法(Risk management and AI systems development lifecycle approaches)
開發者應在AI系統生命之所有階段,考慮整體產品生命週期方法(total product lifecycle approach),包括上市前開發管理、上市後監督與變更管理。此外,須考慮採用風險管理方法(risk management approach)來解決與AI系統相關之風險,如網路安全威脅與漏洞(vulnerabilities)、擬合不足(underfitting)、演算法偏差等。
(3)預期用途、分析及臨床確效(Intended use, and analytical and clinical validation)
開發者應考慮提供AI系統預期用途之透明化紀錄,將用於建構AI系統之訓練資料集組成(training dataset composition)之詳細資訊(包括大小、設定與族群、輸入與輸出資料及人口組成等)提供給使用者。此外,可考慮透過一獨立資料集(independent dataset)之外部分析確效(external analytical validation),展示訓練與測試資料以外之效能,並考慮將風險作為臨床確效之分級要求。最後,於AI系統之上市後監督與市場監督階段,可考慮進行一段期間密集之部署後監督(post-deployment monitoring)。
(4)資料品質(Data quality)
開發者應確認可用資料(available data)之品質,是否已足以支援AI系統之開發,且開發者應對AI系統進行嚴格之預發布評估(pre-release evaluations),以確保其不會放大訓練資料、演算法或系統設計其他元素中之偏差與錯誤等問題,且利害關係人還應考慮減輕與健康照護資料有關之品質問題與風險,並繼續努力創建資料生態系統,以促進優質資料來源之共享。
(5)隱私與資料保護(Privacy and data protection)
開發者於AI系統之設計與部署過程中,應考慮隱私與資料保護問題,並留意不同法規之適用範圍及差異,且於開發過程之早期,開發者即應充分瞭解適用之資料保護法規與隱私法規,並應確保開發過程符合或超過相關法規要求。
(6)參與及協作(Engagement and collaboration)
開發者於制定人工智慧創新與部署路線圖之期間,需考慮開發可近用且具有充足資訊之平台,以於適合與適當情況下促進利害關係人間之參與及協作;為加速人工智慧領域實務作法之進化,透過參與及協作來簡化人工智慧監管之監督流程即有必要。
本文為「經濟部產業技術司科技專案成果」
由歐盟網路中立規範看Three及Vodafone被調查之流量管理措施 資訊工業策進會科技法律研究所 法律研究員 吳采薇 107年5月18日 歐盟於2016年4月30日正式通過Regulation 2015/2120[1],此為歐盟近年來針對網路中立重要的基本規範,直接拘束所有會員國(含英國)境內之電子通訊網路與服務[2],歐洲電子通傳監管機構(Body of European Regulators for Electronic Communications, BEREC)依據前揭規範,發布「執行網路中立管制之指導原則[3]」,供執法之參考。 在歐盟網路中立規範下,英國通訊局(Office of Communications, OFCOM)為網路中立管制之執法機關,其須使網路服務提供者(Internet Service Provider, ISP)的行為遵守歐盟網路中立之規範,以確保消費者可以自由且以一定的網路品質接取網路內容或使用服務[4]。OFCOM於2018年3月6日宣布針對英國行動通訊營運商Three及Vodafone啟動首波違反網路中立之調查[5],此亦為歐盟網路中立規範施行後,英國境內首次發起之網路中立調查行動,其調查重點主要為ISP業者的流量管理措施,包括行動漫遊的網路流量,以及前述歐盟網路中立規範限制之行為。 本文以前述OFCOM對Three及Vodafone之調查案,說明ISP業者可能違反歐盟網路中立之流量管理措施態樣,並從歐盟網路中立規範進行適法性之討論,期望透過本案的探討能幫助各界對歐盟或英國網路中立之發展有所瞭解。 壹、Three及Vodafone被調查之流量管理措施 OFCOM於2018年3月6日宣布將對英國ISP業者啟動違反網路中立之調查[6]。OFCOM在經過證據蒐集程序後,後續將特別著重於Three及Vodafone兩家業者的流量管理措施,以決定其是否違反歐盟網路中立之規範,同時也不排除可能會調查其他ISP業者的流量管理措施,相關調查結果預計將於2018年6月公布[7]。有關OFCOM對於Three及Vodafone的調查重點項目,分別說明如下: 一、針對Three的重點調查項目 Three係由Hutchison 3G UK Limited公司所經營,其提供3G及4G行動數據與寬頻服務[8]。本次OFCOM調查Three的重點項目包括: (一)限制網路熱點共享 在Three部分服務資費方案中,可能有限制網路熱點共享(tethering)之功能,亦即使用者無法利用其裝置(device)分享網路接取服務,以供其他裝置使用。 (二)對SIM卡的使用施加限制 根據初步資料顯示,使用者購買Three門號搭配手機之資費方案,所取得之SIM卡無法替換至平板使用。 (三)對特定種類之流量進行降速 Three流量管理措施可能針對特定種類之流量進行降速,例如視訊流量(video traffic)、點對點網際網路傳輸技術(P2P)及虛擬私人網路(Virtual Private Network, VPN)流量等,特別是消費者處於漫遊服務(roaming)時降速情況較為明顯。 二、針對Vodafone的重點調查項目 Vodafone係由Vodafone Limited公司所經營,其提供的電信服務包括固網與行動寬頻服務[9]。OFCOM調查其所提供之Vodafone Passes[10]資費方案可能涉及違反網路中立。調查重點如下: (一)對特定服務降速 Vodafone Passes可能有施加流量管理措施之情形,亦即針對特定類別服務的流量進行降速,特別是消費者在特定地區使用漫遊服務時降速情況更為明顯。 (二)零費率項目不夠透明 對於Vodafone Passes零費率(zero-rating)服務所排除之項目,相關資訊不夠透明,造成消費者難以清楚知悉。申言之,Vodafone Passes零費率的應用服務中,部分服務功能所使用之網路流量仍會被計入資費方案流量之中,而非如消費者所預期中之零費率服務,且消費者未能有效取得相關資訊。 貳、歐盟網路中立規範下Three及Vodafone流量管理措施之適法性探討 針對前述Three及Vodafone被調查之流量管理措施,本節嘗試以歐盟網路中立規範進行適法性之探討。首先將概述歐盟網路中立規範之核心內涵,接著依據前述調查重點項目,歸納本案所涉及之流量管理措施態樣,進而討論Three及Vodafone的流量管理措施在歐盟網路中立規範下之適法性。 一、歐盟網路中立規範之核心內涵 歐盟Regulation 2015/2120之目標為「建立網際網路接取與數據傳輸之平等且不歧視原則[11]」,其要求網路接取服務之提供,除為法律義務之履行、維持網路之完整性或在特殊情況下所為之網路壅塞管理外,不可封鎖、減速或歧視內容或應用服務提供者,以確保消費者可以自由且以一定的網路品質接取網路內容或使用服務。 在規範主體與範圍的部份,Regulation 2015/2120第1條將「終端使用者」(End-users)列為網路中立政策之受益者,而BEREC所頒布之指導原則[12]進而解釋「終端使用者」之內涵,一是作為自然人身份的消費者,即普通歐洲民眾,另一是帶有法人性質的網際網路內容和應用服務提供商(Content and Application Provider),例如提供網頁、部落格、影片、搜尋引擎、網際網路協定通話技術(Voice over IP)等業務的實體法人[13]。 在實體權利部分,Regulation 2015/2120第3條及第4條確立了網路中立與資訊透明原則。針對第3條網路中立權利的保障,該條目的為保障開放的網際網路接取,包括讓終端使用者有權接取及傳送網路資訊與內容、自由選擇終端設備,以及禁止ISP業者流量傳輸之差別待遇、限制或干擾流量傳輸等。 接著,在第4條確保網路中立的資訊透明措施,要求ISP業者必須採取透明化措施,包括應清楚載明並公開流量管制措施及其所產生的影響、流量上限、傳輸速度及其他可能影響服務品質的情況,以及終端使用者隱私及個資保護措施等。 二、Three及Vodafone流量管理措施之適法性探討 承續前述Three及Vodafone被調查之流量管理措施,OFCOM網路中立調查之文件,並未載明Three及Vodafone之流量管理措施可能違反哪些網路中立規範。但經本研究初步歸納發現,Three及Vodafone遭到調查之行為,其可能違反Regulation 2015/2120之條文,包括:(一)Three限制網路熱點共享的功能,以及對SIM卡的使用施加限制,可能與Regulation 2015/2020第3條第1項規定終端使用者能「自由選擇終端設備」之意旨有所違背;(二)Three與Vodafone對特定種類之流量進行降速,可能違反前述第3條第3項「流量傳輸之差別待遇」規定;(三)Vodafone Pass 零費率項目資訊未能透明化,恐違反前述第4條「資訊透明化措施」之要求。有關各該條文內容與適用至個別行為之探討,詳細說明如下: (一)自由選擇終端設備 根據歐盟Regulation 2015/2020第3條第1項規定,任何網路終端使用者有權透過網路接取服務,近用並傳送資訊與內容,亦得使用、散布網路應用軟體與服務,且可自由選擇終端設備,此權利不受終端使用者或網路內容提供者所在之地點限制,也不會因為其資訊、內容、應用或服務之形成與來源有所限制。BEREC指導原則針對前述第3條第1項規定進一步說明,有關「自由選擇終端設備(terminal equipment of their choice)的權利」,各國監管機關應該評估ISP業者是否提供設備予其用戶,並限制該終端用戶以自己的設備更換該設備的能力[14],易言之,ISP業者提供的設備實質上屬於「強制性設備」(obligatory equipment)[15]。 其次,各國監管機關應評估前述「強制性設備」的使用,是否是基於客觀上的技術要求並為ISP網路的必要部分。若否,但ISP業者仍限制消費者自由選擇終端設備的權利,則可能侵害消費者自由選擇終端設備之權利,而與規範意旨有別。例如,限制網路熱點共享的措施極可能構成限制終端使用者「自由選擇終端設備」之行為,因為ISP業者、終端設備的製造商或經銷商,都不應該對連接網路所使用的終端設備,施加任何限制[16]。 因此,本案Three限制裝置之間的網路熱點共享,以及對SIM卡的使用施加限制(僅能使用於手機),都可能侵害使用者自由選擇終端設備的權利,而違反歐盟網路中立之規範。 (二)流量傳輸之差別待遇 歐盟Regulation 2015/2020第3條第3項第1款規定,網路接取服務提供者應公平對待所有的網路流量,不可對傳送方或接收方有任何歧視、限制或干擾[17];此條款明示網路接取服務提供者不得有封鎖(block)、減速(throttle)或歧視線上內容、應用與服務的行為。但同項第2款中另有業者得進行合理網路管理之例外條款存在,允許服務提供者在非基於商業考量下,可執行合理流量管理措施,然該措施應符合透明、不歧視及比例原則,且不得監控特定之內容或持續超過所必須之時間。同時,同項第3款也明確指出流量管理措施必須是基於履行歐盟或會員國之法律義務、確保網路之完整性與安全性,或預防可能發生之網路壅塞(impending network congestion)或特殊情況下之網路壅塞[18]。 本案Three對於視訊流量、P2P及VPN流量疑似有降速措施,而Vodafone似乎也有在特定地區對Vodafone Passes產品降速之疑慮,因此評估適法性之重點在於業者的降速措施,是否為歐盟網路中立規範容許範圍。根據BEREC指導原則對前述第3條第3項之說明,各國監管機關可採取兩步驟的評估方式,第一、先評估是否所有流量皆平等對待;第二、應評估情況是否相似或不同,以及是否有客觀依據可以證明ISP業者係對不同情況採取不同的對待[19]。 是故,OFCOM必須先確定Three及Vodafone是否對於特定流量採取差別待遇。其次,若有差別待遇的事實,則需進一步探討該差別待遇是否符合前述第3項第2款之例外條款,亦即有客觀依據可以證明ISP業者係針對不同情況,例如為履行法律義務、確保網路之完整性與安全性,或預防可能發生之網路壅塞,而合法地採取差異性的流量管理措施。 (三)資訊透明化措施 Regulation 2015/2020第4條針對透明化措施規定,網路接取服務提供者應在服務契約中清楚載明並公開揭露相關事項,例如:(1)流量管理措施對相關服務所產生之影響、終端使用者隱私與個人資料保護措施;(2)說明任何對流量的限制、傳輸速度及其他可能影響服務品質的情況;(3)對於終端使用者所使用或購買之終端設備應適用第3條第5項[20]之規定,並提供消費者詳盡之解釋等。 BEREC指導原則建議資訊透明之實際作法,包括:(1)於契約條款中以清楚、易於理解的內容並讓人容易瞭解之形式揭露,甚至是將揭露資訊公開於ISP業者網站;(2)各國監理機構應確保ISP業者實踐資訊揭露義務,以及其揭露的資訊係清楚且易於理解的,相關評估準則例如:該資料易於取得及辨別、資料正確且持續更新、對終端使用者具有意義、不同提供者之間資料可作比較,以瞭解其差異性與相同性;(3)資料可分為一般概述性資料(general)及更多技術性參數細節兩部分進行揭露[21]。 本案Vodafone所提供之Vodafone Passes屬於零費率產品,並不違反歐盟網路中立之規範[22]。但在透明化措施方面則仍有不足,其官方網站或契約中僅說明特定內容或應用服務享有零費率,但實際上該特定內容或應用服務僅部分適用零費率,其他部分則仍會被計算流量收費,且消費者未能清楚知悉與辨別,是以可能違反前述第4條對於透明化措施之要求。 參、結語 本次OFCOM對Three及Vodafone網路中立的調查結果,勢將成為ISP業者在遵守網路中立規範與執行上的重要適法性參考文件。同時,本次調查一旦發現有違反流量管理及透明化措施義務之事實,OFCOM將可依據歐盟相關規範之授權進行裁罰,裁罰金額最高可達該業者相關業務營業額的10%,並要求違反的業者提交改善與補償措施[23]。 歐盟網路中立之規範已正式上路,但該規範僅對於網路中立作原則性的規範。BEREC公布的網路中立指導原則雖可作為各會員國監管機關落實網路中立之參考標準,但如何涵攝至具體實務之上,仍需仰賴後續個案的討論,以建立執法基準並讓ISP業者知所舉措,因此,歐盟網路中立規範的運作及發展將值得吾人持續觀察。 [1] REGULATION (EU) 2015/2120 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL of 25 November 2015 laying down measures concerning open internet access and amending Directive 2002/22/EC on universal service and users’ rights relating to electronic communications networks and services and Regulation (EU) No 531/2012 on roaming on public mobile communications networks within the Union. [2] 依據歐洲聯盟運作條約第288條規定,規章(Regulation)具有一般的效力;並直接適用於每個會員國。參考自陳麗娟,《里斯本條約後歐洲聯盟新面貌》,五南圖書出版,第二版,頁63(2013)。 [3] BEREC, BEREC Guidelines on the Implementation by National Regulators of European Net Neutrality Rules, BoR (16) 127, Aug. 2016, available at http://berec.europa.eu/eng/document_register/subject_matter/berec/download/0/6160-berec-guidelines-on-the-implementation-b_0.pdf (last visited Apr. 02, 2018). [4] European Commission, Open Internet, https://ec.europa.eu/digital-single-market/en/open-internet-net-neutrality (last visited Mar. 19, 2017). [5] OFCOM, Own-initiative enforcement programme into fixed and mobile Internet Service Provider traffic management measures, and other practices covered by the EU Open Internet Access Regulation, Mar. 06, 2018, https://www.ofcom.org.uk/about-ofcom/latest/bulletins/competition-bulletins/open-cases/cw_01210 (last visited Mar. 26, 2018). [6] Supra note 3. [7] Id. [8] Company Overview of Hutchison 3G UK Limited, Bloomberg, https://www.bloomberg.com/research/stocks/private/snapshot.asp?privcapId=26671318 (last visited April 03, 2018). [9] Company Overview of Vodafone Limited, Bloomberg, https://www.bloomberg.com/research/stocks/private/snapshot.asp?privcapId=8186589 (last visited April 03, 2018). [10] Vodafone Passes為Vodafone推出之零費率(zero-rating)產品,該產品可以將使用者經常使用之特定高流量服務排除於基本流量之計算,例如Netflix、YouTube、Facebook等。Vodafone Passes又分成四種子類別,包括視聽類(video pass)、通訊類(chat pass)、音樂類(music pass)及社群類(social pass),各類別的零費率項目皆不相同。資料來源:Vodafone, Vodafone Passes, https://www.vodafone.co.uk/pass/ (last visited Mar. 29, 2018). [11] Supra note 1. [12] Supra note 3, at 15. [13] Id, at 4. [14] Id, at 15. [15] Id, at 9. [16] Ibid. [17] Supra note 3, at 8. [18] Ibid. [19] Supra note 3, at 14. [20] Regulation 2015/2020在第3條第5項第1段定義特殊服務(specialised services),該條款允許ISP業者基於服務特性、內容應用之特別品質要求(specific quality requirements),如遲延(latency)、封包遺失(packet loss)等,得提供特殊服務。 [21] Supra note 3, at 31. [22] 零費率的實施不得與Regulation 2015/2020第3條抵觸,亦即當消費者已達其可使用數據服務之流量上限(data cap),而被服務提供者降速或停止使用數據服務時,如果零費率的應用依舊可以使用或其使用相較於其他應用有不同的傳輸速度,則服務提供者即違反第3條應公平對待所有傳輸數據之規定。易言之,只要消費者在未達到其資費方案之數據傳輸上限前,零費率並不違反前揭第3條的規定。Supra note 3, at 11-13. [23] Id, at.6.
美國司法部和專利商標局發表聯合聲明呼籲法官應謹慎核發禁售令美國司法部和專利商標局於今年(2013)1月9日發表聯合聲明,呼籲法官應謹慎對待「標準關鍵專利」(Standard Essential Patent)產品的禁售問題。 在該項聯合聲明發表前,美國聯邦貿易委員會 (Federal Trade Commission, FTC) 亦曾主張除少數特定情況外,侵犯標準關鍵專利的產品應處以賠償金,而非核發禁售令(Sales Bans)。該項聯合聲明要點歸納如下: 1.以公眾利益為最高優先考量,謹慎核發禁售令 聲明呼籲美國國際貿易委員會(United States International Trade Commission, ITC) 決定是否禁止使用關鍵專利的產品進口時,應以公眾利益為最高優先考量,此舉將增加持有「標準關鍵專利」的公司獲得禁售令之困難度,未來擁有「標準關鍵專利」的公司僅在極少數特殊的情況下獲得禁售令。 2.未具強制拘束力 聯合聲明僅代表司法部和專利商標局相關當局對專利問題的看法,雖可能影響法官心證,但聲明不具強制拘束力。 近來,美國各地方法院與ITC皆有未准核發禁售令之實際案例。例如:去年(2012)6月美國芝加哥法官Richard Posner駁回 Google 因部分標準關鍵專利有侵權疑慮申請禁售 iPhone;ITC在Apple Inc. 與Samsung Electronics 的專利訴訟中,認定Apple Inc. 未侵犯 Samsung Electronics的標準關鍵專利,並拒絕核發禁售令。
美國上訴法院推翻FCC對廣電節目猥褻言論之認定美國紐約第二巡迴法院上訴法院於2007年6月5日做出判決,認定FCC對於廣電節目是否違反猥褻言論規範之判斷標準為恣意專斷(arbitrary and capricious)的決定。此一案件起因於福斯電視台轉播2002年及2003年音樂告示排行榜頒獎典禮(Billboard Music Awards)時,歌手Cher及名人Nicole Richie分別在典禮中說出不雅言詞,事後FCC認定福斯電視台之轉播違反廣電節目之猥褻言論相關規範。福斯電視台對於FCC之認定不服,因而向法院提起訴訟。 依照過去FCC對猥褻言論之認定標準來看,「瞬間之咒罵言詞」(fleeting expletives)並不屬於猥褻言論,廣電節目中播出相關內容並不違反猥褻言論之管制規範。但自2003年起,FCC改變認定標準,認為所有不雅言詞均不可避免地帶有性暗示之內涵,因此廣電節目中凡涉及不雅言論之內容都是猥褻言論。 根據紐約第二巡迴法院上訴法院之判決指出,FCC的決定毫無疑問地改變了對於廣電節目是否違反猥褻言論規範之認定標準,且FCC對於改變認定標準一事所提出的理由並不具有說服力;FCC於訴訟過程中亦承認,即便在決定改變認定標準前,也沒有證據顯示廣播電視台曾密集播送充滿咒罵言論之內容。因此,紐約第二巡迴法院上訴法院認為,FCC改變認定標準一事乃是恣意專斷的決定,從而撤銷FCC對於福斯節目之認定。對於法院之判決,FCC主席Kevin Martin表示遺憾以及難以置信,將會委請律師研議是否繼續上訴最高法院。
美國交通部發布國家道路安全戰略,建立五大核心目標期待實現道路零死亡願景美國交通部(U.S. Department of Transportation)於2022年1月27日發布「國家道路安全戰略」(National Roadway Safety Strategy, NRSS),向道路零死亡的長期目標邁出第一步。NRSS採取「安全系統方法」(Safe System approach)作為解決道路安全問題的指導性框架,其內容涵蓋行為干預(behavioral interventions)、道路應對措施(roadway countermeasures)、法律與政策之執行、車輛安全特性與性能,及緊急醫療照護等層面。不同於傳統安全方法,安全系統方法承認人為錯誤與人性脆弱的事實,基於道路死亡應可預防之原則,利用可提前準備的主動工具(Proactive Tools)預先識別並解決交通系統中的問題,並且建立一套能有效解決或降低風險的備援系統(redundant system),以確保某一環節發生故障時,其餘部份仍可正常運作。 NRSS將以五大核心目標為主軸,規劃全面性的安全措施,以實現道路零死亡願景。上述五大核心目標包括: (1)更安全的人們(safer people):鼓勵用路人採取安全、負責之行為,避免酒駕或毒駕等危險行為。 (2)更安全的道路(safer roads):設計可減少人為錯誤之道路環境,提高脆弱用路人安全移動之可能性。 (3)更安全的車輛(safer vehicles):透過改進既有技術與設備,並擴大對有效防止碰撞及使影響最小化的車輛技術與功能之使用,提高車輛安全性並降低碰撞頻率,例如:透過先進駕駛輔助系統(Advanced Driver. Assistance Systems, ADAS)預防或減輕碰撞的影響;或是利用偏離車道警示系統對車輛進行監控與紀錄,如檢測到車輛偏離車道,則立即向駕駛發出警報。此外應建立公共資訊資料庫,以便提供資訊幫助車輛安全行駛。 (4)更安全的速度(safer speeds):透過結合環境的道路設計、教育與推廣活動,以及活用自動測速器、依路段環境進行速限等方式,有效控制車輛行駛速度。 (5)事故後照護(post-crash care):透過完善緊急醫療照護提高事故存活率,並落實交通事故管理,避免事故再次發生。