資通安全法律案例宣導彙編 第1輯
人工智慧技術用於醫療臨床決策支援之規範與挑戰—以美國FDA為例 資訊工業策進會科技法律研究所 蔡宜臻法律研究員 2018年11月27日 壹、事件摘要 美國係推動人工智慧用於醫療服務的領航國家，FDA轄下的數位健康計畫（Digital Health Program）小組負責針對軟體醫療器材規劃新的技術監管模式，在過去五年中，該計畫發布了若干指導文件 ，嘗試為醫用軟體提供更為合適的監督管理機制。但由於指導文件並非法律，監管的不確定性依舊存在，因此近兩年 FDA推動修法並做成多項草案與工作計畫，望以更具約束力的方式回應軟體醫療器材最新技術於臨床之適用。當中最為重要的法制變革，便是2016年底國會通過之《21世紀治癒法》（21st Century Cures Act）。該法重新定義了醫用軟體的監管範圍，一般認為是對人工智慧醫用軟體的監管進行鬆綁，或有助於人工智慧醫用軟體的開發與上市。然而在新法實施近兩年以來，實務上發現人工智慧的技術特質，會導致在進行某些「臨床決策支援之人工智慧軟體」是否為醫療器材軟體之認定時，產生極大的不確定性。對此FDA也於2017年12月作成《臨床與病患決策支持軟體指南草案》（Clinical and Patient Decision Support Software-Draft Guidance for Industry and Food and Drug Administration），望能就部份《21世紀治癒法》及其所修正之《聯邦食品藥物化妝品法》（Federal Food, Drug, and Cosmetic Act, FD&C Act）[1]裡的規範文字提供更為詳細的說明。 本文望能為此項法制變革與其後續衍生之爭議進行剖析。以下將在第貳部分重點說明美國2016年頒布的《21世紀治癒法》內容；在第參部份則針對人工智慧技術用於醫療臨床決策支援所發生之爭議進行分析；最後在第肆部份進行總結。 貳、重點說明 2016年12月美國國會頒布了《21世紀治癒法》，在第3060節明確界定了FDA對數位健康產品（Digital Health Products）之管轄範圍，將某些類型的數位健康產品排除在FDA醫療器材（medical device）定義之外而毋須受FDA監管。此規定亦修正了美國《聯邦食品藥物化妝品法》第520節（o）項有關FDA排除納管之軟體類別之規定。 根據新修正的《聯邦食品藥物化妝品法》第520節（o）（1）項，美國對於醫用軟體的監管範疇之劃設乃是採取負面表列，規定以下幾種類型的軟體為不屬於FDA監管的醫用軟體： 行政管理目的[2]；或 目的在於非關診斷、治療、緩解、預防或病症處置之健康維持或健康生活習慣養成[3]；或 目的在於進行電子化的個人健康紀錄[4]；或 目的用於傳輸、儲存、格式轉換、展示臨床研究或其他裝置資料與結果[5]；或 同時符合以下四點之軟體： (1)不從體外醫療器材或訊號蒐集系統來讀取、處理或分析醫療影像或訊號[6]。 (2)目的在於展示、分析或印製病患醫療資訊，或其他醫療訊息（例如：偕同診斷之醫療研究、臨床處置指南）[7]。 (3)目的在於替醫療專業人員就疾病或症狀之預防、診斷或處置提供支持或臨床建議[8]。 (4)使醫師在使用該軟體時尚能獨立審查「臨床建議產生之基礎」，因此醫師所做成之臨床診斷或決策，並非主要依賴該軟體提供之臨床建議[9]。 雖然大多數被排除的類別相對無爭議，但仍有一部分引起法律上不小的討論，即《聯邦食品藥物化妝品法》第520節（o）（1）（E）項所指涉的某些類型之臨床決策支援軟體（Clinical Decision Support Software，以下簡稱CDS軟體）。 CDS軟體係指分析數據以幫助醫療手段實施者（例如：醫師）做出臨床決策的軟體。多數以人工智慧為技術基礎的醫療軟體屬於此一類型，比方病理影像分析系統。根據《21世紀治癒法》與《聯邦食品藥物化妝品法》，CDS軟體是否被排除在FDA的管轄範圍之外，取決於該軟體是否「使醫師在使用該軟體時尚能獨立審查『臨床建議產生之基礎』，因此醫師所做成之臨床診斷或決策，並非主要依賴該軟體提供之臨床建議」[10]。若肯定，則將不被視為FDA所定義之醫療器材。為使此一規定更加明確，FDA於2017年12月8日發布了《臨床與病患決策支持軟體指南草案》，該指南草案針對如何評估軟體是否能讓醫師獨立審查臨床建議產生之基礎進行說明。FDA表示該軟體至少要能清楚解釋以下四點[11]： 該軟體功能之目的或用途；及 預期使用者（例如超音波技師、心血管外科醫師）；及 用於產生臨床建議的原始資料（例如患者的年齡和性別）；及 臨床建議產生背後之邏輯或支持證據 後續方有機會被FDA認定係令醫療專業人員使用該軟體時，能「獨立審查」臨床建議產生之基礎。換言之，指南草案所提的四點，為FDA肯認醫師在使用軟體時尚能「獨立審查」之必要前提。除此之外，指南草案尚稱預期使用者必須能自己做成與軟體相同之判斷，並且要求「用於生成臨床建議與演算邏輯的原始資料必須可被預期使用者辨識、近用、理解，並為公眾可得」[12]，進而方有機會符合《聯邦食品藥物化妝品法》第520節（o）（1）（E）（iii）之規定；若該軟體亦同時符合第520節（o）（1）（E）之其他要件，則有望被劃分為非醫療器材而不必受FDA監管。 由於規範內容較為複雜，指南草案亦提供案例說明。比方若一糖尿病診斷軟體是由醫生輸入患者參數和實驗室測試結果（例如空腹血糖、口服葡萄糖耐量測試結果或血紅蛋白A1c測試結果），並且該裝置根據既定臨床指南建議患者的病情是否符合糖尿病的定義，可被FDA認定為「非醫療器材」[13]；而諸如分析電腦斷層、超音波影像之軟體，則仍維持屬於醫療器材[14]。 另需注意的是，《聯邦食品藥物化妝品法》在第520節（o）（3）（A）（i）項亦建立「彌補性納回（claw-back）」機制，FDA需遵守通知評論程序（notice-and-comment process）以便及時發現軟體可能對健康造成嚴重危害的風險，並隨時將之納回監管範疇中。同時FDA每兩年必須向國會報告醫療器材軟體的實施經驗[15]。 參、事件評析 《21世紀治癒法》頒布至今兩年，FDA已核准多個以人工智慧為技術核心的軟體，例如在2018年2月13日通過能自動偵測可疑的大血管阻塞（large vessel occlusion, LVO），並迅速通知醫師病人可能有的中風危險的臨床決策支援軟體：Viz.AI Contact application；又比如於2018年4月11日通過利用演算法分析由視網膜攝影機（Topcon NW400）所獲得的影像，快速篩檢糖尿病病人是否有必須由專業眼科醫師治療的視網膜病變的IDx-DR。 然而，在CDS軟體以人工智慧為技術核心時，現有的法規與監管框架依舊有幾點疑慮： 一、「理解」演算法？ 根據新修正之《聯邦食品藥物化妝品法》，如果CDS軟體欲不受FDA監管，醫師的決策必須保持獨立性。目前規定只要該醫療產品「企圖」（intended to）使醫師等專業人員理解演算法即可，並不論醫師是否真正理解演算法。然而，若FDA肯認理解演算法對於執行醫療行為是重要的，那麼當CDS係基於機器學習產生演算法時，具體該如何「理解」就連開發者本身都未必能清楚解釋的演算法？有學者甚至認為，CDS軟體是否受到FDA法規的約束，可能會引導至一個典型的認識論問題：「我們是怎麼知道的？（How do we know?）」[16]。對此問題，我們或許需要思考：當醫師無法理解演算法，會發生什麼問題？更甚者，未來我們是否需要訓練一批同時具備人工智慧科學背景的醫療人員？[17] 二、如何要求演算法透明度？ 指南草案所提之「清楚解釋臨床建議產生背後之邏輯或支持證據」以及資料來源為公眾可得、醫生對演算法使用的資料來源之近用權限等，被認為是FDA要求廠商應使CDS軟體之演算法透明[18]。但根據FDA指南草案公告後得到的反饋，醫療軟體廠商對此要求認為並不合理。廠商認為，應該從實際使用效益來審視人工智慧或機器學習軟體所提出的臨床建議是否正確，而不是演算法是什麼、怎麼產生[19]。 三、醫療專業人員之獨立專業判斷是否會逐漸被演算法取代？未來醫療軟體廠商與醫療專業人員之責任該如何區分？ FDA目前的法規與指南並未直接回應此二問題，惟其對於不被列管之CDS軟體之規定係需使醫師並非主要依賴該軟體提供之臨床建議、醫師能自己做成與軟體相同之判斷。由反面解釋，即FDA肯認部份CDS軟體具備與醫師雷同之臨床診斷、處置、決策之功能，或能部份取代醫師職能，因此需受FDA監管。是故，醫師之專業能力與人工智慧演算法相互之間具有取代關係，已是現在進行式。惟究竟醫師的判斷有多少是倚靠人工智慧現階段尚無法取得量化證據，或需數年時間透過實證研究方能研判。往後，醫療軟體廠商與醫師之責任該如何區分，將會是一大難題。 肆、結語 隨著醫療大數據分析與人工智慧技術的發展，傳統認知上的醫療器材定義已隨之改變。雖然硬體設備仍然在診斷、治療與照護上扮演極為重要的角色，但軟體技術的進步正在重新改寫現代醫療服務執行以及管理模式。這些新產品及服務為醫療器材市場帶來活水，但同時也形成新的監管議題而必須採取適當的調整措施。美國FDA針對近年來呈爆炸性發展的醫療軟體產業不斷調整或制定新的監管框架，以兼顧使用者安全與新技術開展，並於2016年通過了極具改革意義的《21世紀治癒法》，且以此法修正了《聯邦食品藥物化妝品法》。 然而，新法實施後，關於個別醫用軟體是否納為不受FDA監管的醫療器材仍有法律認定上的灰色空間。舉例而言，倍受矚目的以人工智慧為核心技術的CDS軟體，在新法框架下似乎可能存在於監管紅線的兩側。根據新修正之《聯邦食品藥物化妝品法》，一CDS軟體是否屬於醫療器材軟體，關鍵在於醫師能否「獨立審查」從而「非主要依賴」軟體所提供之臨床建議。也由於此要件概念較為模糊，FDA後續在2017年發布《臨床與病患決策支持軟體指南草案》為此提供進一步解釋，然而仍無法妥適處理人工智慧機器學習技術所導致的演算法「該如何理解？」、「透明度該如何認定？」等問題。更甚者，從整體醫療服務體系納入人工智慧協助臨床決策診斷之趨勢觀之，未來醫療專業人員的獨立判斷是否會逐漸被演算法取代？未來人工智慧軟體與醫療專業人員之責任該如何區分？都是醞釀當中的重要議題，值得持續關注。 [1] 21 U.S. Code §360j [2] FD&C Act Sec. 520(o)(1)(A) [3] FD&C Act Sec. 520(o)(1)(B) [4] FD&C Act Sec. 520(o)(1)(C) [5] FD&C Act Sec. 520(o)(1)(D) [6] FD&C Act Sec. 520(o)(1)(E) [7] FD&C Act Sec. 520(o)(1)(E)(i) [8] FD&C Act Sec. 520(o)(1)(E)(ii) [9] FD&C Act Sec. 520(o)(1)(E)(iii) [10] “Enabling such health care professionals to independently review the bases for such recommendations that such software presents so that it is not the intent that such health care professional rely primary on any of such recommendations to make clinical diagnosis or treatment decisions regarding individual patient.” FD&C Act, Sec. 520(O)(1)(E)(iii) [11] FOOD AND DRUG ADMINISTRATION[FDA], Clinical and Patient Decision Support Software-Draft Guidance for Industry and Food and Drug Administration (2017), .at 8 https://www.fda.gov/downloads/medicaldevices/deviceregulationandguidance/guidancedocuments/ucm587819.pdf (last visited Sep. 21, 2018) [12] 原文為 “The sources supporting the recommendation or underlying the rationale for the recommendation should be identified and easily accessible to the intended user, understandable by the intended user (e.g., data points whose meaning is well understood by the intended user), and publicly available (e.g., clinical practice guidelines, published literature)”, id, at 8 [13] FOOD AND DRUG ADMINISTRATION[FDA], supra note 11 [14]FOOD AND DRUG ADMINISTRATION[FDA], supra note 11 [15] 21th Century Cures Act, Sec. 3060(b) [16] Barbara J. Evans & Pilar Ossorio, The Challenge of Regulating Clinical Decision Support Software after 21st Century Cures. AMERICAN JOURNAL OF LAW AND MEDICINE (2018), https://papers.ssrn.com/sol3/Delivery.cfm/SSRN_ID3142822_code1078988.pdf?abstractid=3142822&mirid=1 (last visited Sep. 21, 2018) [17] Id. [18] Gail H. Javitt & J.D., M.P.H., ANESTHESIOLOGY, Regulatory Landscape for Clinical Decision Support Technology (2018), http://anesthesiology.pubs.asahq.org/article.aspx?articleid=2669863 (last visited Sep. 21, 2018) [19] REGULATIONS.GOV, Clinical and Patient Decision Support Software; Draft Guidance for Industry and Food and Drug Administration Staff; Availability(Dec. 8, 2017) https://www.regulations.gov/docketBrowser?rpp=25&po=0&dct=PS&D=FDA-2017-D-6569&refD=FDA-2017-D-6569-0001 (last visited Sep. 25, 2018)
歐盟2014個人資料保護日，倡議資料可攜權及個資規範革新歐盟將2014年1月28日定為「2014個人資料保護日」（Data Protection Day 2014），倡議推動個人資料修法及規範革新，主要係位因應數位化時代，個人資料權利保護越形重要，並且為了強化保護線上隱私權利，歐盟執委會首於2012年1月25日所提出個人資料保護指令的修正草案─「保護個人關於個人資料處理及此等資料自由流通規章（一般資料保護規章）」（Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL（General Data Protection Regulation)）；該修正草案於2013年6月進入歐洲議會、理事會及執委會的三方協商，同年10月21日歐洲議會公民、司法與內政委員會（Committee on Civil Liberties, Justice and Home Affairs）審議通過，若進程順利預計將於2014年獲得通過，並於2016年生效施行。 歐盟「2014個人資料保護日」會議中，特別提到此次修法，係為歐盟跨時代的個人資料保護規範革新工作，具有特別重要意義，並且倡議應對於資料可攜權（Right to Data Portability），明文法制化加以落實保障，包括加強資料當事人控制及近取個人資料的權利，資料當事人更容易近取（aceess）個人資料（第14、15條）；資料當事人有資料可攜的權利（第18條），當資料處理是以電子化方法，且使用結構性、通用的格式時，資料當事人有權利可以取得該結構性、通用格式下的個人資料（第18條(1)），且更容易自不同服務提供者間移轉個人資料。 國際間對於「資料可攜」議題，正反意見均陳，並未達成共識。歐盟執委會提出個人資料保護指令的修正草案第18條，倡議將「資料可攜性」明文法制化，並要求資料蒐集、處理與利用者對以電子化方法持有的個人資料，需使用結構性、通用的格式，以便利並確保後續個人資料可攜性。此修正草案一提出，隨即引發國際間各重要國家的熱烈探討：有反對者認為，此舉無異將形成未來國際間貿易障礙；有贊成者從確保使用者權益觀點，認為未來智慧聯網（IoT）環境下，資料可攜性是不可避免的趨勢，賦予資料當事人法律權利，有助於個人資料的保護。各重要國家對歐盟修正草案立場及意見，值得加以探究，以觀察未來法制發展趨勢。
新加坡修訂「建築物資通訊設施實施條例」為了落實提供高速、穩定的寬頻服務，新加坡資訊通訊發展管理局（IDA）今( 2013)年4月針對新建物，修訂「建築物資通訊設施實施條例」(Code of Practice for Info-Communication Facilities in Buildings)，以加速家庭寬頻網路發展，滿足新興服務之所需。 本條例以光纖普及為前提，賦予新建物開發商或是業者諸多義務，以「用戶需要開放項目」與「限制建物內空間技術」最為重要。所謂的「用戶需要開放項目」，是指開發商或是屋主須讓新建物具有6項基礎設施，包括：(1)引進管(Lead-in pipes)、地下管(Underground pipes)與人手孔(Manholes)；(2)電信主配線箱(Main Distributor Frame, MDF)；(3)電信設備機房(Telecommunication Equipment Room, TER )；(4) 行動通訊布放室(Mobile Deployment Space，MDS)；(5)電信櫃豎版(Telecommunication risers)；(6)寬頻同軸電纜系統(a Broadband coaxial cable system)或具有光纖電纜(Optical Fibre Cable)等級之終端點。其中，第六項是要求開發商與擁有者鋪設線路範圍，包含現有道路至電信主配線箱之管道，且其線路等級必須是同軸電纜或光纖以上，以確保屋內終端線路皆得以承載100M以上速率。至於，「限制建物內空間技術」，是指屋內配線至家中客廳與每個房間，應鋪設同軸電纜或是非屏蔽雙絞線(六類以上)，使民眾能無所不在享受快速網路之便利。 除上述固網建設規範外，為了達成行動寬頻戶外覆蓋率99%、室內覆蓋率85%之規定，本條例亦要求開發商或擁有者須無償提供電信業者行動通訊佈放室。雖然，MDS的大小視行動寬頻涵蓋範圍與發展大小而定，最小的行動通訊發展室範圍是18平方米。不過，本條例允許MDS可不必是一個連續的空間，以兼顧開發商與擁有者對新建物空間之規劃。本草案落實後，預計不僅可減少電信商租賃放置基地台之成本外，亦可解決與管理委員會或業者交涉之時間，讓電信商能更為迅速完成行動寬頻覆蓋率。 IDA預計本條例實施後，將可達成「下一代國家資通訊基礎建設發展計畫」中，規劃2015年光纖覆蓋率100%、提供民眾1Gbps固網速度之理想，使新加光纖覆蓋率可達到95%。
歐盟執委會發布無人機戰略2.0，創造大規模歐洲無人機市場歐盟執委會（European Commission, EC）於2022年11月29日發布「無人機戰略2.0」（Drone Strategy 2.0），以全球最先進的歐盟無人機操作與設置技術安全框架為基石，為歐洲無人機市場設定發展願景，並闡述歐洲在大規模擴展商用無人機的同時，將如何提供產業新契機。 歐盟除以無人機交通監管系統計畫（U-SPACE）進行政策推動外，為擴張歐洲無人機市場，歐盟執委會提出「創新空中移動」（Innovative Air Mobility, IAM）與「創新空中服務」（Innovative Aerial Services, IAS）等2項新概念。前者包括國際、地區與城市空中移動（Urban Air Mobility, UAM）概念，期待以定期載客服務實現最終全自動化、有效整合並補充既有運輸系統與服務，以及提出有助於改善交通運輸系統碳排放的去碳（decarbonisation）替代方案。此外，透過廣泛布建並整合地面與空中基礎設施，將使UAM成為未來城市複合式智慧移動生態系統（multimodal intelligent mobility ecosystem）之一部；而後者則涉及無人機多元應用，諸如緊急服務、測繪、巡檢、偵查與物流運輸，抑或最終實現全自動化空中計程車（Air Taxis）等創新應用型態，期待相關應用於2030年成為歐洲日常生活的一部份。 為實現上述願景，歐盟提出「建立聯盟無人機服務市場」與「加強歐洲民用、安全與國防產業能力與綜效（synergies）」等兩項目標，其中涵蓋十大領域（例如：改善空域能力、促進航空作業、發展IAM、提供資金與融資、確立關鍵技術模組化（critical technology building blocks）），並從中啟動十九項攸關操作、技術與財務的關鍵行動（例如：建立支持在地利害關係人與產業落實永續的IAM線上平台、推動通用標準、採用反制無人機系統（C-UAS）、協調共同方法以提供無人機操作所需之無線電頻譜等），為未來無人機空域與市場，建立妥適的監管與商業環境，並加強無人機營運商、無人機製造商、國防部門、反制（counter）無人機，以及U-SPACE等有關無人機價值鏈（value chain）就不同環節上之效率。