英國發布「人工智慧:機會與未來決策影響」政策報告，並聚焦人工智慧運用及管理
英國科學辦公室於2016年11月9日，發布一份政策報告：「人工智慧:機會與未來決策影響(Artificial intelligence: opportunities and implications for the future of decision making)」，介紹人工智慧對於社會及政府的機會和影響，此份政策報告並提出以下各項重要建議：
（一）關於人工智慧及應用界定與發展
人工智慧是指由人工製造系統所表現出來的智慧。不僅是將現有的流程自動化，還包含制定目標，並利用電腦程式實現這些目標，常見案例包括線上翻譯、語音辨識、搜尋引擎篩選排序、垃圾郵件過濾、透過用戶回饋改善線上服務、預測交通流量、環境或社會經濟趨勢發展觀察等。
（二）未來對社會及政府利益及衝擊
人工智慧針對提高生產力有巨大的潛力，最明顯的就是幫助企業或個人更有效地運用資源，並簡化大量資料的處理，例如Ocado 及 Amazon這樣的公司正充份利用人工智慧改善倉儲及銷售網路系統，使得客戶可便利快速購得網購商品。
目前，政府也日益增加相關技術的運用，以提高公共服務效率，使資源達到最佳化分配；減少決策者被誤導的可能；使政府決策透明化；確保各部門更了解人民的意見。然政府在利用人工智慧及巨量資料時，應遵守倫理使用指南，並遵守英國資料保護法及歐盟一般資料保護規則等相關法規。
在巨量資料、機器人、自動系統對於勞動市場的衝擊一直都是關注的議題，對於面臨未來工作結構的轉型及相關技術人員的進修及培養，應及早規劃，以適應未來的轉變。
（三）關於相關道德及法律風險管理課題
人工智慧可能潛在相關道德倫理問題。許多專家認為政府應積極管理並降低風險發生可能性，可從以下兩個面向思考：
(1)研究機器學習與個人資料運用結合時，對個人自由、隱私和同意等概念的影響。
(2)調適由人工智慧作決策行為時的歸責概念和機制。
有關實際案例之研究，則包括，執法單位在應用預測技術時，應避免以種族、國籍、地址作為標準，並嚴守無罪推定原則，以防止民眾受到歧視或不公平的指控；透過人工智慧可從公開資料推測出某些私人訊息或其親朋好友的消息，此訊息即可能超出原先個人同意披露的內容；原先匿名化及去識別化的訊息，因人工智慧功能加強，導至可能被重新識別，故須定期檢視該保護措施是否足夠。另外，人工智慧的演算偏差可能導致偏見的風險，為了降低這種風險，技術人員應採取對應措施。
針對責任及疏失的判斷，目前尚無太多的實務案例，但為保持對使用人工智慧的信任，仍需有明確的歸責制，可能有必要讓首席執行長或高級主管對人工智慧做出的決策負最終責任。許多專家也建議，部分技術內容須保持透明度，以確定技術使用時是否有盡到相關注意義務。
人工智慧已成為未來發展趨勢之一，對於社會整體層面影響將越來越深，新的技術除了可提升生產力，帶來便利的生活，同樣也會帶來衝擊。為促進相關產業發展及推展新技術的使用，應打造技術發展友善環境，並對於公眾安全進行相關風險評估，如果風險屬於現有監管制度範圍，應評估是否可充分解決風險，或是須要做相對應的調適。另外，在人工智慧融入現實世界同時，相關業者應注意相關產品安全性、隱私權保護和從業人員的倫理教育，以提高大眾對新技術的接受及信賴，並確保對於未來挑戰及轉變已做好萬全準備。
本文為「經濟部產業技術司科技專案成果」
潘俊良
高級法律研究員 編譯整理
Government Office for Science, Artificial intelligence: opportunities and implications for the future of decision making, available at, https://www.gov.uk/government/uploads/system/uploads/attachment_data/file/566075/gs-16-19-artificial-intelligence-ai-report.pdf (last visited Dec. 13, 2016)
Government Office for Science, Artificial intelligence: an overview for policy-makers, available at, https://www.gov.uk/government/publications/artificial-intelligence-an-overview-for-policy-makers (last visited Dec. 13, 2016)
「專利審查高速公路(Patent Prosecution Highway, PPH)」係指專利審查機關加速專利審查之程序。藉著各國專利局間合約之簽署，當某專利申請在第1間專利局取得至少1請求項(claim)之核准後，申請人得請求加速第2間專利局就該已經核准之請求項之審查程序。申請人得縮短取得專利之期間，參與之專利局亦得藉著利用第1間審查之專利局已有資料，降低審查工作之負荷。但此並不代表於第1間專利局獲准之專利之發明於第2間專利局亦會當然獲准。 台灣目前已與美國、日本、韓國及西班牙簽署備忘錄進行專利審查高速公路之計畫，日後專利申請人得利用此機制，縮短取得專利之時程，專利局的審查速度亦會加快。根據智財局之統計，至2016年6月底，平均首次OA(office action)期間(自PPH文件齊備至首次OA平均期間)為57.6天，平均審結期間(自PPH文件齊備至審結平均期間)則為136.6天。
歐盟質疑Google新訂網路隱私權政策服務條款2012年3月，Google 公告使用者的新網路隱私權政策條款，這項措施將Google 所提供的各項服務適用同一個隱私權政策，並整合多項服務於同一帳號之中，隨著隱私權政策的變動，使用者條款也一併更新，這項措施並同時透過電子郵件通知所有的使用者。然而，Google 此項新政策在歐洲地區實施時卻碰到困難，歐盟表示該隱私權條款適法性受到質疑，將可能受到有關單位的調查。 歐盟資料保護相關指令乃建構基礎架構規制網路使用者個人的隱私，相關機構與業者都必須遵守。關於此項Google 新隱私權政策條款，規定使用者的資料可以合併使用於各個不同的服務中，將可能造成使用者的個人資料將可能透過不同的服務而洩漏，並且遭受第三人使用，而有違反歐盟資料保護指令之虞。針對此問題，法國資料保護管理機構（The Commission Nationale de l'Informatique, CNIL）已對Google 提出詢問，詢問的內容包含Google是如何保存使用者的資料；如何將使用者於不同服務中揭露的資訊加以整合等問題。由於既存的使用者若要繼續使用Google相關服務，就必須同意該新訂隱私權政策條款，因此CNIL也透過此次機會了解使用者退出資料不被揭露的機制內容，以避免使用者在未經同意下個人隱私受到侵害。不過，屆至目前為止，包含英國在內的歐洲各國仍普遍認為，該隱私權政策條款並未充分賦予使用者掌握個人資料的權限。 相較於歐盟，美國聯邦交易委員會（Federal Trade Commission, FTC）對於使用者於使用網路時隱私權的保護，著重於業者隱私權保護的承諾；亦即歐盟著重於隱私權為個人基本權利，而美國普遍要求網路業者能於條款中，明確承諾保護使用者使用網路時的各項權利。無論如何，各國對於保護使用者使用網路服務的原則與概念雖然不同，但對於使用者資訊揭露的透明化要求均為一致。
歐洲法院裁決比特幣兌換免徵增值稅歐洲法院（Court of Justice of the European Union）日前（2015年10月22日）裁決，根據歐盟增值稅指令（Council Directive 2006/112/EC of 28 November 2006 on the common system of value added tax (OJ 11.12.2006 L 347, p. 1-118, ‘the VAT Directive’)），虛擬通貨比特幣（bitcoin）與其他傳統通貨的兌換交易免徵增值稅。 本案肇因於歐盟會員國瑞典之國民David Hedqvist欲申請線上比特幣交易平臺營利，預先向瑞典稅法委員會（Swedish Revenue Law Commission）申請先裁決定（preliminary decision），以確認比特幣與其他傳統通貨，諸如瑞典克朗，之間的兌換交易免徵增值稅。委員會表示，比特幣作為一種支付方式，其使用與合法的支付方式相似，因此比特幣與傳統通貨之間的兌換免徵增值稅。然而瑞典稅務機關（Skatteverket; the Swedish Tax Authority）對該決定不符因而上訴至瑞典最高行政法院（Högsta förvaltningsdomstolen; Supreme Administrative Court, Sweden）。法院認為本案涉及歐盟增值稅指令之解釋，因此以之為先決問題暫停訴訟而提交至歐洲法院，請求先行裁決（the reference for a preliminary ruling）。先行裁決是歐盟法院進行的程序之一，由各會員國法院請求其對歐盟法內容或效力作出解釋並拘束所有會員國，藉此保證歐盟法的法確定性及適用上的一致性。 瑞典最高行政法院認為，固然可以從歐洲法院先前判決推導出：從傳統通貨與虛擬通貨的兌換交易中，取得買賣虛擬通貨之差額作為對價，構成「提供服務以獲取對價」。有疑者，該等交易是否被歐盟增值稅指令第135條第1項各款規定所涵蓋，而屬於得免除增值稅之金融服務提供。其提交歐盟法院請求解釋之問題有二：第一，系爭交易是否屬於歐盟增值稅指令第2條第1項所定之「提供服務以獲取對價」之交易；第二，如是，該等交易是否屬於同法第135條第1項所規定得免除增值稅之交易？ 歐洲法院認為，比特幣具有雙向通貨流的性質，而其除了作為支付工具之外別無意義。該虛擬通貨與傳統通貨的兌換，性質上屬於不同支付方式的交換；此外，比特幣販售者所獲得報酬等同於其買賣比特幣的價差，與交易有直接連結，屬於歐盟增值稅指令第2條第1項c款「提供服務以獲取對價」之交易。 關於第二個爭點，歐洲法院認為，歐盟增值稅指令第135條第1項e款之目的即在於避免金融交易中，決定應稅額及增值稅抵扣額的困難。更重要者，傳統通貨與虛擬通貨比特幣之相互兌換，在交易雙方都可接受比特幣作為支付方式之情況下，僅是不同支付方式之交換而屬於金融交易。若將系爭交易排除於該款適用範圍之外，將會剝奪規範目的的部份效果，因此應認定其免徵增值稅。 至於此裁決是否代表歐盟全面肯認，諸如比特幣等具有雙向通貨流性質之虛擬通貨，其作為通貨的性質？裁決中提到，就歐盟指令而言，虛擬通貨與電子錢不同，且前者並非以諸如歐元之傳統記帳單位（traditional accounting units）表示，僅是虛擬記帳單位。因此，比特幣乃至虛擬通貨於歐盟法上之定位，仍有待觀察。
人工智慧技術用於醫療臨床決策支援之規範與挑戰—以美國FDA為例人工智慧技術用於醫療臨床決策支援之規範與挑戰—以美國FDA為例 資訊工業策進會科技法律研究所 蔡宜臻法律研究員 2018年11月27日 壹、事件摘要 美國係推動人工智慧用於醫療服務的領航國家，FDA轄下的數位健康計畫（Digital Health Program）小組負責針對軟體醫療器材規劃新的技術監管模式，在過去五年中，該計畫發布了若干指導文件 ，嘗試為醫用軟體提供更為合適的監督管理機制。但由於指導文件並非法律，監管的不確定性依舊存在，因此近兩年 FDA推動修法並做成多項草案與工作計畫，望以更具約束力的方式回應軟體醫療器材最新技術於臨床之適用。當中最為重要的法制變革，便是2016年底國會通過之《21世紀治癒法》（21st Century Cures Act）。該法重新定義了醫用軟體的監管範圍，一般認為是對人工智慧醫用軟體的監管進行鬆綁，或有助於人工智慧醫用軟體的開發與上市。然而在新法實施近兩年以來，實務上發現人工智慧的技術特質，會導致在進行某些「臨床決策支援之人工智慧軟體」是否為醫療器材軟體之認定時，產生極大的不確定性。對此FDA也於2017年12月作成《臨床與病患決策支持軟體指南草案》（Clinical and Patient Decision Support Software-Draft Guidance for Industry and Food and Drug Administration），望能就部份《21世紀治癒法》及其所修正之《聯邦食品藥物化妝品法》（Federal Food, Drug, and Cosmetic Act, FD&C Act）[1]裡的規範文字提供更為詳細的說明。 本文望能為此項法制變革與其後續衍生之爭議進行剖析。以下將在第貳部分重點說明美國2016年頒布的《21世紀治癒法》內容；在第參部份則針對人工智慧技術用於醫療臨床決策支援所發生之爭議進行分析；最後在第肆部份進行總結。 貳、重點說明 2016年12月美國國會頒布了《21世紀治癒法》，在第3060節明確界定了FDA對數位健康產品（Digital Health Products）之管轄範圍，將某些類型的數位健康產品排除在FDA醫療器材（medical device）定義之外而毋須受FDA監管。此規定亦修正了美國《聯邦食品藥物化妝品法》第520節（o）項有關FDA排除納管之軟體類別之規定。 根據新修正的《聯邦食品藥物化妝品法》第520節（o）（1）項，美國對於醫用軟體的監管範疇之劃設乃是採取負面表列，規定以下幾種類型的軟體為不屬於FDA監管的醫用軟體： 行政管理目的[2]；或 目的在於非關診斷、治療、緩解、預防或病症處置之健康維持或健康生活習慣養成[3]；或 目的在於進行電子化的個人健康紀錄[4]；或 目的用於傳輸、儲存、格式轉換、展示臨床研究或其他裝置資料與結果[5]；或 同時符合以下四點之軟體： (1)不從體外醫療器材或訊號蒐集系統來讀取、處理或分析醫療影像或訊號[6]。 (2)目的在於展示、分析或印製病患醫療資訊，或其他醫療訊息（例如：偕同診斷之醫療研究、臨床處置指南）[7]。 (3)目的在於替醫療專業人員就疾病或症狀之預防、診斷或處置提供支持或臨床建議[8]。 (4)使醫師在使用該軟體時尚能獨立審查「臨床建議產生之基礎」，因此醫師所做成之臨床診斷或決策，並非主要依賴該軟體提供之臨床建議[9]。 雖然大多數被排除的類別相對無爭議，但仍有一部分引起法律上不小的討論，即《聯邦食品藥物化妝品法》第520節（o）（1）（E）項所指涉的某些類型之臨床決策支援軟體（Clinical Decision Support Software，以下簡稱CDS軟體）。 CDS軟體係指分析數據以幫助醫療手段實施者（例如：醫師）做出臨床決策的軟體。多數以人工智慧為技術基礎的醫療軟體屬於此一類型，比方病理影像分析系統。根據《21世紀治癒法》與《聯邦食品藥物化妝品法》，CDS軟體是否被排除在FDA的管轄範圍之外，取決於該軟體是否「使醫師在使用該軟體時尚能獨立審查『臨床建議產生之基礎』，因此醫師所做成之臨床診斷或決策，並非主要依賴該軟體提供之臨床建議」[10]。若肯定，則將不被視為FDA所定義之醫療器材。為使此一規定更加明確，FDA於2017年12月8日發布了《臨床與病患決策支持軟體指南草案》，該指南草案針對如何評估軟體是否能讓醫師獨立審查臨床建議產生之基礎進行說明。FDA表示該軟體至少要能清楚解釋以下四點[11]： 該軟體功能之目的或用途；及 預期使用者（例如超音波技師、心血管外科醫師）；及 用於產生臨床建議的原始資料（例如患者的年齡和性別）；及 臨床建議產生背後之邏輯或支持證據 後續方有機會被FDA認定係令醫療專業人員使用該軟體時，能「獨立審查」臨床建議產生之基礎。換言之，指南草案所提的四點，為FDA肯認醫師在使用軟體時尚能「獨立審查」之必要前提。除此之外，指南草案尚稱預期使用者必須能自己做成與軟體相同之判斷，並且要求「用於生成臨床建議與演算邏輯的原始資料必須可被預期使用者辨識、近用、理解，並為公眾可得」[12]，進而方有機會符合《聯邦食品藥物化妝品法》第520節（o）（1）（E）（iii）之規定；若該軟體亦同時符合第520節（o）（1）（E）之其他要件，則有望被劃分為非醫療器材而不必受FDA監管。 由於規範內容較為複雜，指南草案亦提供案例說明。比方若一糖尿病診斷軟體是由醫生輸入患者參數和實驗室測試結果（例如空腹血糖、口服葡萄糖耐量測試結果或血紅蛋白A1c測試結果），並且該裝置根據既定臨床指南建議患者的病情是否符合糖尿病的定義，可被FDA認定為「非醫療器材」[13]；而諸如分析電腦斷層、超音波影像之軟體，則仍維持屬於醫療器材[14]。 另需注意的是，《聯邦食品藥物化妝品法》在第520節（o）（3）（A）（i）項亦建立「彌補性納回（claw-back）」機制，FDA需遵守通知評論程序（notice-and-comment process）以便及時發現軟體可能對健康造成嚴重危害的風險，並隨時將之納回監管範疇中。同時FDA每兩年必須向國會報告醫療器材軟體的實施經驗[15]。 參、事件評析 《21世紀治癒法》頒布至今兩年，FDA已核准多個以人工智慧為技術核心的軟體，例如在2018年2月13日通過能自動偵測可疑的大血管阻塞（large vessel occlusion, LVO），並迅速通知醫師病人可能有的中風危險的臨床決策支援軟體：Viz.AI Contact application；又比如於2018年4月11日通過利用演算法分析由視網膜攝影機（Topcon NW400）所獲得的影像，快速篩檢糖尿病病人是否有必須由專業眼科醫師治療的視網膜病變的IDx-DR。 然而，在CDS軟體以人工智慧為技術核心時，現有的法規與監管框架依舊有幾點疑慮： 一、「理解」演算法？ 根據新修正之《聯邦食品藥物化妝品法》，如果CDS軟體欲不受FDA監管，醫師的決策必須保持獨立性。目前規定只要該醫療產品「企圖」（intended to）使醫師等專業人員理解演算法即可，並不論醫師是否真正理解演算法。然而，若FDA肯認理解演算法對於執行醫療行為是重要的，那麼當CDS係基於機器學習產生演算法時，具體該如何「理解」就連開發者本身都未必能清楚解釋的演算法？有學者甚至認為，CDS軟體是否受到FDA法規的約束，可能會引導至一個典型的認識論問題：「我們是怎麼知道的？（How do we know?）」[16]。對此問題，我們或許需要思考：當醫師無法理解演算法，會發生什麼問題？更甚者，未來我們是否需要訓練一批同時具備人工智慧科學背景的醫療人員？[17] 二、如何要求演算法透明度？ 指南草案所提之「清楚解釋臨床建議產生背後之邏輯或支持證據」以及資料來源為公眾可得、醫生對演算法使用的資料來源之近用權限等，被認為是FDA要求廠商應使CDS軟體之演算法透明[18]。但根據FDA指南草案公告後得到的反饋，醫療軟體廠商對此要求認為並不合理。廠商認為，應該從實際使用效益來審視人工智慧或機器學習軟體所提出的臨床建議是否正確，而不是演算法是什麼、怎麼產生[19]。 三、醫療專業人員之獨立專業判斷是否會逐漸被演算法取代？未來醫療軟體廠商與醫療專業人員之責任該如何區分？ FDA目前的法規與指南並未直接回應此二問題，惟其對於不被列管之CDS軟體之規定係需使醫師並非主要依賴該軟體提供之臨床建議、醫師能自己做成與軟體相同之判斷。由反面解釋，即FDA肯認部份CDS軟體具備與醫師雷同之臨床診斷、處置、決策之功能，或能部份取代醫師職能，因此需受FDA監管。是故，醫師之專業能力與人工智慧演算法相互之間具有取代關係，已是現在進行式。惟究竟醫師的判斷有多少是倚靠人工智慧現階段尚無法取得量化證據，或需數年時間透過實證研究方能研判。往後，醫療軟體廠商與醫師之責任該如何區分，將會是一大難題。 肆、結語 隨著醫療大數據分析與人工智慧技術的發展，傳統認知上的醫療器材定義已隨之改變。雖然硬體設備仍然在診斷、治療與照護上扮演極為重要的角色，但軟體技術的進步正在重新改寫現代醫療服務執行以及管理模式。這些新產品及服務為醫療器材市場帶來活水，但同時也形成新的監管議題而必須採取適當的調整措施。美國FDA針對近年來呈爆炸性發展的醫療軟體產業不斷調整或制定新的監管框架，以兼顧使用者安全與新技術開展，並於2016年通過了極具改革意義的《21世紀治癒法》，且以此法修正了《聯邦食品藥物化妝品法》。 然而，新法實施後，關於個別醫用軟體是否納為不受FDA監管的醫療器材仍有法律認定上的灰色空間。舉例而言，倍受矚目的以人工智慧為核心技術的CDS軟體，在新法框架下似乎可能存在於監管紅線的兩側。根據新修正之《聯邦食品藥物化妝品法》，一CDS軟體是否屬於醫療器材軟體，關鍵在於醫師能否「獨立審查」從而「非主要依賴」軟體所提供之臨床建議。也由於此要件概念較為模糊，FDA後續在2017年發布《臨床與病患決策支持軟體指南草案》為此提供進一步解釋，然而仍無法妥適處理人工智慧機器學習技術所導致的演算法「該如何理解？」、「透明度該如何認定？」等問題。更甚者，從整體醫療服務體系納入人工智慧協助臨床決策診斷之趨勢觀之，未來醫療專業人員的獨立判斷是否會逐漸被演算法取代？未來人工智慧軟體與醫療專業人員之責任該如何區分？都是醞釀當中的重要議題，值得持續關注。 [1] 21 U.S. Code §360j [2] FD&C Act Sec. 520(o)(1)(A) [3] FD&C Act Sec. 520(o)(1)(B) [4] FD&C Act Sec. 520(o)(1)(C) [5] FD&C Act Sec. 520(o)(1)(D) [6] FD&C Act Sec. 520(o)(1)(E) [7] FD&C Act Sec. 520(o)(1)(E)(i) [8] FD&C Act Sec. 520(o)(1)(E)(ii) [9] FD&C Act Sec. 520(o)(1)(E)(iii) [10] “Enabling such health care professionals to independently review the bases for such recommendations that such software presents so that it is not the intent that such health care professional rely primary on any of such recommendations to make clinical diagnosis or treatment decisions regarding individual patient.” FD&C Act, Sec. 520(O)(1)(E)(iii) [11] FOOD AND DRUG ADMINISTRATION[FDA], Clinical and Patient Decision Support Software-Draft Guidance for Industry and Food and Drug Administration (2017), .at 8 https://www.fda.gov/downloads/medicaldevices/deviceregulationandguidance/guidancedocuments/ucm587819.pdf (last visited Sep. 21, 2018) [12] 原文為 “The sources supporting the recommendation or underlying the rationale for the recommendation should be identified and easily accessible to the intended user, understandable by the intended user (e.g., data points whose meaning is well understood by the intended user), and publicly available (e.g., clinical practice guidelines, published literature)”, id, at 8 [13] FOOD AND DRUG ADMINISTRATION[FDA], supra note 11 [14]FOOD AND DRUG ADMINISTRATION[FDA], supra note 11 [15] 21th Century Cures Act, Sec. 3060(b) [16] Barbara J. Evans & Pilar Ossorio, The Challenge of Regulating Clinical Decision Support Software after 21st Century Cures. AMERICAN JOURNAL OF LAW AND MEDICINE (2018), https://papers.ssrn.com/sol3/Delivery.cfm/SSRN_ID3142822_code1078988.pdf?abstractid=3142822&mirid=1 (last visited Sep. 21, 2018) [17] Id. [18] Gail H. Javitt & J.D., M.P.H., ANESTHESIOLOGY, Regulatory Landscape for Clinical Decision Support Technology (2018), http://anesthesiology.pubs.asahq.org/article.aspx?articleid=2669863 (last visited Sep. 21, 2018) [19] REGULATIONS.GOV, Clinical and Patient Decision Support Software; Draft Guidance for Industry and Food and Drug Administration Staff; Availability(Dec. 8, 2017) https://www.regulations.gov/docketBrowser?rpp=25&po=0&dct=PS&D=FDA-2017-D-6569&refD=FDA-2017-D-6569-0001 (last visited Sep. 25, 2018)