英國展開醫療器材監管公眾意見徵詢並公布《人工智慧軟體醫材改革計畫》
英國藥物及保健產品管理局（Medicines and Healthcare Products Regulatory Agency, MHRA）於2021年9月16日展開期待已久的「英國醫療器材監管的未來」公眾意見徵詢（Consultation on the Future of Medical Devices Regulation in the United Kingdom），並公布「人工智慧軟體醫材改革計畫」（Software and AI as a Medical Device Change Programme）。英國欲從醫療器材上市前核准至其壽命結束進行監管改革，徹底改變一般醫療器材與人工智慧軟體醫療器材之監管方式。意見徵詢已於2021年11月25日結束，而該修正案預計於2023年7月生效，與英國針對醫療器材停止使用歐盟CE（Conformité Européenne, 歐洲合格認證）標誌並要求採用英國UKCA（UK Conformity Assessed, 英國合格評定）標誌的日期一致。
人工智慧軟體醫材改革計畫則包含十一個工作項目（work package，下稱WP），WP1與WP2分別為監管資格與監管分類，皆涉及監管範圍之劃定；WP3與WP4分別涉及軟體醫材上市前與上市後，如何確保其安全性與有效性的監管之研究；WP5針對軟體醫材之網路安全進行規範；WP6與WP7涉及加速創新軟體醫材審核上市之特別機制，分別為類似「創新藥品藥證審核與近用途徑」 （innovative licensing and access pathway）的機制，以及允許適時上市並持續研究監控風險的「氣閘分類規則」（airlock classification rule）；WP8為確保智慧型手機之健康應用程式安全、有效與品質之規範研究；WP9~WP11則分別針對人工智慧軟體醫材之安全與有效性、可解釋性（interpretability）以及演進式（adaptive）人工智慧進行法規調適之研究。
MHRA預計透過指引、標準、流程之公布而非立法方式實現其監管此領域的目標。MHRA亦透露，針對上述工作項目，其已與重點國家和國際機構進行研究合作，已有不少進展即將公布。
本文為「經濟部產業技術司科技專案成果」
- Consultation on the future regulation of medical devices in the United Kingdom
- Software and AI as a Medical Device Change Programme
- Transforming the regulation of software and artificial intelligence as a medical device
- Software and AI as a medical device: 10 clues from the MHRA on the new UK regime
- Software Medical Devices and AI in the UK - Proposed Reforms
- 英國推出《藥品和醫療器材法》草案
- FDA發佈人工智慧/機器學習行動計畫
陳箴
副法律研究員 編譯整理
Consultation on the future regulation of medical devices in the United Kingdom, UK.GOV, https://www.gov.uk/government/consultations/consultation-on-the-future-regulation-of-medical-devices-in-the-united-kingdom (last visited Dec. 01, 2021).
Software and AI as a Medical Device Change Programme, UK.GOV, https://www.gov.uk/government/publications/software-and-ai-as-a-medical-device-change-programme/software-and-ai-as-a-medical-device-change-programme (last visited Dec. 01, 2021).
Transforming the regulation of software and artificial intelligence as a medical device, UK.GOV, https://www.gov.uk/government/news/transforming-the-regulation-of-software-and-artificial-intelligence-as-a-medical-device (last visited Dec. 01, 2021).
Software and AI as a medical device: 10 clues from the MHRA on the new UK regime, Baker McKenzie, https://viewpoints.bakermckenzie.com/post/102h7lm/software-and-ai-as-a-medical-device-10-clues-from-the-mhra-on-the-new-uk-regime (last visited Dec. 01, 2021).
Software Medical Devices and AI in the UK - Proposed Reforms, Lexology, https://www.lexology.com/library/detail.aspx?g=29f845ab-e6c3-46fa-8fe2-7c83888802b2 (last visited Dec. 01, 2021).
英國推出《藥品和醫療器材法》草案，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&i=180&d=8455&no=64（最後瀏覽日：2021/12/03）。
FDA發佈人工智慧/機器學習行動計畫，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&i=180&d=8628&no=64（最後瀏覽日：2021/12/03）。
德國聯邦資訊技術，電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南（Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen），旨在提升企業數位化與社會責任，並提升消費者權益保護。 本份指南提出六項建議： 促進企業內部及外部訂定相關準則 例如規定公司在利用演算法和AI時，必須將影響評估列入開發流程，並列為公司應遵守的道德倫理守則，以確保開發的產品或服務符合公平及道德。 提升透明度 使用者如有興趣了解演算法及其含義，企業應協助調查並了解使用者想獲知的訊息，並透過相關訊息管道提升產品及服務透明度。因此，企業應努力使演算法及其操作和含義能夠被使用者理解。此亦涉及即將實施的歐盟一般資料保護規則中的透明度義務。在機器學習或深度學習情況下，可能會增加理解性和可追溯性難度，但有助於分析流程並使其更接近人類理解的方法在科學和商業實踐中，應特別關注並進一步討論。另外，透過教育及使用說明協助及控制功能，教導消費者係建立雙方信任的重要手段。企業應在第一線中說明產品或服務中使用的手段（演算法，機器學習，AI）。除了解釋使用那些技術來改進產品和服務外，應一併解釋如何從技術控制過程中獲得相關知識以及提供那些後援支持。另外，例如透過幫助頁面，儀表板或部落格，解釋發生什麼以及如何做出某些影響深遠的自動化決策，使用戶更了解有關使用自動決策相關訊息。因此建議企業採取強制有效以建立信任的措施，使用戶理解是否及如何使用相關演算法，此可能包括使用自動化決策，使用特定資料組和使用技術的目的，亦即使用戶對演算法，機器學習或AI支持的決策有基本的了解。 為全體利益使用相關技術 人工智慧等新技術之重要性不應被低估，目前在生活和工業等眾多領域皆有廣泛應用。對於個人和集體而言，將可帶來巨大的利益，因此應該充分利用。例如，人工智慧可降低語言障礙，幫助行動不便的人可更加獨立自主生活，改善醫療診斷，提升能源供應效率，甚至是交通規劃和搜索停車位，都只是人工智慧偉大且已被使用的案例。為促進技術發展，應公平地利用其優勢並預留商業應用模式的空間，同時充分解決涉及的具體風險。產業特定的解決方案十分重要，但應兼顧受影響者的利益，並與廣大公眾利益找出妥協平衡點，且應排除不適當的歧視。建議在使用決策支持技術時，應事先檢查相關後果並與其利益比較。例如，可以在資料保護影響評估的框架進行。作為道德準則的一部分，必須確保演算法盡可能量準確地預測結果。 開發安全的資料基礎 資料係人工智慧支援決策的基礎。與人為決策者相同，資料不完整或錯誤，將導致做出錯誤的決定。因此決策系統的可靠性仍取決資料的準確性。但資料質量和資料來源始終不能追溯到源頭，如果可能的話，只有匯總或非個人資料可用於分析或分類用戶群組。因此，確切細節不可被使用或揭露。因此建議企業應考慮要使用的資料、資料的類別和在使用AI系統前仔細檢查資料使用情況，特別是在自我學習系統中資料引入的標準，並根據錯誤來源進行檢查，且儘可能全面記錄，針對個人資料部分更應謹慎處理。 解決機器偏差問題 應重視並解決所謂機器偏差和演算法選擇和模型建立領域的相關問題。解釋演算法，機器學習或AI在基層資料選擇和資料庫時所產生決策偏見相當重要，在開發預期用途的演算法時必須納入考量，對員工應針對道德影響進行培訓，並使用代表性紀錄來創建可以識別和最小化偏差的方法。企業並應該提高員工的敏感度並培訓如何解決並減少機器偏見問題，並特別注意資料饋送，以及開發用於檢測模式的內、外部測試流程。 適合個別領域的具體措施和文件 在特別需要負責的決策過程，例如在車輛的自動控制或醫療診斷中，應設計成由責任主體保留最終的決策權力，直到AI的控制品質已達到或高於所有參與者水平。對類人工智慧的信任，並非透過對方法的無條件追踪來實現，而是經過仔細測試，學習和記錄來實現
德國2021年再生能源法修正草案最新發展德國的再生能源法（Renewable Act）在經歷過2014年及2016年兩次較大的修正後，今年度九月由部分上議院議員提出修正草案。 德國再生能源法起源於20年前，當時主要重點在於提升離岸發電、太陽光電（Solar PV）及生物氣體、水力資源對於城市用電的供應率。由於現階段德國幾乎半數的城市用電仰賴上開再生能源，因此2021年度的修法上，主要導向了協助再生能源廠得以更完善的準備進入市場，包括與現有的政策發展接軌，例如2020年的國家氫能源政策（hydrogen strategy）及電動車的電價制定等。以下將列舉數項較為重大之項目： 實現2050年碳中立的目標 結合歐盟遠大的氣候目標 擴大再生能源產能 重新制定再生能源徵收稅款 提高公眾對於再生能源的接收度 於德國南方增設更多風力發電的渦輪機及生物燃料 訂定彈性電價 提升太陽能板安裝回饋酬勞 響應氫能源政策，擬使氫能源廠商於使用再生能源時得免付費（但此項提案尚待利害關係人取得共識）。 本次再生能源法的修正提案誠然立意良善，但仍有不少批評者認為，本次修法未將日後使用再生能源的人數可能增加一事納入考量，且未將老舊風機重新供電等事納入法規中。 而根據11月份修法決議結果，德國政府並未採納上開提案，其中主要理由是認為該草案所列之內容無法達成氣候目標（climate targets），並建議該提案應擴張再生能源產能，尤其是離岸風電及太陽能。德國能源部則認為提案中所預估的2030年電力需求過低，無法切實因應未來的需求，是以，未來德國再生能源法之修法方向仍有待持續觀察。
美國行動健康照護新近法制趨勢─兼論對我國法之觀察與建議 美國於5月通過愛國者法案修正案美國參議院於今年(2020年)5月，通過了由共和黨領袖 Mitch McConnell 所提議主張，恢復《愛國者法案》（Patriot Act）中，原本應於今年3月失效的215條監控條款，該條款允許執法機構在沒有搜索令的情況下，取得人民的網路歷史瀏覽和搜尋紀錄。 此修正案授予聯邦調查局(FBI)及中央情報局(CIA)等執法機構權力，只要其認為該紀錄與犯罪調查有關並且在檢察總長的監督下，即可無須經過法官批准，獲取人民的網路歷史瀏覽和搜尋紀錄。此法案雖限制執法機構不得取得人民瀏覽和搜尋網頁的「內容」，但卻可以取得該歷史紀錄，而歷史紀錄中詳細記載了人民所瀏覽的網站及所輸入的關鍵字。 倡導隱私保護而反對此一法案的團體，認為政府在此法案的支持下，能夠藉由打擊恐怖主義、避免社會動亂、保護國家安全以及保護兒童等理由，對人民進行監視、侵害其隱私。反對者認為網路瀏覽和搜尋紀錄是美國人最敏感、最個人和最私密的部分，人們會把所想到的每一個想法都透過網路去搜尋，並且瀏覽相關網站，因此，獲取人民的網路瀏覽和搜尋紀錄即等同於了解其內心想法。此法案的反對者包含了兩黨的部分參議員、自由派公民團體「美國公民自由聯盟（American Civil Liberties Union）」以及保守派公民團體「繁榮美國（Americans for Prosperity）」，其認為並無任何證據能夠證明政府依《愛國者法案》所進行的大規模監管，得以拯救任何人的生命。 民主國家中，如何在犯罪追訴以及民主自由之間找到平衡，會是一個值得深究的問題。