部落格及其法律問題之初探
郭戎晉
副主任兼應研組組長 編譯整理
世界衛生組織（World Health Organization, WHO）於2023年10月19日發布「人工智慧於健康領域之監管考量因素」（Regulatory considerations on artificial intelligence for health）文件，旨在協助各國有效監管健康領域之人工智慧，發揮其潛力同時最大限度地降低風險。本文件以下列六個領域概述健康人工智慧之監管考量因素： （1）文件化與透明度（Documentation and transparency） 開發者應預先規範（pre-specifying）以及明確記錄人工智慧系統（以下簡稱AI系統）之預期醫療目的與開發過程，如AI系統所欲解決之問題，以及資料集之選擇與利用、參考標準、參數、指標、於各開發階段與原始計畫之偏離及更新等事項，並建議以基於風險之方法（Risk-based approach），根據重要性之比例決定文件化之程度、以及AI系統之開發與確效紀錄之保持。 （2）風險管理與AI系統開發生命週期方法（Risk management and AI systems development lifecycle approaches） 開發者應在AI系統生命之所有階段，考慮整體產品生命週期方法（total product lifecycle approach），包括上市前開發管理、上市後監督與變更管理。此外，須考慮採用風險管理方法（risk management approach）來解決與AI系統相關之風險，如網路安全威脅與漏洞（vulnerabilities）、擬合不足（underfitting）、演算法偏差等。 （3）預期用途、分析及臨床確效（Intended use, and analytical and clinical validation） 開發者應考慮提供AI系統預期用途之透明化紀錄，將用於建構AI系統之訓練資料集組成（training dataset composition）之詳細資訊（包括大小、設定與族群、輸入與輸出資料及人口組成等）提供給使用者。此外，可考慮透過一獨立資料集（independent dataset）之外部分析確效（external analytical validation），展示訓練與測試資料以外之效能，並考慮將風險作為臨床確效之分級要求。最後，於AI系統之上市後監督與市場監督階段，可考慮進行一段期間密集之部署後監督（post-deployment monitoring）。 （4）資料品質（Data quality） 開發者應確認可用資料（available data）之品質，是否已足以支援AI系統之開發，且開發者應對AI系統進行嚴格之預發布評估（pre-release evaluations），以確保其不會放大訓練資料、演算法或系統設計其他元素中之偏差與錯誤等問題，且利害關係人還應考慮減輕與健康照護資料有關之品質問題與風險，並繼續努力創建資料生態系統，以促進優質資料來源之共享。 （5）隱私與資料保護（Privacy and data protection） 開發者於AI系統之設計與部署過程中，應考慮隱私與資料保護問題，並留意不同法規之適用範圍及差異，且於開發過程之早期，開發者即應充分瞭解適用之資料保護法規與隱私法規，並應確保開發過程符合或超過相關法規要求。 （6）參與及協作（Engagement and collaboration） 開發者於制定人工智慧創新與部署路線圖之期間，需考慮開發可近用且具有充足資訊之平台，以於適合與適當情況下促進利害關係人間之參與及協作；為加速人工智慧領域實務作法之進化，透過參與及協作來簡化人工智慧監管之監督流程即有必要。
為促進健康資通訊科技之創新，美國嘗試立法重新定義健康軟體美國參議院認為健康資通訊科技（Healthy Information Technology）的創新與快速發展已經漸使現行法制不合時宜，美國食品藥物管理局（The US Food and Drug Administration）過度嚴格管制健康資通訊科技產品，甚至以法律強加健康資通訊業者不必要的負擔，恐抹殺新產業的創新能量，因此有必要對相關管制法規予以鬆綁。遂立法提案重新定義健康相關軟體，稱為「防止過度規範以促進照護科技法案」（The Prevent Regulatory Overreach To Enhance Care Technology Act of 2014，以下簡稱PROTECT Act）。 健康資通訊科技是目前創新與發展最快的美國產業。單以健康資通訊科技產業中，與健康相關的手機應用程式（application，APP）之開發，在全球經濟已創造數億美金的產值，在美國一地更提供了將近50萬份的工作機會。然而，在現行法制中食品藥物管理局認為健康相關的手機應用程式等軟體被廣泛應用於醫療行為的資訊蒐集，因此應當被視為醫療行為的一環。依據聯邦食品藥物及化妝品法（TheFederal Food, Drug and Cosmetic Act，FD&C Act）之規定，健康資通訊科技產品被界定為醫療器材（Medical Devices），而健康管理APP、行事曆APP、健康紀錄電子軟體等低風險產品亦包含在內，都必須嚴格遵守醫療器材相關行政管制。在PROTECT Act中將風險較低的健康資通訊科技產品重新定義為臨床軟體（Clinic Software）與健康軟體（Healthy Software）兩種態樣，其共通點在於明白區分出單純提供市場使用，不影響人體或動物醫療的健康資訊蒐集與直接提供實際臨床診斷，如放射線影像或醫療器材軟件的差異，PROTECT Act所定義之臨床軟體與健康軟體即屬於前者，故排除適用FD&C Act中醫療器材之定義範圍，得免除相關行政管制。
英國與美國為人工智慧安全共同開發簽署合作備忘錄英國技術大臣（U.K. Secretary of State for Science）蜜雪兒·多尼蘭（Michelle Donelan）和美國商務部長（U.S. Secretary of Commerce）吉娜·雷蒙多（Gina Raimondo）於2024年4月1日在華盛頓特區簽署一份合作備忘錄（MOU），雙方將共同開發先進人工智慧（frontier AI）模型及測試，成為首批就測試和評估人工智慧模型風險等進行正式合作之國家。 此備忘錄之簽署，是為履行2023年11月在英國的布萊切利公園（Bletchley Park）所舉行的首屆人工智慧安全峰會（AI Safety Summit）上之承諾，諸如先進AI的急速進步及濫用風險、開發者應負責任地測試和評估應採取之適當措施、重視國際合作和資訊共享之必要性等等，以此為基礎羅列出兩國政府將如何在人工智慧安全方面匯集技術知識、資訊和人才，並開展以下幾項聯合活動： 1.制定模型評估的共用框架（model evaluations），包括基礎方法（underpinning methodologies）、基礎設施（infrastructures）和流程（processes）。 2.對可公開近用模型執行至少一次聯合測試演習（joint testing exercise）。 3.在人工智慧安全技術研究方面進行合作，以推進先進人工智慧模型之國際科學知識，並促進人工智慧安全和技術政策的一致性。 4.讓英、美兩國安全研究所（AI Safety Institute）間的人員互相交流利用其團體知識。 5.在其活動範圍內，依據國家法律、法規和契約規定來相互共享資訊。 換言之，兩國的機構將共同制定人工智慧安全測試之國際標準，以及適用於先進人工智慧模型設計、開發、部署、使用之其他標準。確立一套通用人工智慧安全測試方法，並向其他合作夥伴分享該能力，以確保能夠有效應對這些風險。就如英國技術大臣蜜雪兒·多尼蘭強調的，確保人工智慧的安全發展是全球性問題，只有通過共同努力，我們才能面對技術所帶來的風險，並利用這項技術幫助人類過上更好的生活。
綠色管制風潮與挑戰 經濟部中小企業處推動輔導計畫歐盟於2003年通過WEEE及RoHS兩項環保指令，分別為有關「廢電子電機產品回收」（Waste from Electronic and Electrical Equipment, WEEE）及「禁用物質防制」（Restriction on the Use of Hazardous Substances, RoHS）兩項指令，明確規定行銷歐洲市場之電機電子產品，自去（2005）年8月及今年7月起，必須符合WEEE及RoHS禁用六項有害物質(鉛、鎘、汞、六價鉻、PBB及PBDE) 兩指令之規定，才能進入歐洲市場。簡單來說，WEEE係為確保在產品到達壽命終結時，其廢棄的零組件不致污染環境，同時部分材料還要能回收再利用；RoHS旨在規範產品的上游設計及中游製造段必須符合嚴格的環保規範，此兩項環保指令勢必對台灣每年輸往歐洲的電機電子產品，產生相當程度的衝擊，若是產品不符合相關規定，最嚴重將遭受到產品下架的處分。 對此，經濟部擬訂了「我國產業因應歐盟環保指令行動方案」，以今年6月底前輔導輸歐產值80%廠商符合RoHS指令要求為目標，而為了協助台灣中小企業因應新規定，中小企業處將輔導320家中小企業進入綠色材料與供應鏈體系，並與國際綠色供應鏈接軌，提高中小企業綠色競爭力。