歐盟針對數位革命之法制障礙展開討論
歐盟布魯塞爾會議規劃組織（QED）在2016年12月針對第四次工業革命法制議題提出討論，呼應2016年4月歐盟執委會提出之歐洲產業數位化政策，加速標準建立，並且預計調整現行法律規制，著重於資料所有權、責任、安全、防護方面等支規定，討論重點如下：
1.目前面臨之法律空缺為何
2.歐洲產業數位化是否須建立一般性法律框架
3.標準化流程是否由由公部門或私部門負責
4.相容性問題應如何達改善途徑
5.資料所有權部分之問題如何因應
6.數位化之巨量資料應如何儲存與應用，雲端是否為最終解決方式
7.如何建立適當安全防護機制。
8.一般資料保護規則是否足以規範機器產生之數據
9.各會員國對於資料保護立法不同，其間如何調合朝向資料自由發展之方向進行
我國2016年7月由行政院通過「智慧機械產業推動方案」，期待未來朝向「智慧機械」產業化以及產業「智慧機械化」之目標進行，未來，相關法制配套規範，如個人資料保護、巨量資料應用、以及標準化等議題，皆有待進一步探討之必要。
本文為「經濟部產業技術司科技專案成果」
廖凱民
法律研究員 編譯整理
根據WIPO之統計，去年(2005年)國際專利之申請件數再創新高，共有134,000件PCT申請案，較上一年增加9.4%。其中，相較於2004年，前五大國際專利申請國仍為美國、日本、德國、法國以及英國。值得注意的是，韓國超越荷蘭，成為WIPO的第六大國際專利申請國；而中國大陸則是擠下加拿大、義大利以及澳大利亞成為第十大PCT申請國。 此外，成長速度最顯著的國家連續兩年都來自東北亞，分別為日本(18.8%)、韓國(3.5%)以及中國大陸(1.8%)，該三國共佔WIPO國際專利申請件數之24.1%。而歐洲專利公約(European Patent Convention)締約國之申請件數則佔34.6%，位居第一位的美國申請件數則佔33.6%。 “日本、韓國、中國大陸之成長速度極為突出，顯示這些國家的技術強度正快速擴張。自2000年以來，日本、韓國、中國大陸的申請量分別成長了162%、200%以及212%”，於WIPO中掌管PCT工作之副主任Francis Gurry表示。 其他排名國際專利申請案前五大之國家於2005年申請案件成長率分別為美國的3.8%；德國的4%；法國的6.6%；英國的1.5%。而排名前十五大的國家中，成長率達到二位數的有澳大利亞(排名第十三)的10.%以及芬蘭(排名第十四)的11.6%。
歐盟提出雲端服務層級標準化指導原則2014年6月26日歐盟執委會提出電信網路層級服務協議標準化指導原則(Cloud Service Level Agreement Standardisation Guidelines)。網路服務提供業者通常會與消費者簽訂契約，內容約定有服務之等級，稱之為電信服務層級契約(SLAs)，在雲端運算服務中，通常橫跨不同的管轄領域，適用的法律要件亦產生變化，而在雲端部分所儲存的個人資料保護部分尤其重要。不同的雲端服務與模式所需要的協議約定亦不同，這些都增加訂定的複雜性。 指導原則之提出將幫助專業的雲端服務業者在契約訂定時應該注意的內容，其中主要相關項目包括： 1.雲端服務的可利用性與真實性 2.從雲端服務提供業者中可取得服務的品質 3.安全層級 4.在雲端中如何妥善管理資料 指導原則首先明定原則，以做為雲端運算服務契約之參考。並同時針對不同的名詞定義解是，亦針對不同的契約與法律議題說明，包括業者在依據所訂定的契約中處理個人資料時，應符合歐盟資料保護之規範。 在指導原則提出之後，執委會將與雲端使用者，特別是一些小型企業進行檢視，後續並朝向通過國際ISO之認證。
FDA發佈人工智慧/機器學習行動計畫美國食品藥物管理署（U.S. Food & Drug Administration, FDA）在2021年1月12日發布有關人工智慧醫療器材上市管理的「人工智慧/機器學習行動計畫」（Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan）。該行動計畫的制定背景係FDA認為上市後持續不斷更新演算法的機器學習醫療器材軟體（Software as Medical Device, SaMD），具有極高的診療潛力，將可有效改善醫療品質與病患福祉，因此自2019年以來，FDA嘗試提出新的上市後的監管框架構想，以突破現有醫療器材軟體需要「上市前鎖定演算法、上市後不得任意變更」的監管規定。 2019年4月，FDA發表了「使用人工智慧/機器學習演算法之醫療器材軟體變更之管理架構—討論文件」（Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback）。此一諮詢性質的文件當中提出，將來廠商可在上市前審查階段提交「事先訂定之變更控制計畫」（pre-determined change control plan），闡明以下內容：(1)SaMD預先規範（SaMD Pre-Specification, SPS）：包含此產品未來可能的變更類型（如：輸入資料、性能、適應症）、變更範圍；(2)演算法變更程序（Algorithm Change Protocol, ACP）：包含變更對應之處理流程、風險控制措施，以及如何確保軟體變更後之安全及有效性。 根據「人工智慧/機器學習行動計畫」內容所述，「事先訂定之變更控制計畫」構想被多數（包含病患團體在內）的利害關係人肯認，並於相關諮詢會議當中提出完善的細部建言。FDA將根據收到的反饋意見，於2021年以前正式提出有關人工智慧/機器學習上市後監管的指引草案（Draft Guidance），並持續研究提高演算法透明度、避免演算法偏見的方法。
全美各州醫療委員會聯合會發布人工智慧（AI）治理指引，並要求醫師為AI之利用結果負最終責任全美各州醫療委員會聯合會（The Federation of State Medical Boards, FSMB）於2024年4月發布「引導人工智慧以負責任與符合倫理方式融入臨床實務」（Navigating the Responsible and Ethical Incorporation of Artificial Intelligence into Clinical Practice）指引，明確概述醫師於利用AI協助提供照護時可採取之步驟，以履行其倫理與專業職責，期能藉此降低對患者造成傷害之風險；本指引之特色在於，其要求醫師為AI之利用結果負最終之責任。 FSMB 向各州醫療委員會與其他利害關係人所提供之原則與建議如下，以支持對包含AI之臨床照護進行負責任與符合倫理之監管： （1）透明度與揭露（Transparency and Disclosure）： 應要求維持於醫療照護領域使用AI之透明度；各州醫療委員會應制定明確之指導方針，向患者揭露AI之使用情況，其有助於患者與醫師之理解，但不會造成不必要之行政負擔；FSMB 應制定文件，詳細說明最常用之AI工具之功能與局限性，以協助醫療委員會發揮監管者之角色，並應制定常見問題與最佳實務文件，作為提供照護時利用AI方面關於透明度之資源。 （2）教育與理解（Education and Understanding）： FSMB及其於醫學教育界之合作夥伴，應為醫師、醫療委員會與患者，確認有關醫療照護中AI之結構化教育資源，該等資源應包括協助瞭解AI如何運作、其優點、潛在風險以及對患者照護之影響。 （3）負責任之使用與問責（Responsible Use and Accountability）： 開發人員應協助醫師瞭解何時、以及如何於患者之照護中利用AI工具；選擇AI工具支援臨床決策之醫院系統、保險公司或其他機構應向醫師提供有關AI工具之教育、存取各工具之性能報告，並應設計一個定期檢視工具功效的流程；AI工具應以得使各州醫療委員會能稽核與理解之方式設計，以便適當評估依賴工具輸出結果之醫師是否偏離照護標準（standard of care）；FSMB 應支持各州醫療委員會針對臨床醫師如何負責任、可問責地使用AI之解釋。 （4）公平性與近用（Equity and Access）： 應努力確保所有患者皆能公平地近用AI帶來之好處；FSMB與各州醫療委員會致力於以下原則：醫療人員所提供之照護是公平的、且不受基於種族、民族或其他形式歧視之偏見影響；FSMB應與其他利害關係人一起理解並解決演算法偏差問題。 （5）隱私與資料安全（Privacy and Data Security）： AI工具之開發者必須實施嚴格之保護措施，以保護AI開發與評估時所利用之患者資料，通常情況下應告知患者資料如何被利用，且FSMB應與行業利害相關人一起制定AI系統使用與散布患者資料之政策，包括針對AI開發或評估中使用之患者資料之最低資料保護措施。 （6）監督與監管（Oversight and Regulation）： 各州醫療委員會必須保留對於提供醫療服務時，不當應用AI工具之醫生進行紀律處分之權力，其包括問責議題之考慮，特別是當AI系統變得更加自主時；各州醫療委員會應審查其管轄範圍內如何對「醫療行為」（practice of medicine）進行法律定義，以確保對提供醫療照護、人力或其他方面進行持續之監管監督。 （7）法律法規之持續審查與調整（Continual Review and Adaptation of Law and Regulations）： 各州醫療委員會應在FSMB之支持下，隨著AI之不斷發展，持續檢視與更新與AI相關之指引與法規；政策制定者應考慮AI對基本法律原則的影響，例如醫療行為之定義以及AI對企業醫學實務之影響；FSMB 應建立一個專門團隊，持續檢視與調整AI指引與法規。 本指引指出，AI工具通常無能力取代醫師之專業判斷、道德責任或對州醫療委員會之責任，醫療行為中之關鍵職業責任始終為確保診斷、臨床決策與建議不存在偏差。與用於診斷或治療疾病之任何其他工具或鑑別方法相同，醫療專業人員有責任確保基於證據結論之準確性與真實性，因此於將AI系統用於患者照護前，醫師應以合理努力識別與解決偏差（如虛假或不準確之資訊等）。