全美各州醫療委員會聯合會發布人工智慧(AI)治理指引,並要求醫師為AI之利用結果負最終責任

全美各州醫療委員會聯合會(The Federation of State Medical Boards, FSMB)於2024年4月發布「引導人工智慧以負責任與符合倫理方式融入臨床實務」(Navigating the Responsible and Ethical Incorporation of Artificial Intelligence into Clinical Practice)指引,明確概述醫師於利用AI協助提供照護時可採取之步驟,以履行其倫理與專業職責,期能藉此降低對患者造成傷害之風險;本指引之特色在於,其要求醫師為AI之利用結果負最終之責任。

FSMB 向各州醫療委員會與其他利害關係人所提供之原則與建議如下,以支持對包含AI之臨床照護進行負責任與符合倫理之監管:

(1)透明度與揭露(Transparency and Disclosure):
應要求維持於醫療照護領域使用AI之透明度;各州醫療委員會應制定明確之指導方針,向患者揭露AI之使用情況,其有助於患者與醫師之理解,但不會造成不必要之行政負擔;FSMB 應制定文件,詳細說明最常用之AI工具之功能與局限性,以協助醫療委員會發揮監管者之角色,並應制定常見問題與最佳實務文件,作為提供照護時利用AI方面關於透明度之資源。

(2)教育與理解(Education and Understanding):
FSMB及其於醫學教育界之合作夥伴,應為醫師、醫療委員會與患者,確認有關醫療照護中AI之結構化教育資源,該等資源應包括協助瞭解AI如何運作、其優點、潛在風險以及對患者照護之影響。

(3)負責任之使用與問責(Responsible Use and Accountability):
開發人員應協助醫師瞭解何時、以及如何於患者之照護中利用AI工具;選擇AI工具支援臨床決策之醫院系統、保險公司或其他機構應向醫師提供有關AI工具之教育、存取各工具之性能報告,並應設計一個定期檢視工具功效的流程;AI工具應以得使各州醫療委員會能稽核與理解之方式設計,以便適當評估依賴工具輸出結果之醫師是否偏離照護標準(standard of care);FSMB 應支持各州醫療委員會針對臨床醫師如何負責任、可問責地使用AI之解釋。

(4)公平性與近用(Equity and Access):
應努力確保所有患者皆能公平地近用AI帶來之好處;FSMB與各州醫療委員會致力於以下原則:醫療人員所提供之照護是公平的、且不受基於種族、民族或其他形式歧視之偏見影響;FSMB應與其他利害關係人一起理解並解決演算法偏差問題。

(5)隱私與資料安全(Privacy and Data Security):
AI工具之開發者必須實施嚴格之保護措施,以保護AI開發與評估時所利用之患者資料,通常情況下應告知患者資料如何被利用,且FSMB應與行業利害相關人一起制定AI系統使用與散布患者資料之政策,包括針對AI開發或評估中使用之患者資料之最低資料保護措施。

(6)監督與監管(Oversight and Regulation):
各州醫療委員會必須保留對於提供醫療服務時,不當應用AI工具之醫生進行紀律處分之權力,其包括問責議題之考慮,特別是當AI系統變得更加自主時;各州醫療委員會應審查其管轄範圍內如何對「醫療行為」(practice of medicine)進行法律定義,以確保對提供醫療照護、人力或其他方面進行持續之監管監督。

(7)法律法規之持續審查與調整(Continual Review and Adaptation of Law and Regulations):
各州醫療委員會應在FSMB之支持下,隨著AI之不斷發展,持續檢視與更新與AI相關之指引與法規;政策制定者應考慮AI對基本法律原則的影響,例如醫療行為之定義以及AI對企業醫學實務之影響;FSMB 應建立一個專門團隊,持續檢視與調整AI指引與法規。 本指引指出,AI工具通常無能力取代醫師之專業判斷、道德責任或對州醫療委員會之責任,醫療行為中之關鍵職業責任始終為確保診斷、臨床決策與建議不存在偏差。與用於診斷或治療疾病之任何其他工具或鑑別方法相同,醫療專業人員有責任確保基於證據結論之準確性與真實性,因此於將AI系統用於患者照護前,醫師應以合理努力識別與解決偏差(如虛假或不準確之資訊等)。

相關連結
你可能會想參加
※ 全美各州醫療委員會聯合會發布人工智慧(AI)治理指引,並要求醫師為AI之利用結果負最終責任, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9239&no=65&tp=1 (最後瀏覽日:2024/11/24)
引註此篇文章
科法觀點
你可能還會想看
新加坡智財申請政策介紹

新加坡智財申請政策介紹 科技法律研究所 法律研究員 羅育如 2014年10月31日 壹、前言   新加坡政府於2013年3月份提出IP (Intellectual Property) Hub Master Plan 10年期計畫[1],目標是成為亞洲智財匯流中心。本文針對該計畫中的智財申請政策進行觀察,目的在於了解新加坡政府如何運用政府資源,提供世界級的服務,建構吸引智財申請的環境。 貳、重點說明   IP 擁有者通常會依據商業利益來考量要在哪些國家申請智財權,但因為新加坡內需市場規模不大,故更需要由新加坡政府提供誘因,以吸引在新加坡境內提出IP註冊。為此,新加坡政府提出相關政策包括1.修改專利法提高專利品質,同時提升專利審查人員能力;2.專利審查高速網路,以下詳細說明。 一、專利法修法以及專利審查人員訓練計畫 (一)新加坡專利法修法   新加坡專利法於2011年開始修法,2014年2月14日開始實施新法,其中,最大差異在新法將新加坡智慧財產申請系統由「自我評估制度(patent self-assessment system)」轉為「實質審查制度(positive grant system)」。在舊有系統下,申請人只需要自行宣稱新穎性即可取得專利權。然而,此次修正後將改採「實質審查」制度,會增設專利審查員審查專利性,檢索報告亦須說明請求項是否具備前述專利性。此一修正之目的在於,希望能藉以提升新加坡核准專利申請案件水準。 (二)提升專利審查人員技術檢索和審查能力   配合前述專利法修法,新加坡智慧局即需要建構過去缺乏之實質審查的專利審查員。因此,提出審查委員訓練計畫,包含法規及專利領域的深入了解以及資深審查委員在職輔導等,希望審查委員能提供高品質及有效的檢索及審查結果。   新加坡智慧財產局投資5千萬星元(約合新台幣1億2千萬元),用以增進審查人員在重要技術領域的檢索和審查能力,以吸引企業在新加坡註冊IP。包括自2012年9月起,派出第一批專利檢索暨審查團隊(search and examination team;S&E)送往歐洲專利局及日本特許廳接受訓練[2]。2013年5月28日成立專利審查辦公室,2014年8月29日新加坡智慧局公布專利審查員團隊為80人規模(第一波招募40人;第二波招募40人),其中95%擁有博士學位,技術領域包括生技醫療、奈米材料、半導體以及資訊通訊技術 ,25%擁有英文/中文雙語能力。除此之外,今年9月也已完成第三波專利審查員招募作業。 二、專利審查高速網路(patent prosecution highway network;PPH)   新加坡智慧局現在與美國、日本、南韓、墨西哥以及中國專利局皆已建立專利審查高速網路(patent prosecution highway network;簡稱PPH),可加速新加坡專利申請人在海外的申請程序。   除此之外,2014年11月1日起,新加坡成為全球專利審查高速(GPPH)網路的一部分,GPPH允許來自全球的17個參與智慧財產權局彼此分享專利檢索和審查結果,包括美國、加拿大、澳大利亞、英國、丹麥、芬蘭、俄羅斯、匈牙利、西班牙、瑞典、葡萄牙、以色列、挪威、冰島、日本、韓國以及北歐。透過GPPH,新加坡擁有的PPH夥伴數量將從現在的5個增加到19個。   新加坡政府認為PPHs網絡,將促使新加坡成為優質專利申請註冊的首選之地。申請人將可在新加坡迅速取得具成本效益及優質的專利審查(S&E)報告,進而加速在其他國家智財局的專利舉發程序。 參、事件評析   新加坡政府了解新加坡國內市場小,很難吸引IP擁有者在新加坡註冊智財權,但新加坡政府還是願意花費大量的政府資源修改專利法、提升專利實質審查能力、加入PPHs,其最大的市場動力以及願景來自於東南亞智財市場。目前東南亞各國的專利制度都較新加坡起步慢,如果新加坡政府可提供高質量的智財審查服務並透過與東南亞國家之間簽署類似PPH的協定,新加坡智財局的智財服務可遍及整個東南亞國家,東南亞各國不需要自行設立相關的審查制度以及投入資源,僅需仰賴新加坡智財局即可,這樣新加坡的智財市場就不僅限新加坡國內,而是擴及至整個東南亞國家。 [1]IP STEERING COMMITTEE, Intellectual Property (IP) Hub Master Plan─Developing Singapore as a Global IP Hub in Asia (2013) http://www.ipos.gov.sg/Portals/0/Press%20Release/IP%20HUB%20MASTER%20PLAN%20REPORT%202%20APR%202013.pdf(最後瀏覽日2014/10/15) [2]2012年7月11日,日本專利局與新加坡智慧財產局於新加坡簽署兩局間合作備忘錄。目前日本專利局與新加坡間的"簡化改進的實質審查"(Modified Substantive Examination, MSE)和"專利審查高速公路"(The Patent Prosecution Highway, PPH)專案試行等,也為兩局在專利審查相關的積極合作。資訊來源:http://www.ipos.gov.sg/News/Readnews/tabid/873/articleid/200/category/Press%20Releases/parentId/80/year/2012/Default.aspx(最後瀏覽日期:2014/10/17)

美國白宮發佈「AI應用監管指南」十項原則

  美國白宮科技政策辦公室(Science and Technology Policy, OSTP)在2020年1月6日公布了「人工智慧應用監管指南(Guidance for Regulation of Artificial Intelligence Applications)」,提出人工智慧(AI)監管的十項原則,此份指南以聯邦機構備忘錄(Memorandum for the Heads of Executive Departments and Agencies)的形式呈現,要求政府機關未來在起草AI監管相關法案時,必須遵守這些原則。此舉是根據美國總統川普在去(2019)年所簽署的行政命令「美國AI倡議」(American AI Initiative)所啟動的AI國家戰略之一,旨在防止過度監管,以免扼殺AI創新發展,並且提倡「可信賴AI」。   這十項原則分別為:公眾對AI的信任;公眾參與;科學誠信與資訊品質;風險評估與管理;效益與成本分析;靈活性;公平與非歧視;揭露與透明;安全保障;跨部門協調。旨在實現三個目標: 一、增加公眾參與:政府機關在AI規範制定過程中,應提供公眾參與之機會。 二、限制監管範圍:任何AI監管法規實施前,應進行成本效益分析,且機關間應溝通合作,建立靈活的監管框架,避免重複規範導致限制監管範圍擴大。 三、推廣可信賴的AI:應考慮公平性、非歧視性、透明性、安全性之要求,促進可信賴的AI。   這份指南在發佈後有60天公開評論期,之後將正式公布實施。白宮表示,這是全球第一份AI監管指南,以確保自由、人權、民主等價值。

Google新搜尋服務引發著作權侵權爭議

  網路搜尋引擎的巨人 Google ,近來有一項計畫,即對圖書館中的書籍做掃瞄,然後讓使用者透過網際網路搜尋書籍的內容。由於 Google 計畫掃瞄供搜尋的書籍中,包括許多目前仍受到著作權保護的著作,因此 Google 此舉,是否造成對書籍著作權的侵害,便引發了相當的爭議。   在近日的一個討論會中,學者、作者與出版商群聚一堂,就 Google 此一計畫的合法性進行討論,並就是否對 Google 進一步提出訴訟做討論。 Google 宣稱,此一計畫是人類知識發展的一大進步,把人類的觀念與想法,做有系統的歸類整理,並讓大眾更容易接近與使用,對於人類知識的傳播與進步,有重大貢獻。   然而,作者與出版商方面,則認為 Google 此舉侵害的作者與出版商的著作權。就此,作者與出版商已做出回應。先前,美國出版商協會 (The Association of American Publishers, AAP) 已於 10 月 19 日對 Google 提起訴訟,希望經由法律的判決,認定 Google 的作法侵害著作權。從法律上來看, Google 此一計畫是否侵害著作權,確有爭議之處。從美國作者與出版商激烈的反應來看,將來有可能還會有其他的訴訟,甚至集體訴訟 (Class Action) 的產生,其後續效應,值得觀察。

歐盟訂定新規範 管理傳統草藥品上市

  近年來,歐洲市場對傳統草藥的接受程度逐漸上升。傳統草藥銷售市場在歐盟成員國正在快速成長,其中從中國進口的傳統中藥數量更以倍數上升。目前歐洲市場上的天然植物藥約略可分為三大類:第一類是處方藥,用於治療危重病症的植物藥針劑也包括在內;第二類是非處方植物藥;第三類是保健製藥,可在保健食品店購買。歐盟去年通過的傳統草藥品指令(EU Directive on Traditional Herbal Medicinal Products)自2005年10年31日起,已全面生效適用於歐盟地區。該指令為傳統植物來源藥品於歐盟境市場內銷售,開啟了依照簡化查驗程序上市的途徑,但也限制了部分草藥品的上市可能。   其中較具衝擊性的是:傳統使用要件之認定嚴格。根據指令第16c(1)條,此一傳統使用歷史必須是30年以上,且其中至少有15年是在歐盟境內的使用歷史,方可考慮其安全性及療效。「傳統使用」仍須有相關文獻及專家證明其:(1)已使用相當年限之客觀事實、(2)具有安全性與療效之可信度,因此,簡化程序並無法適用於”偏方”之傳統草藥。而「必須是在歐盟境內至少有15年的使用歷史紀錄或資料」,更大大限制了在1990年前尚未進入歐盟會員國的草藥品,將可能因此被擠出歐盟市場。   該指令規定了七年的緩衝限期,可讓歐盟會員國調整不符合簡化查驗程序申請資格、但在該指令生效前已在各會員國市面上銷售的草藥品。

TOP