經濟合作與發展組織發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》
經濟合作與發展組織（Organisation for Economic Co-operation and Development, OECD）於2023年2月23日發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》（Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI）。本報告整合ISO 31000：2018風險管理框架（risk-management framework）、美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）人工智慧風險管理框架（Artificial Intelligence Risk Management Framework, AI RMF）與OECD負責任商業行為之盡職調查指南（OECD Due Diligence Guidance for Responsible Business Conduct）等文件，將AI風險管理分為「界定、評估、處理、治理」四個階段：
1.界定：範圍、背景、參與者和風險準則（Define: Scope, context, actors and criteria）。AI風險會因不同使用情境及環境而有差異，第一步應先界定AI系統生命週期中每個階段涉及之範圍、參與者與利害關係人，並就各角色適用適當的風險評估準則。
2.評估：識別並量測AI風險（Assess: Identify and measure AI risks）。透過識別與分析個人、整體及社會層面的問題，評估潛在風險與發生程度，並根據各項基本價值原則及評估標準進行風險量測。
3.處理：預防、減輕或停止AI風險（Treat: Prevent, mitigate, or cease AI risks）。風險處理考慮每個潛在風險的影響，並大致分為與流程相關（Process-related）及技術（Technical）之兩大處理策略。前者要求AI參與者建立系統設計開發之相關管理程序，後者則與系統技術規格相關，處理此類風險可能需重新訓練或重新評估AI模型。
4.治理：監控、紀錄、溝通、諮詢與融入（Govern: Monitor, document, communicate, consult and embed）。透過在組織中導入培養風險管理的文化，並持續監控、審查管理流程、溝通與諮詢，以及保存相關紀錄，以進行治理。治理之重要性在於能為AI風險管理流程進行外在監督，並能夠更廣泛地在不同類型的組織中建立相應機制。
許嘉芳
法律研究員 編譯整理
Organisation for Economic Co-operation and Development [OECD], Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI (Feb. 23, 2023), https://www.oecd-ilibrary.org/docserver/2448f04b-en.pdf?expires=1683078463&id=id&accname=guest&checksum=030F1E26850085E4A7AC6B1EB60266A1 (last visited May 3, 2023).
Advancing accountability in AI, Organisation for Economic Co-operation and Development, https://oecd.ai/en/accountability (last visited May 3, 2023).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
張瀠心，〈歐盟執委會通過關於《人工智慧責任指令》之立法提案〉，2023年1月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8958（最後瀏覽日：2023/05/03）。
過去十餘年來，美國商務部國家技術與標準局（The Commerce Department’s National Institute of Standards and Technology, NIST）推動的「先進技術計畫」（Advanced Technology Program, ATP），成功帶領美國中小企業透過技術的研發投入，創造美國經濟榮景。近年來面對變動劇烈的國際環境，為提升美國競爭力，美國總統於2007年8月9日簽署通過「意涵深遠地促進傑出技術、教育與科學之美國機會創造法」（The America Creating Opportunities To Meaningfully Promote Excellence In Technology, Education, And Science Act, 簡稱The America COMPETES Act）。 The America COMPETES Act特別授權NIST負責推動並執行一項新的研究補助計畫－技術創新計畫（Technology Innovation Program, TIP），企圖藉由在國家重點需求領域（critical national need areas），補助具有高風險性及高報酬的技術研究（high-risk, high-reward research），支持、促進並加速美國的創新。所謂「高風險、高報酬」之技術研究，指具有以下三項特質的技術研究：（1）研究可轉化成具體實益的潛在可行性，其成果將產生深遠及廣泛的影響；（2）研究計畫的進行係為了回應屬NIST技術職掌範圍內的重大國家需求；（3）研究的技術議題過於創新（too novel）或跨越甚多學科（spans too diverse a range of disciplines），以致傳統的專家審查程序無法適當地用來篩選此類計畫。至於「國家重點需求領域」，指問題觸及的面向極大，然須要被克服的社會挑戰（societal challenge）尚無因應之道而有賴國家予以關注，此等問題與社會挑戰可能可以透過高風險、高報酬研究之進行而予以解決者。 根據The America COMPETES Act，TIP將依研究實力競爭（on the basis of merit competitions）的原則，透過分攤成本的研究補助（cost-shared research grants）、合作協議（cooperative agreements）或契約（contracts）等方式，鼓勵業界單獨或共同（透過合資方式）提出技術創新的研究計畫申請以合資方式提出者，其主導者（lead entity）可為中小型企業或高等教育機構。TIP的補助對象限於設立於美國並在美國境內經營其主事務的中小型企業，外國企業參與TIP若符合美國經濟利益者，亦得獲得補助。TIP的補助金額不超過個別研究計畫總成本的半數，且只能用於補助直接成本，間接成本、收益或管理費則不在補助之列。總計對單一單位的補助以最長三年且不超過三百萬美元為限；對於合作研究則以最長五年且不過過九百萬美元為限。由於The America COMPETES Act僅就TIP的補助目的、補助對象、補助條件等作原則性規定，其運作細節仍有待NIST進一步設計，日前NIS已於2008年3月7日對外公布TIP執行規則草案，徵求各界意見。 隨著TIP的規劃與實際運作，過去由NIST所執行的ATP也將完成其歷史性任務，由TIP取代並宣告美國政府支持產業技術研發的新理念－亦即透過支持高風險、高報酬之技術研究，以回應美國的國家重點需求領域。 身為全球創新的龍頭，美國所提出的科技研發創新政策向為各國學習與參考借鏡的標竿，隨著The America COMPETES Act的通過，新法中關於美國產業創新的新機制規劃，已引起其他國家高度關注。印度科技與地球科學（Science & Technology and Earth Sciences）部長在The America COMPETES Act通過的一個月後即宣佈，印度政府將於短期內提出全面性的印度創新法案（Indian Innovation Act），藉以激勵印度的創新，而此項創新法案將會以美國的America COMPETES Act為參考模型。
美國FTC認為政府擴大拜杜法權介入權適用範圍將引發專利叢林危機美國聯邦貿易委員會（Federal Trade Commission, FTC）於2024年2月6日針對「介入權指引草案」（Draft Interagency Guidance Framework for Considering the Exercise of March-In Rights）提交意見書。介入權指引草案由美國國家標準技術研究院（National Institute of Standards and Technology, NIST）2023年12月8日公布於聯邦公報（Federal Register），旨在訂立政府機關發動《拜杜法》（Bayh-Dole Act）第203條「介入權」（March-in rights）之判斷流程與標準，以確保介入權發動具一致性。根據草案內容，當受政府補助之研發成果若經商業運用後被以「不合理價格」販售，而未滿足民眾健康與安全需求時，提供補助之政府機關應適時介入。 然而，介入權指引草案將「價格合理性」納入介入權發動要件，被美國各界質疑係為達成拜登政府打擊藥價之政策目的，亦即透過擴大、強化介入權之方式，將「受政府補助之專利藥」強制再授權專利，以降低藥品價格。 FTC於意見書中亦對此爭議提出看法，認為美國人民就處方藥須支付不斷上漲之昂貴價格，雖然賦予各機關審查「價格合理性」，將使得介入權發動更為廣泛且靈活，並得以監督藥品價格。惟擴大、強化介入權仍有隱患，尤其製藥公司恐為了保護其藥品專利，因此擴大申請專利權範圍導致專利叢林（patent thicket）現象產生，例如除將活性成分申請專利外，另將製程、劑型亦申請專利，此為未來各政府機關應該共同解決之問題。
半導體面板設備 進口將免關稅工業局預計明年和財政部研商修改海關進口稅則，給予廠商進口國內無產製的半導體、面板設備的關鍵零組件時，免課關稅的優惠，以提升國內兩兆產業自給率，在2008年分別提升至25%和50%的水準。包括奇美、彩晶、華映等面板廠都對提高設備自給率很有興趣。工業局指出，全球面板業市場，已成為我國和韓國互相較勁的局面，韓國目前設備自給率已達40%，並計畫在2008年達到80%水準，但我國面板設備自給率目前只有12%，不但主控權掌握在外國設備廠手裡，利潤也被賺走。如果國內面板廠可以提高設備自給率，可以節省成本30%至50%，獲利將可以大幅提高。 工業局表示，由於我國半導體與平面顯示器兩兆產業在晶圓代工帶動下及筆記型電腦與LCD顯示器的大量需求下持續成長，除產值大幅成長外，在設備需求上，台灣將分別占有15%及40%以上的全球市場，國內每年設備投資總額也將高達2,000億元以上，但是卻有九成以上仰賴進口。除了以租稅減免，提高國內面板及設備業者投入設備研發、生產的誘因外，工業局明年起每年也將投入近億元的經費，以科專計畫、主導性新產品研發補助等，協助國內設備業者提升研發及生產能力。 由於我國已成為全球半導體及面板的重要生產廠商，每年進口設備金額十分龐大，工業局也將運用此優勢，吸引國外大廠來台設立研發中心或與國內設備業者合作，投資生產製程設備。為鼓勵兩兆產業中心廠使用國產設備，對使用國產設備達一定比例之廠商，工業局也將研議相關的獎勵措施。
美國監管醫療用基因檢驗之法制與實務趨勢美國監管醫療用基因檢驗之法制與實務趨勢 資訊工業策進會科技法律研究所 2020年03月25日 壹、事件摘要 精準醫療多搭配基因檢驗技術的研發與應用，以幫助醫師針對個體提供精確的診斷及治療服務。以美國現況而言，許多新的醫學檢驗技術在各實驗室中研發，且迅速發展至臨床應用，但必須經過醫療器材上市許可後，始得於實驗室外運用。 美國國會於1976年修正《聯邦食品藥物與化妝法（Federal Food, Drug, and Cosmetic Act）》後，將「體外診斷醫療器材」納入醫療器材的規範，同年美國食品藥物管理署（Food and Drug Administration, FDA）便宣佈對實驗室自行研發之檢驗技術（Laboratory Developed Tests, LDTs）行使「自由裁量權」（Enforcement Discretion），排除於《聯邦食品藥物與化妝法》的管理之外，讓實驗室內LDTs的應用可享較為寬鬆的空間[1] 。 換句話說，由於典型之LDTs僅為實驗室內部使用，且測試方式簡易，需求量亦不高，可由「醫療保險與醫療補助服務中心」（The Center for Medicare & Medicaid service, CMS）依據《臨床實驗室改進修正案（Clinical Laboratory Improvement Amendments, CLIA）[2]》之規範，施行臨床實驗室的品質管理。臨床實驗室於通過CLIA認證後，即可將開發的LDTs進行臨床應用。 然而，1976年迄今，LDTs的發展已經有許多的變化，運作LDTs的實驗室往往獨立於醫療服務機構（Healthcare Delivery Entity）之外，而依賴於許多高科技的儀器、軟體來產生結果及解釋，增加了許多以往沒有的風險；其商業模式也已經大幅的改變，已經大量製造、用於直接的臨床診斷決策上[3]。因此，美國FDA認為有必要引進一個全面性的監管架構管理LDTs，而非像過去一樣，將其排除於《聯邦食品藥物與化妝法》的管理之外。 貳、重點說明 FDA近年來加強基因檢驗風險監管之具體行動，包括LDTs監管架構之研擬以及加強實務取締，以保障病人的權益。 一、LDTs監管架構指引草案 美國FDA曾於2014年公布兩項指導文件，分別為「實驗室自行研發檢驗方法監管架構指引草案[4]」以及「實驗室自行研發檢驗技術須執行通知上市與不良事件通報之草案[5]」（以下統稱LDTs監管架構指引草案）。LDTs監管架構指引草案希望提升LDTs的規管密度，並規劃將LDTs分為數個不同的類別，依據其風險程度的高低，分別要求其進行包含取得上市前許可、符合品質系統規範等不同程度之要求。 該指引草案公布後，受到各臨床實驗室、醫療單位、病人與傳統體外診斷試劑製造商、政府部門等熱烈討論。特別是業界擔憂監管密度的提高，會扼殺臨床實驗室的創新意願，使得實驗檢驗技術、方法與應用停滯，並耗費大量的人力與金錢成本。 美國FDA最後於2017年1月13日說明，短期內不會執行該指引草案內容，但會尋求更加全面的立法解決方案[6]。歸納各界對指引草案之看法，顯示對LDTs的額外監督是必要的，但對於如何監管則有不同看法，未來主管機關應基於下列原則，提出符合科學證據、經濟效益並兼顧臨床安全性之管理方案，重點摘述如下： （一）以風險等級為基礎，並分階段實施監督 之後的四年內將分階段要求LDTs逐步進行上市前審查，第一年實驗室必須回報LDTs所有的嚴重不良反應；第二年將要求與第三級高風險醫療器材具有相同用途的新型或改良LDTs，必須經過一致的上市前審查；第三年要求與第二級中風險醫療器材具有相同用途的新型或改良LDTs，必須經過一致的510(k)上市前通知；第四年則完成LDTs全面性的監督，並且原則上與醫療器材採取一致標準。 （二）以檢驗之分析效能與臨床有效性，作為核准基礎 目前CMS已有實驗室檢驗之臨床效用（clinical utility）審查，但與FDA上市前審查所需之分析效能與臨床有效性有所差異。是故，FDA將制定適合的審查標準，以減輕實驗室提交審查的負擔，並加速上市前審查的審核時間。 （三）不良反應通報系統 將參考既有醫療器材上市後監督機制（postmarket surveillance），監控LDTs在真實世界的效能及臨床結果（real-world performance and clinical outcomes）。 （四）健全實驗室之品質系統 FDA將會密切與CMS合作加強實驗室的品質系統要求，但會與既有CLIA等認證制度相互調和、不會重複監督。 （五）公開檢驗性能資訊供大眾取得 實驗室必須將LDTs檢驗的分析效度及臨床有效性等相關資訊，公開讓民眾可取得。 （六）免除特定類型檢驗之上市前審查 對於特定類型的LDTs可免除上市前審查、品質系統及註冊登記之義務，如：對健康影響較低者、罕見疾病使用之LDTs等。 二、加強基因檢驗之執法 （一）23 and Me遺傳健康風險個人基因體服務 雖然在LDTs規範上，美國FDA暫時未有全盤性的改變；但在個案上，開始有逐步的調整。美國FDA在2013年11月時，發函警告生技公司「23 and Me」，認為其銷售的「個人基因體服務」（personal genome service, PGS）應該屬於《聯邦食品藥物與化妝法》所規定的第三級醫療器材（風險程度最高的醫療器材），但由於其未取得美國FDA的上市前許可，因此應該立刻停售；其後，23 and Me將其旗下的「遺傳健康風險個人基因體服務」（PGS Genetic Health Risk）向美國FDA申請並取得第二級醫療器材許可[7]。 （二）Inova藥物反應基因檢驗 2019年另外一起案例，亦顯示美國FDA從嚴限制LDTs在實驗室外應用之決心。美國FDA於2019年4月4日向Inova基因體實驗室（Inova Genomics Laboratory）寄發通知函，表示其自行研發之MediMap Plus基因檢驗產品，用於預測病人對藥品的反應與接收度，必須先完成FDA上市前審查程序，始得進行商業販售[8]。 Inova基因體實驗室雖回覆表示，MediMap Plus基因檢驗產品屬於LDTs的範疇，所以不應該受到FDA上市前審查或任何標示要求之拘束。嗣後，FDA則直接寄發警告函，申明其並未針對LDTs創設任何責任免除條款，且為了促進公眾安全，FDA對於LDTs保留裁量權[9]。對於FDA的警告，Inova決定停止執行MediMap Plus之販售，也不會申請上市前審查[10]。 三、小結 由於基因檢驗之安全及確效涉及面向十分廣泛，美國監管體系主要係以《聯邦食品藥物與化妝法》之醫療器材規範，搭配行之多年的CLIA實驗室品質管理制度，以完備各環節之風險管理。申言之，即便基因檢驗技術僅屬實驗室內應用，並未在外流通，亦屬實驗室品質管理之範疇，必須依據CLIA實驗室分類進行能力測試或實地查核。 其次，美國對於LDTs的監管雖然認為不宜貿然與醫療器材規範一致，但未來仍將參考醫療器材的風險等級基礎，並盡量提高審查的效率，此趨勢與歐盟新的醫療器材法規[11]一致。 參、事件評析 我國近年來政府與民間在基因檢驗的監管上亦有所討論，特別是LDTs之管理方向、管制密度之取捨、實驗室品質標準等[12]。從美國醫療用基因檢驗監管趨勢觀之，建議我國未來或可釐清不同目的之基因檢驗，如商業用、實驗用、醫療用等，進而明確醫療用基因檢驗之監管密度，並依不同風險程度採取分級監理，以在新技術應用與病人權益保護之間取得平衡。 [1]Center for Devices and Radiological Health, Food and Drug Administration, Draft Guidance for Industry, Food and Drug Administration Staff, and Clinical Laboratories: Framework for Regulatory Oversight of Laboratory Developed Tests (LDTs), Oct. 03, 2014, https://www.fda.gov/media/89841/download (last visited Jan. 07, 2020), at 6-7. [2]42 USC 263a, available at https://www.govinfo.gov/content/pkg/USCODE-2011-title42/pdf/USCODE-2011-title42-chap6A-subchapII-partF-subpart2-sec263a.pdf (last visited Dec. 26, 2019). [3]呂雅情，〈實驗室自行研發檢驗技術(LDTs)的發展與法規管理現況〉，當代醫藥法規月刊，2018/02/09，https://www.cde.org.tw/Content/Files/Knowledge/cc18e890-c1e3-4e6e-8bbd-45d7afd6cee9.pdf（最後瀏覽日：2020/01/07），頁17。 [4]Supra note 1, at 7-8. [5]id. at 30. [6]Food and Drug Administration, Discussion Paper on Laboratory Developed Tests (LDTs), Jan. 13, 2017, https://www.fda.gov/media/102367/download (last visited Jan. 07, 2020), at 1. [7]何建志，〈精準醫學趨勢下基因檢驗與消費者保護法律問題〉，《月旦醫事法報告》，第25期，頁44-45（2018）。 [8]Food and Drug Administration, Inova Genomics Laboratory, Apr. 04, 2019, https://www.fda.gov/inspections-compliance-enforcement-and-criminal-investigations/warning-letters/inova-genomics-laboratory-577422-04042019 (last visited Dec. 19, 2019). [9]Food and Drug Administration, Laboratory Developed Tests, Sep. 27, 2018, https://www.fda.gov/medical-devices/vitro-diagnostics/laboratory-developed-tests?fbclid=IwAR3gOzax6O0eUx67IpZBNpmvPrW6ynuP0P99Dlt4AGKZtxvwGSoYOx5EmFA (last visited Dec. 19, 2019). [10]GenomeWeb, Inova Decides to End PGx Test Offerings in Response to FDA Warning Letter, Apr. 15, 2019, https://www.genomeweb.com/regulatory-news/inova-decides-end-pgx-test-offerings-response-fda-warning-letter#.XNkp0hQzbIU (last visited Dec. 19, 2019). [11]歐盟2017年5月25正式生效新版醫療器材法規（Medical Devices Regulations, MDR； Regulation (EU) 2017/745）以及體外診斷醫療器材法規（In Vitro Diagnostic Devices Regulations, IVDR；Regulation (EU) 2017/746）。 [12]蔡雅雯、林工凱、黃品欽、謝文祥，〈基因檢驗法規監管方向初探〉，《台灣醫界》，第62卷第12期，2019/12，https://www.tma.tw/ltk/108621207.pdf（最後瀏覽日：2020/02/06）。