美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」，並徵詢公眾對於該框架之意見
美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）為管理人工智慧對於個人、組織以及社會所帶來之風險，於2021年7月29日提出將建立「人工智慧風險管理框架」（Artificial Intelligence Risk Management Framework, AI RMF）之規畫並徵詢公眾意見，截止日為9月15日，並預計於10月發布正式報告。
依照NIST說明，公眾所建議之人工智慧風險管理框架，可促進人工智慧之可信賴性，其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」（accuracy）、「可解釋性」（explainability）、「偏見」（bias）等議題。此外，上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。
依現有公眾意見徵詢結果，其中DeepMind公司建議於人工智慧設計初期，必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之，當設計一套可預測民眾健保需求程度之系統時，如輸入參數僅考量民眾於醫療上的花費，將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者，從而導致健保制度排擠經濟負擔程度較差之公民，故在設計系統時，應從預先設定之假設事實反面（counter-factual）思考並驗證是否會產生誤差或公平性之問題（例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」）。惟進行上述驗證需要大量社會資料，因此DeepMind也建議NIST應建立相關機制，使這些社會資料可以被蒐集、使用。
此外，亦有民眾建議管理框架應有明確之衡量方法以及數值指標，以供工程界遵循。同時鑒於人工智慧發展極為快速，未來可能有不同於以往之人工智慧類型出現，故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。
最後，目前也有許多徵詢意見指出，許多人工智慧治理之目標會相互衝突。舉例言之，當NIST要求人工智慧系統應符合可解釋性，則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」（audit logs），惟數據軌跡可能被認為是使用者之個人資料，因此如何平衡或完善不同治理框架下之目標，為未來應持續關注之議題。
本文為「經濟部產業技術司科技專案成果」
王柏霳
法律研究員 編譯整理
National Security Commission on Artificial Intelligence, Final Report, https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf (last visited, Sep. 28, 2021).
DeepMind, Request for Information: Artificial Intelligence Risk Management Framework, https://www.nist.gov/system/files/documents/2021/09/17/ai-rmf-rfi-0105.pdf (last visited, Sep. 28, 2021).
Comments Received for RFI on Artificial Intelligence Risk Management Framework, NIST, https://www.nist.gov/itl/ai-risk-management-framework/comments-received-rfi-artificial-intelligence-risk-management (last visited, Sep. 28, 2021).
AI RMF Development & Request for Information, NIST, https://www.nist.gov/itl/ai-risk-management-framework (last visited, Sep. 28, 2021).
〈歐盟提出人工智慧法律調和規則草案〉，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=55&tp=1&d=8674（最後瀏覽日期：2021/09/28）。
英國商業、能源暨產業策略部（Department for Business, Energy and Industrial Strategy, BEIS）於2021年3月2日向英國國會提交「先進研究發明署法案」（The Advanced Research and Invention Agency Bill），作為英國政府設立獨立研究機構「先進研究發明署」（Advanced Research and Invention Agency, ARIA）的法源依據，用以補助高風險、高報酬之前瞻科學與技術研究，將仍處於想像階段的新技術、發現、產品或服務化為現實。 本法案授予ARIA高度的自主性，使ARIA得以招攬世界頂尖的科學家與研究人員，規劃最具前瞻性與發展潛力的研究領域提供研發補助；同時也給予相較於其他研究機構更多容許失敗的彈性，並明確指出失敗是前瞻科學研究必然經歷的過程。ARIA對於研發資金的運用將因而獲得充分的自主性與彈性，包含對於研究計畫提供快速啟動基金與其他獎項做為激勵措施，或是依據研發進展即時決策是否延續或中止。 ARIA取法自美國國防先進研發署（Defense Advanced Research Projects Agency, DARPA），美國DARPA在網際網路、GPS等技術研發上的成就，直到近期支持針對COVID-19的mRNA疫苗及抗體療法從而取得重大進展，在在顯示了DARPA模式的可行性與重大影響力，而其成功的關鍵在於高度的自主性、靈活性以及最少的行政程序障礙，因此法案將允許ARIA不受政府採購相關限制、並免於政府資訊公開的義務，以減少行政程序對於研發進程的影響。但ARIA每年度仍須向國家審計署提供年度會計報告以作為政府對其最低限度的監督手段，除此之外，商業部長將有權中止與敵對勢力對象的研發合作或結束特定的研究計畫。
美國FDA擬修法調整臨床實驗知情同意義務之豁免標準美國FDA擬修法調整臨床實驗知情同意義務之豁免標準 資訊工業策進會科技法律研究所 蔡宜臻法律研究員 2018年11月27日 壹、事件摘要 知情同意（informed consent）是人體試驗受試者保護重要的一環，同時也是生物醫學長期以來的研究傳統，然其規範內容卻會因科技與研究方式的改變而略有調整。美國食品藥物管理局（Food and Drug Administration, FDA）於2018年11月15日發布一份法規提案（proposed rule），公開徵求意見評論。該提案目的在於調整FDA知情同意的相關規定，未來FDA希望允許人體試驗倫理委員會（Institutional Review Boards, IRB）在試驗僅有最小風險（minimal risk）的情況下，得以裁決一臨床實驗案可豁免知情同意的責任，或更改某些「告知要項」[1]。本次法規提案徵詢終止日為2019年1月14日，FDA並規劃於本法規命令正式公告施行後，廢止其於2017年7月所發佈之《IRB豁免或變更臨床實驗之知情同意指南》（IRB Waiver or Alteration of Informed Consent for Clinical Investigations Involving No More Than Minimal Risk to Human Subjects）[2] 貳、重點說明 目前FDA僅允許在危及生命[3]或緊急研究（emergency research）[4]的情況下，得以例外不必符合知情同意的一般要求（general requirements）[5]。而根據FDA於2018年11月15日發布於聯邦公報（Federal Register）的法規提案內容，FDA打算新增「試驗僅有最小風險」（The research involves no more than minimal risk to subjects）做為豁免或變更知情同意項目的甄別標準之一。如此一來若是修法通過，FDA對於知情同意豁免與否的認定標準就會跟1991年制訂的《美國聯邦受試者保護通則》（Federal Policy for the Protection of Human Subjects，簡稱the Common Rule）[6]更加接近。換言之，未來修法通過後，由FDA管理的人體臨床實驗將有三種情形得以豁免或變更知情同意義務：危及生命、緊急研究與僅具有最小風險的研究。 所謂最小風險，係指「研究中預期的傷害或不適的概率和程度，不大於在日常生活中或在進行常規身體或心理檢查時通常遇到的傷害或不適」[7]，比如：不需新藥研究申請（investigational new drug application, IND）的新藥研究；醫療器材臨床試驗豁免（investigational device exemption, IDE）之醫療器材研究；檢體之取得為無創（受試者之頭髮或指甲）的臨床研究；為研究目的而蒐集聲音、影片、數據或圖像紀錄；研究個體或群體的特徵或行為；個人或焦點團體訪談等質性研究[8]。FDA指出本次法規提案當中所指的最小風險定義與其附隨條件將與《美國聯邦受試者保護通則》自1991年施行以來之規定一致，即該研究只要同時符合以下四點便可望由IRB審查豁免或變更知情同意義務[9]： 僅有最小風險的研究[10]。 若不豁免或變更知情同意義務，則研究無法順利進行[11]。 不造成受試者權利跟福祉之負面影響[12]。 受試者將在適當時機獲悉進一步研究資訊[13]。 此次提案的法源依據是2016年通過的《21世紀治癒法》（21st Century Cures Act）第3024節所修正之《聯邦食品藥物化妝品法》（Federal Food, Drug, and Cosmetic Act）第505(i)(4)、520(g)(3)節。《21世紀治癒法》第3024節賦予FDA權力放寬臨床實驗的知情同意義務，其立法背景是由於目前FDA相關規範對知情同意要求相對嚴格，當研究者無法滿足現有法規對於知情同意的要求，便可能使潛在的有價值的研究被迫停止[14]；又或在某些情形下，要求研究者在進行臨床實驗時取得研究對象的知情同意並不切實際[15]。《21世紀治癒法》通過後，FDA隨即於2017年7月發布《IRB豁免或變更臨床實驗之知情同意指南》，當中指出FDA並不打算在僅有最小風險的臨床研究中，反對IRB做出豁免或變更知情同意項目的判定，若本次法規提案後續正式生效，FDA便會廢止此指南，使其轉為FDA規則（regulation）。 參、事件評析 知情同意是生物醫學研究的學術傳統，包含兩大重點，一是令研究對象充分知悉其所參與的研究，包含其研究目的、內容、風險與預期利益；二是確保研究對象在做出同意或不同意之意思表示時，其意思表示之真實性，由此保障受試者的自主權[16]。 知情同意之概念最早源自1947年的紐倫堡法典（Nuremburg Code），其規範內涵在過去數十年間因為生物醫學的研究方法與進行模式的變革而產生變化。早年的臨床研究主要由政府資助、在單一的機構進行，涉及的受試者人數相對有限；而近三、四十年，醫學研究漸漸發展成多機構、多中心甚至跨國的研究案，受試者可能高達數萬甚至數十萬，同時也逐漸形成跨領域的研究轉型，涉及如社會學、心理學、教育、環境、氣候等學科。在此情形下，研究方法與資料取得勢必與過去截然不同，傳統的知情同意的制度漸漸無法滿足現代醫學研究的需要。1978年貝爾蒙特報告（Belmont Report）便強調應評估臨床研究的風險是否超過日常可接受範圍[17]，1981年美國據此制定《美國衛生及公共服務部人體研究保護政策最終規則》（Final regulations amending basic HHS policy for the protection of human research subjects）[18]便首次將「不超過日常風險的臨床實驗」[19]納為知情同意之豁免或變更之標準；1991年制定的《美國聯邦受試者保護通則》亦延續此概念並進一步做出更明確定義（見前述），惟當時FDA基於其業務為確保藥品、生物製劑以及醫療器材安全與執照核發，與《美國聯邦受試者保護通則》作為拘束十六個聯邦機關的一般性規範不同，因此未將「僅有最小風險的臨床實驗」納為豁免或變更知情同意義務的標準[20]。 時序進展至今，資通訊技術的進步所累積的巨量資料逐漸成為生醫研究的重要研究資源，面對這項轉變與研究者對於倫理審查委員會專業性的質疑，美國近年再度嘗試調整修法。2016年通過之《21世紀治癒法》便要求FDA將「僅有最小風險的臨床實驗」納為得豁免或變更免除知情同意的標準之一，可被視為是期望FDA向更為寬鬆的《美國聯邦受試者保護通則》靠攏；另方面，2017年修訂《美國聯邦受試者保護通則》之最終規則（final rule，將於2019年1月生效），也新增「若是研究涉及取得可識別的個人資料或可識別的生物標本，需要證明若無這些資料研究將無法進行」[21]，作為豁免或變更知情同意義務的要件，許是為避免個人資料因知情同意的放寬而有遭受濫用之虞。不過這項要件在本次FDA法規提案並未提及。 綜上述，本文整理兩大爭點： 一、最小風險判定標準之不確定性。 最小風險之定義雖明確指「研究中預期的傷害或不適的概率和程度，不大於在日常生活中或在進行常規身體或心理檢查時通常遇到的傷害或不適」[22]，惟最小風險之判定仍存在不確定空間。FDA雖強調將承繼《美國聯邦受試者保護通則》自1991年施行以來個案累積之最小風險判定標準，但此一不確定性直接影響的是受試者的自主權，侵害美國憲法所保障的人權精神；此外，也有批評指出FDA所援引的《美國聯邦受試者保護通則》對於最小風險的定義文字過於模糊，容易造成誤解或誤判[23][24][25]。 二、本次法規提案並未新增《美國聯邦受試者保護通則》即將於2019年1月生效的項目，或再度造成FDA規定與其他聯邦機構未能一致的情形。 FDA本次法規提案新增「最小風險」的其中一個原因便是希望盡可能與《美國聯邦受試者保護通則》標準一致。然令人困惑的是，其並未新增《美國聯邦受試者保護通則》即將於2019年1月實施的豁免或變更知情同意義務的要件：「若是研究涉及取得可識別的個人資料或可識別的生物標本，需要證明若無這些資料研究將無法進行」[26]。換言之，即便此次修法提案通過，依舊與會與《美國聯邦受試者保護通則》有落差。更甚者，《美國聯邦受試者保護通則》所新增的要件，實意在保障個人資料不會因知情同意的豁免範圍改變而遭到恣意使用或揭露，有助於保護個人隱私與資料自主，而FDA並未將其納入法規提案內容，或可能造成個資保護之漏洞。此項缺失FDA於法規提案當中亦有提及，或可期待後續修正[27]。 肆、結語 FDA原有關於豁免或變更知情同意的規定與《美國聯邦受試者保護通則》存有寬嚴程度落差，FDA此前僅限定在有生命危險與緊急研究的情形方可為之；而《美國聯邦受試者保護通則》由於是一種一般性規範，所以保障程度較為寬鬆。FDA本次修法將使部分僅有最小風險的臨床實驗可以更為順利進行，同時也使FDA知情同意的規範更加接近當前《美國聯邦受試者保護通則》的規定。惟最小風險的認定存在不確定性，其所可能侵害的是受試者自主權，不可不慎。又，《美國聯邦受試者保護通則》即將在2019年1月規定研究蒐集之個人資料必須對研究有絕對必要方可，而本次FDA的法規提案未見跟進此一新增要件。由於本提案仍在意見評論階段，是以FDA後續是否再度更新提案內容，值得後續關注。 [1] Institutional Review Board Waiver or Alteration of Informed Consent for Minimal Risk Clinical Investigation, 83 Fed. Reg. 57378-57386(Nov. 15, 2018) https://www.federalregister.gov/documents/2018/11/15/2018-24822/institutional-review-board-waiver-or-alteration-of-informed-consent-for-minimal-risk-clinical (last visited Nov. 26, 2018) [2] FOOD AND DRUG ADMINISTRATION[FDA], FDA In Brief: FDA takes steps to allow greater flexibility for clinical investigators about informed consent in minimal risk situations.(2018/11/13) https://www.fda.gov/NewsEvents/Newsroom/FDAInBrief/ucm625747.htm (last visited Nov. 26, 2018) [3] 21 CFR 50.23 [4] 21 CFR 50.24 [5] 有關更多FDA豁免告知同意之項目類別與細部說明，可參考https://www.accessdata.fda.gov/scripts/cdrh/cfdocs/cfcfr/CFRSearch.cfm?fr=50.23； https://www.accessdata.fda.gov/scripts/cdrh/cfdocs/cfcfr/CFRSearch.cfm?fr=50.24 (last visited Jan. 8, 2019) [6] 45 CFR 46, subpart A. [7]“the probability and magnitude of harm or discomfort anticipated in the research are not greater in and of themselves than those ordinarily encountered in daily life or during the performance of routine physical or psychological examinations or tests.” (46 CFR 102(i); 21 CFR 50.3(k); 21 CFR 56.102(i)). [8] U.S. DEPARTMENY OF HEALTH & HUMAN SERVICES [HHS], OHRP Expedited Review Categories.(1998) https://www.hhs.gov/ohrp/regulations-and-policy/guidance/categories-of-research-expedited-review-procedure-1998/index.html (last visited Nov. 26, 2018) [9] 45 CFR 46.116 [10] “The research involves no more than minimal risk to subjects” [11] “The research could not be carried out practicably without the waiver or alteration” [12] “The waiver or alteration will not adversely affect the rights and welfare of the subjects” [13] “Where appropriate, the subjects will be provided with additional information about their participation” [14] FOOD AND DRUG ADMINISTRATION[FDA], FDA In Brief: FDA takes steps to allow greater flexibility for clinical investigators about informed consent in minimal risk situations.(2018/11/13) https://www.fda.gov/NewsEvents/Newsroom/FDAInBrief/ucm625747.htm (last visited Nov. 26, 2018) [15] id. [16] 陳子平，〈醫療上「充分說明與同意」之法理在刑法上的效應（上）〉，《月旦法學雜誌》，第278期，頁224（2010）。 [17] THE NATIONAL COMMISSION FOR THE PROTECTION OF HUMAN SUBJECTS OF BIOMEDICAL AND BEHAVIORAL RESEARCH, The Belmont Report—Ethical Principles and Guidance for the Protection of Human Subjects of Research(1978), https://videocast.nih.gov/pdf/ohrp_appendix_belmont_report_vol_2.pdf (last visited Jan. 9, 2019) [18] Final regulations amending basic HHS policy for the protection of human research subjects. 46(16) Fed. Reg. 8366–8391 (Jan. 26, 1981) [19] “those risks encountered in the daily lives of the subjects of the research” (46(16) FR 8373) [20] NATIONAL CENTER FOR BIOTECHNOLOGY INFORMATION[NCBI], Determining Minimal Risk in Social and Behavioral Research(2014), https://www.ncbi.nlm.nih.gov/books/NBK217976/ (last visited Jan. 9, 2019) [21]“if the research involves using identifiable private information or identifiable biospecimens, the research could not practicably be carried out without using such information or biospecimens in an identifiable format” (45 CFR 46.116(f)(3)(iii)) [22] 21 CFR 50.3(k), 56.102(i) [23] Regulations.gov, https://www.regulations.gov/document?D=FDA-2018-N-2727-0010 (last visited Dec. 20, 2018) [24] Shah S, Whittle A, Wilfond B, Gensler G & Wendler D., How do institutional review boards apply the federal risk and benefit standards for pediatric research, JOURNAL OF THE AMERICAN MEDICAL ASSOCIATION, 291(4), 476–482(2004). [25] Lidz C & Garverich S., What the ANPRM missed: Additional needs for IRB reform. JOURNAL OF LAW, MEDICINE AND ETHICS, 41(2), 390–396(2013). [26] 45 CFR 46.116(f)(3)(iii) [27] Supra note No. 1
日本與歐盟達成GDPR適足性認定之合意，預定於今年秋天完成相關程序日本個人情報保護委員會於5月31日與歐盟執行委員會，對於取得之個人資料跨境傳輸相互承認達成實質合意。歐盟今年5月施行之歐盟個人資料保護規則（European Union General Data Protection Regulation,GDPR）對於個人資料之跨境傳輸係採「原則禁止、例外允許」模式，因此只有在符合例外之情形下，個人資料才能進行跨境傳輸，而例外獲得許可的情形包括由企業自主採行符合規範的適當保護措施，或取得個資當事人明確同意等方式。此外，GDPR也規定對第三國或地區個人資料保護水平是否達到GDPR標準，為適足性認定制度，取得此一認定資格者，即可自由與歐盟間進行個人資料跨境傳輸。目前有瑞士等11個國家及地區取得認定，日本則尚未取得。 日本為了減輕企業的負擔，2016年7月個人情報委員會決定處理方針，以取得相互認定承認為目標；於2017年1月歐盟執行委員會政策文書發表，將日本列為適足性認定之優先國家，將持續進行雙方後續對話。自2016年4月自2018年5月為止累計對話協商53次。於2017年5月施行修正之個人資料保護法，新導入域外適用規定，並對於國外執行當局為必要資訊提供為相關規定。依據上述對話意見，今年2月14日審議擬定「個人資料保護法指引－歐盟適足性認定之個人資料傳輸處理編(個人情報の保護に関する法律についてのガイドラインーEU域内から十分性認定により移転を受けた個人データの取扱い編)」草案，於今年4月25日至5月25日完成草案預告及意見徵集程序，預定於今年7月上旬訂定發布。其後，將於今年秋天完成歐盟與日本間相互指定與認定程序。亦即，個人情報保護委員會基於個人資料保護法第24條規定，指定歐洲經濟區（EEA）為與日本有同等水準之個人資料保護制度之外國，而歐盟執行委員會依據GDPR第45條規定，認定日本為具備適足保護水準。相互認定後，日本與歐盟間得相互為個人資料傳輸，如有相互協力必要性發生時，個人情報保護委員會及歐洲執行委員會應相互協議以為解決。
新加坡智慧財產局研究顯示，智慧財產對於企業經營獲利的重要性新加坡智慧財產局（Intellectual Property Office of Singapore, IPOS）2023年5月發布了一份名為《品牌、專利與企業績效表現的研究報告》（Brands, patents and company performance study），分別針對全球前100大上市公司及新加坡前100大上市公司進行分析，說明智慧財產等無形資產對於企業發展的重要性。 首先，IPOS在報告中對全球前100大上市公司進行分析，若該上市公司同時名列「全球500大最有價值品牌」（英國知名品牌諮詢機構Brand Finance每年發布）及/或「全球專利前250強」（美國知名專利研究公司IFI CLAIMS Patent Services每年發布），報告中將這類上市公司定義為持有最有價值品牌或最強專利組合的企業。這類企業與全球前100大上市公司中的其他企業相比，平均收入（revenue）是其他企業的2.2倍、淨利（net profit）是其他企業的1.9倍、市值（market capitalisation）是其他企業的2.3倍。 其次，本報告以新加坡前100大上市公司為分析對象，其中持有最有價值品牌（同時名列「新加坡100大最有價值品牌」）及/或最強專利組合（根據PatSnap專利資料庫的檢索資料定義）的上市公司，與新加坡前100大上市公司中的其他企業相比，平均收入是其他企業的2.4倍、淨利是其他企業的1.8倍、市值是其他企業的2.7倍。 由新加坡發布的報告可知，品牌或專利等無形資產對於企業維持競爭優勢的重要性，企業應將智慧財產布局與管理列為公司治理的重點，持續確保企業無形資產的價值（譬如企業若未持續落實商標布局與管理，將會削弱品牌價值），以強化企業的競爭力。 本文同步刊登於TIPS網站（https://www.tips.org.tw）