歐洲將限制對孩童販售暴力遊戲軟體
歐洲各國司法部長於1月16日與歐盟司法與內政委員會委員Franco Frattini進行會商，包括德國、英國、希臘、芬蘭、西班牙以及法國之司法部長皆同意支持建立全歐一致之共同規範以限制對孩童販售暴力遊戲軟體，並將據此檢視各國電腦軟體相關法制。
Franco Frattini委員過去基於「兒童保護應不分國界」之理念，曾建議建構以歐盟為範圍的標識規範，並鼓勵以兒童為銷售對象之遊戲業者建立自律規約，惟歐盟最後決議應交由各國政府自行規範。而Franco Frattini委員此次提案受到本屆歐盟輪值主席國－德國－司法部長Brigitte Zypries的支持，並指示相關規範建構之第一步，即是出版遊戲軟體分級摘要供家長參考，此摘要將很快於歐盟網站上公布。Zypries認為關於暴力遊戲的限制，歐盟應與國際進行合作溝通，由其針對美國與日本；Frattini則期望在歐盟27個會員國建構專門針對此類遊戲的標識規範，至於其他種類之遊戲則仍由各國政府自行管理。
目前國際間針對暴力遊戲限制，多數國家仍採取提供遊戲分級或相關指導守則之方式，於歐洲，僅英國與德國特別訂定法律加以規範，尤其在英國，遊戲軟體內容若具有對人類或動物之寫實暴力場景，或包含人類的性愛行為者，必須送交英國電影分級委員會(British Board of Film Classification，簡稱BBFC)審查。而美國已有部分州議會通過限制對未成年人販售遊戲的法律，但幾乎皆被「違反美國憲法修正條文第1條－言論自由保障」之理由成功推翻。
邱映曦
資深研究協理 編譯整理
Out-Law.Com，2007年01月17日，http://www.out-law.com/page-7665，最後瀏覽日：2007年01月20日
EurActiv.Com，2007年01月17日，http://www.euractiv.com/en/infosociety/violent-video-games-renewed-eu-fire/article-160958，最後瀏覽日：2007年01月20日
人工智慧技術用於醫療臨床決策支援之規範與挑戰—以美國FDA為例 資訊工業策進會科技法律研究所 蔡宜臻法律研究員 2018年11月27日 壹、事件摘要 美國係推動人工智慧用於醫療服務的領航國家，FDA轄下的數位健康計畫（Digital Health Program）小組負責針對軟體醫療器材規劃新的技術監管模式，在過去五年中，該計畫發布了若干指導文件 ，嘗試為醫用軟體提供更為合適的監督管理機制。但由於指導文件並非法律，監管的不確定性依舊存在，因此近兩年 FDA推動修法並做成多項草案與工作計畫，望以更具約束力的方式回應軟體醫療器材最新技術於臨床之適用。當中最為重要的法制變革，便是2016年底國會通過之《21世紀治癒法》（21st Century Cures Act）。該法重新定義了醫用軟體的監管範圍，一般認為是對人工智慧醫用軟體的監管進行鬆綁，或有助於人工智慧醫用軟體的開發與上市。然而在新法實施近兩年以來，實務上發現人工智慧的技術特質，會導致在進行某些「臨床決策支援之人工智慧軟體」是否為醫療器材軟體之認定時，產生極大的不確定性。對此FDA也於2017年12月作成《臨床與病患決策支持軟體指南草案》（Clinical and Patient Decision Support Software-Draft Guidance for Industry and Food and Drug Administration），望能就部份《21世紀治癒法》及其所修正之《聯邦食品藥物化妝品法》（Federal Food, Drug, and Cosmetic Act, FD&C Act）[1]裡的規範文字提供更為詳細的說明。 本文望能為此項法制變革與其後續衍生之爭議進行剖析。以下將在第貳部分重點說明美國2016年頒布的《21世紀治癒法》內容；在第參部份則針對人工智慧技術用於醫療臨床決策支援所發生之爭議進行分析；最後在第肆部份進行總結。 貳、重點說明 2016年12月美國國會頒布了《21世紀治癒法》，在第3060節明確界定了FDA對數位健康產品（Digital Health Products）之管轄範圍，將某些類型的數位健康產品排除在FDA醫療器材（medical device）定義之外而毋須受FDA監管。此規定亦修正了美國《聯邦食品藥物化妝品法》第520節（o）項有關FDA排除納管之軟體類別之規定。 根據新修正的《聯邦食品藥物化妝品法》第520節（o）（1）項，美國對於醫用軟體的監管範疇之劃設乃是採取負面表列，規定以下幾種類型的軟體為不屬於FDA監管的醫用軟體： 行政管理目的[2]；或 目的在於非關診斷、治療、緩解、預防或病症處置之健康維持或健康生活習慣養成[3]；或 目的在於進行電子化的個人健康紀錄[4]；或 目的用於傳輸、儲存、格式轉換、展示臨床研究或其他裝置資料與結果[5]；或 同時符合以下四點之軟體： (1)不從體外醫療器材或訊號蒐集系統來讀取、處理或分析醫療影像或訊號[6]。 (2)目的在於展示、分析或印製病患醫療資訊，或其他醫療訊息（例如：偕同診斷之醫療研究、臨床處置指南）[7]。 (3)目的在於替醫療專業人員就疾病或症狀之預防、診斷或處置提供支持或臨床建議[8]。 (4)使醫師在使用該軟體時尚能獨立審查「臨床建議產生之基礎」，因此醫師所做成之臨床診斷或決策，並非主要依賴該軟體提供之臨床建議[9]。 雖然大多數被排除的類別相對無爭議，但仍有一部分引起法律上不小的討論，即《聯邦食品藥物化妝品法》第520節（o）（1）（E）項所指涉的某些類型之臨床決策支援軟體（Clinical Decision Support Software，以下簡稱CDS軟體）。 CDS軟體係指分析數據以幫助醫療手段實施者（例如：醫師）做出臨床決策的軟體。多數以人工智慧為技術基礎的醫療軟體屬於此一類型，比方病理影像分析系統。根據《21世紀治癒法》與《聯邦食品藥物化妝品法》，CDS軟體是否被排除在FDA的管轄範圍之外，取決於該軟體是否「使醫師在使用該軟體時尚能獨立審查『臨床建議產生之基礎』，因此醫師所做成之臨床診斷或決策，並非主要依賴該軟體提供之臨床建議」[10]。若肯定，則將不被視為FDA所定義之醫療器材。為使此一規定更加明確，FDA於2017年12月8日發布了《臨床與病患決策支持軟體指南草案》，該指南草案針對如何評估軟體是否能讓醫師獨立審查臨床建議產生之基礎進行說明。FDA表示該軟體至少要能清楚解釋以下四點[11]： 該軟體功能之目的或用途；及 預期使用者（例如超音波技師、心血管外科醫師）；及 用於產生臨床建議的原始資料（例如患者的年齡和性別）；及 臨床建議產生背後之邏輯或支持證據 後續方有機會被FDA認定係令醫療專業人員使用該軟體時，能「獨立審查」臨床建議產生之基礎。換言之，指南草案所提的四點，為FDA肯認醫師在使用軟體時尚能「獨立審查」之必要前提。除此之外，指南草案尚稱預期使用者必須能自己做成與軟體相同之判斷，並且要求「用於生成臨床建議與演算邏輯的原始資料必須可被預期使用者辨識、近用、理解，並為公眾可得」[12]，進而方有機會符合《聯邦食品藥物化妝品法》第520節（o）（1）（E）（iii）之規定；若該軟體亦同時符合第520節（o）（1）（E）之其他要件，則有望被劃分為非醫療器材而不必受FDA監管。 由於規範內容較為複雜，指南草案亦提供案例說明。比方若一糖尿病診斷軟體是由醫生輸入患者參數和實驗室測試結果（例如空腹血糖、口服葡萄糖耐量測試結果或血紅蛋白A1c測試結果），並且該裝置根據既定臨床指南建議患者的病情是否符合糖尿病的定義，可被FDA認定為「非醫療器材」[13]；而諸如分析電腦斷層、超音波影像之軟體，則仍維持屬於醫療器材[14]。 另需注意的是，《聯邦食品藥物化妝品法》在第520節（o）（3）（A）（i）項亦建立「彌補性納回（claw-back）」機制，FDA需遵守通知評論程序（notice-and-comment process）以便及時發現軟體可能對健康造成嚴重危害的風險，並隨時將之納回監管範疇中。同時FDA每兩年必須向國會報告醫療器材軟體的實施經驗[15]。 參、事件評析 《21世紀治癒法》頒布至今兩年，FDA已核准多個以人工智慧為技術核心的軟體，例如在2018年2月13日通過能自動偵測可疑的大血管阻塞（large vessel occlusion, LVO），並迅速通知醫師病人可能有的中風危險的臨床決策支援軟體：Viz.AI Contact application；又比如於2018年4月11日通過利用演算法分析由視網膜攝影機（Topcon NW400）所獲得的影像，快速篩檢糖尿病病人是否有必須由專業眼科醫師治療的視網膜病變的IDx-DR。 然而，在CDS軟體以人工智慧為技術核心時，現有的法規與監管框架依舊有幾點疑慮： 一、「理解」演算法？ 根據新修正之《聯邦食品藥物化妝品法》，如果CDS軟體欲不受FDA監管，醫師的決策必須保持獨立性。目前規定只要該醫療產品「企圖」（intended to）使醫師等專業人員理解演算法即可，並不論醫師是否真正理解演算法。然而，若FDA肯認理解演算法對於執行醫療行為是重要的，那麼當CDS係基於機器學習產生演算法時，具體該如何「理解」就連開發者本身都未必能清楚解釋的演算法？有學者甚至認為，CDS軟體是否受到FDA法規的約束，可能會引導至一個典型的認識論問題：「我們是怎麼知道的？（How do we know?）」[16]。對此問題，我們或許需要思考：當醫師無法理解演算法，會發生什麼問題？更甚者，未來我們是否需要訓練一批同時具備人工智慧科學背景的醫療人員？[17] 二、如何要求演算法透明度？ 指南草案所提之「清楚解釋臨床建議產生背後之邏輯或支持證據」以及資料來源為公眾可得、醫生對演算法使用的資料來源之近用權限等，被認為是FDA要求廠商應使CDS軟體之演算法透明[18]。但根據FDA指南草案公告後得到的反饋，醫療軟體廠商對此要求認為並不合理。廠商認為，應該從實際使用效益來審視人工智慧或機器學習軟體所提出的臨床建議是否正確，而不是演算法是什麼、怎麼產生[19]。 三、醫療專業人員之獨立專業判斷是否會逐漸被演算法取代？未來醫療軟體廠商與醫療專業人員之責任該如何區分？ FDA目前的法規與指南並未直接回應此二問題，惟其對於不被列管之CDS軟體之規定係需使醫師並非主要依賴該軟體提供之臨床建議、醫師能自己做成與軟體相同之判斷。由反面解釋，即FDA肯認部份CDS軟體具備與醫師雷同之臨床診斷、處置、決策之功能，或能部份取代醫師職能，因此需受FDA監管。是故，醫師之專業能力與人工智慧演算法相互之間具有取代關係，已是現在進行式。惟究竟醫師的判斷有多少是倚靠人工智慧現階段尚無法取得量化證據，或需數年時間透過實證研究方能研判。往後，醫療軟體廠商與醫師之責任該如何區分，將會是一大難題。 肆、結語 隨著醫療大數據分析與人工智慧技術的發展，傳統認知上的醫療器材定義已隨之改變。雖然硬體設備仍然在診斷、治療與照護上扮演極為重要的角色，但軟體技術的進步正在重新改寫現代醫療服務執行以及管理模式。這些新產品及服務為醫療器材市場帶來活水，但同時也形成新的監管議題而必須採取適當的調整措施。美國FDA針對近年來呈爆炸性發展的醫療軟體產業不斷調整或制定新的監管框架，以兼顧使用者安全與新技術開展，並於2016年通過了極具改革意義的《21世紀治癒法》，且以此法修正了《聯邦食品藥物化妝品法》。 然而，新法實施後，關於個別醫用軟體是否納為不受FDA監管的醫療器材仍有法律認定上的灰色空間。舉例而言，倍受矚目的以人工智慧為核心技術的CDS軟體，在新法框架下似乎可能存在於監管紅線的兩側。根據新修正之《聯邦食品藥物化妝品法》，一CDS軟體是否屬於醫療器材軟體，關鍵在於醫師能否「獨立審查」從而「非主要依賴」軟體所提供之臨床建議。也由於此要件概念較為模糊，FDA後續在2017年發布《臨床與病患決策支持軟體指南草案》為此提供進一步解釋，然而仍無法妥適處理人工智慧機器學習技術所導致的演算法「該如何理解？」、「透明度該如何認定？」等問題。更甚者，從整體醫療服務體系納入人工智慧協助臨床決策診斷之趨勢觀之，未來醫療專業人員的獨立判斷是否會逐漸被演算法取代？未來人工智慧軟體與醫療專業人員之責任該如何區分？都是醞釀當中的重要議題，值得持續關注。 [1] 21 U.S. Code §360j [2] FD&C Act Sec. 520(o)(1)(A) [3] FD&C Act Sec. 520(o)(1)(B) [4] FD&C Act Sec. 520(o)(1)(C) [5] FD&C Act Sec. 520(o)(1)(D) [6] FD&C Act Sec. 520(o)(1)(E) [7] FD&C Act Sec. 520(o)(1)(E)(i) [8] FD&C Act Sec. 520(o)(1)(E)(ii) [9] FD&C Act Sec. 520(o)(1)(E)(iii) [10] “Enabling such health care professionals to independently review the bases for such recommendations that such software presents so that it is not the intent that such health care professional rely primary on any of such recommendations to make clinical diagnosis or treatment decisions regarding individual patient.” FD&C Act, Sec. 520(O)(1)(E)(iii) [11] FOOD AND DRUG ADMINISTRATION[FDA], Clinical and Patient Decision Support Software-Draft Guidance for Industry and Food and Drug Administration (2017), .at 8 https://www.fda.gov/downloads/medicaldevices/deviceregulationandguidance/guidancedocuments/ucm587819.pdf (last visited Sep. 21, 2018) [12] 原文為 “The sources supporting the recommendation or underlying the rationale for the recommendation should be identified and easily accessible to the intended user, understandable by the intended user (e.g., data points whose meaning is well understood by the intended user), and publicly available (e.g., clinical practice guidelines, published literature)”, id, at 8 [13] FOOD AND DRUG ADMINISTRATION[FDA], supra note 11 [14]FOOD AND DRUG ADMINISTRATION[FDA], supra note 11 [15] 21th Century Cures Act, Sec. 3060(b) [16] Barbara J. Evans & Pilar Ossorio, The Challenge of Regulating Clinical Decision Support Software after 21st Century Cures. AMERICAN JOURNAL OF LAW AND MEDICINE (2018), https://papers.ssrn.com/sol3/Delivery.cfm/SSRN_ID3142822_code1078988.pdf?abstractid=3142822&mirid=1 (last visited Sep. 21, 2018) [17] Id. [18] Gail H. Javitt & J.D., M.P.H., ANESTHESIOLOGY, Regulatory Landscape for Clinical Decision Support Technology (2018), http://anesthesiology.pubs.asahq.org/article.aspx?articleid=2669863 (last visited Sep. 21, 2018) [19] REGULATIONS.GOV, Clinical and Patient Decision Support Software; Draft Guidance for Industry and Food and Drug Administration Staff; Availability(Dec. 8, 2017) https://www.regulations.gov/docketBrowser?rpp=25&po=0&dct=PS&D=FDA-2017-D-6569&refD=FDA-2017-D-6569-0001 (last visited Sep. 25, 2018)
美國財政部制裁向俄羅斯運送伊朗製無人機之空運業者及製造商美國財政部外國資產管制辦公室（Office of Foreign Assets Control，簡稱OFAC）根據《防止大規模殺傷性武器擴散與恐怖主義》（Preventing Weapons of Mass Destruction Proliferation and Terrorism, 50 U.S. Code Ch. 43）聯邦法律之授權、第13382號總統行政命令（Executive Order，下稱行政命令）以及第14024號行政命令，於2022年9月8日將向俄羅斯運送伊朗製無人機（Unmanned Aerial Vehicles，簡稱UAVs）之空運業者納入制裁清單；另將3家公司與1位參與無人機及其零組件研究、開發、生產與採購之個人納入制裁清單，避免非來自伊朗及俄羅斯之實體支持伊朗製無人機之研發，或向俄羅斯出售任何用於對付烏克蘭的軍事裝備。 此次列於清單中之空運業者Safiran Airport Services，總部位於伊朗德黑蘭，其將伊朗製無人機、人員和相關設備從伊朗運送到俄羅斯。根據情報顯示，俄羅斯軍隊打算將伊朗製無人機與俄羅斯無人機運用在對烏克蘭的戰爭中，故OFAC依據第14024號行政命令，將該空運業者納入制裁清單。另針對無人機製造商，以Paravar Pars為例，其參與伊朗Shahed-171無人機研發和生產，故OFAC依據第13382號行政命令，將其列入制裁清單。 上述空運業者及製造商在遭受制裁後，可能會受到的影響包括： （1）在美國或由美國籍公民或企業所有或控制的所有財產和財產利益皆被凍結；禁止與美國籍公民或企業交易；或禁止與在美國境內被制裁對象的任何財產或利益交易（如金流過境美國的交易）；與前述列為清單對象進行交易之人，亦可能會被列為清單對象。 （2）任何外國金融機構故意與前述列為清單制裁對象，促成重大交易或提供重要金融服務，都可能受美國相應的制裁或對「支付過渡帳戶」（payable-through account）的制裁。而此「制裁」不限於凍結帳戶，參考OFAC官網中的第36則FAQ之說明（https://home.treasury.gov/policy-issues/financial-sanctions/faqs/topic/1601），某些案例中之交易應該被禁止，但該交易沒有可凍結的利益時（如該帳戶已為制裁清單所列對象或已被凍結的個人或政府），OFAC會以「要求美國金融機構拒絕非制裁以外的第三國企業間的交易」或以「透過禁令使美國金融機構拒絕處理該交易且退回款項予匯款人，除非有得到事前個別授權」等方式處理。
美國通過「智慧財產資源及機構優先法案」，強化打擊侵權力道2008年9月26日美國國會通過「智慧財產資源及機構優先法案」（the Prioritizing Resources and Organization for Intellectual Property Act, PRO-IP Act），該法案的內容將加強跨單位合作與國際間打擊仿冒、盜版之動作，例如增加主管機關可沒收或扣押侵害著作權相關物品的權力等，以遏止日益增加之侵權案件。 在10月13日的時候，美國總統布希終於簽署PRO-IP法案。其中特別的是，該法案增設一個行政部門：「智慧財產執行協調官」（Intellectual Property Enforcement Coordinator, IPEC），IPEC可掌控與管理美國境內各行政機關之智慧財產保護措施，並直接向總統報告。一般預料布希總統雖簽署該法案，但應該不會在其任內發布任何命令，而會將IPEC之人事任命權留給下一任總統。 許多人對PRO-IP法案的通過仍存有疑慮，例如：設立IPEC的功能不明，且有疊床架屋之嫌。但美國唱片業協會（RIAA）卻十分支持該法案，其認為有助於保護美國的智慧財產，RIAA引用最近的調查報告指出，全球智慧財產仿冒、盜版等行為讓美國一年損失580億美元及37萬份以上的工作機會，並讓美國勞工損失160億美元的收入，故RIAA認為通過該法案可以減緩此一損害。
澳洲提出《2023年法定聲明修正法案》，將正式認可數位化法定聲明的效力澳洲眾議院在2023年9月提出了《2023年法定聲明修正法案》（Statutory Declarations Amendment Bill 2023），法定聲明（statutory declaration）是大英國協法體系中的一種法律行為，效力相當於宣誓，以確認聲明人聲明內容為真。如受雇者可以法定聲明的方式聲明自己的工作經歷屬實，以做為受雇資料不全時的補充。該修正案將使數位方式（digital execution）進行的法定聲明和傳統書面形式具有相同效力。 澳洲政府在Covid-19期間，為了因應疫情對於整個社會的衝擊，在實體接觸困難的社會環境下導入大量臨時措施，但是這些臨時措施將會於2023年12月31日時效到期後失去效力。 本次的修正案除了將允許電子簽名（electronic signature）和視訊見證（video-link witnessing）等數位形式作為進行法定聲明的方式外，亦進一步規定只有在經過核可並且授權的數位平臺（如myGov）才可以進行有效的數位法定聲明。除此之外，使用者也需通過這些線上平臺的身分驗證（如myGovID）後才能使用這一服務，以確認法定聲明發表人的身份並確保該聲明之效力。 為了確保透明和釐清平臺的責任歸屬，該法案除了對數位平臺進行隱私、資安和防詐騙的規範外，亦禁止數位平臺儲存或保留使用者法定聲明的副本，因為這些法定聲明可能都含有高度敏感的個人資訊。 該法案的目的並非要完全取代傳統書面紙張在法定聲明中的地位，而是為了澳洲人民在做成法定聲明時提供另一個不受到地理、實體限制的選擇，這種改變讓個人和企業藉由數位化平臺快速且不受實體距離影響完備所需的法律文件，使他們能夠便捷的享有那些需要法定聲明的政府服務。 澳洲政府為了因應社會變遷及數位時代的來臨，在法律體系中賦予數位形式明確效力，並且嘗試建立起可信賴的數位平臺與路徑，其制度設計及後續影響，可以作為我國推動國家數位轉型時的參考。