歐盟發布「人工智慧白皮書」以因應人工智慧未來可能的機遇與挑戰
人工智慧目前正快速發展，不論是在醫療、農業耕作、製造生產或是氣候變遷等領域上，均帶來了許多改變，然而在人工智慧應用之同時，其也存在許多潛在風險如決策不透明、歧視或其他倫理與人權議題。
歐盟為求在全球競爭激烈的背景下，維護其於人工智慧相關領域的領先地位，並確保人工智慧技術於改善歐洲人民生活的同時，亦能尊重(respecting)人民權利，乃於今年(2020年)2月發布「人工智慧白皮書」(White Paper on Artificial Intelligence)，將採投資及監管併用之方式，促進人工智慧應用與解決其相關風險，其對於未來促進人工智慧的應用(promoting the uptake of AI)與相關風險解決，計畫朝向建立卓越生態系統(An Ecosystem of Excellence)及信任生態系統(An Ecosystem of Trust)兩方面進行。
在建立信任生態系統中，歐盟提到因為人工智慧具有變革性的潛力，所以就信任的建立乃至關重要，未來歐洲人工智慧的監管框架除了須確保遵守歐盟法規外(包括基本權利保護與消費者權益維護之規範)，對於高風險性之人工智慧應用，其將強制要求需於銷售前進行合格評定(mandatory pre-marketing conformity assessment requirement)。而有關高風險性之定義，歐盟於該白皮書指出須符合以下兩個要件：
- 考量人工智慧應用之一般活動特徵，其預計會有重大風險的發生，例如在醫療保健、運輸、能源和可能屬於高風險的公共領域；以及
- 在預期用途或應用上都可能對個人(individual)或企業(company)帶來重大的風險，特別是在安全性(safety)、消費者權益(consumer rights)與基本權利(fundamental rights)上。
歐盟委員會目前針對於以上白皮書之內容與附隨報告，將向公眾徵詢意見至今年5月19日。
- White Paper On Artificial Intelligence-A European approach to excellence and trust
- Summary of EU white paper on Artificial Intelligence — A European approach to excellence and trust
- European Commission’s White Paper on Artificial Intelligence
- Europe reveals its ambitious tech blueprint to take on Silicon Valley and China
- EU plans new rules for AI but experts seek more detail
莊貫勤
法律研究員 編譯整理
EUROPEAN COMMISSION, White Paper On Artificial Intelligence-A European approach to excellence and trust (Feb. 19, 2020), https://ec.europa.eu/info/files/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en (last visited Apr. 7, 2020).
Tiba Razmi, Summary of EU white paper on Artificial Intelligence — A European approach to excellence and trust, Medium, Feb. 23, 2020, https://medium.com/@tibastar/summary-of-eu-white-paper-on-artificial-intelligence-a-european-approach-to-excellence-and-trust-e04a1a018b5 (last visited Apr. 7, 2020).
Lisa Peets, Marty Hansen, Sam Jungyun Choi and Anna Oberschelp de Meneses, European Commission’s White Paper on Artificial Intelligence (Part 2 of 4), Covington Digital Health (February 28, 2020.), https://www.covingtondigitalhealth.com/2020/02/european-commissions-white-paper-on-artificial-intelligence-part-2-of-4/ (last visited Apr. 7, 2020).
Charlie Wood and Shona Ghosh, Europe reveals its ambitious tech blueprint to take on Silicon Valley and China, BUSINESS INSIDER, Feb. 19, 2020, https://www.businessinsider.com/europe-digital-strategy-challenge-us-china-big-tech-artificial-intelligence-2020-2 (last visited Apr. 7, 2020).
Chris Baraniuk, EU plans new rules for AI but experts seek more detail, BBC, Feb. 19, 2020, https://www.bbc.com/news/technology-51559010 (last visited Apr. 7, 2020).
美國食品藥物管理署（U.S. Food and drug administration, FDA）之醫療器材與放射健康中心（Center of Devices and Radiological Health, CDRH）於今（2023）年10月10日發布2024財政年度指引，其內容依據預算配置的優先順序，將2024年醫療器材與放射產品相關指引分為「A級」、「B級」及「回顧性審查」三份清單。而CDRH希望將訊息公佈後，針對這些指引的優先處理順序、修改或刪除徵求外部建議，以下節錄這三份清單內容： （1）A級清單：FDA擬於2024 財政年度優先發佈的醫療器材指引文件清單，內容包含醫材的再製造及短缺管理、預訂變更控制計畫、運用真實世界證據輔助監管之決策，及基於人工智慧/機器學習之醫材的軟體生命週期管理指引等。 （2）B級清單：FDA 在 2024 財政年度於資源許可的前提下，擬發佈的指引文件清單，內容包括醫材製造商的故障主動報告計畫、製造與品質系統軟體之確效管理，及診斷測試用之3D列印醫材管理指引。 （3）回顧性審查清單：為1994年、2004年和2014年發佈至今，目前仍適用的指引文件綜合清單，詢問是否有需與時俱進之處。 具體而言，CDRH希望徵求外界對現有清單優先順序配置合宜性的建議，同時也開放各界提出哪些醫材相關主題的指引文件草案可待補充。對於回顧性審查清單，如有修訂或刪除之必要，亦應檢具建議與具體理由。 從此三份清單及後續外界的意見，我們可藉此掌握美國在醫材短缺管理、預定變更控制、運用真實世界證據決策，及醫材軟體生命週期與確效管理等領域，政府資源配置與投入的規劃，同時也作為我國醫材政策之借鏡。
何謂「ERIC」？為加強歐盟及各成員國的研究基礎設施合作，從發展政策方面，於2002年成立「歐洲研究基礎設施策略論壇」(European Strategy Forum on Research Infrastructures, ESFRI)協助各會員國統籌規劃RIs(Research Infrastructures, RIs)的發展藍圖。在法律層面，於2009年通過「第723/2009號歐盟研究基礎設施聯盟法律架構規則」(COUNCIL REGULATION (EU) No 723/2009 of 25 June 2009 on the Community legal framework for European Research Infrastructure Consortium (ERIC)，使各歐盟會員國、夥伴國家、非夥伴國家之第三國家或跨政府國際組織等對於分散的RIs整合起來後，可向歐盟執委會提出申請，依該號規則取得法律人格，成立「歐盟研究基礎設施聯盟」(European Research Infrastructure Consortium, ERIC)，且可為權利得喪變更之主體，更可與他方簽訂契約或成為訴訟當事人，使其具有自我經營管理之能力。 截至目前為止(2015年9月)，歐盟的RIs正式成立11個ERIC，並且透過國際間合作將RIs做更有效率之使用。國際上近年來創新研發競爭激烈，歐盟執委會為了持續推動建置世界級歐洲研究區域(European Research Area, ERA)，無論在資金面、政策面及法律層面均有積極作為，在強化歐盟RIs同時促進國際科技研發合作，俾使歐盟於研發創新的領域保持世界領導之地位，歐盟未來仍會持續推動各個重要研發領域的ERIC，ERIC對於整合歐盟各國重大RIs負有重要使命。
三菱電機子公司三菱電機informationsystems公司所研發的圖書館系統發生個資外洩事件三菱電機informationsystems公司所研發用於圖書館的系統封包MELIL/CS造成引進系統的圖書館發生個人資訊外洩與Web館藏檢索系統當機的系統障礙。從2010年7月到9月因系統障礙，總共有3間圖書館，共2971人的姓名、出生日期、住址、電話及圖書名稱等個人資料外洩。 有關個人資料外洩的經過，是因為三菱電機informationsystems公司在研發MELIL/CS系統時，先在引進系統的圖書館進行系統測試，於測試之後再將系統程式帶回公司修改，此時就不知情的將存有個人資料的程式帶回公司，也把這些資料登錄到產品的原始碼上。因此將進行測試的2間圖書館使用人約210人的個人資料登錄於該產品的原始碼上。 但發生個資外洩的直接原因更在於負責三菱電機informationsystems公司產品運作、維修的銷售伙伴千代田興產公司，該公司所設置的伺服器完全沒有設定權限區分，甚至不需密碼就可以連接該公司伺服器存取資料。因此發生第三人進入該公司伺服器，下載3個引進該系統圖書館約3000人的個人資料。 另外對於Web館藏檢索系統當機的發生，是因為圖書館使用人為了獲取圖書館新增加館藏圖書的資訊，以自動蒐集資訊程式直接存取館藏資料庫所發生。三菱電機informationsystems公司當初在設定網路連接圖書館系統，是以一次存取可以連接10分鐘的方式，所以只要以連接頻率高的機械性存取，只要超過資料庫的同時連接數的設定數值，就會發生存取障礙。 對於三菱電機informationsystems公司系統設計失當及千代田興產公司未設定伺服器存取權限所造成個人資料外洩事件，因為這兩家公司都是屬於財團法人日本情報處理開發協會（JIPDEC）的取得隱私標章企業，所以由JIPDEC依據隱私標章營運要領中的「有關賦予隱私標章規約」第14條規定，各處以由2011年1月起3個月的隱私標章停權處分。
FDA允許第一個可以直接對消費者進行個人基因遺傳的健康風險服務測試法-GHR「美國食品和藥物管理局（FDA）」於2017年4月6日准許「23and me個人基因遺傳健康風險服務測試（簡稱GHR）」進行行銷，FDA要求該測試方法可以一定準確度檢測出十種疾病及可能條件。GHR是第一個被美國食品藥物管理局授權允許直接對消費者進行測試並提供個人遺傳傾向及醫療疾病條件資訊給消費者的測試。 GHR試圖提供遺傳風險資訊給消費者，但這個測試無法確定人們發展成疾病或發病條件的總體風險，因為除了某些遺傳變體的存在，還有很多因素會影響健康條件的發展，包含環境以及生活方式的因素，因此該檢測可能可以幫助人們做選擇生活方式的決定或告知消費者專業的健康照護。 23and me的GHR測試是運作自隔離唾液樣品中的DNA，此檢測被測試超過500000個遺傳變體，其檢測關於發展成以下十種疾病或發病條件增加風險的存在與否，包括帕金森氏症（Parkinson’s disease）、阿茲海默症（Late-onset Alzheimer’s disease）、自體免疫問題（Celiac disease）、α-1抗胰蛋白酶缺乏症、早發性原發性肌張力障礙（early-onset primary dystomia）、因子XI缺乏症（factor XI deficiency）、高血病1型（gaucher disease type1）、葡萄糖6-磷酸脫氫酶缺乏症（glucose 6- phosphate dehydrogenase defiency）、遺傳性血色素沉著症（hereditary hemochromatosis）、遺傳性血栓形成（hereditary thrombophilia）。 此外，FDA更要求所有DTC測試在醫療用途目的上之使用必需要能跟消費者溝通，使消費者可以充分了解該測試法後選用。其中一個研究顯示，23andMe的GHR測試的相關資訊是容易被理解的，有90%的人能夠了解報告中所呈現的資訊。