歐盟提出人工智慧法律框架草案
歐盟執委會於2020年2月公布《人工智慧白皮書》（AI White Paper）後，持續蒐集各方意見並提出新的人工智慧規範與行動。2021年4月針對人工智慧法律框架提出規範草案（Proposal for a Regulation on a European approach for Artificial Intelligence），透過規範確保人民與企業運用人工智慧時之安全及基本權利，藉以強化歐盟對人工智慧之應用、投資與創新。
新的人工智慧法律框架未來預計將統一適用於歐盟各成員國，而基於風險規範方法將人工智慧系統主要分為「不可接受之風險」、「高風險」、「有限風險」及「最小風險」四個等級。「不可接受之風險」因為對人類安全、生活及基本權利構成明顯威脅，故將被禁止使用，例如：政府進行大規模的公民評分系統；「高風險」則是透過正面例舉方式提出，包括：可能使公民生命或健康處於危險之中的關鍵基礎設施、教育或職業培訓、產品安全、勞工與就業、基本之私人或公共服務、可能會干擾基本權之司法應用、移民與庇護等面向，而高風險之人工智慧在進入市場之前須要先行遵守嚴格之義務，並進行適當風險評估及緩解措施等。「有限風險」則是指部分人工智慧應有透明度之義務，例如當用戶在與該人工智慧系統交流時，需要告知並使用戶意識到其正與人工智慧系統交流。最後則是「最小風險」，大部分人工智慧應屬此類型，因對公民造成很小或零風險，各草案並未規範此類人工智慧。
未來在人工智慧之治理方面，歐盟執委會建議各國現有管理市場之主管機關督導新規範之執行，且將成立歐洲人工智慧委員會（European Artificial Intelligence Board），推動人工智慧相關規範、標準及準則之發展，也將提出法規沙盒以促進可信賴及負責任之人工智慧。
吳佳琳
高級法律研究員 編譯整理
EC, Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence, Apr. 21, 2021, available at https://ec.europa.eu/commission/presscorner/detail/en/ip_21_1682 (last visited Apr. 26, 2021).
延續本中心前幾期對於法國國會於今年5月所通過的「支持網路創作傳佈及保護法」（loi favorisant la diffusion et la protection de la création sur Internet，簡稱loi création et internet；又因該法中特別設立所謂的「網路著作散佈及權利保護高等署」（Haute Autorité pour la Diffusion des Œuvres et la Protection des Droits sur Internet，通常簡稱HADOPI）作為執行本法相關任務之獨立行政機關（autorité administrative indépendante），故本法又被稱為HADOPI法）中相關議題的報導，本次將簡要介紹法國憲法委員會（Conseil constitutionnel）於今年6月10日所作出（Décision n° 2009-580 DC du 10 juin 2009）對於該法所制定「三振條款」認定違憲之理由。 在進入憲法委員會此一決定前，須先說明HADOPI法的性質：依據本法第1條及第2條之指示，此一法律主要係修正及增補「法國智慧財產權法典」（Code de la propriété intellectuelle）之相關規定，特別是透過電子及網路傳輸之著作物（œuvres）的保護措施，並將原法典中「技術措施管理署」（l'Autorité de régulation des mesures techniques）更改為前述之「高等署」，並透過調整權限及組織內容之方式，賦予其「獨立行政機關」之地位─而特別值得注意的，則是此一獨立行政機關的9位委員中亦包括由中央行政法院（Conseil d'État）、法國最高法院（或稱「廢棄法院」；Cour de cassation ）、審計法院（Cour des comptes）等指派之成員。而所謂的「三振條款」，即是本法第5條（亦為增補後之智慧財產權法典第L. 331-25〜331-27條、）中所規定之：如網路用戶於接獲兩次由HADOPI所寄發之「違反勸阻通知」（recommandation）後依然違反智慧財產權法典第L. 336-3條所賦予之義務（禁止透過網路傳送服務對於受著作權及其他相近權利保護之著作進行非法複製、再現等；最常見之形式即為非法下載）時，HADOPI即可在進行「對辯程序」（procédure contradictoire，包括事前通知、卷宗閱覽、書面陳述意見，以致若經當事人要求須進行有律師或輔佐人陪同之正式聽證程序）後，對其進行裁罰（sanctions），最長可處使用者全面中斷（suspension）一年的網路服務。 因此，在法國憲法委員會對於此一法案的審議中，其關注重點即落在對於HADOPI是否可做出此種對於網路服務使用者進行中斷服務的裁罰之上。而主要基於2項理由，憲法委員會認為此一裁罰違反憲法： 1.此一中斷服務之裁罰雖可視為係達成此一法律任務所必要之措施，但因其涉及限制人民之自由及權利，故其實具有刑罰（punition）之性質；從而依據權力分立原則，能夠享有判斷並做出此一裁罰決定之權限者，僅為法院，而非行政機關。 2.而就算強調此一裁罰係由包含司法部門成員的獨立行政機關所做成，其依然違反了憲法前言、1789年法國人權及公民權宣言中所指涉及保護的基本權利，其中包括宣言第9條的「無罪推定」，以及在本案中具備決定性之宣言第11條「思想及意見自由傳達」的權利：因為在現代民主社會發展中，使用傳播工具及網路服務已是實現此一自由所不可或缺者；從而政府中斷網路服務之裁罰行為本身，已損及人民接近使用網路服務的基本權利。 然而，儘管法國憲法委員會在其決定中否認了HADOPI法中「三振條款」的合憲性，但因除去此一部份違憲條文外，整體HADOPI法仍通過了本次的憲法考驗，且HADOPI此一機關本身之正當性亦藉此取得確定。從而，HADOPI於後續實際案例中將會如何解釋適用此一法律，顯然是日後必須持續關心的重要議題。
澳洲隱私保護辦公室檢討實施「選擇退出機制」後對「我的健康紀錄系統」之影響澳洲隱私保護辦公室（Office of the Australian Information Commissioner,OAIC）在2019年11月發布的「2018-2019年度健康數位資料報告」（Annual Report of the Australian Information Commissioner’s activities in relation to digital health 2018–19），主要說明澳洲政府實施「選擇退出機制」（opt-out）後，對「我的健康紀錄系統」（My Health Record System）（下稱系統）發生的影響，以及有將近1成的國民大量選擇退出系統，造成系統的醫療健康資料統計困難之檢討。 OAIC認為會發生國民大量選擇退出系統的原因，主要是不信任政府對系統資料保護及不清楚系統使用功能有關，因此提出年度報告，內容如下: 一、改善民眾對醫療資料保護的不信任，例如對醫療業者，開發保護病患隱私的指導教材，防止、外洩即時處理的能力。 二、加強宣傳，例如開發線上資源、影音等，讓民眾在使用系統時能有更清楚認識，且對選擇退出有更明確的認知。 三、改進系統設計，讓民眾能更清楚的看見使用說明，也能隨時掌握在系統上的資訊、設置警報提醒來防止他人侵入、也增加取消功能使資料達到永久刪除的效果。 建置該系統之目的，是因為國家有蒐集與使用國民的醫療健康資料需求，國民也能使用系統查看醫療紀錄、藥物過敏紀錄、曾使用與正在使用的藥物、血液檢查等；醫療人員也能透過醫療資料之電子化，減少重複及不必要的醫療檢查、對症下藥、避免因過敏引起的反應等，將醫療資源做有效的運用。 系統建置是依據「我的健康紀錄法」（My Health Records Act 2012）第三章第一節註冊規定，要將國民的醫療健康資料納入系統，但不願意加入者，得選擇退出系統。而澳洲政府依據此法訂定選擇退出機制，2018年7月正式實施，要求全民強制加入系統，同時開放選擇退出機制，讓不願意加入系統的國民能選擇退出系統；選擇退出機制截止日期原先在2018年10月中旬，但在國民大量反應下，澳洲政府決定延至2019年1月底；在選擇退出機制的實施截止後，OAIC在2019年11月對選擇退出機制做出檢討報告，期望能透過檢討報告提出的建議來增強民眾對系統的信任與促進系統使用率。
德國聯邦經濟與能源部提出《GAIA-X計畫》建立歐洲聯合雲端資料基礎建設2019年10月29日，德國聯邦經濟與能源部提出GAIA-X計畫（Project GAIA-X），蒐集德國聯邦政府、產業和科學界代表意見，與歐洲夥伴合作共創高性能、具競爭力、安全可信賴的歐洲聯合雲端資料基礎建設平台。GAIA-X計畫被視為歐洲開放、透明的雲端數位生態系統搖籃，用戶得以在可信任的環境中，提供整合安全的共享資料；透過雲端資料的跨國合作，為歐洲國家、企業和公民創造聯邦資訊共享環境、促進數位創新、建構全新商業模式。GAIA-X計畫將嚴格遵循資料保護、公開透明、真實性與可信賴性、數位主權（Digital Sovereignty）、自由市場與歐洲價值創造、系統模組化及互操作性（Modularity and Interoperability）、資料可用性等歐洲價值觀及原則。 GAIA-X計畫設定的目標包括：1.維護歐洲數位主權；2.減少對外國雲端供應鏈依賴；3.拓展歐洲雲端服務的國際市場；4.塑造創新數位生態系統。透過建立資料技術與數位經濟相關的基礎設施，將統一安全規格的雲端技術，落實在公共管理、衛生部門、企業和科研機構用戶與供應商間，形成開放數位資料共享的大平台。另外，GAIA-X計畫能進一步強化歐洲雲端服務供應商及歐洲商業模式的全球競爭力與規模，透過聯合雲端資料基礎建設，連接歐洲大小型企業、公部門、醫療及金融機構的伺服器，將全歐洲對於數位技術的多項投資串連在一起，積極發展AI人工智慧、智慧醫療、數位金融監管等新興產業，得以確保歐洲數位安全並提高雲端資料處理能力。
歐盟資通安全局公布《提升歐盟軟體安全性》研究報告歐盟資通安全局（European Union Agency for Cybersecurity, ENISA）於2020年4月25日以歐盟網路安全驗證框架（EU cybersecurity certification framework）檢視現行安全軟體開發及維護之方式與標準，並公布《提升歐盟軟體安全性》（Advancing Software Security in the EU）研究報告。歐盟資通安全局後續將以該研究報告協助產品、服務及軟體開發之驗證，並期望能夠成為執行歐盟網路安全驗證框架相關利害關係人之非強制性參考文件之一。 本報告指出由於安全軟體已普遍應用於日常商品與服務當中，但目前針對軟體安全事故並無相對應之安全守則及技術，故為提高軟體安全層級並緩解目前已知之軟體安全威脅，應針對安全軟體開發及維護進行規範並驗證。 報告中除了針對軟體安全提出其應具備之要素、概述現行安全軟體開發方式及標準之缺點外，亦提出若以歐盟網路安全驗證框架針對軟體開發方式進行驗證時可考量之一些實際做法，包括： 已驗證之資訊與通訊科技（Information and Communication Technology, ICT）產品、服務或流程供應商或製造商，針對資料庫之部署及維護，除探討防止資料洩漏之方式外，尚應考量產品、服務或流程驗證過程中，進行資料共享會面臨之安全威脅以及緩解之方式。 應與歐洲標準組織（European Standards Organizations, ESOs）及標準制定組織（Standards Developing Organization, SDOs）合作。 建立一些針對軟體開發、維護及操作準則以補充現有歐盟網路安全驗證方案（EU cybersecurity certification schemes）。 針對現行不一致之軟體開發及維護規範，應考量建立較寬鬆之合規性評估（conformity assessment）標準。 借鏡現有經驗和專業知識，促進歐盟網絡安全驗證框架之適用。