梵諦岡與IBM、微軟聯合呼籲對臉部辨識等侵入性技術進行監管
2020年2月28日梵諦岡教宗與兩大科技巨頭IBM及微軟聯合簽署「羅馬呼籲AI倫理道德」文件，支持制定人工智慧(AI)發展倫理與道德規範，並特別呼籲應針對臉部辨識等侵入性技術進行監管。在聯合文件上特別提及臉部識別技術潛在之濫用風險，例如警察會使用臉部辨識系統調查犯罪行為、《財富》500強公司使用AI審查求職者，這兩個例子均具有潛在且高度之風險，使用不正確或是具有偏見之AI判斷均可能會造成傷害。誠如方濟各在致辭中說：「人工智慧記錄個人資料，並使用於商業或政治目的，而且通常是在個人不知情之情況下，這種不對稱，將使少數人了解我們的一切，但我們卻對他們一無所知，這將使批判性思維和對自由的自覺變得遲鈍，不平等現象急遽擴大，知識和財富在少數人手中累積，將對民主社會構成重大風險。」
此次會議希望在國家與國際層面上共同努力促進AI道德規範，並根據以下原則來發展和使用人工智慧。第一，良好的創新：人工智慧系統必須是可理解得，並且在包容性方面必須考慮到所有人的需求，以便每個人都能受益。第二，責任：設計和實施人工智慧者必須承擔責任和保持透明度。第三，公正性：避免根據偏見進行創造或採取行動，從而維護人類平等和尊嚴。第四，可靠性：人工智慧系統必須能夠可靠的運行。第五，安全和隱私：人工智慧系統必須安全運行並尊重用戶的隱私。
目前尚不清楚其他技術公司是否會簽署該文件，以及簽署人將如何實施，但教宗與兩大科技巨頭史無前例的合作，為人工智慧未來發展方向提供遠見卓識，能更加深入的去思考AI的道德意涵以及它將如何與人類更好的合作、互動，互利共生，相輔相成。
蘇偉綸
副法律研究員 編譯整理
1. Philip Pullella, Jeffrey Dastin, Vatican joins IBM, Microsoft to call for facial recognition regulation, Reuters, Feb. 28, 2020, https://www.reuters.com/article/us-vatican-artificial-intelligence/vatican-joins-ibm-microsoft-to-call-for-facial-recognition-regulation-idUSKCN20M0Z1 (last visited May 2, 2020).
2. Jen Copestake, AI ethics backed by Pope and tech giants in new plan, BBC, Feb. 28, 2020, https://www.bbc.com/news/technology-51673296 (last visited May 2, 2020).
3. Rome Call for AI Ethics, Rome Call, https://romecall.org/2020/02/28/rome-call-for-ai-ethics/ (last visited May 2, 2020).
法國國會於2009年04月通過名為「創作與網路法」（Creation and Internet law）的反盜版法案，凡是非法下載遭發覺的網路使用者，執法單位將有權中斷其網路連線，若非法下載遭發覺超過兩次，執法單位得中斷其網路連線長達一年。而此次通過的新法，將取代現行非法下載者得處以最高3年以下的有期徒刑及30萬歐元罰款的規定。 此項法案受到法國當地權威音樂人士如Johnny Hallyday及Charles Aznavour等人的大力擁護，共有超過一萬名的藝術家聯署支持該項法案，支持者認為新法可望阻絕非法的影片及音樂盜版行為，法國文化部長Christine Albanel亦表示其期待新法可以解決文化商品頻遭侵害的現象。 但此項法案亦卻飽受消費團體的批評，部分反對者更直言新法不啻侵犯了公眾及個人的自由。法國消費者權益保護組織「消費者聯合會」（UFC-Que Choisir）抨擊新法是「司法怪物」（legal monstrosity），其表示網路使用者遭到中斷連線前，根本毫無機會回應執法單位的指控。另一個代表多家高科技與電子商務業者的協會，亦向政府請求在產業界提出替代解決方案前，暫緩實施該項法案。
英國提出因應GDPR自動化決策與資料剖析規定之細部指導文件2018年5月，英國資訊專員辦公室（Information Commissioner’s Office, ICO）針對歐盟GDPR有關資料自動化決策與資料剖析之規定，公布了細部指導文件（detailed guidance on automated decision-making and profiling），供企業、組織參考。 在人工智慧與大數據分析潮流下，越來越多企業、組織透過完全自動化方式，廣泛蒐集個人資料並進行剖析，預測個人偏好或做出決策，使個人難以察覺或期待。為確保個人權利和自由，GDPR第22條規定資料當事人應有權免受會產生法律或相類重大效果的單純自動化處理決策（a decision based solely on automated processing）之影響，包括對個人的資料剖析（profiling），僅得於三種例外情況下進行單純自動化決策： 為簽訂或履行契約所必要； 歐盟或會員國法律所授權； 基於個人明示同意。 英國2018年新通過之資料保護法（Data Protection Act 2018）亦配合GDPR第22條規定，制定相應國內規範，改變1998年資料保護法原則上容許資料自動化決策而僅於重大影響時通知當事人之規定。 根據指導文件，企業、組織為因應GDPR而需特別留意或做出改變的事項有： 記錄資料處理活動，以幫助確認資料處理是否符合GDPR第22（1）條單純自動化決策之定義。 倘資料處理涉及資料剖析或重大自動化決策，應進行資料保護影響評估（Data Protection Impact Assessment, DPIA），判斷是否有GDPR第22條之適用，並及早了解相關風險以便因應處理。 提供給資料當事人的隱私權資訊（privacy information），必須包含自動化決策之資訊。 應確保組織有相關程序能接受資料當事人的申訴或異議，並有獨立審查機制。 指導文件並解釋所謂「單純自動化決策」、「資料剖析」、「有法律效果或相類重大影響」之意義，另就可進行單純自動化決策的三種例外情況簡單舉例。此外，縱使符合例外情況得進行單純自動化決策，資料控制者（data controller）仍必須提供重要資訊（meaningful information）給資料當事人，包括使用個人資料與自動化決策邏輯上的關聯性、對資料當事人可能產生的結果。指導文件亦針對如何向資料當事人解釋自動化決策處理及提供資訊較佳的方式舉例說明。
歐盟執委會規劃制訂新世代智慧電網規範，及研擬共通性評估要項工具歐盟執委會（European Commission）於去（2011）年10月公布一份「建立共通性智慧讀表功能要項及影響因素（Set of Common Functional Requirements of the Smart Meter）」調查報告，對於各會員國發出問券，調查對於建設智慧讀表（智慧電網SmartGrid系統首要基礎）之經濟評估要項，藉此瞭解各國於推動建立，所考量之優先因素及差異性，並藉此彙整出「成本效益評估項目（Cost Benefit Assessments , CBAs)」，建立歐盟層級之共通性功能要項，以利後續其他會員國援用導入之政策工具。 以及，歐盟執委會所屬聯合研究中心（Joint Research Centre , JRC），於去（2011）年7月亦公布一份「歐盟智慧電網關鍵挑戰及發展趨勢（Smart Grids: New Study Highlights Key Challenges and Trends in the EU）」研究報告，指出歐盟各會員國現今已投入219個智慧電網計畫，總經費達5.5兆歐元以上，並設立展示（Showcases）網站，供外界瞭解推動進度；此研究報告並指出，要健全智慧電網發展，除了大規模投入經費資源建設外，更應重視各會員國對於原既有能源管制規範之體檢審視；該報告呼籲各會員國應積極建立新世代智慧電網規範，因為於現有管制規範下，常導向各國推動實務，多僅強調可降低系統運作支出成本，而不是直接朝向升級為智慧性整合體系而發展，於現有監管模式（Current Regulatory Models）下，縱使眾多投資於智慧電網，亦無法出現突破性發展。該報告並倡議，新世代管理規範，至少應建立服務平台運作原則及遵守規範，並導引效益之公平分享。 此外，歐盟執委會於去（2011）年4月間，關於智慧電網發展重要法制政策之關鍵議題，亦曾發布「智慧電網創新發展（Smart Grids: From Innovation to Deployment）」政策文件，其中明列發展智慧電網，首要應重視資料隱私及安全性議題（Addressing data privacy and security issues），亦必須建立共通性標準（Developing common European Smart Grids standards），及提供優惠政策措施，並且應確保消費者資料接取（Access）權利，保證維持公開競爭市場並鼓勵增進消費者利益之各項發展。
何謂「Regtech」？有別於金融科技（Fintech）著重於運用科技手段使金融服務變得更有效率，因而形成促進金融產業發展的一種經濟產業。在美國源於對2008年金融風暴的恐懼，更傾向在金融科技提升金融服務便利與效率的同時，倡議如何使行政機關在監理過程中更能夠兼顧公平、安全及消費者保護。消費者保障與洗錢防制是行政機關進行金融監理的兩大核心目標，而金融科技服務下的客戶身分核實、信用紀錄與償債能力查核等風險控管措施，在全球發展金融科技方興未艾之際，美國則積極發展監理科技「Regtech」。意指行政機關嘗試透過科技手段有效監理業者的營運動態，如區塊鏈技術（Block-Chain）改變銀行現行運作模式，不僅降低業者營運成本外，更透過科技監理的方式協助業者即時達成法令遵循的目標，縮短法令遵循改善的過渡期間，減輕風險產生的可能。同時，也讓行政機關得以即時預防，並因應任何類似2008年金融風暴之情事的發生。