歐盟發布「人工智慧白皮書」以因應人工智慧未來可能的機遇與挑戰
人工智慧目前正快速發展，不論是在醫療、農業耕作、製造生產或是氣候變遷等領域上，均帶來了許多改變，然而在人工智慧應用之同時，其也存在許多潛在風險如決策不透明、歧視或其他倫理與人權議題。
歐盟為求在全球競爭激烈的背景下，維護其於人工智慧相關領域的領先地位，並確保人工智慧技術於改善歐洲人民生活的同時，亦能尊重(respecting)人民權利，乃於今年(2020年)2月發布「人工智慧白皮書」(White Paper on Artificial Intelligence)，將採投資及監管併用之方式，促進人工智慧應用與解決其相關風險，其對於未來促進人工智慧的應用(promoting the uptake of AI)與相關風險解決，計畫朝向建立卓越生態系統(An Ecosystem of Excellence)及信任生態系統(An Ecosystem of Trust)兩方面進行。
在建立信任生態系統中，歐盟提到因為人工智慧具有變革性的潛力，所以就信任的建立乃至關重要，未來歐洲人工智慧的監管框架除了須確保遵守歐盟法規外(包括基本權利保護與消費者權益維護之規範)，對於高風險性之人工智慧應用，其將強制要求需於銷售前進行合格評定(mandatory pre-marketing conformity assessment requirement)。而有關高風險性之定義，歐盟於該白皮書指出須符合以下兩個要件：
- 考量人工智慧應用之一般活動特徵，其預計會有重大風險的發生，例如在醫療保健、運輸、能源和可能屬於高風險的公共領域；以及
- 在預期用途或應用上都可能對個人(individual)或企業(company)帶來重大的風險，特別是在安全性(safety)、消費者權益(consumer rights)與基本權利(fundamental rights)上。
歐盟委員會目前針對於以上白皮書之內容與附隨報告，將向公眾徵詢意見至今年5月19日。
- White Paper On Artificial Intelligence-A European approach to excellence and trust
- Summary of EU white paper on Artificial Intelligence — A European approach to excellence and trust
- European Commission’s White Paper on Artificial Intelligence
- Europe reveals its ambitious tech blueprint to take on Silicon Valley and China
- EU plans new rules for AI but experts seek more detail
莊貫勤
法律研究員 編譯整理
EUROPEAN COMMISSION, White Paper On Artificial Intelligence-A European approach to excellence and trust (Feb. 19, 2020), https://ec.europa.eu/info/files/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en (last visited Apr. 7, 2020).
Tiba Razmi, Summary of EU white paper on Artificial Intelligence — A European approach to excellence and trust, Medium, Feb. 23, 2020, https://medium.com/@tibastar/summary-of-eu-white-paper-on-artificial-intelligence-a-european-approach-to-excellence-and-trust-e04a1a018b5 (last visited Apr. 7, 2020).
Lisa Peets, Marty Hansen, Sam Jungyun Choi and Anna Oberschelp de Meneses, European Commission’s White Paper on Artificial Intelligence (Part 2 of 4), Covington Digital Health (February 28, 2020.), https://www.covingtondigitalhealth.com/2020/02/european-commissions-white-paper-on-artificial-intelligence-part-2-of-4/ (last visited Apr. 7, 2020).
Charlie Wood and Shona Ghosh, Europe reveals its ambitious tech blueprint to take on Silicon Valley and China, BUSINESS INSIDER, Feb. 19, 2020, https://www.businessinsider.com/europe-digital-strategy-challenge-us-china-big-tech-artificial-intelligence-2020-2 (last visited Apr. 7, 2020).
Chris Baraniuk, EU plans new rules for AI but experts seek more detail, BBC, Feb. 19, 2020, https://www.bbc.com/news/technology-51559010 (last visited Apr. 7, 2020).
2018年5月，英國資訊專員辦公室（Information Commissioner’s Office, ICO）針對歐盟GDPR有關資料自動化決策與資料剖析之規定，公布了細部指導文件（detailed guidance on automated decision-making and profiling），供企業、組織參考。 在人工智慧與大數據分析潮流下，越來越多企業、組織透過完全自動化方式，廣泛蒐集個人資料並進行剖析，預測個人偏好或做出決策，使個人難以察覺或期待。為確保個人權利和自由，GDPR第22條規定資料當事人應有權免受會產生法律或相類重大效果的單純自動化處理決策（a decision based solely on automated processing）之影響，包括對個人的資料剖析（profiling），僅得於三種例外情況下進行單純自動化決策： 為簽訂或履行契約所必要； 歐盟或會員國法律所授權； 基於個人明示同意。 英國2018年新通過之資料保護法（Data Protection Act 2018）亦配合GDPR第22條規定，制定相應國內規範，改變1998年資料保護法原則上容許資料自動化決策而僅於重大影響時通知當事人之規定。 根據指導文件，企業、組織為因應GDPR而需特別留意或做出改變的事項有： 記錄資料處理活動，以幫助確認資料處理是否符合GDPR第22（1）條單純自動化決策之定義。 倘資料處理涉及資料剖析或重大自動化決策，應進行資料保護影響評估（Data Protection Impact Assessment, DPIA），判斷是否有GDPR第22條之適用，並及早了解相關風險以便因應處理。 提供給資料當事人的隱私權資訊（privacy information），必須包含自動化決策之資訊。 應確保組織有相關程序能接受資料當事人的申訴或異議，並有獨立審查機制。 指導文件並解釋所謂「單純自動化決策」、「資料剖析」、「有法律效果或相類重大影響」之意義，另就可進行單純自動化決策的三種例外情況簡單舉例。此外，縱使符合例外情況得進行單純自動化決策，資料控制者（data controller）仍必須提供重要資訊（meaningful information）給資料當事人，包括使用個人資料與自動化決策邏輯上的關聯性、對資料當事人可能產生的結果。指導文件亦針對如何向資料當事人解釋自動化決策處理及提供資訊較佳的方式舉例說明。
淺談美國行動健康服務應用程式之管理規範 世界經濟論壇發布《2022年全球網路安全展望》世界經濟論壇（World Economic Forum, WEF）於2022年1月18日發布《2022年全球網路安全展望》（Global Cybersecurity Outlook 2022），以面對因COVID-19大流行所致之遠距辦公、遠距學習、遠距醫療等新形態數位生活模式快速發展，以及日漸頻繁之具破壞性網路攻擊事件。為考量國家應優先考慮擴展數位消費工具（digital consumer tools）、培育數位人才及數位創新，本報告說明今年度網路安全發展趨勢及未來所要面對之挑戰包括如下： COVID-19使得工作習慣轉變，加快數位化步伐：約有87%企業高階管理層計畫透過加強參與及管理第三方的彈性政策、流程與標準，提高其組織的網路韌性（cyber resilience）。 企業資安長（chief information security officers, CISO）及執行長（chief executive officers, CEO）之認知差異主要有三點：(1)92%的CEO認為應將網路韌性整合到企業風險管理戰略中，惟僅55%CISO同意此一作法；(2)由於領導層對網路韌性認知差異，導致安全優先等級評估與政策制定可能產生落差；(3)缺乏網路安全人才以面對網路安全事件。 企業最擔心之三種網路攻擊方式為：勒索軟體（Ransomware attacks）、社交工程（social-engineering attacks），以及惡意內部活動。惡意內部活動係指企業組織之現任或前任員工、承包商或業務合作夥伴，以對組織產生負面影響方式濫用其關鍵資產。 憂心中小企業數位化不足：本研究中有88%之受訪者表示，擔心合作之中小企業之數位化程度不足，導致供應鏈或生態系統中使其網路韌性受阻。 網路領導者認為建立明確有效的法規範，將有助於鼓勵資訊共享與促進合作。
美國聯邦通訊委員會補助無訊號地區3G網路建設美國聯邦通訊委員會（Federal Communications Commission, FCC）自2010年推動「國家寬頻計畫」（National Broadband Plan）以來，即進行多項寬頻建設，使民眾於生活、工作及旅行途中，都能享受到行動寬頻網路與語音服務。而FCC於2012年2月規劃利用原普及服務基金（Universal Service Fund）下的行動通信基金（Mobility Fund）（兩者於2011年底均已劃入連接美國基金“Connect America Fund”）提撥出3億美金，一次性的提供業者於訊號未涵蓋區域進行3G網路基礎建設，並在未來三年內提供5億美金以供業者持續營運。 FCC預計於2012年9月2日，以反向拍賣（reverse auction）方式進行。由業者提出佈建方案、使用技術，並證明在競標區域內擁有足夠頻譜與建設能力，方能進入投標，最後由需要補助最少之業者得標。FCC希望利用此方式能促進市場競爭，使業者提出更積極之佈建方案。得標業者除獲得建設與營運補助外，並能為商用經營。本次拍賣將與其他頻譜執照拍賣方式類似，但就細部拍賣規則，將徵詢公眾意見後做出決定。 而為避免補助區域與已有3G訊號區域重疊，FCC就無3G訊號涵蓋區域繪製全國地圖，並公佈予投標者參考。原規劃區域為491,000區，但因過於狹小恐難以經營，故合併後為6,200區供業者競標。得標者負有義務必須於兩年之內於標得區域內完成3G網路佈建，或於3年內完成4G建設。