歐盟發布「人工智慧白皮書」以因應人工智慧未來可能的機遇與挑戰
人工智慧目前正快速發展，不論是在醫療、農業耕作、製造生產或是氣候變遷等領域上，均帶來了許多改變，然而在人工智慧應用之同時，其也存在許多潛在風險如決策不透明、歧視或其他倫理與人權議題。
歐盟為求在全球競爭激烈的背景下，維護其於人工智慧相關領域的領先地位，並確保人工智慧技術於改善歐洲人民生活的同時，亦能尊重(respecting)人民權利，乃於今年(2020年)2月發布「人工智慧白皮書」(White Paper on Artificial Intelligence)，將採投資及監管併用之方式，促進人工智慧應用與解決其相關風險，其對於未來促進人工智慧的應用(promoting the uptake of AI)與相關風險解決，計畫朝向建立卓越生態系統(An Ecosystem of Excellence)及信任生態系統(An Ecosystem of Trust)兩方面進行。
在建立信任生態系統中，歐盟提到因為人工智慧具有變革性的潛力，所以就信任的建立乃至關重要，未來歐洲人工智慧的監管框架除了須確保遵守歐盟法規外(包括基本權利保護與消費者權益維護之規範)，對於高風險性之人工智慧應用，其將強制要求需於銷售前進行合格評定(mandatory pre-marketing conformity assessment requirement)。而有關高風險性之定義，歐盟於該白皮書指出須符合以下兩個要件：
- 考量人工智慧應用之一般活動特徵，其預計會有重大風險的發生，例如在醫療保健、運輸、能源和可能屬於高風險的公共領域；以及
- 在預期用途或應用上都可能對個人(individual)或企業(company)帶來重大的風險，特別是在安全性(safety)、消費者權益(consumer rights)與基本權利(fundamental rights)上。
歐盟委員會目前針對於以上白皮書之內容與附隨報告，將向公眾徵詢意見至今年5月19日。
- White Paper On Artificial Intelligence-A European approach to excellence and trust
- Summary of EU white paper on Artificial Intelligence — A European approach to excellence and trust
- European Commission’s White Paper on Artificial Intelligence
- Europe reveals its ambitious tech blueprint to take on Silicon Valley and China
- EU plans new rules for AI but experts seek more detail
莊貫勤
法律研究員 編譯整理
EUROPEAN COMMISSION, White Paper On Artificial Intelligence-A European approach to excellence and trust (Feb. 19, 2020), https://ec.europa.eu/info/files/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en (last visited Apr. 7, 2020).
Tiba Razmi, Summary of EU white paper on Artificial Intelligence — A European approach to excellence and trust, Medium, Feb. 23, 2020, https://medium.com/@tibastar/summary-of-eu-white-paper-on-artificial-intelligence-a-european-approach-to-excellence-and-trust-e04a1a018b5 (last visited Apr. 7, 2020).
Lisa Peets, Marty Hansen, Sam Jungyun Choi and Anna Oberschelp de Meneses, European Commission’s White Paper on Artificial Intelligence (Part 2 of 4), Covington Digital Health (February 28, 2020.), https://www.covingtondigitalhealth.com/2020/02/european-commissions-white-paper-on-artificial-intelligence-part-2-of-4/ (last visited Apr. 7, 2020).
Charlie Wood and Shona Ghosh, Europe reveals its ambitious tech blueprint to take on Silicon Valley and China, BUSINESS INSIDER, Feb. 19, 2020, https://www.businessinsider.com/europe-digital-strategy-challenge-us-china-big-tech-artificial-intelligence-2020-2 (last visited Apr. 7, 2020).
Chris Baraniuk, EU plans new rules for AI but experts seek more detail, BBC, Feb. 19, 2020, https://www.bbc.com/news/technology-51559010 (last visited Apr. 7, 2020).
紐西蘭最為歷史悠久的IT專家組織（Institute of IT Professionals NZ）於2012年5月發布雲端運算實務準則（Cloud Computing Code of Practice），藉此彌補實務上缺乏雲端運算標準與實務指針的問題；本準則為自願性遵循規範，以紐西蘭為市場的外國雲端業者、及紐西蘭的業者皆可適用之，並可向公眾宣示其已遵行此準則，然倘若未遵行而為遵行之宣示，則屬誤導或詐欺行為而觸犯公平交易法（Fair Trading Act 1986）。本準則有四個主要目標：1. 促進紐西蘭雲端產業的服務標準；2. 確立應揭露（disclosure）的標準；3. 促進雲端服務提供者與用戶間就資料保護、隱私與主權等事項的揭示；4.強化紐西蘭雲端運算產業的整合性。 依據此準則，雲端業者的資訊揭露範圍至少應包含業者基本資料、資訊所有權、管理及保護、與服務提供之適當管理措施等。在資訊所有權層面，業者應表明是否對所上載的資料或資訊主張所有權；而當用戶透過雲端服務利用或傳輸的資料而儲存於其他上游業者的網路或系統時，業者應確認其資料所有權之歸屬。 在資料管理與保障層面，業者應表明遵從何種資訊安全標準或實務，其已向美國雲端產業聯盟（Cloud Security Alliance）進行STAR登記，或者已通過其他標準的驗證；此外應表明儲存資料伺服器之一處或多處所在地。再者，業者亦須表明服務關係繼續中或終止後，業者或客戶對於客戶所擁有資料之存取權限。 在服務提供的適當管理措施上，包含業者的備份（Backup）程序及維護措施，皆應為揭露，使用戶得據以評估是否採取進一步的資料保護措施；此外包括服務的繼續性要求，如備援措施…等，亦應為揭露；又鑒於雲端服務有地理多樣性（Geographic Diversity）的特質，業者應使用戶知悉其提供服務、或營業活動的地點，以判斷此等服務可能適用的法權（Legal Jurisdiction）。 依據此準則，雲端業者亦可例如透過服務水準協議（Service Level Agreement）對個別用戶承諾特別的服務支援方案，以提供更好的服務品質。
美國聯邦貿易委員會（FTC）有權監督管理企業資料處理方式2015年8月24日，美國第三巡迴法院做出判決，宣告美國聯邦貿易委員會（the Federal Trade Commission, FTC）本於聯邦貿易委員會法第5章（Section 5 of the Federal Trade Commission Act）之規定，對於侵害個人資料隱私及未盡資料保護安全責任的相關案件有管轄權。未來若經FTC認定有違反資料安全規定的事實，該委員會針對企業違法事實的判定將產生法律效力。 案件起因於2008年及2009年間，飯店集團Wyndham Worldwide Corporation共遭到3次駭客入侵，導致大約60萬筆的客戶資料外洩。FTC介入調查並指控Wyndham Hotels內部缺乏資訊安全管理控制措施才會造成資料被駭客入侵，使客戶權益受損。Wyndham Hotels不服並上訴，表示FTC只有提供企業資料安全保護措施的建議權，無權決定企業是否違反相關法令。Wyndham Hotels還主張FTC並沒有告知該公司何謂正當利用個人資料的判斷標準。 第三巡迴法院駁回Wyndham Hotels提出的2點主張。在此判決中，第三巡迴法院確立了FTC除了有一般建議權外，也有權對於企業利用個人資料的方式、以及企業是否有盡到資料安全保護責任進行監督與管理。另外，第三巡迴法院也表示Wyndham Hotels無權要求FTC提供逐條釋義。換句話說，FTC僅需負一般性的告知義務。 此判決大幅擴張FTC監督管理企業資料安全保護措施的權力，對於廣大個人資料本人而言，可說是一大保障。
美國紐約州通過《政府自動化決策監督法》規範州政府使用自動化決策系統紐約州州長於2024年12月21日簽署《政府自動化決策監督法》（Legislative Oversight of Automated Decision-making in Government Act, LOADinG Act），用以規範紐約州政府使用人工智慧自動決策系統的方式以及相關義務，成為美國第一個通過這類法律的州。 該法所定義之「自動化決策系統」係指任何使用演算法、計算模型或人工智慧技術，或其組合的軟體，用於自動化、支援或取代人類決策；這類系統亦包括應用預定義規則或機器學習演算法進行資料分析，並在自動產生結論、建議、結果、假設、預測。 針對政府使用自動化決策系統之情形，《政府自動化決策監督法》有三大重點：人類監督、影響評估以及資訊揭露。 一、人類監督 州政府在提供社會福利資源或其他可能實質影響人民權益與法定權利的業務時，除非是在「有意義的人工審查」下進行操作，否則不得使用自動化決策系統。同時，此法也強調，州政府亦應確保其員工現有權利不會受到自動化決策系統的影響，例如不得因此受到解雇、調職或減薪等。 前述有意義的人工審查，係指對自動化決策流程進行審查、監督及控制的工作人員，必須是受過訓練、對該系統有一定之了解且擁有權力干預、變更系統最終決策的人。 二、影響評估 州政府如欲使用自動化決策系統，應進行影響評估且每兩年應至少重新評估一次；系統在進行重大更新前，也應重新進行影響評估。若評估發現系統產生歧視性或有偏見的結果，機關必須停止使用該系統及其生成的資訊。 影響評估的項目除了性能、演算法及訓練資料外，亦應進行準確性、公平性、偏差歧視、以及個人資料安全等相關測試。 三、資訊揭露 影響評估需在系統實施前至少30天提交給州長與州議會，並在相關機關的網站上公布；僅機關在特殊情況下（例如涉及公共安全考量），州政府可針對報告揭露之資訊進行必要的刪改，但必須說明做出此決定的原因。此外，州政府亦需於本法通過後向州議會提交報告，說明包括系統描述、供應商資訊、使用開始日期、用途、人類決策的支持或取代情況、已進行的影響評估摘要等。 本法強調對人工智慧技術的審慎應用，特別關注其對勞工權益的影響。該法明確規定，禁止在無人類監督的情況下，使用自動化系統進行失業救濟或育兒補助等福利的審核決策，並保障州政府員工不因人工智慧的實施而減少工作時間或職責。此類規定在現行立法中較為罕見，顯示出立法者對勞工權益的高度重視。該法的實施效果及影響，值得未來持續保持關注。
RFID應用與相關法制問題研析－個人資料在商業應用上的界限