英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險
英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險
資訊工業策進會科技法律研究所
2024年03月11日
人工智慧（AI）被稱作是第四次工業革命的核心，對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目，陸續推動相關發展政策與規範，如歐盟《人工智慧法》（Artificial Intelligence Act, AI Act）、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）、英國「支持創新的人工智慧監管政策白皮書」（A Pro-innovation Approach to AI Regulation）（下稱AI政策白皮書）等，各國期望發展新興技術的同時，亦能確保AI使用的安全性與公平性。
壹、事件摘要
英國科學、創新與技術部（Department for Science, Innovation and Technology，DSIT）於2024年2月12日發布《AI保證介紹》（Introduction to AI assurance）指引（下稱AI保證指引），AI保證係用於評測AI系統風險與可信度的措施，於該指引說明實施AI保證之範圍、原則與步驟，目的係為讓主管機關藉由落實AI保證，以降低AI系統使用之風險，並期望提高公眾對AI的信任。
AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定，五項原則分別為：安全、資安與穩健性（Safety, Security and Robustness）、適當的透明性與可解釋性（Appropriate Transparency and Explainability）、公平性（Fairness）、問責與治理（Accountability and Governance）以及可挑戰性 與補救措施（Contestability and Redress）。
貳、重點說明
AI保證指引內容包含：AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟，以下將重點介紹上開所列之規範內容：
一、AI保證之適用範圍：
（一）、訓練資料（Training data）：係指研發階段用於訓練AI的資料。
（二）、AI模型（AI models）：係指模型會透過輸入的資料來學習某些指令與功能，以幫助建構模模型分析、解釋、預測或制定決策的能力，例如GPT-4。，如GPT-4。
（三）、AI系統（AI systems）：係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統，可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統，其使用的AI模型為GPT-4。
（四）、廣泛的AI使用（Broader operational context）：係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。
二、AI保證的三大原則：鑒於AI系統的複雜性，須建立AI保證措施的原則與方法，以使其有效執行。
（一）、衡量（Measure）：收集AI系統運行的相關統計資料，包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊；以及存取與AI系統設計、管理的相關文件，以確保AI保證的有效執行。
（二）、評測（Evaluate）：根據監管指引或國際標準，評測AI系統的風險與影響，找出AI系統的問題與漏洞。
（三）、溝通（Communicate）：建立溝通機制，以確保主管機關間之交流，包含調查報告、AI系統的相關資料，以及與公眾的意見徵集，並將上開資訊作為主管機關監理決策之參考依據。
三、AI保證的六項措施：主管機關可依循以下措施評測、衡量AI系統的性能與安全性，以及其是否符合法律規範。
（一）、風險評估（Risk assessment）：評測AI系統於研發與部署時的風險，包含偏見、資料保護和隱私風險、使用AI技術的風險，以及是否影響主管機關聲譽等問題。
（二）、演算法－影響評估（Algorithmic－impact assessment）：用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。
（三）、偏差審計（Bias audit）：用於評估演算法系統的輸入和輸出，以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。
（四）、合規性審計（Compliance audit）：用於審查政策、法律及相關規定之遵循情形。
（五）、合規性評估（Conformity assessment）：用於評估AI系統或產品上市前的性能、安全性與風險。
（六）、型式驗證（Formal verification）：係指使用數學方法驗證AI系統是否滿足技術標準。
四、評測標準：以國際標準為基礎，建立、制定AI保證的共識與評測標準，評測標準應包含以下事項：
（一）、基本原則與術語（Foundational and terminological）：提供共享的詞彙、術語、描述與定義，以建立各界對AI之共識。
（二）、介面與架構（Interface and architecture）：定義系統之通用協調標準、格式，如互通性、基礎架構、資料管理之標準等。
（三）、衡量與測試方式（Measurement and test methods）：提供評測AI系統的方法與標準，如資安標準、安全性。
（四）、流程、管理與治理（Process, management, and governance）：制定明確之流程、規章與管理辦法等。
（五）、產品及性能要求（Product and performance requirements）：設定具體的技術標準，確保AI產品與服務係符合規範，並透過設立安全與性能標準，以達到保護消費者與使用者之目標。
五、建構AI保證的步驟（Steps to build AI assurance）
（一）、考量現有的法律規範（Consider existing regulations）：英國目前雖尚未針對AI制定的法律，但於AI研發、部署時仍會涉及相關法律，如英國《2018年資料保護法》（Data Protection Act 2018）等，故執行AI保證時應遵循、考量現有之法律規範。
（二）、提升主管機關的知識技能（Upskill within your organisation）：主管機關應積極了解AI系統的相關知識，並預測該機關未來業務的需求。
（三）、檢視內部風險管理問題（Review internal governance and risk management）：須適時的檢視主管機關內部的管理制度，機關於執行AI保證應以內部管理制度為基礎。
（四）、尋求新的監管指引（Look out for new regulatory guidance）：未來主管機關將制定具體的行業指引，並規範各領域實踐AI的原則與監管措施。
（五）、考量並參與AI標準化（Consider involvement in AI standardisation）：私人企業或主管機關應一同參與AI標準化的制定與協議，尤其中小企業，可與國際標準機構合作，並參訪AI標準中心（AI Standards Hubs），以取得、實施AI標準化的相關資訊與支援。
參、事件評析
AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定，冀望於主管機關落實AI保證，以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料，並根據國際標準與監管指引所制定之標準，以評測AI系統的安全性與其使用之相關影響風險。
隨著AI的快速進步及應用範疇持續擴大，於各領域皆日益重要，未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引，引導各領域AI的開發、使用與佈署者能安全的使用AI。此外，應持續關注國際間推出的政策、指引或指引等，研析國際組織與各國的標準規範，借鏡國際間之推動作法，逐步建立我國的AI相關制度與規範，帶動我國智慧科技產業的穩定發展外，同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。
本文為「經濟部產業技術司科技專案成果」
歐盟執委會（European Commission）於2022年3月30日提出了一項「目標地球倡議（the Destination Earth initiative）」，希望建立「目標地球系統」（Destination Earth system，以下簡稱DestinE系統），作為實踐歐洲「綠色協議」（European Green Deal）、「數位化戰略」（EU’s Digital Strategy）此兩項計畫的一部分。 DestinE系統係旨在全球範圍內開發一個高度精確的地球數位模型，透過整合、存取具價值性的資料與人工智慧進行資料分析等技術，以監測、建模和預測環境變化、自然災害和人類社會經濟之影響，以及後續可能的因應和緩解策略。未來希望將高品質的資訊、數位服務、模型預測提供予公部門運用，接著逐步開放給科學界、私部門、公眾等用戶，將有助於應對氣候變遷、實現綠色數位轉型，並支持塑造歐洲的數位未來。 為實現此一項目，歐盟執委會預計在2024年中前由數位歐洲計畫（Digital Europe Programme）投入1.5億歐元，並與科學、工業領域單位合作，包含歐洲航太總署（European Space Agency, ESA）、中期天氣預報中心（European Centre for Medium-Range Weather Forecasts , ECMWF）、氣象衛星開發組織（European Organisation for the Exploitation of Meteorological Satellites , EUMETSAT）等，透過建立核心平台逐步發展為DestinE系統，稱之為數位分身（Digital Twins）。 是以，DestinE系統將允許用戶存取地圖資訊（thematic information）、服務、模型、場景、模擬、預測、視覺化，其系統主要組成分為以下三者： 從而，DestinE系統用戶將能夠存取大量地球系統和社會經濟資料並與之互動，該系統可有助於： 核心服務平台（Core Service Platform）--該平台將基於開放、靈活和安全的雲端運算系統，提供決策工具、應用程式和服務，兼具大規模資料分析與地球系統監測、模擬和預測能力的數位建模和開放模擬平台。同時，也將為DestinE用戶提供專屬資源、整合數據、開發各自的應用程式。該平台服務的採購、相關維運將由歐洲航太總署負責。 DestinE資料湖泊（ DestinE Data Lake）--資料湖泊將提供核心服務平台、數位分身所需的獨立專用資料存取空間，並提供多元的資料來源和有效管理與DestinE系統用戶共享的資料，同時提高、擴大資料處理和服務。其將由歐洲氣象衛星開發組織負責營運。 數位分身（Digital Twins）-- DestinE 數位分身將依據不同的地球科學領域主題進行即時觀測、分類，例如極端自然災害事件、因應氣候變遷、海洋或生物多樣性，最終目標是整合這些數位複製內容（digital replicas），形成、建立全面性的地球數位分身綜合系統。因此，DestinE 數位分身將為用戶提供量身打造的高品質資料，用於用戶特定的場景模擬開發、決策。而該DestinE 數位分身將由歐洲中期天氣預報中心進行開發。 從而，DestinE系統用戶將能夠存取大量地球系統和社會經濟資料並與之互動，該系統可有助於： 根據豐富的觀測資料集，對地球系統進行準確、和動態的模擬，例如：關注與社會相關的領域、氣候變化的區域影響、自然災害、海洋生態系統或城市空間。 提高、加強預測能力並發揮最大化影響，例如：保護生物多樣性、管理水資源、可再生能源和糧食資源，以及減輕災害風險。 支持歐盟相關政策的制定和實施，例如：監測和模擬地球發展（陸地、海洋、大氣、生物圈）與人為干預，藉以評估現有環境政策和立法措施的影響，作為制定未來政策的依據。或預測環境災難、衍生的的社會經濟危機，以挽救生命並避免大規模經濟衰退。抑或透過開發和測試場景，實現永續發展。
紐約市實施《生物辨識隱私法》強化生物特徵保護伴隨人工智慧、大數據及雲端運算浪潮，生物辨識技術逐漸成為日常生活的一部分。所謂生物辨識技術，是指利用個人獨特之生物特徵辨識個人的技術。生物特徵包含任何人類生理或行為特徵，只要能夠滿足普遍性、獨特性、不變性及可蒐集性 ，即可作為生物辨識之資訊。由於生物辨識技術能利用生物特徵達到識別與驗證個人身分，因而引發公眾對隱私、資安等議題的關注。 對此，紐約市於2021年7月21日也開始正式施行《生物辨識隱私法》（biometric privacy act） ，期能藉由限制業者利用生物辨識技術以及賦予消費者訴訟權利作法，促成隱私權的週全保障。 該法主要有三大部分： 一、規範生物辨識資訊範圍，包含但不限於（1）視網膜或虹膜掃描（2）指紋或聲紋（3）手或臉部立體掃描或是其他可用於識別之特徵。就前開生物特徵，要求業者應在所有消費者入口處放置清晰顯眼的標誌，搭配簡單易懂方式揭露其蒐集、保留、儲存消費者生物辨識資訊行為。同時，也明文禁止業者將消費者生物辨識資訊以販賣、租賃、交易或是分享方式交換任何相關價值或利益。 二、提供受侵害之消費者訴訟權與法定賠償請求權。但是，就單純未符合揭露要求之業者，該法給予30天的補救期間，要求消費者應於起訴前30天通知業者改善，一經改善即不得再起訴。 三、闡明政府相關部門不適用本法。金融機構、業者與執法部門共享生物辨識資訊，以及單純以影像、圖像蒐集而未分析識別情形則豁免揭露規範。 綜上，紐約市於該法創設訴訟權、法定賠償數額及豁免事由，預料將會是紐約市企業隱私保護政策重要指標，而值得我們繼續關注其發展與影響。
歐盟檢視「2005-2009年歐洲奈米科學與技術行動計畫」之執行成效歐盟執委會(European Commission)於今年9月初公佈了「『2005-2009年歐洲奈米科學與技術行動計畫』(Nanosciences and Nanotechnologies: An action plan for Europe 2005-2009)之期中執行報告」，文中總結了於2005至2007年有關該計劃重點領域執行之相關的活動及進程。 在該報告中，歐盟執委會也在報告中指出歐洲在奈米科學與技術發展上的一些弱點，包括：主要跨領域基礎設施的缺乏、私資金在奈米科技產業研發創新上的短缺（儘管「歐洲技術平台」積極鼓勵私人參與奈米科學與技術的投資，但目前私資金仍只佔全部資金之55%）、以及隨著歐盟會員國投資的增加，重複研究及分裂研究的風險也隨之增加。此外，奈米科技跨領域及創新的本質對於既有之研究、教育、專利授予及規範等方法也形成不少的挑戰。 另一方面，報告也指出歐洲在一些重點區域研究的整合相當成功；例如，在中小企業參與第六期研發綱領計畫(FP6) 中之奈米科學與技術計畫的部份，即由2003-2004年的18%成長至2006年的37%。此外，歐盟執委會也有計劃地來支持技術商業化的發展，像是競爭及創新計畫(Competitiveness and Innovation Programme)、財務風險分攤機制（Risk Sharing Financial Facility）、以及接收利用奈米技術為基礎之控制管路(pilot lines)；未來，歐盟執委會計畫對負責任奈米科學與技術之研究採取自願性的行為規範。 下一份奈米科學與技術行動計畫之執行報告預計在2009年底公佈。
歐盟執委會提出欲修正歐盟「地理標示」制度之提案，新增對於工藝品和工業產品之保護歐盟執委會（European Commission, EC）於2022年4月13日提出欲修正歐盟「地理標示」（Geographical Indication, GI）制度之提案（Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on geographical indication protection for craft and industrial products and amending Regulations (EU) 2017/1001 and (EU) 2019/1753 of the European Parliament and of the Council and Council Decision (EU) 2019/1754，下稱本提案），擬在歐盟GI制度原僅保護農產品、食品及葡萄酒、蒸餾酒產品外，新增對於工藝品和工業產品之保護。 所謂工藝品和工業產品如義大利的穆拉諾玻璃（Murano glass）、愛爾蘭的多尼戈爾花呢（Donegal tweed）和波蘭陶（Boleslawiec pottery）等，皆係源於特定地區，產品品質和相關特色皆係依於原產地技藝之原創性及傳統作法。儘管此等產品在歐洲或全世界享有不錯聲譽，其製作者一直以來卻未能享有歐盟層級GI的保護，以更可將其原產地名與聲譽、品質相連結。 本提案將使消費者更易於辨識該等產品之品質，以可在更得知產品資訊的狀況下，作出消費選擇；亦可宣傳各原產地的技術工藝，使當地技藝被保存，並創造工作機會，達到經濟成長。 本提案主要包含： （1）將工藝品和工業產品納入歐盟GI保護： 將為工藝品和工業產品建立一個橫跨全歐盟的GI保護，而非僅目前部分區域或國家所有者，以更保障製作者之智慧財產權。本提案亦將促進打擊仿冒品的行為，包含在網路上所銷售者。 （2）為工藝品和工業產品的GI制度建立經濟的註冊程序： 將建立「兩階段申請程序」，製作者先向其所屬歐盟會員國當局提出申請，再由該當局轉交符合第一階段資格者之資料至歐盟智慧財產局（European Union Intellectual Property Office, EUIPO），以進行評核。 本提案將可使製作者提出「其產品有符合原產地製作特點」的聲明，以使整體註冊程序較簡易且節省成本。 （3）與國際上其它GI保護制度相容： 本提案將使成功取得歐盟GI註冊之工藝品和工業產品製作者可在「關於保護原產地名及GI的日內瓦協定」（Geneva Act on Appellations of Origin and Geographical Indications under the World Intellectual Property Organisation (WIPO)）之簽署國實施和保護其產品的權益；蓋此協定亦有包括工藝品和工業產品。而由於歐盟於2019年簽署該協定，故在歐盟境內亦將保護他簽署國工藝品和工業產品之GI。 （4）保存原產地技藝，並造就歐洲鄉村和其他地區的發展： 藉由提供製作者（尤其是中小企業）誘因，以投資於新的原創產品及創造其他利基市場（niche markets）。本提案並將使歐洲若干地區（尤其是鄉村及較低度開發區域）將失傳的技藝得以被保存，因此將可重振其知名度以吸引遊客或創造其他工作機會，達到經濟復甦。