數位證據之刑事證據能力相關議題研究
英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險 資訊工業策進會科技法律研究所 2024年03月11日 人工智慧（AI）被稱作是第四次工業革命的核心，對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目，陸續推動相關發展政策與規範，如歐盟《人工智慧法》（Artificial Intelligence Act, AI Act）、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）、英國「支持創新的人工智慧監管政策白皮書」（A Pro-innovation Approach to AI Regulation）（下稱AI政策白皮書）等，各國期望發展新興技術的同時，亦能確保AI使用的安全性與公平性。 壹、事件摘要 英國科學、創新與技術部（Department for Science, Innovation and Technology，DSIT）於2024年2月12日發布《AI保證介紹》（Introduction to AI assurance）指引（下稱AI保證指引），AI保證係用於評測AI系統風險與可信度的措施，於該指引說明實施AI保證之範圍、原則與步驟，目的係為讓主管機關藉由落實AI保證，以降低AI系統使用之風險，並期望提高公眾對AI的信任。 AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定，五項原則分別為：安全、資安與穩健性（Safety, Security and Robustness）、適當的透明性與可解釋性（Appropriate Transparency and Explainability）、公平性（Fairness）、問責與治理（Accountability and Governance）以及可挑戰性 與補救措施（Contestability and Redress）。 貳、重點說明 AI保證指引內容包含：AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟，以下將重點介紹上開所列之規範內容： 一、AI保證之適用範圍： （一）、訓練資料（Training data）：係指研發階段用於訓練AI的資料。 （二）、AI模型（AI models）：係指模型會透過輸入的資料來學習某些指令與功能，以幫助建構模模型分析、解釋、預測或制定決策的能力，例如GPT-4。，如GPT-4。 （三）、AI系統（AI systems）：係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統，可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統，其使用的AI模型為GPT-4。 （四）、廣泛的AI使用（Broader operational context）：係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。 二、AI保證的三大原則：鑒於AI系統的複雜性，須建立AI保證措施的原則與方法，以使其有效執行。 （一）、衡量（Measure）：收集AI系統運行的相關統計資料，包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊；以及存取與AI系統設計、管理的相關文件，以確保AI保證的有效執行。 （二）、評測（Evaluate）：根據監管指引或國際標準，評測AI系統的風險與影響，找出AI系統的問題與漏洞。 （三）、溝通（Communicate）：建立溝通機制，以確保主管機關間之交流，包含調查報告、AI系統的相關資料，以及與公眾的意見徵集，並將上開資訊作為主管機關監理決策之參考依據。 三、AI保證的六項措施：主管機關可依循以下措施評測、衡量AI系統的性能與安全性，以及其是否符合法律規範。 （一）、風險評估（Risk assessment）：評測AI系統於研發與部署時的風險，包含偏見、資料保護和隱私風險、使用AI技術的風險，以及是否影響主管機關聲譽等問題。 （二）、演算法－影響評估（Algorithmic－impact assessment）：用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。 （三）、偏差審計（Bias audit）：用於評估演算法系統的輸入和輸出，以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。 （四）、合規性審計（Compliance audit）：用於審查政策、法律及相關規定之遵循情形。 （五）、合規性評估（Conformity assessment）：用於評估AI系統或產品上市前的性能、安全性與風險。 （六）、型式驗證（Formal verification）：係指使用數學方法驗證AI系統是否滿足技術標準。 四、評測標準：以國際標準為基礎，建立、制定AI保證的共識與評測標準，評測標準應包含以下事項： （一）、基本原則與術語（Foundational and terminological）：提供共享的詞彙、術語、描述與定義，以建立各界對AI之共識。 （二）、介面與架構（Interface and architecture）：定義系統之通用協調標準、格式，如互通性、基礎架構、資料管理之標準等。 （三）、衡量與測試方式（Measurement and test methods）：提供評測AI系統的方法與標準，如資安標準、安全性。 （四）、流程、管理與治理（Process, management, and governance）：制定明確之流程、規章與管理辦法等。 （五）、產品及性能要求（Product and performance requirements）：設定具體的技術標準，確保AI產品與服務係符合規範，並透過設立安全與性能標準，以達到保護消費者與使用者之目標。 五、建構AI保證的步驟（Steps to build AI assurance） （一）、考量現有的法律規範（Consider existing regulations）：英國目前雖尚未針對AI制定的法律，但於AI研發、部署時仍會涉及相關法律，如英國《2018年資料保護法》（Data Protection Act 2018）等，故執行AI保證時應遵循、考量現有之法律規範。 （二）、提升主管機關的知識技能（Upskill within your organisation）：主管機關應積極了解AI系統的相關知識，並預測該機關未來業務的需求。 （三）、檢視內部風險管理問題（Review internal governance and risk management）：須適時的檢視主管機關內部的管理制度，機關於執行AI保證應以內部管理制度為基礎。 （四）、尋求新的監管指引（Look out for new regulatory guidance）：未來主管機關將制定具體的行業指引，並規範各領域實踐AI的原則與監管措施。 （五）、考量並參與AI標準化（Consider involvement in AI standardisation）：私人企業或主管機關應一同參與AI標準化的制定與協議，尤其中小企業，可與國際標準機構合作，並參訪AI標準中心（AI Standards Hubs），以取得、實施AI標準化的相關資訊與支援。 參、事件評析 AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定，冀望於主管機關落實AI保證，以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料，並根據國際標準與監管指引所制定之標準，以評測AI系統的安全性與其使用之相關影響風險。 隨著AI的快速進步及應用範疇持續擴大，於各領域皆日益重要，未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引，引導各領域AI的開發、使用與佈署者能安全的使用AI。此外，應持續關注國際間推出的政策、指引或指引等，研析國際組織與各國的標準規範，借鏡國際間之推動作法，逐步建立我國的AI相關制度與規範，帶動我國智慧科技產業的穩定發展外，同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。
歐盟科技策略新趨勢－生物經濟策略為引領歐盟各會員國邁向以生物發展為導向之經濟體時代，歐盟指委會（European Commission）乃於2012年2月13日通過歐盟永續生物經濟體策略計畫－Innovation for Sustainable Growth-a Bioeconomy for Europe，期待藉此引導歐盟邁想一個創新且低排放之永續發展經濟體。 隨著全球人口逐年增長，並預計於2050年邁向全球9億總人口數之關卡，但自然資源之相對有限，因此歐盟指委會認為歐盟經濟體需隨著時代變遷趨勢及早轉型，並且強化其發展永續性。為協助歐盟各會員國因應全球局勢變化，歐盟指委員進一步於其永續生物經濟體策略計畫中提出三大重點策略－1.強化創新，並發展新興科技，進而為生物經濟體做準備；2.建置並強化生物經濟體相關市場與競爭力；3.透過相關政策之研擬，加強立法者與產業間之聯結性。而除了透過前述之三大重點策略以做為發展生物經濟體之基礎外，歐盟指委會亦希望能藉由歐盟Horizon 2020計畫下之各相關配套措施，以及各項研發經費之投注，進行各項生物和綠色科技，如能源、奈米科技、和資通訊技術（ICT）等相關領域之創新研發，進而導引歐盟經濟體邁向一個全新永續新境界。 目前歐盟會員國如丹麥、芬蘭、德國、愛爾蘭、和荷蘭皆已提出相關生物經濟體策略，而國際間如加拿大、中國、美國、和南非對此議題，亦位處於發展中或是已發展階段。以生物科技為主之知識經濟發展導向乃為當前全球經濟發展趨勢，如何連結科技研發創新，進而發展永續經濟，實為一值得關注與思考之問題。
美國政府設立Apps.gov網站推動雲端科技運用美國政府在9月15日宣布，為了減少基礎建設的相關費用以及降低政府運算系統的環境衝擊，因此設立Apps.gov網站，展示並提供經政府認可的雲端科技運用。 據美國聯邦政府CIO Vivek Kundra表示，Apps.gov網站是美國政府首度對外發表，針對減少IT花費政策的成果。目前美國政府IT預算幾乎都花費在設立資料中心，單在國家安全部下就設有23個資料中心，而這也造成了聯邦政府的資源消耗在2000年到2006年間增加了兩倍，為了落實減少基礎建設花費的政策，並基於安全性的考量，希望能夠盡量利用現有的系統。 美國政府目前推動的雲端運算倡議計劃有三個主要內容，第一個主要內容即為全新的Apps.gov網站，提供企業一個情報交換平台、社交媒介與雲端IT服務。雖然目前網站尚未完全運作，甚至還曾造成一連串的錯誤訊息，但美國政府當局仍希望該網站最終能成為一次即可滿足的服務商店(one-stop shop)，可在一個平台上提供多種類的雲端運算服務。Kundra表示，美國能源部已經開始使用該網站執行部分相關業務。 該計畫的第二個重點則是預算，美國政府在2010年將會致力推動雲端運算領航計畫，並為此編列年度預算，希望能投入更多輕量的工作流程(lightweight workflows)至雲端科技的發展。而在2011年，美國政府則預計會發布相關指導準則至各機關部門。 最後，該計劃亦會配合安全性、隱私及採購等相關政策。Kundra表示，將會確保所有資料都受到完善保護。 Google創辦人之一Sergey Brin也宣佈Google將會投入部份雲端運算系統專供聯邦政府使用，此系統與Google提供給一般企業的系統相似，但會針對政府需求稍做修改。除了Google之外，Microsoft、Facebook、Salesforce.com及Vimeo等公司亦提供雲端運算服務予政府機關使用。
歐盟法院判決在歐盟境內網路下載出售之電腦軟體適用權利耗盡原則說明歐盟法院（Court of Justice of the European Union）於2012年7月3日對於UsedSoft GmbH v. Oracle International Corp.案作出判決，判定電腦程式法律保護指令（Directive 2009/24/EC of the European Parliament and the Council of 23 April 2009 on the legal protection of computer programs）第1條第2款規定，指令適用於任何形式的電腦程式，第4條第2款進一步說明，指令對於電腦程式的保護不區分實體載具（例如CD或DVD）或網路下載，均有權利耗用原則（exhaustion right）或稱第一次銷售原則（first sale doctrine）的適用。授權人的權利在第一次出售軟體並換以價金時即耗盡，權利轉移至被授權人。因此，在歐盟境內網路下載購買無限期專屬授權的數位軟體之被授權人，可將所有的軟體再出售，而在歐盟境內不受授權條款中「權利不可移轉」等文字的限制。不過，被授權人再出售軟體時必須不可再使用該軟體，歐盟法院允許軟體提供商利用類似產品金鑰（product keys）的保護技術管理其權利。