英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險
英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險
資訊工業策進會科技法律研究所
2024年03月11日
人工智慧（AI）被稱作是第四次工業革命的核心，對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目，陸續推動相關發展政策與規範，如歐盟《人工智慧法》（Artificial Intelligence Act, AI Act）、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）、英國「支持創新的人工智慧監管政策白皮書」（A Pro-innovation Approach to AI Regulation）（下稱AI政策白皮書）等，各國期望發展新興技術的同時，亦能確保AI使用的安全性與公平性。
壹、事件摘要
英國科學、創新與技術部（Department for Science, Innovation and Technology，DSIT）於2024年2月12日發布《AI保證介紹》（Introduction to AI assurance）指引（下稱AI保證指引），AI保證係用於評測AI系統風險與可信度的措施，於該指引說明實施AI保證之範圍、原則與步驟，目的係為讓主管機關藉由落實AI保證，以降低AI系統使用之風險，並期望提高公眾對AI的信任。
AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定，五項原則分別為：安全、資安與穩健性（Safety, Security and Robustness）、適當的透明性與可解釋性（Appropriate Transparency and Explainability）、公平性（Fairness）、問責與治理（Accountability and Governance）以及可挑戰性 與補救措施（Contestability and Redress）。
貳、重點說明
AI保證指引內容包含：AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟，以下將重點介紹上開所列之規範內容：
一、AI保證之適用範圍：
（一）、訓練資料（Training data）：係指研發階段用於訓練AI的資料。
（二）、AI模型（AI models）：係指模型會透過輸入的資料來學習某些指令與功能，以幫助建構模模型分析、解釋、預測或制定決策的能力，例如GPT-4。，如GPT-4。
（三）、AI系統（AI systems）：係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統，可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統，其使用的AI模型為GPT-4。
（四）、廣泛的AI使用（Broader operational context）：係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。
二、AI保證的三大原則：鑒於AI系統的複雜性，須建立AI保證措施的原則與方法，以使其有效執行。
（一）、衡量（Measure）：收集AI系統運行的相關統計資料，包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊；以及存取與AI系統設計、管理的相關文件，以確保AI保證的有效執行。
（二）、評測（Evaluate）：根據監管指引或國際標準，評測AI系統的風險與影響，找出AI系統的問題與漏洞。
（三）、溝通（Communicate）：建立溝通機制，以確保主管機關間之交流，包含調查報告、AI系統的相關資料，以及與公眾的意見徵集，並將上開資訊作為主管機關監理決策之參考依據。
三、AI保證的六項措施：主管機關可依循以下措施評測、衡量AI系統的性能與安全性，以及其是否符合法律規範。
（一）、風險評估（Risk assessment）：評測AI系統於研發與部署時的風險，包含偏見、資料保護和隱私風險、使用AI技術的風險，以及是否影響主管機關聲譽等問題。
（二）、演算法－影響評估（Algorithmic－impact assessment）：用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。
（三）、偏差審計（Bias audit）：用於評估演算法系統的輸入和輸出，以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。
（四）、合規性審計（Compliance audit）：用於審查政策、法律及相關規定之遵循情形。
（五）、合規性評估（Conformity assessment）：用於評估AI系統或產品上市前的性能、安全性與風險。
（六）、型式驗證（Formal verification）：係指使用數學方法驗證AI系統是否滿足技術標準。
四、評測標準：以國際標準為基礎，建立、制定AI保證的共識與評測標準，評測標準應包含以下事項：
（一）、基本原則與術語（Foundational and terminological）：提供共享的詞彙、術語、描述與定義，以建立各界對AI之共識。
（二）、介面與架構（Interface and architecture）：定義系統之通用協調標準、格式，如互通性、基礎架構、資料管理之標準等。
（三）、衡量與測試方式（Measurement and test methods）：提供評測AI系統的方法與標準，如資安標準、安全性。
（四）、流程、管理與治理（Process, management, and governance）：制定明確之流程、規章與管理辦法等。
（五）、產品及性能要求（Product and performance requirements）：設定具體的技術標準，確保AI產品與服務係符合規範，並透過設立安全與性能標準，以達到保護消費者與使用者之目標。
五、建構AI保證的步驟（Steps to build AI assurance）
（一）、考量現有的法律規範（Consider existing regulations）：英國目前雖尚未針對AI制定的法律，但於AI研發、部署時仍會涉及相關法律，如英國《2018年資料保護法》（Data Protection Act 2018）等，故執行AI保證時應遵循、考量現有之法律規範。
（二）、提升主管機關的知識技能（Upskill within your organisation）：主管機關應積極了解AI系統的相關知識，並預測該機關未來業務的需求。
（三）、檢視內部風險管理問題（Review internal governance and risk management）：須適時的檢視主管機關內部的管理制度，機關於執行AI保證應以內部管理制度為基礎。
（四）、尋求新的監管指引（Look out for new regulatory guidance）：未來主管機關將制定具體的行業指引，並規範各領域實踐AI的原則與監管措施。
（五）、考量並參與AI標準化（Consider involvement in AI standardisation）：私人企業或主管機關應一同參與AI標準化的制定與協議，尤其中小企業，可與國際標準機構合作，並參訪AI標準中心（AI Standards Hubs），以取得、實施AI標準化的相關資訊與支援。
參、事件評析
AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定，冀望於主管機關落實AI保證，以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料，並根據國際標準與監管指引所制定之標準，以評測AI系統的安全性與其使用之相關影響風險。
隨著AI的快速進步及應用範疇持續擴大，於各領域皆日益重要，未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引，引導各領域AI的開發、使用與佈署者能安全的使用AI。此外，應持續關注國際間推出的政策、指引或指引等，研析國際組織與各國的標準規範，借鏡國際間之推動作法，逐步建立我國的AI相關制度與規範，帶動我國智慧科技產業的穩定發展外，同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。
本文為「經濟部產業技術司科技專案成果」
英國資訊委員辦公室（Information Commissioner’s Office, ICO）於2020年10月21日發布《資料主體近用權指引》（Guidance of Right of access），針對資料主體行使資料近用權之請求（Data Subject Access Request, DSAR），受請求之機構應如何進行識別判斷、簡化處理方式，以及特殊例外情況等法遵重點提供指導方針，並進行實例說明解析，以幫助受請求之機構在面臨資料主體之近用權請求時能快速且有效的處理。 英國「個人資料保護法」（The Data Protection Act 2018）依據歐盟「一般資料保護規則」（GDPR）於2018年重新修訂，其中資料近用權更是對於資料主體相當重要的基本權利，進而影響受請求之機構必須了解如何有效率的處理資料近用權之請求，並確實履行其在法規上所要求的保護義務，主要分為三點： 在資料主體確認其資料近用權所欲請求的範圍之前，受請求之機構依法應回覆時限應予以暫停，以利受請求之機構能有更充裕完整的時間釐清及回應資料主體之近用權請求。 為了避免受請求之機構耗費大量時間判斷何謂「明顯過度之請求」（manifestly excessive request），該指引提供相關定義說明及判別標準。 針對「明顯過度之請求」收取處理費用所包含的項目，例如受請求之機構處理請求所增加人力行政成本，在受請求之機構收取處理費用時可將其納入斟酌。
歐盟擬立法要求電信業者及ISP業者保留通聯紀錄歐洲議會民眾權益委員會（ the European Parliament's civil liberties committee）於2005年11月25日以33票對8票通過新的指令草案，要求電話與網路的通聯紀錄（但不包含內容紀錄）均需被保留6個月到12個月。目前此草案已送交部長理事會（Council of Ministers）審議中。 為避免保留之通聯紀錄遭到濫用，民眾權益委員會要求僅法官可以調閱通聯紀錄，且僅限於調查重大犯罪（例如恐怖份子或是組織犯罪）時始可調閱。但創作及媒體企業協會（ the Creative and Meida Business Alliance, CMBA）則希望歐盟能放寬通聯紀錄調閱之限制，允許進行所有犯罪之調查時，特別是在查緝盜版犯罪之情形，能調閱通聯紀錄。 對於業者因配合保留通聯紀錄而增加的額外負擔，則可能透過轉嫁給消費者或是透過整府補貼的方式解決。
歐洲創新理事會發布2026年EIC技術報告，揭示25項深具發展潛力的新興技術訊號歐洲創新理事會發布2026年EIC技術報告，揭示25項深具發展潛力的新興技術訊號 資訊工業策進會科技法律研究所 2026年05月25日 歐洲創新理事會（European Innovation Council, EIC）於2026年3月30日發布「2026年EIC技術報告」（EIC Tech report 2026，下稱EIC報告），提出25項新興技術訊號（signal），亦因相關技術極具發展潛力，將可能塑造歐洲未來的科技創新、產業和市場。 壹、事件摘要 EIC根據歐盟展望歐洲（Horizon Europe）科技研發架構計畫之申請、補助及專案管理資料，並涵蓋旗下近五年探路器計畫（EIC Pathfinder）、轉型器計畫（EIC Transition）及加速器計畫（EIC Accelerator）等超過13,380 件提案與獲補助案件，透過資料探勘及專家評估進行前瞻技術掃描，歸納出25項深科技新興技術訊號，並強調相關技術目前處於低至中度成熟階段，但已顯現未來發展潛力與創新性。 貳、重點說明 一、EIC報告辨識25項新興技術訊號，並分為三大領域 （一）數位與太空技術（Digital and space technologies） 1. 技術重點 此領域共9項技術，主要涉及先進半導體、安全運算架構、AI系統、量子通訊，以及太空基礎設施，顯示歐盟將數位主權、資訊安全及太空能力視為核心布局方向。 2. 技術簡介 9項技術包含：用於先進記憶體與憶阻裝置的二維材料（2D materials for advanced memory and memristive devices），有助於新型記憶體及神經形態運算技術發展；可量產之工業電磁設備的MXene二維奈米材料製造技術（Scalable MXene manufacturing for industrial electromagnetic applications），可應用於通訊、汽車電子、感測與新世代無線基礎設施；用於建立無須信任節點量子網路的量子中繼站（Quantum repeaters for trusted-node-free quantum networks），可突破量子通訊距離限制，使量子訊息於數百甚至數千公里距離下被安全傳輸；用於分散式及聯邦式學習之AI系統中的零信任架構（Embedded Zero Trust Architectures for distributed and federated AI systems），可強化對AI模型與資料運算的控制能力；應用於新興自我組織及資源效率系統之仿生AI技術（Bio-inspired AI for emerging self-organising and resource-efficient systems），借鏡神經科學、認知科學與演化生物學原理來設計AI系統，使其具備更高適應性、穩健性與資源效率；將自適應代理人用於開放動態環境中之具身AI技術（Embodied AI for adaptive agents in open and dynamic environments），將感知、內部認知、模擬行動能力等緊密結合之AI系統，並於開放環境中持續互動學習，主要用於支撐機器人、AI自主代理、數位孿生，以及其他需連續決策、長時程的智慧系統；用於大規模且可通訊中斷之衛星運作的邊緣運算技術（Edge computing for scalable and loss-tolerant satellite operations），將資料處理分析能力直接部署於衛星或軌道平台上，使其即時篩選、分類與判讀資訊，並支援自主決策，可用於深空任務、地球觀測、太空碎片管理；用於特殊太空環境之石墨烯塗層與複合材料（Graphene-based coatings and composites for performance-critical space systems），將石墨烯整合為薄膜、塗層、填充材料，提升太空機械之強度、阻隔能力及輻射防護效果，並廣泛應用於太空領域；用於軌道基礎設施維護與再利用之先進太空維修機器人技術（Advanced in-space servicing robotics for orbital infrastructure maintenance and reuse），使機器人於太空環境下進行機械操作、檢查、維修、對接等複雜性任務。 （二）清潔和資源效率技術（Clean and resource-efficient technologies） 1. 技術重點 此領域共7項技術，此類重點在於資源回收、水汙染處理與資源再利用、提升能源效率及綠色建築技術等，反映歐盟將淨零轉型與關鍵原物料供應安全一併納入政策目標。 2. 技術簡介 7項技術包含：用於再生金屬回收與生物復育之微生物採礦技術（Microbial biomining for secondary metal recovery and bioremediation），運用微生物與金屬間的交互作用，實現金屬回收，並同時修復重金屬污染之生物技術；用於低耗能海水淡化與水處理之電容去離子技術（Capacitive deionization systems for low-energy water desalination and treatment），新穎、低用電之新型水處理技術，用於海水淡化、工業及都市廢水處理、重金屬或養分去除，以及分散式水資源處理與回收；去除污染物之電化學水處理技術（Electrochemical treatment systems for destruction of persistent contaminants in water），利用電化學反應在水中直接化學轉化或礦化分解全氟及多氟烷基物質（PFASs）、微塑膠及奈米塑膠等高度持久性污染物之水處理技術；用於低溫及中溫廢熱回收之先進熱電發電材料技術（Advanced thermoelectric materials for low- and mid-temperature waste heat recovery），將交通建築系統與回收產業中之低溫及中溫廢熱能，轉為電力的材料技術，可提升能源效率，並降低對外部能源與關鍵材料的依賴；用於固態熱電轉換與感測之熱激發自旋電子材料技術（Spin-caloritronic materials for solid-state heat-to-electricity conversion and sensing），利用熱梯度引發之自旋電流與磁性激發產生電能的材料技術；用於預測材料製造之結合數位孿生之反算設計技術（Inverse design with digital twins for predictive materials manufacturing），運用AI驅動之逆向設計方法，以目標性能反推材料配方與結構，並透過數位孿生模擬真實環境表現，建立快速、可預測且貼近實際應用情境的新材料設計與製造流程；被動冷卻與重力儲能之能源建築技術（Passive cooling and gravity-based storage for energy-active buildings），利用建築表面的先進材料於不耗電情況下降溫，並將多餘再生能源以重力位能方式儲存於建築內，藉以降低建築冷卻用電需求、儲存局部多餘再生能源等。 （三）生物科技與健康技術（Biotechnologies and health） 1. 技術重點 此領域共9項技術，橫跨食品、生物製造、精準醫療、智慧醫療設備及分散式醫療應用，顯見歐盟關注的不只是單一生技或醫療技術突破，而是期望建立從生物研發、生產製造、臨床治療到醫療設備部署的完整體系，藉此強化歐盟下一代健康科技與高價值生技產業的競爭力與自主能力。 2. 技術簡介 9項技術包含：用於原形食物製造之菌絲體混合發酵技術（Mycelium-based hybrid fermentation for whole-food production），結合菌絲體生長與精準發酵，生產接近原型食物型態的新型蛋白食品原料；用於再生農業系統之生物技術多年生作物（Biotech-enabled perennial crops for regenerative agricultural systems）以生物技術改良多年生作物，使其兼具較佳產量與土壤保育效益，支撐再生農業與更永續的糧食生產系統；用於預防與個人化治療之新型微生物體療法（Novel microbiome therapeutics for preventive and personalised health），利用人體微生物群的組成、功能及其代謝產物，來預防、管理及治療疾病的新一代醫療技術；加速藥物與酵素探索之AI驅動蛋白質設計技術（Computational protein design for accelerated drug and enzyme discovery），透過AI預測蛋白質結構與功能，加速藥物與酵素探索，縮短新藥研發時程；可量產之嵌合抗原受體免疫細胞療法之自動化製造技術（Automated manufacturing technologies for scalable CAR immune cell therapies），以自動化、標準化製程提升嵌合抗原受體（Chimeric Antigen Receptor, CAR）免疫細胞療法的穩定量產能力，降低細胞治療製造門檻；可於細胞尺度介入治療之生物混合微型機器人（Biohybrid microrobots for cellular-scale therapeutic interventions），結合生物組件和人工材料的微型機器人，形成可於細胞或微小組織尺度中移動與作用的治療工具，可用於精準遞藥、微創介入與局部治療；整合手術流程之自主機器人系統（Autonomous robotic systems for integrated surgical workflows），將AI、計算機視覺、感測技術及機器人技術，整合進手術流程中，並於無人或少人參與下，執行部分自主或高階輔助手術任務，可提升手術精準度、效率與流程整合；用於神經疾病治療之非侵入式微創腦機介面技術（Noninvasive and minimally invasive brain interfaces for adaptive therapeutic modulation），透過非侵入或低侵入方式讀取與調控腦神經訊號，以實現持續、可調適的治療介入，可用於神經疾病治療與復健；提供分散式臨床場域應用之可攜式超低場磁振造影（Portable and ultra-low field magnetic resonance imaging for distributed clinical uses），使磁振造影（Magnetic Resonance Imaging, MRI）設備朝攜帶式、低磁場化發展，降低設施與操作門檻，利於偏鄉、急診與分散式臨床試驗之醫學影像診斷應用。 參、事件評析 EIC報告辨識出25項新興技術訊號，並將其歸納為數位與太空技術、清潔和資源效率技術，以及生物科技與健康技術三大領域。該報告不僅有助於歐盟及早掌握具發展潛力之新興深科技方向，亦可作為研發政策制定、創新支持措施規劃及投資判斷之重要參考依據。 此外，EIC報告以「技術訊號」作為分析單位，顯示歐盟有意於新興技術尚未成熟前，提前進行辨識、評估與布局，除保障創新競爭力外，亦可避免在未來關鍵技術競爭中受制於人。 就政策意涵而言，EIC報告不僅有助提升歐盟對前瞻科技治理的能力，亦有助於串聯創新支持工具、產業政策與戰略技術平台，進而形塑較為完整的科技治理體系。對我國而言，EIC採取資料探勘與專家判讀並行之新興技術訊號偵測機制，對我國科研成果運用、前瞻技術治理及國家科技政策規劃，均具有相當參考價值。
何謂「三螺旋理論」三螺旋理論，又稱三螺旋創新模型理論（Triple Helix Theory），主要研究大學、產業以及政府以知識經濟為背景之創新系統中之型態關係，由Etzknowitz與Leydesdorff於1995年首次提出。 因應知識經濟時代來臨，三螺旋理論著重於政府、學術界與產業界（即為產、官、學）三者在創新過程中互動關係的強化。該理論探討如何協調產業、政府、學界三方於知識運用和研發成果產出上的合作；當社會動態產生改變，過去單一強大的領域將不足以帶動創新活動，推動創新也非單一方的責任，此時產業、政府、學界的三螺旋互動便隨之發生：大學透過創新育成機構孕育企業創新，而產業則扮演將研發成果商業化之要角，政府則透過研發相關政策、計畫或法規制定，鼓勵企業和大學間研究發展合作。 有別於早期經濟合作暨發展組織（OECD）將「產業」作為主要研發創新主體，三螺旋理論更重視產業、政府、學界三大主體均衡發展，三方主體各自獨立發展，且同時與其他方維持相互協力合作，共同推進經濟與社會之創新發展。 在三螺旋理論下，產、官、學因其強弱不等的互動狀態，形成不同的動態模型（例如國家干預模型、自由放任模型、平衡配置模型等等），這些動態模型被認為是產生創新的主要動力來源，對未來新知識和科技創造與擴散的能力以及績效具有決定性的影響力。