德國聯邦政府(Bundesregierung)於2020年12月16日通過「提升資訊科技系統安全性的第二版法律(Zweiten Gesetzes zur Erhöhung der Sicherheit informationstechnischer Systeme)」草案,又稱「資訊科技安全法2.0(IT-Sicherheitsgesetz 2.0)」,該草案概述如下:
(1)加強德國聯邦資訊安全局(Bundesamt für Sicherheit in der Informationstechnik, BSI)權限:
BSI可對聯邦行政事務行使控制與審查權、檢測資訊系統和公共電信網路相連的安全弱點、發展分析惡意軟體和攻擊的系統與程序,並擴張其對聯邦通訊技術紀錄資料的儲存期間至12個月。
(2)加強消費者保護:
導入IT安全標籤(IT-Sicherheitskennzeichen),製造商應於該標籤中置入產品安全性聲明與由BSI提供之IT安全性資訊;此外BSI有權要求電信服務業者和產品製造商提供其儲存資料與相關必要資訊。
(3)加強企業作為義務:
關鍵基礎設施提供者有報告及使用攻擊檢測系統檢測安全威脅的義務,該報告義務在草案中將擴張適用於具特定公共利益之公司,如與國防和保密資訊IT產業相關、具經濟上重要性的公司,以及受重大事故條例(Störfallverordnung, StöV)所規範者。
(4)加強國家保護功能:
國家應建立認證機制,並課予關鍵基礎設施的供應者通過該認證的義務,即供應者需確保其設施內的零件不具不適當的技術特性,尤其可能被間諜活動或恐怖主義用以破壞關鍵基礎設施的安全與功能之重要零件。
該草案目前於德國聯邦議院(Deutscher Bundestag)進行審查。
本文為「經濟部產業技術司科技專案成果」
歐盟引用 EN 18286 作為高風險 AI 系統品質管理統一標準 資訊工業策進會科技法律研究所 2026年10月29日 歐盟執委會於2026年10月14日將EN 18286公布於歐盟公報(Official Journal of the European Union)[1]。執委會表示依該標準建立品質管理系統(quality management system)之提供者,就標準所涵蓋之歐盟《人工智慧法》(Regulation (EU) 2024/1689, Artificial Intelligence Act,下稱AIA)第17條要求,享有推定符合的效果[2]。我國《人工智慧基本法》已正式立法,數位發展部亦於115年7月7日發布《人工智慧風險分類框架》,惟各目的事業主管機關之管理規範尚在研擬,標準與驗證工具之銜接機制則未見法令規定。本文爰整理該決定與 EN 18286之要點,並對我國制度可獲啟示提出評析。 壹、事件摘要 AIA第40條第1項規定,高風險AI系統如符合統一標準(harmonised standard),就該標準所涵蓋之要求,可推定符合(presumption of conformity)AIA所定要求[3]。歐盟執委會於2026年10月12日通過施行決定(Commission Implementing Decision (EU) 2026/2274,下稱本決定),採納EN 18286:2026人工智慧品質管理系統,為高風險AI系統供應商提供明確的法律途徑[4]。EN 18286 是由歐洲標準化委員會(European Committee for Standardization, CEN)與歐洲電工標準化委員會(European Committee for Electrotechnical Standardization, CENELEC)之聯合技術委員會 JTC 21(Joint Technical Committee 21)擬訂[5],標準本身雖為不具強制力的自願性文件,但其作用在於提供業者一條經官方認可之遵循路徑,並使主管機關與業者就符合性之判斷有共同基準。 貳、重點說明 一、歐盟 AIA的統一標準與推定符合機制 依AIA第 17 條要求,高風險AI系統提供者建立品質管理系統,同法第40條第1項規定符合統一標準的高風險AI系統或通用AI模型,應推定符合該法第三章第2節(對高風險AI系統的需求)所列要求;於適用時,包括推定符定依該法第五章第2及3節(對通用AI模型及具系統性風險的通用AI模型之提供者)所列義務,但前提是該標準已涵蓋前述條款規定之要求或義務。 此外,AIA第16條第f款規定,高風險AI系統提供者於上市或投入服務前,須依第43條規定辦理符合性評估(ensure that the high-risk AI system undergoes the relevant conformity assessment procedure as referred to in Article 43)。而第43條規定上市前的符合性評估,無論提供者依自行查驗或送公告機關審查,如其已採用EN 18286標準,該標準即為查核的依據[6]。 因此,如AI提供者採用 EN 18286 統一標準者,就該標準所涵蓋之要求,可作為符合高風險AI系統提供者必須建立品質管理系統(AIA第17條)之依據。同時,可於EN 18286標準所涵蓋之範圍,援引AIA第40條第1項,推定符合前述該法第三章與第五章有關對高風險AI系統、通用AI模型及具系統性風險的通用AI模型之提供者義務之要求。無論是否能產生推定符合效果,EN 18286 之重要性在於可做為AIA第17條要求提供者建立品質管理系統的依據,同時在上市或提供服務前,做為辦理符合性評估的標準,成為落實第17條與第43條要求之共同基準[7]。 二、EN 18286 之定位與架構 EN 18286 有別於一般管理系統標準之處,在於其要求均與取得推定符合之目的相關。其前言載明所謂品質可理解為符合AIA之全部法規要求,而且特別規定高風險AI提供者應辨識並系統化地審查適用之法規要求,並建立法規遵循策略、選擇證明遵法之途徑、將對主管機關與公告機關(notified body)之義務轉為內部程序,使管理系統所處理者為法定義務,而非組織自行設定之品質目標(詳見該標準條款0.1、3.1、4.2、4.4)[8]。 依 EN 18286 標準本文,其架構係依AIA第17條第1項,要求高風險AI系統提供者建立品質管理系統,涵蓋法規遵循策略、設計與開發管制、資料管理、風險管理、上市後監測、嚴重事件通報、資源管理與責任架構等事項。第1章至第3章為範圍、引用標準及用語定義;第4章至第7章處理品質管理系統本身,包括適用法規要求之識別、法規遵循策略、最高管理階層責任、風險與品質目標,以及資源、能力與溝通;第8章與第9章規範個別AI系統自構想至退役之生命週期,其中第8章涵蓋風險管理、設計開發、查證與確證(verification and validation)及資料管理,第9章涵蓋投入市場後之供應鏈、變更、上市後監測、嚴重事件通報與不符合事項處理;第10章為績效評估,包括管理審查。 三、EN 18286 的要求重點 (一)、要求提供者訂定法規遵循策略:標準要求策略至少涵蓋基本要求、上市後監測、嚴重事件、資料管理、適用之符合性評估(conformity assessment)程序及變更(4.4)。 (二)、要求提供者建立文件化程序,以確保能提供合規所需資訊,並與國家主管機關、公告機關、進口者、經銷者、授權代表及客戶溝通;亦須就不符合、構成風險之AI系統及嚴重事件之通知建立程序(對應AIA第20條第1項、第2項及第73條),包括涉及重要基礎設施等特定情況之通報期限(7.3、9.6、9.7)。 (三)、將AIA之變更規則轉為作業要求,例如要求提供者判斷上市後之修改是否為實質修改並記載理由,屬實質修改者須重新進行符合性評估(AIA第43條第4項),標準並將其視為新AI系統,要求提供者相應更新品質管理系統(9.4)。 (四)、就個別AI系統之設計開發,要求將法規要求轉為可查證之系統要求並留存紀錄。包括要求提供者依預期用途,決定達成適用法規要求(含基本要求)所必要之系統要求,於界定規格前定期審查,確認其已文件化、涵蓋適用法規要求且可滿足;並依文件化之測試計畫與程序進行查證,結果與措施須以文件化資訊提供(8.3、8.4)。 (五)、資料與文件方面,提供者須界定資料要求,建立涵蓋資料取得、探勘與蒐集、分析、標註、過濾、彙總、保存及儲存之系統與程序;主管機關或符合性評估機構要求時,應提供資料存取,資料停用時須指明銷毀或封存機制,且資料銷毀不得與提供者遵循法規要求之能力相衝突(8.5)。 (六)、EN 18286 著重供應鏈與上市後的風險管控,要求提供者就外部供應者建立評估與選擇準則,並文件化對供應者及所供應產品、組件、資料與服務之管制,以及所須之查證與確證。產品或服務於上市後仍須採取監測作法,作法應主動、系統化並納入績效評估(9.3、9.5)。 參、事件評析 數位發展部已於115年7月7日發布《人工智慧風險分類框架》1.0版,為目前已公布之具體分類與評估規則。於風險評估之後,框架列舉主管機關可採之管理措施,包括要求業者提出說明資料、實施透明度標示,以及對風險達一定程度者採事前審查。框架亦列舉依《人工智慧基本法》要求高風險應用標示注意事項、明確責任歸屬並建立救濟、補償或保險機制等措施。惟框架之規範對象為目的事業主管機關,業者無從預知其系統於各主管領域將如何分類,亦無可據以辦理之事項、規範或標準。 目前數位發展部雖已成立AI產品與系統評測中心(下稱 AIEC),數位產業署亦於113年3月發布《人工智慧(AI)產品與系統評測參考指引(草案)》,供AI提供者就其產品或服務辦理評測,但該指引以產品與系統為評測對象,與 EN 18286 以提供者組織為對象、規範其品質管理系統之層次不同;AIEC之測試結果並非組織層級管理要求之依據。而認定高風險應用者為中央目的事業主管機關,AIEC並無此項認定權,其測試結果與風險分類框架未見對接,與法規認定亦無明文連結,欠缺規範效力。企業送測所得僅為技術性測試結果,在法律上既不能作為遵法之依據,也無從向交易相對人或主管機關說明其已盡注意。相較之下,歐盟AIA透過賦予統一標準推定效力與搭配符合性評估程序,已然形成由標準通往法律效果之連結誘因,實值參考。 再者,我國《人工智慧基本法》已要求各目的事業主管機關訂定風險為基礎之管理規範,並協助產業自訂指引,將有助於企業的AI風險管理實務操作。如後續能參考歐盟之 EN 18286 設計,各機關將有共通之查核確認責任歸屬之標準,並仍可因應產業性質差異,提供風險因應指引協助。建議可再依同法第5條第3項,由數位發展部等機關提供或建議評估驗證之工具與方法,並公告經審認之標準與工具清單,載明其對應之管理規範事項、適用範圍及限制,連結高風險標示、責任歸屬與配套義務。如此法規、機制、標準與工具得以結合,有助於企業在完備的AI風險管理機制下發揮AI應用的產業效益。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1] Commission Implementing Decision (EU) 2026/2274 of 12 October 2026 on the harmonised standards for high-risk AI systems drafted in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council, OJ L, 14.10.2026, https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202602274 (last visited Oct. 21, 2026). [2] EUROPEAN COMMISSION, First harmonised standard supporting the AI Act published in the Official Journal (Oct. 19, 2026), https://digital-strategy.ec.europa.eu/en/library/first-harmonised-standard-supporting-ai-act-published-official-journal (last visited Oct. 21, 2026). [3] Regulation (EU) 2024/1689, art. 40(1), European Commission AI Act Service Desk, https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-40 (last visited Oct. 20, 2026). [4] 前揭註1。 [5] JTC 21, EN 18286 becomes the first harmonised standard under the EU AI Act, https://jtc21.eu/en-18286-becomes-the-first-harmonised-standard-under-the-eu-ai-act/ (last visited Oct. 21, 2026). [6] 條文詳前揭註3。另見前揭註1,前言第(1)點、第(6)點。 [7] 條文詳前揭註3,art. 17(1), https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-17 (last visited Oct. 21, 2026). [8] 標準內容須洽購,重點可參見MODULOS,EN 18286 Quality Management System for EU AI Act, https://docs.modulos.ai/frameworks/eu-ai-act/harmonized-standards/en-18286 (last visited Oct. 21, 2026).
歐盟理事會將嚴格執行資料保護基本權歐洲理事會修訂「保護個人有關個人資料處理及自由流通規則(一般資料保護規則)」(Proposal for a Regulation of the European Parliament and of the Council on the protection of individuals with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation), GDPR),該草案內容包括行政罰鍰三審制(three-tiered system)。凡故意或過失違反歐洲資料保護基本權之企業,情節重大者,可能招致鉅額行政罰鍰,草案之裁罰性措施將讓從業者更加重視資料保護法益。 是否對違反GDPR之侵權行為裁處罰鍰,會員國政府有裁量權限;已受刑事制裁者,政府亦得免除罰鍰以避免重複處罰。資料保護主管機關(data protection authorities, DPAs)依三審制判斷,確保所裁處罰鍰具有效性、比例性及嚇阻性。三審制包括:第一審,是否對資料當事人之資料要求延遲、變更回應;第二審,是否對資料當事人、DPAs盡資訊透明義務;第三審,各種具體侵權行為,包括對於資料取得缺乏法律依據、未能即時告知資料違反情事,或未採取適當安全防衛措施於歐盟以外區域傳遞資料等。 依草案,DPAs審酌罰鍰額度時,應依下列計算罰鍰: (1) 企業故意或過失未能於一定期間內,回應資料當事人之資料查閱請求者,裁處上一會計年度全球總年營業額0.5%罰鍰。 (2) 企業故意或過失未能提供任何或所有符合資料當事人要求之必要資訊;或未能對消費者充分揭露個人資料蒐集、處理的目的者,裁處上一會計年度全球總年營業額1%罰鍰。 (3) 企業故意或過失未能維護消費者權益,更正或刪除消費者資料,違反GDPR所保障之消費者「被遺忘權」者,裁處上一會計年度全球總年營業額1%罰鍰。 (4) 企業故意或過失處理個人資料,行為不具適法性、違反法規、沒有對當事人通知資料違反或將個人資料傳遞自歐盟以外區域,該區域沒有適當安全資料保護者,就企業上一會計年度全球總年營業額裁處2%罰鍰。 六月中旬,歐盟各部長將就歐洲議會、歐盟理事會的提案,就罰鍰額度進行最後協商,未來將持續關注草案協商後續發展。
美國加州「對話機器人揭露法案」美國加州議會於2018年9月28日通過加州參議院之對話機器人揭露法案(Bots Disclosure Act, Senate Bill No. 1001)。此一法案於美國加州商業及專門職業法規(Business and Professions Code)第七部(Division)第三篇(Part)下增訂了第六章(Part)「機器人」乙章,擬防範「利用對話機器人誤導消費者其為真人同時並誤導消費者進行不公平交易」之商業模式,本法案將於2019年7月1日正式生效。依此法案,企業如有使用對話機器人,則應揭露此一事實,讓消費者知悉自己是在與對話機器人溝通。 美國加州對話機器人揭露法案對於「機器人」之定義為全自動化之線上帳戶,其所包含之貼文、活動實質上並非人類所形成。對於「線上」之定義為,任何公眾所可連結上之線上網站、網路應用軟體、數位軟體。對於「人類」之定義為自然人、有限公司、合夥、政府、團體等其他法律上組織或擬制人格。如業者使用對話機器人進行行銷、推銷時,有揭露其為對話機器人之事實,將不被認定違反對話機器人揭露法案,但揭露之手段必須明確、無含糊且合理可讓消費者知悉其所對話之對象為非人類之機器人。值得注意者為,美國加州對話機器人揭露法案,針對「美國本土造訪用戶群在過去12月間經常性達到每月10,000,000人」之網站,可排除此規定之限制。 本法案僅課予業者揭露義務,至於業者違反本法之法律效果,依本法案第17941條,需參照其他相關法規予以決定。例如違反本法案者,即可能被視為是違反美國加州民法揭露資訊之義務者而需擔負相關民事賠償責任。最後值得注意者為,本法案於第17941條針對「利用對話機器人誤導公民其為真人同時影響公民投票決定」之行為,亦納入規範,亦即選舉人如有利用對話機器人影響選舉結果而未揭露其利用對話機器人之事實時,依本條將被視為違法。
日本內閣閣議決定朝向實現數位社會之重點計畫日本內閣於2021年6月18日閣議決定《朝向實現數位社會之重點計畫》(デジタル社会の実現に向けた重点計画)。本計畫係為使2021年9月數位廳正式設立後,得迅速依《數位社會形成基本法》(デジタル社会形成基本法)第37條第1項制定重點計畫,而將目前施政上須納入考量之項目事先制定為重點計畫。 本計畫重點措施摘要如下: 整備並普及化數位社會所需之共同功能,包含普及My Number Card、推動利用My Number,與Gov-Cloud政府雲端服務平台等。 徹底改善行政服務之使用者體驗與使用者介面,實現以國民為對象之服務。 推動《綜合資料戰略》(包括的データ戦略),促進資料流通與活用。 培養優秀數位人才,並延攬民間人才至行政機關。 為活用新技術進行籌措,並推動制度改革。 確保網路可及性(アクセシビリティ),減少數位落差。 確保網路安全與個人資料保護,防範使用資通訊技術之犯罪行為。 推動普及高度資通訊環境,與高效能運算之研究開發及測試實驗。 定期召開數位社會推動會議幹事會(デジタル社会推進会議幹事会(仮称),此為暫定),檢驗政策實施狀況。