歐洲數位權利中心(The European Center for Digital Rights,下稱noyb)為提倡網路隱私權、消費者隱私的非營利組織,其於2021年11月12日向奧地利資料保護局(Austrian Data Protection Authority, DSB)投訴Grindr公司,抗議該公司的Grindr應用程式違反歐盟的一般資料保護規範(即General Data Protection Regulation,下稱GDPR)。
Grindr是款交友約會軟體,主要的使用者為男同性戀、雙性戀以及跨性別者。使用者註冊帳號時,僅需提供電子郵件信箱帳號及密碼和一些個人基本資料即可。然而,若使用者想了解Grindr公司如何使用其個人資訊時,Grindr公司要求使用者需手持記載其電子郵件的字條,或拿著護照自拍,經該公司確認使用者身分後,才會配合使用者的請求。noyb直言,Grindr公司的認證政策不僅荒謬,更違反了GDPR。
noyb代表一個名為「Hunk_69」的帳號使用者提出投訴,這個帳號因為身分認證失敗而遭到Grindr公司拒絕透露該公司如何使用其個人資料。noyb指出Grindr公司對於使用者提供個人資料的政策前後不一,儘管使用者在使用Grindr交友時可以保持匿名狀態,但在向Grindr公司請求提供個人資料用途時,卻需要提供真實身分。noyb主張Grindr公司已經違反歐盟GDPR第5條(1)©「資料最少化原則」。多數公司多半以「安全理由」要求客戶提供個人資料供其認證,但這樣的要求是不當的,根據奧地利聯邦行政法院、愛爾蘭資料保護委員會(the Irish Data Protection Commissioner, DPC),以及丹麥資料保護局(Danish Data Protection Agency, Datatilsynet)近期裁決見解,認證客戶身分必須個案評估使用者的身分是否有疑慮,而非一概的要求使用者進一步提出個人資料以供公司認證。因此,使用者在Grindr註冊帳號時,既然毋庸提供真實姓名,則Grindr公司於認證使用者身分要求提出真實姓名,實際上是無任何幫助,反而違反了GDPR第5條「資料最少化原則」及第12條(6)規定。
noyb創辦人Max Schrems表示,Grindr的設計就是讓使用者保持匿名狀態,因此使用者僅須使用電子郵件信箱和密碼,就可以在Grindr上與人互動,甚至分享最私密的照片,但想要實行GDPR相關權利時,卻須自行揭露身分並提供身分證明。
Grindr公司則認為,如果使用者想要實踐GDPR賦予使用者的權利,不願與Grindr分享任何個人資訊,可以刪除Grindr帳號。
所謂「阿西洛馬人工智慧原則」(Asilomar AI Principles),是指在2017年1月5日至8日,於美國加州阿西洛馬(Asilomar)市所舉行的「Beneficial AI」會議中,由與會的2000餘位業界人士,包括844名學者專家所共同簽署的人工智慧發展原則,以幫助人類運用人工智慧為人類服務時,能確保人類的利益。 該原則之內容共分為「研究議題」( Research Issues)、「倫理與價值觀」( Ethics and Values),及「更長期問題」( Longer-term Issues)等三大類。 其條文共有23條,內容包括人工智慧的研究目標是創造有益的智慧、保證研究經費有益地用於研究人工智慧、在人工智慧研究者和政策制定者間應有具建設性並健康的交流、人工智慧系統在其整個運轉周期內應為安全可靠、進階人工智慧系統的設計者及建造者在道德層面上是其使用、誤用以及動作的利害關係人,並應有責任及機會去影響其結果、人工智慧系統應被設計和操作為和人類尊嚴、權利、自由和文化多樣性的理想具一致性、由控制高度進階人工智慧系統所取得的權力應尊重及增進健康社會所需有的社會及公民秩序,而非顛覆之,以及超級智慧應僅能被發展於服務廣泛認同的倫理理想,以及全人類,而非單一國家或組織的利益等等。
歐盟引用 EN 18286 作為高風險 AI 系統品質管理統一標準歐盟引用 EN 18286 作為高風險 AI 系統品質管理統一標準 資訊工業策進會科技法律研究所 2026年10月29日 歐盟執委會於2026年10月14日將EN 18286公布於歐盟公報(Official Journal of the European Union)[1]。執委會表示依該標準建立品質管理系統(quality management system)之提供者,就標準所涵蓋之歐盟《人工智慧法》(Regulation (EU) 2024/1689, Artificial Intelligence Act,下稱AIA)第17條要求,享有推定符合的效果[2]。我國《人工智慧基本法》已正式立法,數位發展部亦於115年7月7日發布《人工智慧風險分類框架》,惟各目的事業主管機關之管理規範尚在研擬,標準與驗證工具之銜接機制則未見法令規定。本文爰整理該決定與 EN 18286之要點,並對我國制度可獲啟示提出評析。 壹、事件摘要 AIA第40條第1項規定,高風險AI系統如符合統一標準(harmonised standard),就該標準所涵蓋之要求,可推定符合(presumption of conformity)AIA所定要求[3]。歐盟執委會於2026年10月12日通過施行決定(Commission Implementing Decision (EU) 2026/2274,下稱本決定),採納EN 18286:2026人工智慧品質管理系統,為高風險AI系統供應商提供明確的法律途徑[4]。EN 18286 是由歐洲標準化委員會(European Committee for Standardization, CEN)與歐洲電工標準化委員會(European Committee for Electrotechnical Standardization, CENELEC)之聯合技術委員會 JTC 21(Joint Technical Committee 21)擬訂[5],標準本身雖為不具強制力的自願性文件,但其作用在於提供業者一條經官方認可之遵循路徑,並使主管機關與業者就符合性之判斷有共同基準。 貳、重點說明 一、歐盟 AIA的統一標準與推定符合機制 依AIA第 17 條要求,高風險AI系統提供者建立品質管理系統,同法第40條第1項規定符合統一標準的高風險AI系統或通用AI模型,應推定符合該法第三章第2節(對高風險AI系統的需求)所列要求;於適用時,包括推定符定依該法第五章第2及3節(對通用AI模型及具系統性風險的通用AI模型之提供者)所列義務,但前提是該標準已涵蓋前述條款規定之要求或義務。 此外,AIA第16條第f款規定,高風險AI系統提供者於上市或投入服務前,須依第43條規定辦理符合性評估(ensure that the high-risk AI system undergoes the relevant conformity assessment procedure as referred to in Article 43)。而第43條規定上市前的符合性評估,無論提供者依自行查驗或送公告機關審查,如其已採用EN 18286標準,該標準即為查核的依據[6]。 因此,如AI提供者採用 EN 18286 統一標準者,就該標準所涵蓋之要求,可作為符合高風險AI系統提供者必須建立品質管理系統(AIA第17條)之依據。同時,可於EN 18286標準所涵蓋之範圍,援引AIA第40條第1項,推定符合前述該法第三章與第五章有關對高風險AI系統、通用AI模型及具系統性風險的通用AI模型之提供者義務之要求。無論是否能產生推定符合效果,EN 18286 之重要性在於可做為AIA第17條要求提供者建立品質管理系統的依據,同時在上市或提供服務前,做為辦理符合性評估的標準,成為落實第17條與第43條要求之共同基準[7]。 二、EN 18286 之定位與架構 EN 18286 有別於一般管理系統標準之處,在於其要求均與取得推定符合之目的相關。其前言載明所謂品質可理解為符合AIA之全部法規要求,而且特別規定高風險AI提供者應辨識並系統化地審查適用之法規要求,並建立法規遵循策略、選擇證明遵法之途徑、將對主管機關與公告機關(notified body)之義務轉為內部程序,使管理系統所處理者為法定義務,而非組織自行設定之品質目標(詳見該標準條款0.1、3.1、4.2、4.4)[8]。 依 EN 18286 標準本文,其架構係依AIA第17條第1項,要求高風險AI系統提供者建立品質管理系統,涵蓋法規遵循策略、設計與開發管制、資料管理、風險管理、上市後監測、嚴重事件通報、資源管理與責任架構等事項。第1章至第3章為範圍、引用標準及用語定義;第4章至第7章處理品質管理系統本身,包括適用法規要求之識別、法規遵循策略、最高管理階層責任、風險與品質目標,以及資源、能力與溝通;第8章與第9章規範個別AI系統自構想至退役之生命週期,其中第8章涵蓋風險管理、設計開發、查證與確證(verification and validation)及資料管理,第9章涵蓋投入市場後之供應鏈、變更、上市後監測、嚴重事件通報與不符合事項處理;第10章為績效評估,包括管理審查。 三、EN 18286 的要求重點 (一)、要求提供者訂定法規遵循策略:標準要求策略至少涵蓋基本要求、上市後監測、嚴重事件、資料管理、適用之符合性評估(conformity assessment)程序及變更(4.4)。 (二)、要求提供者建立文件化程序,以確保能提供合規所需資訊,並與國家主管機關、公告機關、進口者、經銷者、授權代表及客戶溝通;亦須就不符合、構成風險之AI系統及嚴重事件之通知建立程序(對應AIA第20條第1項、第2項及第73條),包括涉及重要基礎設施等特定情況之通報期限(7.3、9.6、9.7)。 (三)、將AIA之變更規則轉為作業要求,例如要求提供者判斷上市後之修改是否為實質修改並記載理由,屬實質修改者須重新進行符合性評估(AIA第43條第4項),標準並將其視為新AI系統,要求提供者相應更新品質管理系統(9.4)。 (四)、就個別AI系統之設計開發,要求將法規要求轉為可查證之系統要求並留存紀錄。包括要求提供者依預期用途,決定達成適用法規要求(含基本要求)所必要之系統要求,於界定規格前定期審查,確認其已文件化、涵蓋適用法規要求且可滿足;並依文件化之測試計畫與程序進行查證,結果與措施須以文件化資訊提供(8.3、8.4)。 (五)、資料與文件方面,提供者須界定資料要求,建立涵蓋資料取得、探勘與蒐集、分析、標註、過濾、彙總、保存及儲存之系統與程序;主管機關或符合性評估機構要求時,應提供資料存取,資料停用時須指明銷毀或封存機制,且資料銷毀不得與提供者遵循法規要求之能力相衝突(8.5)。 (六)、EN 18286 著重供應鏈與上市後的風險管控,要求提供者就外部供應者建立評估與選擇準則,並文件化對供應者及所供應產品、組件、資料與服務之管制,以及所須之查證與確證。產品或服務於上市後仍須採取監測作法,作法應主動、系統化並納入績效評估(9.3、9.5)。 參、事件評析 數位發展部已於115年7月7日發布《人工智慧風險分類框架》1.0版,為目前已公布之具體分類與評估規則。於風險評估之後,框架列舉主管機關可採之管理措施,包括要求業者提出說明資料、實施透明度標示,以及對風險達一定程度者採事前審查。框架亦列舉依《人工智慧基本法》要求高風險應用標示注意事項、明確責任歸屬並建立救濟、補償或保險機制等措施。惟框架之規範對象為目的事業主管機關,業者無從預知其系統於各主管領域將如何分類,亦無可據以辦理之事項、規範或標準。 目前數位發展部雖已成立AI產品與系統評測中心(下稱 AIEC),數位產業署亦於113年3月發布《人工智慧(AI)產品與系統評測參考指引(草案)》,供AI提供者就其產品或服務辦理評測,但該指引以產品與系統為評測對象,與 EN 18286 以提供者組織為對象、規範其品質管理系統之層次不同;AIEC之測試結果並非組織層級管理要求之依據。而認定高風險應用者為中央目的事業主管機關,AIEC並無此項認定權,其測試結果與風險分類框架未見對接,與法規認定亦無明文連結,欠缺規範效力。企業送測所得僅為技術性測試結果,在法律上既不能作為遵法之依據,也無從向交易相對人或主管機關說明其已盡注意。相較之下,歐盟AIA透過賦予統一標準推定效力與搭配符合性評估程序,已然形成由標準通往法律效果之連結誘因,實值參考。 再者,我國《人工智慧基本法》已要求各目的事業主管機關訂定風險為基礎之管理規範,並協助產業自訂指引,將有助於企業的AI風險管理實務操作。如後續能參考歐盟之 EN 18286 設計,各機關將有共通之查核確認責任歸屬之標準,並仍可因應產業性質差異,提供風險因應指引協助。建議可再依同法第5條第3項,由數位發展部等機關提供或建議評估驗證之工具與方法,並公告經審認之標準與工具清單,載明其對應之管理規範事項、適用範圍及限制,連結高風險標示、責任歸屬與配套義務。如此法規、機制、標準與工具得以結合,有助於企業在完備的AI風險管理機制下發揮AI應用的產業效益。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1] Commission Implementing Decision (EU) 2026/2274 of 12 October 2026 on the harmonised standards for high-risk AI systems drafted in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council, OJ L, 14.10.2026, https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202602274 (last visited Oct. 21, 2026). [2] EUROPEAN COMMISSION, First harmonised standard supporting the AI Act published in the Official Journal (Oct. 19, 2026), https://digital-strategy.ec.europa.eu/en/library/first-harmonised-standard-supporting-ai-act-published-official-journal (last visited Oct. 21, 2026). [3] Regulation (EU) 2024/1689, art. 40(1), European Commission AI Act Service Desk, https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-40 (last visited Oct. 20, 2026). [4] 前揭註1。 [5] JTC 21, EN 18286 becomes the first harmonised standard under the EU AI Act, https://jtc21.eu/en-18286-becomes-the-first-harmonised-standard-under-the-eu-ai-act/ (last visited Oct. 21, 2026). [6] 條文詳前揭註3。另見前揭註1,前言第(1)點、第(6)點。 [7] 條文詳前揭註3,art. 17(1), https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-17 (last visited Oct. 21, 2026). [8] 標準內容須洽購,重點可參見MODULOS,EN 18286 Quality Management System for EU AI Act, https://docs.modulos.ai/frameworks/eu-ai-act/harmonized-standards/en-18286 (last visited Oct. 21, 2026).
美國加州「Asilomar人工智慧原則決議」美國加州議會於2018年9月7日通過Asilomar人工智慧原則決議(23 Asilomar AI Principles, ACR-215),此決議表達加州對於「23條Asilomar人工智慧原則」之支持,以作為產業或學界發展人工智慧、政府制定人工智慧政策之指標,並提供企業開發人工智慧系統時可遵循之原則。依此法案所建立之重要指標如下: (1)於研究原則上,人工智慧之研究應以建立對於人類有利之人工智慧為目標。 (2)於研究資助上,人工智慧之研究資助應著重幾個方向,如:使人工智慧更加健全且可抵抗外界駭客干擾、使人工智慧促進人類福祉同時保留人類價值以及勞動意義、使法律制度可以順應人工智慧之發展。 (3)於科學政策之連結上,人工智慧研究者與政策擬定者間應有具有建設性且健全之資訊交流。 (4)於研究文化上,人工智慧研究者應保持合作、互信、透明之研究文化。 (5)於安全性上,人工智慧研究團隊應避免為了研究競爭而忽略人工智慧應具備之安全性。 (6)人工智慧系統應該於服務期間內皆具備安全性及可檢視性。 (7)人工智慧系統之編寫,應可使外界於其造成社會損失時檢視其出錯原因。 (8)人工智慧系統如應用於司法判斷上,應提供可供專門人員檢視之合理推論過程。 (9)人工智慧所產生之責任,應由設計者以及建造者負擔。 (10)高等人工智慧內在價值觀之設計上,應符合人類社會之價值觀。 (11)高等人工智慧之設計應可與人類之尊嚴、權利、自由以及文化差異相互調和。 (12)對於人工智慧所使用之資料,其人類所有權人享有擷取、更改以及操作之權利。 (13)人工智慧之應用不該限制人類「客觀事實上」或「主觀知覺上」之自由。 (14)人工智慧之技術應盡力滿足越多人之利益。 (15)人工智慧之經濟利益,應為整體人類所合理共享。 (16)人類對於人工智慧之內在目標應享有最終設定權限。 (17)高等人工智慧所帶來或賦予之權力,對於人類社會之基本價值觀應絕對尊重。 (18)人工智慧所產生之自動化武器之軍備競賽應被禁止。 (19)政策上對於人工智慧外來之發展程度,不應預設立場。 (20)高等人工智慧系統之研發,由於對於人類歷史社會將造成重大影響,應予以絕對慎重考量。 (21)人工智慧之運用上,應衡量其潛在風險以及可以對於社會所帶來之利益。 (22)人工智慧可不斷自我循環改善,而可快速增進運作品質,其安全標準應予以嚴格設定。 (23)對於超人工智慧或強人工智慧,應僅為全體人類福祉而發展、設計,不應僅為符合特定國家、組織而設計。
美國FDA公布510(k)醫療器材上市前許可指引針對醫療器材上市前之審查規範提出更完善詳細之調整