歐盟執委會提出「具可信度之人工智慧倫理指引」

  歐盟執委會人工智慧高級專家小組(High-Level Expert Group on Artificial Intelligence)於2019年4月8日公布「具可信度之人工智慧倫理指引」(Ethics Guidelines For Trustworthy AI)。該指引首先指出,具可信度之人工智慧需具備三個關鍵特徵:(1)合法(Lawful):應遵守所有適用於人工智慧之法規;(2)合乎倫理(Ethical):確保人工智慧符合倫理原則與價值;(3)健全(Robust):自技術與社會層面觀之,避免人工智慧於無意間造成傷害。

  該指引並進一步指出人工智慧應遵守以下四項倫理原則:

(1) 尊重人類之自主權(Respect for Human Autonomy):歐盟之核心價值在於尊重人類之自由與自主,與人工智慧系統互動之個人,仍應享有充分且有效之自我決定空間。因此,人工智慧之運用,不應脅迫、欺騙或操縱人類,人工智慧應被設計為輔助與增強人類之社會文化技能與認知。

(2) 避免傷害(Prevention of Harm):人工智慧不應對人類造成不利之影響,亦不應加劇既有的衝突或傷害。人工智慧之系統運行環境應具備安全性,技術上則應健全,且確保不會被惡意濫用。此外,弱勢族群應於人工智慧運用中受到更多關注,並被視為服務對象。

(3) 公平(Fairness):人工智慧系統之開發、布建與利用,必須具備公平性。除了透過實質承諾與規範,進行平等與公正之利益與成本分配外,亦須透過救濟程序確保個人或特定族群不受到歧視與偏見之侵害,並可對人工智慧之自動化決策結果提出質疑,且獲得有效之補救。

(4) 可解釋性(Explicability):人工智慧應盡量避免黑箱(Black Box)決策,其系統處理程序須公開透明,並盡可能使相關決策結果具備可解釋性,分析特定訊息可能導致之決策結果,此外亦需具備可溯性且可接受審核。

本文為「經濟部產業技術司科技專案成果」

你可能會想參加
※ 歐盟執委會提出「具可信度之人工智慧倫理指引」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8236&no=55&tp=5 (最後瀏覽日:2026/11/19)
引註此篇文章
你可能還會想看
新加坡個人資料保護法修正草案

  新加坡通訊及新聞部(Ministry of Communications and Information, MCI)與新加坡個人資料保護委員會(Personal Data Protection Commission, PDPC)於西元2020年5月14日至28日間針對其「個人資料保護法修正草案」進行民眾意見諮詢,總共收到87份回覆。綜合民眾回覆之意見後,同年10月5日,於議會提出了「個人資料保護法修正草案」,修正重點如下: 提高外洩個人資料者罰鍰金額,至該公司在新加坡年營業額10%或1000萬美元。MCI / PDPC說明,實際上於裁罰前會綜合考量個案事實與相關因素(如:嚴重性、可歸責性、影響狀況、組織有無採取任何措施減輕個資外洩造成的影響等),作為裁罰金額的判斷依據。此外,新加坡的個人資料保護法也加入了個資外洩通知義務,但與歐盟一般資料保護規範(General Data Protection Regulation, GDPR)仍有不同,例如:其多了評估是否通知的機制。 組織基於商業改善之目的,且遵守法定條件下,得未經同意使用個人資料,此處商業改善目的包含:(1)改善或加強提供之商品或服務,或開發新的商品或服務;(2)改善或發展新的營運方式;(3)瞭解客戶喜好;(4)客製化商品或服務所需。 在公司併購、重組、出售股份以及經營權轉讓等關於公司資產處置情形,得例外無需經當事人同意而蒐集、處理與利用個人資料。 新增資料可攜權相關規定。 處罰未經授權者處理個人資料之行為。針對民眾回覆之疑慮(認為草案內容不明確),MCI / PDPC說明預計在《法規與諮詢指南》中闡明有關授權行為的細節性規定,包含採取的形式。

歐洲專利局(EPO)發布新版審查指南明訂申請人就提交之人工智慧內容負責

歐洲專利局於2026年4月所生效的歐洲專利局審查指南(Guidelines for Examination in the European Patent Office,下稱審查指南),此次新增General Part, 5人工智慧使用部分,說明專利提交文件若包含人工智慧所產出的部分,仍由文件提交人對其內容進行負責,明確定義人工智慧只是輔助工具。 審查指南於2024年在Part G, Chapter II, 3.3.1人工智慧與機器學習部分,增加人工智慧工具達成效果之特徵需被揭露並具可被再現性之要求,於2025年進一步明確定義人工智慧工具之使用需對於技術具有貢獻才會被視為技術特徵,2026年另於Part F, Chapter III, 3公開揭露資訊不足(Insufficient disclosure)部分,說明若與人工智慧相關之專利,所揭露之數學方法、訓練集等資訊揭露不足會無法滿足可據以實施的要求,新增如申請範圍揭露內容未能使人相信可達成技術效果為例子,此次審查指南僅是針對專利文件揭露要求的補充,並未對於使用人工智慧工具所產出的技術內容認定增加著墨,顯見就人工智慧工具產出技術的專利要件在實務認定上已可被執行,此次修改在明定自然人/申請人使用人工智慧工具對於所提交文件內容仍應負起責任。 智財法規與相關審查實務可能會因應新興技術而有變動調整,故企業在建立內部智財管理制度後,亦應檢視制度得否因應外部變化而產生新的風險並評估制度是否調整。以前述歐洲專利局近年來持續因應人工智慧議題明確審查標準為例,建議企業可因應專利審查標準對於人工智慧相關技術之說明檢視現行機制是否需要調整,例如檢視現行研發紀錄得否區隔人員與人工智慧之產出紀錄或貢獻程度、專利提案審查是否確認運用人工智慧所揭露部分是否符合可再現性、可據以實施之要求等,以有系統的持續變化調整組織內部智財管理制度。企業可參考台灣智慧財產管理規範建立管理循環,落實管理制度的定期檢視,以系統化方式因應外部環境持續優化內部智財制度。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/)

歐盟執委會制定《高風險AI系統分類指引》草案,提供適用說明與案例清單協助風險判定

歐盟執委會制定《高風險AI系統分類指引》草案,提供適用說明與案例清單協助風險判定 資訊工業策進會科技法律研究所 2026年09月10日 今(2026)年5月19日,歐盟執行委員會(European Commission,下稱歐盟執委會)發佈《高風險AI系統分類指引》草案(Draft Guidelines on the classification on high-risk AI,下稱指引草案),分別針對「產品嵌入型高風險AI」(Annex I)、「獨立型高風險AI」(Annex III)提供更詳細的條款說明與應用案例,以協助供應商、部署者和利害關係人可以清楚地判斷其使用之AI系統是否為高風險範疇。 壹、事件摘要 《歐盟人工智慧法》(EU AI Act,下稱AIA)於2024年6月13日制定通過,並於2024年8月1日正式生效。其中,AIA第6條主要規範高風險AI系統之分類規則,例如「產品嵌入型高風險AI」、「獨立型高風險AI」與高風險應用豁免條款,並於第6條第5款要求歐盟執委會諮詢歐盟人工智慧委員會(European Artificial Intelligence Board)意見後,依AIA第96條規定制定指引,並提供一份包含屬於高風險與不屬於高風險之AI系統使用情境的完整應用案例清單。 因此,歐洲執委會基於上述的法律義務而制定指引草案,原定於2026年6月23日前邀請各方利害關係人完成公眾諮詢意見,包括AI系統的供應商與開發者、企業、公共機構,以及學術界、研究機構與一般公民等[1]。然而,歐洲執委會收到來自多個產業協會及其他利害關係人的請求,希望將期限進一步延長4週。歐洲執委會為了讓利害關係人有更充分的時間提交意見,決定將截止日期延長至2026年7月23日[2]。同時,歐洲議會(European Parliament)於6月16日通過「第七號數位綜合法案」(Omnibus VII)下對AIA的修正案,調整AIA設定的合規時程,包括延後高風險AI系統的義務期限,將「獨立型高風險AI」延至2027年12月2日適用,而「產品嵌入型高風險AI」則延至2028年8月2日[3]。於是,歐洲執委會為配合法遵義務的時程規劃,並針對蒐集的公眾諮詢意見,就指引草案做最後的檢討修正,預計於2026年底前公布正式版的《高風險AI系統分類指引》[4]。 貳、重點說明 指引草案主要有三份文件,包括一般原則主文件、「產品嵌入型高風險AI」文件(下稱Annex I文件)與「獨立型高風險AI」文件(下稱Annex III文件),以下就高風險AI分類之一般性原則、Annex I文件和Annex III對高風險AI的系統判定、實例說明和豁免條款進行介紹。 一、高風險AI分類之一般原則 (一)「AI系統」之法律定義 指引草案指出評估AI系統是否屬於高風險的前提,是該系統必須先該當AIA第3條第1款對「人工智慧系統」的法律定義,即該系統必須是:「基於機器的系統,其設計旨在以不同程度的自主性運行,且在部署後可能表現出適應性;為了明確或隱含的目標,該系統從其接收到的輸入指令中進行推論動作,以產生預測、內容、建議或決策等輸出內容,進而影響物理或虛擬環境」。因此,若僅為一般無適應性或推論特質之傳統軟體或自動化決策系統,則不屬於AIA的管制範疇[5]。 (二)「預期用途」(intended purpose)的定義 依據AIA第3條第12項,「預期用途」係指提供商在使用說明、行銷文宣及技術文件中所提出之使用情境與條件,確保「言行一致」的一貫性審查原則。針對通用型AI(General Purpose Artificial Intelligence, GPAI),指引草案確立了「擴張推定原則」,若AI供應商未在所有公開資料中「一致、具體且連貫地」限制或排除高風險用途,在該用途具備技術可行性與合理可預見的前提下,系統將被直接推定涵蓋高風險用途而定性為高風險AI[6]。不僅如此,指引草案強調「實質重於形式」原則,供應商僅於商品或服務條款中進行形式宣告排除高風險,在法律上不足以規避合規義務,只要產品定位或功能演示實質上仍明示或暗示高風險用途,監管機構將直接判定其為高風險系統並進行監督[7]。 二、Annex I文件:產品嵌入型高風險AI之判斷基準 (一)「安全組件」(safety component)之判定邏輯 依據AIA第3條第14款,「安全組件」採獨立自主之法律定義,作為「產品嵌入型高風險AI」的判斷要件之一,即「產品或AI系統之組件,其履行安全功能,或其失效或故障會危及人身健康安全或財產」。指引草案闡釋了兩大判定路徑,一為「意圖導向」,依主觀判定其功能是否為「預防或減輕」健康、安全或財產之風險;二為「後果導向」,採客觀風險判定,只要該AI系統在客觀上會實質增加危害、危及自然人生命、健康或財產,仍會定性為安全組件[8]。 (二)「第三方符合性評估」(third-party conformity assessment)的轄管產品 另一個要件為「第三方符合性評估」的轄管產品,若產業或產品法規有針對特定產品的安全性要求履行「第三方符合性評估」的送檢程序時,原則上該產品在AIA的架構下會被視為高風險AI系統。指引草案指出,有些產品法規(如玩具、機械)基於程序的便利性,允許廠商可以「自主宣告」符合歐盟的規格標準,而免除「第三方符合性評估」的義務,但不代表該產品沒有安全性的監管要求。換言之,指引草案闡釋有需要「第三方符合性評估」(包括以自主宣告代替)的AI產品並同時為安全組件時,即被納入「產品嵌入型高風險AI」的範疇[9]。 三、Annex III文件:獨立型高風險AI之判定基準 (一)八大敏感領域之AI應用 依據AIA第6條第2款規定,獨立運作之AI系統,其高風險判定完全取決於供應商所宣告之「預期用途」是否落入Annex III所列之八大敏感領域,包含生物識別、關鍵基礎設施、教育、就業、服務提供、執法、移民與邊境管理、司法與民主程序等[10]。 (二)評估對象僅限於「自然人」 指引草案澄清,AI系統是否為高風險除取決於其預期用途之敏感領域外,亦必須僅限評估「自然人」,如僅為法人或公司,因不涉及個人權利,原則上不會被判定為高風險,但其系統判定涉及之實質利害關係人為自然人時,仍屬於評估「自然人」之範疇。比如,產品保險的AI應用相較於人壽或健康保險的AI應用不涉及自然人評估,原則上不會判定高風險。此外,指引草案補充供應商不能僅透過「在系統部署時加入人類審查/監督要求」,就主張該系統可以被降低為非高風險[11]。 (三)複雜系統與代理式AI(Agentic AI)之整體性評估 為防範供應商透過系統設計或分拆架構規避監管,指引草案強調,若數個AI 模組共同構成一複雜架構(或代理式AI setup),且其合併輸出實質影響了最終決策,涉及敏感領域與自然人權益,則整體系統必須被視為單一高風險AI應用進行評估[12]。 (四)「豁免機制」之除外條款 指引草案說明,依AIA第6條第3項規定,就程序性任務(不對資料進行價值判斷)、改善既有成果(不影響已做成之決策)、偵測決策偏差(檢視已做成之決策)或準備性任務(提供背景輔助資料)等,因不具實質影響力,供應商或部署者得豁免適用高風險AI規定,但針對「剖繪/貌相」(profiling)技術,採取絕對高風險AI認定,由於涉及自然人之個人特徵(如工作表現、經濟狀況、健康、個人偏好、行為模式等)與自動化評估、分析或預測,而例外不適用豁免條款[13]。另外,指引草案以體育賽事或演唱會的「群體地理分析」或「人流密度監測」AI應用為例,如僅就非個人資料或特定區域的人群密度進行分析,則不屬於針對個人特徵之剖繪技術,也就非高風險應用,以此說明「非特定的群體統計」和「針對性的個人特徵分析」之技術差異[14]。 參、事件評析 歐盟執委會公布的指引草案,其三份文件加起來長達165頁左右,僅就AIA第6條的高風險AI相關規定提出詳細的法規解釋與案例清單,協助AI系統的供應者和部署者了解高風險AI應用的定義和適用範圍。整體而言,因歐盟採取以風險分類的治理規範架構,於AIA明定高風險AI的規範要件,並一體適用歐盟會員國,其工程浩大需要長期的準備與作業時間才能完成,但其內容就高風險的定義、案例與適用說明對於臺灣的風險治理均具有一定的參考性。 無獨有偶,行政院於今年7月函頒《人工智慧風險分類框架》,就高風險AI應用的判定雖未採取Annex III之敏感領域進行判斷,而係參考《人工智慧基本法》第17條之立法理由與第5條第1項規定,檢視AI應用是否會對國家安全、基本權利、生命安全、財產保障、社會秩序或生態環境造成嚴重危害為判準。但究其實質,兩者的規範結構並不存在衝突,依《人工智慧基本法》第16條第2項規定,各目的事業主管機關基於人工智慧應用風險管理之需要,得對轄管產業制定管理規範。因而,目的事業主管機關在盤點轄管產業的高風險AI應用情境時,本就可依產業領域的專業特性和需求參考國際經驗或相關規範協助其風險判定,故參酌歐盟執委會發佈之指引草案如對目的事業主管機關有所幫助,亦無不可。 總的來說,歐盟執委會的指引草案可視為一份實務操作清單,我國對於產業的AI應用在判定高風險有困難或疑義時,不妨可以參考以獲取更充分的資訊進行相關判斷。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/) [1] European Commission, Draft Commission guidelines on the classification of high-risk AI systems, https://digital-strategy.ec.europa.eu/en/library/draft-commission-guidelines-classification-high-risk-ai-systems(last visited August 27, 2026). [2] European Commission, Targeted consultation on the draft guidelines for the classification of high-risk artificial intelligence systems, https://digital-strategy.ec.europa.eu/en/consultations/targeted-consultation-draft-guidelines-classification-high-risk-artificial-intelligence-systems(last visited August 27, 2026). [3] European Commission, Guidelines for providers and deployers of AI high-risk systems, https://digital-strategy.ec.europa.eu/en/policies/guidelines-ai-high-risk-systems(last visited August 27, 2026). [4] 同前註2。 [5] European Commission, Draft Guidelines on the classification of high-risk AI: General principles, 2026, p2-3. [6] id. [7] id. [8] European Commission, Draft Guidelines on the classification of high risk AI systems: Annex I of AI Act, 2026, p5. [9] id. at 9-11. [10] European Commission, Draft Guidelines on the classification of high risk AI systems: Annex III of AI Act, 2026, p4. [11] id. at 5-6. [12] id. [13] id. at 8-13. [14] id. at 104.

新加坡次世代國家寬頻網路由Open Net得標

  新加坡資通訊發展局(Infocomm Development Authority, IDA)於2008年9月26日宣布,新加坡政府計畫投入7.5億新加坡幣資金建置之次世代國家寬頻網路(Next Generation National Broadband Network, NGNBN)由OpenNet公司得標,負責建置及維運次世代國家寬頻網路中靜態基礎設施(passive infrastructure)部分。   新加坡之次世代國家寬頻網路預計在2010年時提供60%家戶光纖網路接取服務,至2012年6月份時,則可提供新加坡95%家戶光纖網路接取服務。就寬頻接取速度而言,初期可提供100Mbps之頻寬,待建置完成後則預估可提供之頻寬達1Gbps。未來,OpenNet公司將可在2年內從新加坡電信(Sing Tel)取得該公司已建置之管道、交換器等基礎設備。   待網路建置完成後,OpenNet公司必須以住宅區光纖接取每月15元新加坡幣,非住宅光纖接取每月50元之價格,無差別地提供批發服務予網路接取服務提供業者,而不得自己提供接取服務予企業及一般家庭用戶。其次,為鼓勵建築所有人接取光纖網路,OpenNet公司在鋪設光纖網路進入建築時,將不收取任何裝置費用。預計自2013年起,在普及服務義務之要求下,OpenNet公司亦將持續負責將光纖網路接取至住宅、辦公大樓或其他建築物。換言之,OpenNet公司預計在2012年完成現有建築之光纖網路佈建,並於2013年起以履行普及服務義務之方式,持續光纖網路之建置工作。

TOP