歐洲議會通過《人工智慧法案》朝向全球首部人工智慧監管標準邁進下一步
歐洲議會通過《人工智慧法案》
朝向全球首部人工智慧監管標準邁進下一步
資訊工業策進會科技法律研究所
2023年06月26日
觀察今年的科技盛事屬ChatGPT討論度最高，將人們從區塊鏈、元宇宙中，帶入人工智慧（AI）領域的新發展。ChatGPT於2022年11月由OpenAI開發的生成式人工智慧，透過深度學習模型，理解和生成自然語言，其功能包含回答各類型問題（如科學、歷史）、生成邏輯結構之文章（如翻譯、新聞標題）、圖形、影像等內容。然而對於人工智慧的發展，究竟如何去處理人機間互動關係，對於風險之管理及相關應用之規範又該如何，或許可從歐盟的法制發展看出端倪。
壹、事件摘要
面對人工智慧的發展及應用，歐盟執委會（European Commission）早在2018年6月成立人工智慧高級專家組（AI HLEG），並於隔年（2019）4月提出「可信賴的人工智慧倫理準則」（Ethics Guidelines for Trustworthy AI），要求人工智慧需遵守人類自主、傷害預防、公平、透明公開等倫理原則。於2021年4月21日歐盟執委會提出「人工智慧法律調和規則草案」（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts）（以下稱人工智慧法案），於2023年內部市場委員會（Internal Market Committee）與公民自由委員會（Civil Liberties Committee）通過並交由歐洲議會審議（European Parliament），最終《人工智慧法案》於2023年6月14日通過。後續將再歐盟理事會（Council of the European Union）與辯論協商，尋求具共識的最終文本[1]。
貳、重點說明
由於「歐盟議會通過」不等於「法案通過」，實際上歐盟立法機制不同於我國，以下透過法案內容說明的契機，概述一般情況下歐盟之立法流程：
一、歐盟立法過程
通常情況下，法案由歐盟執委會（下簡稱執委會）提出，送交歐盟理事會及歐洲議會，作為歐盟的「立法者」歐洲理事會（下簡稱理事會）與歐洲議會（下簡稱議會）將針對法案獨立討論並取得各自機關內之共識。大致上立法程序有可分為三階段，在一讀階段若理事會與議會對於執委會版本無修改且通過，則法案通過，若任一機關修改，則會進行到二讀階段。針對法案二讀若仍無法取得共識，則可召開調解委員會（Conciliation）協商，取得共識後進入三讀。簡單來說，法案是否能通過，取決於理事會與議會是否取得共識，並於各自機關內表決通過[2]。
目前《人工智慧法案》仍處於一讀階段，由於法案具備爭議性且人工智慧發展所因應而生之爭議迫在眉睫，議會通過後將與執委會、理事會進入「三方會談」（Trilogue）的非正式會議，期望針對法案內容取得共識。
二、人工智慧法案
（一）規範客體
《人工智慧法案》依風險及危害性程度分級，其中「不可接受風險」因抵觸歐盟基本價值原則禁止（符合公益目標，如重大或特定犯罪調查、防止人身安全遭受危害等例外許可）。「高風險」則為法案規範之重點，除針對系統技術穩健、資料處理及保存訂有規範外，針對人為介入、安全性等也訂定標準。
而針對高風險之範疇，此次議會決議即擴大其適用範圍，將涉及兒童認知、情緒等教育及深度偽造技術（Deepfake）納入高風險系統，並強調應遵循歐盟個人資料保護規範。此外對於社會具有高影響力之系統或社群平臺（法案以4500萬用戶做為判斷基準），由執委會評估是否列為高風險系統。針對目前討論度高的生成式人工智慧（ChatGPT），議會針對法案增訂其系統於訓練及應用目的上，應揭露其為生成式人工智慧所產出之內容或結果，並摘要說明所涉及之智慧財產權[3]。
（二）禁止項目
關於《人工智慧法案》對於高風險系統之要求，從執委會及理事會的觀點來看，原則上重點在於對弱勢的保護及生物資料辨識之權限。歐盟禁止人工智慧系統影響身理及心理，包含對於特定族群如孩童、身心障礙者等弱勢族群之不平等待遇。同時原則禁止即時遠端的生物辨識利用，包含對於人性分析、動作預測等對於人類評價、分類之應用，例外情況如犯罪調查、協尋失蹤兒童、預防恐怖攻擊、關鍵基礎設施破壞等情況時方被允許。此次議會決議提高禁止即時遠端生物辨識的標準，包含納入敏感資訊的蒐集如性別、種族、政治傾向等，及其他臉部辨識、執法、邊境管制、情緒辨識等項目[4]。
參、事件評析
有關《人工智慧法案》雖歐洲議會已一讀通過，然而後續仍要面對與歐盟理事會的協商討論，並取得共識才能規範整個歐盟市場。因此上述規範仍有變數，但仍可推敲出歐盟對於人工智慧（含生成式）的應用規範態度。在面對日新月異的新興科技發展，其立法管制措施也將隨著橫向發展，納入更多種面向並預測其走向趨勢。因人工智慧有應用多元無法一概而論及管制阻礙創新等疑慮，觀察目前國際上仍以政策或指引等文件，宣示人工智慧應用倫理原則或其風險之管理，偏重產業推動與自律。
觀察歐盟《人工智慧法案》之監管目的，似期望透過其市場規模影響國際間對於人工智慧的監管標準。倘若法案後續順利完成協商並取得共識通過，對於如OpenAI等大型人工系統開發商或社群平臺等，若經執委會評估認定為高風險系統，勢必對於未來開發、應用帶來一定衝擊。因此，歐盟對於人工智慧監管的態度及措施實則牽一髮而動全身，仍有持續觀察之必要。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]The AI Act, Future of Life Institute, https://artificialintelligenceact.eu/developments/ (last visited Jun. 20, 2023)
[2]The ordinary legislative procedure, Council of European Union, https://www.consilium.europa.eu/en/council-eu/decision-making/ordinary-legislative-procedure/ (last visited Jun. 19, 2023)
[3]EU AI Act: first regulation on artificial intelligence, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence (last visited Jun. 21, 2023)
[4]MEPs ready to negotiate first-ever rules for safe and transparent AI, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai(last visited Jun. 21, 2023)
- 電商零售業法制宣導說明會暨產學研座談會
- 零售業個資保護宣導暨座談會
- 零售業個資保護及資訊安全教育講習
- 零售業個資保護及資訊安全教育講習
- 零售業個資安全宣導暨安全維護計畫規劃說明會
- (已額滿)114年「企業營業秘密保護實務座談會」(北部場)–營業秘密因應數位環境之保護風險及管理對策
- 數位經濟時代的隱私保護與商機－CBPR跨境隱私規則體系解析
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 零售業個資安全宣導暨安全維護計畫說明會（高雄場）
- 零售業個資安全宣導暨安全維護計畫說明會（台中場）
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
王凱嵐
法律研究員 編譯整理
為邁向低碳經濟時代，建立歐洲成為具競爭力之低碳經濟體，歐盟執委會（European Commission）於2011年3月8日向歐洲議會（European Parliament）提出「2050低碳經濟策略規劃（A Roadmap for Moving to a Competitive Low-Carbon Economy in 2050）」，並設定2050年低碳總目標，宣示將透過加強低碳技術研究發展、推動能源效率使用等方式，降低對石化燃料依賴，並提昇區域內更多就業機會。 隨著近期中東與北非地區石油危機，原油價格節節高升，已嚴重影響歐洲國家每年能源支出經費，並降低未來各國經濟成長率。歐盟執委會認為，必須積極促進歐洲國家，經由投入科技研發、提昇能源效率，有效抑制不斷提昇的能源成本，推動歐盟邁向低碳經濟社會；並且，所設定目標及推動措施，倘若有所遲緩或推延，越晚投入將導致日後所需投入經費成本更為昂貴，悔不當初。「2050低碳經濟策略規劃」所設定之目標為，規劃透過各種符合成本效率（Cost-Efficient）措施及方法，推動歐盟區域內溫室氣體排放量至2030年降低40％、至2040年降低60％、至2050年降低80％（以1990年排放量為基準），達成低碳經濟願景目標。 歐盟執委會表示，未來應強化推動低碳技術之研究發展，促進未來更廣泛運用，並強調應更全面加強推動策略性能源科技研究計畫（Strategic Energy Technology Plan , SET-Plan），未來10年內歐盟將再額外增加50 billion歐元投資，加強推動能源科技相關研發工作，及未來可供運用之工具措施。 「2050低碳經濟策略規劃」中，詳細規劃推動步驟，並區分各大領域分別施行。以電力部門（Power Sector）領域為例，運用低碳技術、潔淨技術設備所產製電力，至2020年將達到降低45％--60％比例之排放量，到2050年，所有發電技術之溫室氣體排放量更將降低至可接近於0；而對於「工業部門」所設定目標，2050年達成降低80％之目標，對於「家庭及辦公建築」部份，設定2050年可降低90％之目標，而「運輸部門」則設定於2050年達成降低60％之目標。此外，歐盟執委會更指出投資「智慧電網（Smart Grid）」的重要性，將可促使「需求端（Demand-Side）」更具效率性，更廣泛且分散之電力調配中心，以及啟動運輸系統電力化之時代。 低碳經濟社會所帶來福祉，並可降低歐盟每年能源支出，及對於石化燃料進口依賴程度，也促成轉變改以低碳技術產製電力能源，作為可行的替代因應方案；以及，低碳經濟社會型塑推動，除了投入經費研發技術外，相關運用更須透過教育、訓練、推廣，廣泛使大眾接受且樂於使用新興技術，如此未來將可衍生種類與數量均會更多之就業機會，也有助益於經濟成長；此外，推動低碳經濟亦可改善生活品質及健康生活，未來實際效應可改善公共健康、減少醫療費用支出、及降低對生態環境消耗破壞，均屬良善效益。 然而，歐盟執委會這些推動措施，亦傳出有反對聲音。「歐洲商業（Business Europe）」團體就對外表示，他們反對「2050低碳經濟策略規劃」所設定的這些超高標準，他們認為相關推動措施，未來將會嚴重傷害歐盟境內企業發展，因為主要競爭者如中國、日本及美國，相較而言，均未設定這麼高的推動目標。未來歐盟執委會這些規劃藍圖是否落實達成，值得後續觀察。
美國聯邦通訊委員會修改廣播電視業者對於兒童關看電視的保護義務美國聯邦通訊委員會（ The Federal Communications Commission /FCC ）在 2006 年 9 月，修改並解釋 2004 年一項課與廣播電視業者對兒童觀看電視保護義務之指令。在 2004 年提出的指令中對廣播電視業者有許多規定，包括：電視業者被要求提供兒童適當比例基準之核心（ core ）教育及資訊節目，並於該類型節目中全程播放中標示 E/I 的符號；允許在節目中出現網站網址，但限制兒童節目中顯示非與節目相關以及有商業目的之網站網址；原兒童節目之插播限制規定；以及修改所謂商業內容定義等。 這次對該指令的再修改，則是希望透過確保提供適當比例的兒童教育資訊節目、將廣告及其他兒童節目之行為納入商業內容定義，以及顯示網站網址之新限制規定，讓邁向數位化世界下之公眾利益能獲得保障。特別是在同時確保不過份削減廣播電視業者以及有線電視業者節目時間編排彈性下，保護兒童免於在廣播電視以及有線電視節目中，接收過多商業訊息。
宏碁起訴代工廠 反擊惠普侵權控訴宏碁(Acer)歷經惠普(HP)今年相繼兩次之侵權控訴，於向惠普尋求和解未獲得回應後，宏碁之美國子公司於5月9日在美國德州聯邦法院遞狀，向其代工廠鴻海、緯創及廣達等三家廠商提起訴訟，要求下游代工廠商共同負責，協助其與惠普的官司訴訟。 此三家廠商在擔任Acer的供應商之同時，亦是HP的設計代工製造(ODM)廠商。宏碁為回擊惠普在美國對其專利侵權之訴訟，因而使出該絕招，並要求此三家供應廠商「共同履行訴訟保證責任」負起連帶保證之責任，並對惠普之侵權訴訟案給予協助。 宏碁表示，此一訴訟僅為配合美國法律程序而採取之必要行動。鴻海則表示，宏碁、惠普兩大客戶都是依據法律途徑正當保障並維護本身的權益，鴻海會依法律程序配合。廣達表示，此案已進入法律程序，未來將依法律途徑，尋求圓滿的解決。緯創則不予置評。 宏碁今年登上全球第三大PC寶座，而惠普連續兩次向美國法院控告宏碁涉嫌侵權之舉，被認為係意圖阻擋宏碁在美國市場之發展。宏碁表明，代工廠挨告的原因係由於與其合作模式為宏碁負責銷售，代工廠負責研發設計，和代工廠在合作之初，即已確保其所有提供給宏碁的技術，不會侵犯其他公司的專利，也約定廠商有義務負責相關專利訴訟賠償。
整合搜尋引擎及服務之軟體專利遭美國專利審查暨上訴委員會宣告無效本案系爭專利為Metasearch Systems公司自Harvey Lunenfeld獲得專屬授權之軟體專利（metasearching online system patent，美國專利證號：8,239,451），主要用於整合線上旅遊資訊搜尋引擎及提供旅遊安排服務，於2015年05月遭美國專利審查暨上訴委員會（Patent Trial and Appeal Board，PTAB）經由商業方法專利審查程序宣告無效。PTAB於最終決定書中認定，專利證號8,239,451之美國專利有六項專利範圍（claim）均為無效，主要理由係基於該軟體系統雖然必須與特定硬體結合才能上線運作，但整合諸多線上搜尋引擎提供旅遊資訊搜尋服務，並同時附帶旅遊代訂票券及食宿等功能，並未足以證明其產生優於現有技術之優勢，使該軟體專利本質上仍僅為抽象概念，而不具備專利適格性。是以，軟體研發雖帶來許多便利性，但是若僅為抽象概念運用方式的結合，就只是一種改變消費模式所帶來的便利，並未足以達到具有專利保護必要之重要技術發展。 本案最初源於Metasearch Systems公司於2012年向德拉瓦州聯邦法院對美國運通公司、Expedia Inc.及Preiceline.com Inc.等旅遊網站業者提起專利侵權訴訟，導致被告業者反而就系爭專利之有效性提出質疑。在本案之前美國聯邦最高法院針對軟體專利適格性判斷之議題作成多起重要判決，尤以Alice Corp. v. CLS Bank International對本案爭議最具影響，足見美國專利法制已建立起一個較明確且統一的判斷標準，逐漸在實務個案上產生影響。