歐盟執委會提出人工智慧創新計畫，促進歐盟人工智慧技術應用與相關企業發展
2024年1月24日，歐盟執委會（European Commission）推出了人工智慧創新計畫（AI innovation package），支持新創公司和中小企業開發符合歐盟價值觀的人工智慧。該計畫包含以下重要事項：
1.推動歐洲高效能運算聯盟相關之法規修正案（An amendment of the EuroHPC Regulation）。
(1)歐洲高效能運算聯盟是歐盟在2018年依法(Council Regulation (EU) 2021/1173)建立之組織。依該法內容，組織主要目標是在歐盟開發、部署具有極高運算能力的運算系統，為公部門和私人提供強大的運算和資料服務，以支持科學和工業的雙重轉型。
(2)本次法規修正案為歐洲高效能運算聯盟添加了新目標，新目標為建立人工智慧工廠，以促進歐盟對人工智慧的採用和創新。目標細節包含令歐盟取得、推廣人工智慧專用的超級電腦，建立一站式服務以支持歐盟各界開發人工智慧服務、產品及應用程式等。
2.在歐盟執委會下設立人工智慧辦公室，制定歐洲層級的人工智慧政策，並監督政策執行。
3.透過跨國論壇推動以下工作：
(1)藉歐洲地平線計畫、數位歐洲計畫，向試圖開發、應用人工智慧的組織提供財政支援。預估將在2027年帶來四十億歐元投資額。
(2)過教育擴張人工智慧人才庫。
(3)鼓勵政府及民眾投資人工智慧新創企業。
(4)加速開發歐洲共同資料空間，供人工智慧社群使用。
(5)支持工業生態系統及公共部門應用人工智慧。應用領域包含機器人、健康、生物技術、製造、行動設備等。
4.歐盟執委會與部分成員國組織了兩個歐洲數位基礎設施聯盟如下:
(1)語言科技聯盟（ALT-EDIC）: 該聯盟主要工作之一為收集、開發歐洲各國語言模型，供公共部門、企業及未來人工智慧創新計畫使用。聯盟目標為增加歐洲語言資料可用性、維護歐洲語言及文化的多樣性。
(2)城市宇宙聯盟（CitiVERSE EDIC）: 主要目標之一是支援城市利用人工智慧，優化各項管理流程。例如交通管理方面，可利用人工智慧模擬空氣品質變化對城市交通狀況的影響，以利政府提出相應解決方案。
目前人工智慧創新計畫的下一步，是先推動歐洲高效能運算聯盟相關之法規修正案。嗣後，透過執行該計畫各項內容，執委會將為歐盟人工智慧政策的實施做好準備。執行該計畫的過程中執委會不僅會支援歐盟各國公共部門採用人工智慧，也會積極推動民間開發、應用人工智慧技術，以提升歐盟競爭力和促進歐盟的永續發展。
- Commission launches AI innovation package to support Artificial Intelligence startups and SMEs, Jan. 24, 2024
- Proposal for a regulation amending Regulation (EU) 2021/1173 as regards an EuroHPC initiative for start-ups to boost European leadership in trustworthy Artificial Intelligence, Jan. 24, 2024
- Consolidated text: Council Regulation (EU) 2021/1173 of 13 July 2021 on establishing the European High Performance Computing Joint Undertaking and repealing Regulation (EU) 2018/1488, Jul. 19, 2021
- ALT-EDIC
- European Digital Infrastructure Consortium (EDIC), Mar. 11, 2024
李思萱
副法律研究員 編譯整理
Commission launches AI innovation package to support Artificial Intelligence startups and SMEs, Jan. 24, 2024, https://ec.europa.eu/commission/presscorner/detail/en/ip_24_383 (last visited Jan. 31, 2024).
Proposal for a regulation amending Regulation (EU) 2021/1173 as regards an EuroHPC initiative for start-ups to boost European leadership in trustworthy Artificial Intelligence, Jan. 24, 2024, https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-amending-regulation-eu-20211173-regards-eurohpc-initiative-start-ups-boost (last visited Mar. 12, 2024).
Consolidated text: Council Regulation (EU) 2021/1173 of 13 July 2021 on establishing the European High Performance Computing Joint Undertaking and repealing Regulation (EU) 2018/1488, Jul. 19, 2021, https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A02021R1173-20210719 (last visited Mar. 12, 2024).
ALT-EDIC, https://language-data-space.ec.europa.eu/related-initiatives/alt-edic_en (last visited Mar. 12, 2024).
European Digital Infrastructure Consortium (EDIC), Mar. 11, 2024, https://digital-strategy.ec.europa.eu/en/policies/edic (last visited Mar. 12, 2024).
歐盟執委會發布《受禁止人工智慧行為指引》 資訊工業策進會科技法律研究所 2025年02月24日 歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。 壹、事件摘要 歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]： 1. 不可接受風險（Unacceptable risk） 2. 高風險（High risk） 3. 有限風險，具有特定透明度義務（Limited risk） 4. 最低風險或無風險（Minimal to no risk） AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。 貳、重點說明 一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。 （二）禁止施行本行為之前提要件 1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。 2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。 3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。 4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。 5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。 二、AI Act本文第5條1（c）－社會評分行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。 3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。 三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為 （一）概念說明 本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。 3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。 4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。 四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為 （一）概念說明 本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。 3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。 4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。 五、AI Act本文第5條1（f）－情緒辨識行為 （一）概念說明 本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該系統係用於推斷情緒。 3.因果關係：該行為發生於職場或教育訓練機構。 4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。 六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為 （一）概念說明 本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。 3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。 4.因果關係：前述分類依據為其生物辨識資訊。 5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。 七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為 （一）概念說明 本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。 （二）禁止施行本行為之前提要件 1.該行為必須涉及對即時RBI系統的「使用」行為。 2.應用目的：使用目的須為執法需要。 3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。 4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。 參、事件評析 人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。 為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。 [1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025). [2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025). [3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025). [4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。 [5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。 [6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。 [7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。 [8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。 [9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。 [10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).
印度宣布將推出數位印度法案取代過時的資訊科技法印度電子及資訊科技部（Ministry of Electronics and Information Technology, MeitY）於2023年3月展開了一次公開諮詢和協商，介紹了印度政府以創建印度數位技術生態系統為目的而建構的法律新框架，該框架以《數位印度法案》（Digital India Act）為核心，用來取代已有22年歷史的《資訊科技法》（Information Technology Act）。MeitY強調，現行資訊科技法的創立時代背景中不僅缺乏電子商務、社交媒體平台等現代網路服務，甚至印度還未進入數位化時代，因此有必要進行通盤的法規調整，以符合當代和未來的社會變遷和對法規範的需求。 目前《數位印度法案》的草案細節尚未公布，但是MeitY的介紹揭露印度在未來政策中所重視的幾個方向： 1.新的中介類別：重新定義數位經濟產業中的中介機構類別（如數位媒體、搜尋引擎、遊戲、人工智慧、OTT平台、電信服務業者……等），並依據未來的技術發展及產業轉型，適時的調整新的分類。 2.網路犯罪刑事化：將網路犯罪（如網路色情、詐騙、霸凌、身分冒用或未經授權散播個人資料）歸類為刑事犯罪；過去的資訊科技法僅對此類行為予以罰款。 3.問責機制：建立一個線上的民刑事檢舉、審判機構，並且提供方便使用者採取權利救濟措施的線上管道；另外印度政府也將涉及演算法透明度（algorithmic transparency）、人工智慧的定期風險評估（periodic risk assessments）等評估機制納入監管項目的考量中。以建立網路用戶的權利救濟措施及數位服務者提供服務過程中的責任釐清。 4.防壟斷機制：提出開放網路（Open Internet）的概念，認為網路服務應該是具有選擇性的、容許競爭的、多樣性的，在確保網路服務的多樣性和非歧視性及非壟斷性的前提下運作；印度政府希望能夠監理佔有主導地位的廣告平台和應用程式平台，防止市場力量過度集中造成壟斷。 5.年齡門檻：對於未成年人在社交平台、遊戲和賭博程式中的資訊蒐集、資訊安全和隱私保護加以規範，並且避免以鎖定未成年人為對象的資料蒐集機制。 除了以上五點外，MeitY在介紹《數位印度法案》時也表示為了應對現今數位化時代的發展，並且確保公民的權利保障延伸到數位世界中，將承認被遺忘權（right to be forgotten）、不受歧視權（right against discrimination）和數位繼承權（right to digital inheritance）等數位時代中發展出來的權利。另外，將「推動公私部門及個人於使用數位資訊時的相關規範」以及「保護個人資料的資料保護法案」等議題做為評量指標，以做為規劃印度國家數位治理時的重要考量。這些方針都揭示了印度正在試圖踏上更有規模、更安全且可信賴的數位生態系統建置之路，《數位印度法案》的相關發展細節值得再持續關注。
英國政府制定監管計畫以應對科技巨頭帶來的問題英國政府於2022年5月6日宣布將針對大型企業（major firms）壟斷市場的情況制定新的監管計畫。該監管計畫將重新平衡大型與中小企業和消費者的關係，以利中小企業和消費者受到更好的保護，並使市場競爭環境更為公平。 該監管計畫針對的大型企業，即是國際市場上的科技巨頭（tech giants），如Google and Facebook。此類科技巨頭擁有並控制大量用戶的網路資料，並將該資料應用在特定應用程式與瀏覽器的搜尋演算法上，以確保其市場壟斷地位，使潛在的競爭者難以進入市場，進而影響市場的公平競爭以及消費者的自由選擇權。為解決前揭問題，英國預計透過修法賦予競爭和市場管理局下的「數位市場部門」（Digital Markets Unit, DMU）法定權力與監管權限，並搭配措施與作法如下： 強化市場公平性：英國政府預計提出價格糾紛解決機制，平衡內容提供商（如媒體業與廣告業）與科技巨頭間的議價能力，以確保更為公平、透明的市場。此外，科技巨頭亦應將其演算法之資訊分享給一般公司，避免科技巨頭濫用其市場力量。 增進消費者權益：科技巨頭必須確保消費者在使用資訊設備或服務時有充分的自主權與選擇權。例如，於手機的IOS和 Android 系統之間轉換或是社交軟體帳戶之間的資訊移轉時不會喪失其資料和訊息。DMU也將限制公司預先安裝瀏覽器、社交軟體等APP，讓消費者在APP上有更多選擇權。而隨著新業者進入市場，智慧型手機用戶將可以有更多搜尋引擎和社交平台選擇。此外消費者亦可選擇退出具有針對性的個人化廣告發送，以達成讓消費者擁有更多的資料自主權。 為能有效落實上述措施，DMU將有權指定特定企業為具有「戰略市場地位」（strategic market status）的公司。指定標準將依公司的營業額、對消費者的影響力、對市場活動的影響力、公司的活躍程度與規模等綜合評估，檢視其是否達到強大且根深蒂固的力量（substantial and entrenched market power）。DMU並將針對少數主導數位市場的企業應如何公平對待其用戶和其他公司提出行為準則。被指定的公司若違反相關規範，將面臨全球年營業額最高10%的罰款，如果連續違反，則可被處以全球每日營業額5%的額外罰款。 英國政府期待透過新的監管計畫及未來的修法介入市場競爭，促使市場環境更為公平且適於創新，同時讓消費者擁有更多選擇權。英國新監管計畫之實施情形，值得持續關注。
印度競爭委員會因廣義平價義務條款裁罰網路旅行社印度競爭委員會（Competition Commission of India, CCI）於2022年10月19日以違反競爭法（Competition Act）第3條及第4條規定，涉嫌協議限制競爭與濫用市場地位，分別對兩家網路旅行社（online travel agents, OTAs）—MakeMyTrip India Private Limited和Ibibo Group Private Limited（合稱MMT-Go）裁罰22.348億及16.888億印度盧比（約為2600萬和2029萬美金），並要求MMT-Go修改與合作飯店之間的「廣義平價義務條款」，CCI認為「廣義平價義務條款」可能會限制競爭，具有市場地位的業者施行可能造成壟斷，需要個案認定是否違反競爭法。MMT-Go向國家公司法上訴法院（National Company Law Appellate Tribunal, NCLAT）提起救濟，NCLAT於2023年2月23日宣布將對CCI的裁罰進行審理，預計於4月11日舉行庭審。 「平價義務條款」在OTAs和合作飯店間相當常見，是為了要解決搭便車問題，防止飯店從中獲取不公平利益，而平價義務條款分成「狹義」與「廣義」。「狹義平價義務條款」禁止飯店在飯店自身網站以更好的價格與條件進行銷售，因只限制飯店在本身銷售管道的條件，並不影響OTAs之間的競爭。而「廣義平價義務條款」則禁止飯店在其他銷售管道以更好的價格和條件進行銷售，此將減少OTAs之間的競爭。當具有市場地位的OTAs與飯店簽訂「廣義平價義務條款」，因其更為低廉的價格與市場地位，其競爭對手無法與之公平競爭，可能產生壟斷。 此外，歐盟可能有同樣的看法，歐盟委員會於2022年5月新修訂「垂直集體豁免規則」（Vertical Block Exemption Regulation, VBER）將廣義平價義務條款從豁免範圍中刪除，但仍豁免狹義平價義務條款。因為廣義平價義務條款可能限制競爭或造成壟斷，印度與歐盟對於廣義平價義務條款已經做出限制，可能是未來競爭法的國際趨勢，可以作為我國未來相關法規調適之參考。