問題在號碼？（下）---談網路電話服務（VoIP）號碼核配與網路互連管制問題
歐盟執委會發布《受禁止人工智慧行為指引》 資訊工業策進會科技法律研究所 2025年02月24日 歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。 壹、事件摘要 歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]： 1. 不可接受風險（Unacceptable risk） 2. 高風險（High risk） 3. 有限風險，具有特定透明度義務（Limited risk） 4. 最低風險或無風險（Minimal to no risk） AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。 貳、重點說明 一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。 （二）禁止施行本行為之前提要件 1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。 2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。 3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。 4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。 5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。 二、AI Act本文第5條1（c）－社會評分行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。 3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。 三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為 （一）概念說明 本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。 3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。 4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。 四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為 （一）概念說明 本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。 3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。 4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。 五、AI Act本文第5條1（f）－情緒辨識行為 （一）概念說明 本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該系統係用於推斷情緒。 3.因果關係：該行為發生於職場或教育訓練機構。 4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。 六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為 （一）概念說明 本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。 3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。 4.因果關係：前述分類依據為其生物辨識資訊。 5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。 七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為 （一）概念說明 本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。 （二）禁止施行本行為之前提要件 1.該行為必須涉及對即時RBI系統的「使用」行為。 2.應用目的：使用目的須為執法需要。 3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。 4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。 參、事件評析 人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。 為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。 [1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025). [2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025). [3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025). [4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。 [5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。 [6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。 [7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。 [8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。 [9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。 [10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).
因應2020年社會實現自動駕駛，日本訂定自動駕駛制度整備大綱日本IT綜合戰略本部及官民資料活用推進本部於4月17日公佈「自動駕駛制度整備大綱」。大綱設定2020年至2025年間，日本社會實現自動駕駛下，所需檢討修正之關連法制度。 本大綱中，係以2020年實現自動駕駛至等級4為前提（限定場所、速度、時間等一定條件下為前提，系統獨自自動駕駛之情形），以在高速公路及部分地區之道路實現為條件設定。社會實現自動駕駛有以下課題需克服： 道路交通環境的整備：以自駕系統為行駛，一般道路因為環境複雜，常有無法預期狀況發生，導致自駕車的電腦系統無法對應。 確保整體的安全性：依據技術程度，設定一般車也能適用之行駛環境、設定車輛、自動駕駛之行駛環境條件以及人之互相配合，以達成與一般車相同之安全程度為方針下，由關係省廳間為合作，擬定客觀之指標。此一指標，並非全國一致，應就地方之特性，設定符合安全基準及自動駕駛行駛環境條件，建構整體確保安全之體制。 防止過度信賴自駕系統：訂定安全基準，使日本事件最先端自動車技術擴及於世界，訂定包含自駕系統安全性、網路安全等自動駕駛安全性要件指針。 事故發生時之法律責任：自動駕駛其相關人為駕駛人、系統製造商、道路管理者等多方面，其法律責任相對複雜化。現在係以被害人救濟觀點，至等級4為止之自動駕駛，適用自動車損害賠償責任險（強制責任險）方式，但是民法、刑法及行政法等法律全體之對應，仍為今後之課題，必須為早期快速處理。為了強化民事責任求償權行使、明確刑事責任之因果關係、並實現車輛安全性確保、避免所有人過度負擔等，車輛行駛紀錄器之裝置義務化、事故原因究明機制等，關係機關應合作為制度檢討。 本大綱最後並提出，在自動駕駛技術快速發展下，就其發展實際狀況應為持續半年1次召開會議檢討檢討。
以色列發布人工智慧監管與道德政策以色列創新、科學及技術部（Ministry of Innovation, Science and Technology）於2023年12月17日公布以色列首個關於人工智慧的監管和道德政策，在各行各業將人工智慧作為未來發展方向的趨勢下，以多元、協作、原則、創新的理念為其導向，為了化解偏見、人類監督、可解釋性、透明度、安全、問責和隱私所帶來的衝擊，以色列整合政府部門、民間組織、學術界及私部門互相合作制定政策，以求解決人工智慧的七個挑戰，帶領以色列與國際接軌。 該人工智慧政策提出具體政策方向以制定措施，其中具有特色的三項為： 1. 軟性監管：人工智慧政策採取軟性監管制度，以OECD人工智慧原則（OECD AI Principles）為基礎，採行制定標準、監督與自律等方式促進人工智慧永續發展，注重以人為本的道德原則，強調創新、平等、可靠性、問責性。 2. 人工智慧政策協調中心（AI Policy Coordination Center）：邀集專家學者成立跨部門的人工智慧政策協調中心，進行人工智慧政策研議，向政府部門監管提出建言，為人工智慧的開發使用建立風險管理，並代表國家參與國際論壇。 3. 公眾參與及國際合作：政府機關與監管機構舉辦人工智慧論壇，提出人工智慧的議題與挑戰，邀請相關人士參與討論，並積極參與國際標準制定，進行國際合作。 我國科技部在2019年邀集各領域專家學者研議提出「人工智慧科研發展指引」，強調以人為本、永續發展、多元包容為核心，以八大指引為標竿，推動人工智慧發展。我國已有跨部會溝通會議對於人工智慧法制政策進行研討，可觀察各國軟性監管措施作為我國人工智慧風險管理及產業政策參考，與國際脈動建立連結。
日本智慧財產推進計畫2015分析（下）日本智慧財產推進計畫2015分析（下） 資策會科技法律研究所 法律研究員 蘇彥彰 104年10月28日 日本智慧財產戰略本部於今年6月19日所公布的「智慧財產推進計畫2015」[1]，係以智慧財產的創造、保護、活用及三者間的有效連接作為宗旨，並以少子高齡化與地方經濟衰退、智財糾紛處理機制的使用狀況和便利性、以及內容產業海外拓展的潛力及對智財戰略之重要性為背景，提出三項核心議題並分別剖析其現狀課題及主管部會應努力之方向，本文以下針對第三項議題「推動內容產業及週邊產業整體性的海外拓展」介紹如下： 三、推動內容產業及週邊產業整體性的海外拓展 （一）現狀與課題 動畫、漫畫、電影、音樂、遊戲、電視節目等內容產業的海外發展，不僅可以增加內容產業本身的海外銷售數字，同時可以藉由吸引更多日本內容產業迷群（ファン），活用內容產業所形塑之整體風格及日本國家形象，透過拓展其他各類業種的海外市場並提升訪日觀光客的數量等，期待內容產業帶動經濟及文化間的相乘效果。然而今年度推進計畫中亦指出，目前日本的內容產品海外銷售市場規模並未十分穩固，即使是與日本文化、經濟關係較深厚的亞洲諸國，除了動漫畫等部分領域外，市場調查的結果都落於歐美、韓國之後。 遊戲產業方面，雖然和其他日本內容產業相比有較大的海外市場規模，但以全球高達數兆日幣的遊戲市場而言，仍然持續面臨中國、美國等之激烈競爭，市場地位尚未見穩固；從另一個角度觀察，日本國內內容產業規模雖然近年來未見成長，仍具備每年12兆日幣的水準[2]，相比之下目前日本內容產業的海外收入及輸出額均屬微小，應可認為尚有充分的成長空間。 （二）今後施政方向 日本智財戰略本部為求能使內容產業（特別是影視產業）更進一步打入海外市場，提高影響力並帶動周邊產業及觀光人數之提升，提出以下施策方向供主管部會遵循； 1、「配合海外當地市場喜好進行內容產品的製作」：與當地的文化、需求結合，製作使海外市場容易接受的數位內容，例如與熟知當地需求的在地電視台等進行合作，從製作階段就先行瞭解海外市場的視聽型態與動向，而對於目前已既存的電視、電影、音樂、動畫、遊戲等內容產品，則持續透過翻譯、配音、字幕製作等方式進行在地化，針對電視節目於海外其他國家播送所牽涉到的相關法律上權利處理，也需要提出更加迅速而有效率的對應作法； 2、「內容產業海外市場的持續拓展」：由於各地海外市場與日本間的物價差別，內容產品若透過單純的銷售方式不易取得滿意的銷售成績，有必要持續與熟知當地宣傳模式的業者建立合作關係，透過廣電頻道和現場活動的辦理，持續進行市場的拓展並增加曝光度； 3、「內容產業與相關產業間的合作」：目前透過J-LOP（「ジャパン・コンテンツ ローカライズ＆プロモーション支援助成金」）[3]支援辦理的海外市場宣傳活動多為單次性而缺乏整體規劃，必須透過各同類、異類產業間的合作，提出能吸引更高注目度的宣傳手法並促成彼此間的相乘效果。 （三）小結 近年來文化創意產業的成長力受到各界廣泛的矚目，而為開拓文創市場商機，政府除陸續舉辦國際級文創產業博覽會外，並且協助業者參與各種國際型會展活動以進行國際拓展，包括「文化創意產業國際拓展計畫」及「國際及兩岸文化創意產業組織搭橋計畫」等，均有效深化與國際通路間合作關係，後續採購金額均達數億元[4]。 然而若從內外銷角度來看，我國文化創意產業營業額主要仍來自於內銷收入，以2013年為例，內銷收入占總營業額的90.8%，較2012年增加1.16%，近六年之內銷收入更持續呈現擴大趨勢，2013年之成長率達4.14%[5]，顯見我國文創產業仍高度偏重內銷，外銷市場不僅嚴重偏低且呈下滑走勢。 我國文創產業政府及民間業者多年努力下雖已逐漸成熟茁壯，但眼前仍需主管機關在產業發展上提出相關獎勵措施和補助辦法，掃除不利文創出口外銷的障礙，並協助業者大力開拓海外市場以改變目前高度仰賴內銷市場之情況。就此，前揭日本智財推進計畫中所提出現況檢討和施政方針作法，應可作為我國之借鏡和參考。 四、結語 日本自2003年7月由「智慧財產戰略本部」[6]發布第一份「關於智慧財產創造、保護、活用推進計畫」[7]後，每年均依智慧財產基本法第23條[8]之規定就計畫內容進行檢討與更新，而今年度的「智慧財產推進計畫2015」除仍以智慧財產的創造、保護、活用及三者間的有效連接作為宗旨外，日本內閣總理大臣安倍晉三並於今年4月14日主持智慧財產戰略本部會議時明確指出[9]，包括各先進國及新興國家在內，就智財領域的競爭正日漸增強，日本為強化國際競爭力，有必要持續進行智財戰略構策，將日本高度的技術實力和豐富的文化資產進行結合以開創新的商業契機。 我國行政院於2012年核定通過「智財戰略綱領」[10]，期望透過經濟部、文化部、農委會及科技部規劃與推動六項行動計畫，積極引領產學研各界提升智財創造的品質，其中「戰略重點2：強化文化內容利用」項下「強化流通運用及防止非法利用」、「戰略重點4：活化流通學界智財」項下「提高學界成果產業化環境」及「戰略重點5：落實智財流通及保護體制」項下「強化智財訴訟支援與因應能力」、「佈建具多元彈性及戰略性的智財營運組織」等宗旨及內容，均與前述日本之「推動地方智財的活用」、「活化智財紛爭處理機制」、「推動內容產業及週邊產業整體性的海外拓展」三項核心議題相仿，其規劃方向和政策內容可供主管機關分析研究之。 [1] 〈知的財産推進計画2015〉，知的財産戦略本部，http://www.kantei.go.jp/jp/singi/titeki2/kettei/chizaikeikaku20150619.pdf（最後瀏覽日：2015/08/14） [2] 経済産業省，〈コンテンツ産業の現状と今後の発展の方向性〉，頁2（2015）http://www.meti.go.jp/policy/mono_info_service/contents/downloadfiles/1507shokanjiko.pdf（最後瀏覽日：2015/10/16） [3] 全名為「日本內容產業在地化和行銷協力輔導金」，總額約155億日幣，申請期間自2013年3月19日起自2015年2月28日止，是日本為求內容產業的海外拓展，針對「在地化」和「行銷」進行協助，透過對海外傳播日本內容產品提供輔導，以創造「哈日風潮」、促進觀光並擴大相關產業的海外市場為目的的輔導金，詳情可參http://j-lop.jp/about/（最後瀏覽日：2015/08/13） [4] 文化部，〈2014臺灣文化創意產業發展年報〉，頁30（2014）。 [5] 同前註，頁17。 [6] 日本「知的財産戦略本部」網站，http://www.kantei.go.jp/jp/singi/titeki2/（最後瀏覽日：2015/08/14）。 [7] 《知的財産の創造、保護及び活用に関する推進計画》，知的財産戦略本部，http://www.kantei.go.jp/jp/singi/titeki2/kettei/030708f.html（最後瀏覽日：2015/08/14）。 [8] 知的財産基本法（平成十四年十二月四日法律第百二十二号）第二十三条：「知的財産戦略本部は、この章の定めるところにより、知的財産の創造、保護及び活用に関する推進計画（以下「推進計画」という。）を作成しなければならない。……」 [9] 〈安倍総理の御発言（知的財産戦略本部）【平成27年4月1 4日】〉，知的財産戦略本部，http://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kensho_hyoka_kikaku/2015/dai11/sankou1.pdf（最後瀏覽日：2015/10/28） [10] 〈智財戰略綱領〉，經濟部技術處，https://www.moea.gov.tw/MNS/doit/content/Content.aspx?menu_id=13453（最後瀏覽日：2015/10/29）