歐洲議會通過《人工智慧法案》朝向全球首部人工智慧監管標準邁進下一步
歐洲議會通過《人工智慧法案》
朝向全球首部人工智慧監管標準邁進下一步
資訊工業策進會科技法律研究所
2023年06月26日
觀察今年的科技盛事屬ChatGPT討論度最高，將人們從區塊鏈、元宇宙中，帶入人工智慧（AI）領域的新發展。ChatGPT於2022年11月由OpenAI開發的生成式人工智慧，透過深度學習模型，理解和生成自然語言，其功能包含回答各類型問題（如科學、歷史）、生成邏輯結構之文章（如翻譯、新聞標題）、圖形、影像等內容。然而對於人工智慧的發展，究竟如何去處理人機間互動關係，對於風險之管理及相關應用之規範又該如何，或許可從歐盟的法制發展看出端倪。
壹、事件摘要
面對人工智慧的發展及應用，歐盟執委會（European Commission）早在2018年6月成立人工智慧高級專家組（AI HLEG），並於隔年（2019）4月提出「可信賴的人工智慧倫理準則」（Ethics Guidelines for Trustworthy AI），要求人工智慧需遵守人類自主、傷害預防、公平、透明公開等倫理原則。於2021年4月21日歐盟執委會提出「人工智慧法律調和規則草案」（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts）（以下稱人工智慧法案），於2023年內部市場委員會（Internal Market Committee）與公民自由委員會（Civil Liberties Committee）通過並交由歐洲議會審議（European Parliament），最終《人工智慧法案》於2023年6月14日通過。後續將再歐盟理事會（Council of the European Union）與辯論協商，尋求具共識的最終文本[1]。
貳、重點說明
由於「歐盟議會通過」不等於「法案通過」，實際上歐盟立法機制不同於我國，以下透過法案內容說明的契機，概述一般情況下歐盟之立法流程：
一、歐盟立法過程
通常情況下，法案由歐盟執委會（下簡稱執委會）提出，送交歐盟理事會及歐洲議會，作為歐盟的「立法者」歐洲理事會（下簡稱理事會）與歐洲議會（下簡稱議會）將針對法案獨立討論並取得各自機關內之共識。大致上立法程序有可分為三階段，在一讀階段若理事會與議會對於執委會版本無修改且通過，則法案通過，若任一機關修改，則會進行到二讀階段。針對法案二讀若仍無法取得共識，則可召開調解委員會（Conciliation）協商，取得共識後進入三讀。簡單來說，法案是否能通過，取決於理事會與議會是否取得共識，並於各自機關內表決通過[2]。
目前《人工智慧法案》仍處於一讀階段，由於法案具備爭議性且人工智慧發展所因應而生之爭議迫在眉睫，議會通過後將與執委會、理事會進入「三方會談」（Trilogue）的非正式會議，期望針對法案內容取得共識。
二、人工智慧法案
（一）規範客體
《人工智慧法案》依風險及危害性程度分級，其中「不可接受風險」因抵觸歐盟基本價值原則禁止（符合公益目標，如重大或特定犯罪調查、防止人身安全遭受危害等例外許可）。「高風險」則為法案規範之重點，除針對系統技術穩健、資料處理及保存訂有規範外，針對人為介入、安全性等也訂定標準。
而針對高風險之範疇，此次議會決議即擴大其適用範圍，將涉及兒童認知、情緒等教育及深度偽造技術（Deepfake）納入高風險系統，並強調應遵循歐盟個人資料保護規範。此外對於社會具有高影響力之系統或社群平臺（法案以4500萬用戶做為判斷基準），由執委會評估是否列為高風險系統。針對目前討論度高的生成式人工智慧（ChatGPT），議會針對法案增訂其系統於訓練及應用目的上，應揭露其為生成式人工智慧所產出之內容或結果，並摘要說明所涉及之智慧財產權[3]。
（二）禁止項目
關於《人工智慧法案》對於高風險系統之要求，從執委會及理事會的觀點來看，原則上重點在於對弱勢的保護及生物資料辨識之權限。歐盟禁止人工智慧系統影響身理及心理，包含對於特定族群如孩童、身心障礙者等弱勢族群之不平等待遇。同時原則禁止即時遠端的生物辨識利用，包含對於人性分析、動作預測等對於人類評價、分類之應用，例外情況如犯罪調查、協尋失蹤兒童、預防恐怖攻擊、關鍵基礎設施破壞等情況時方被允許。此次議會決議提高禁止即時遠端生物辨識的標準，包含納入敏感資訊的蒐集如性別、種族、政治傾向等，及其他臉部辨識、執法、邊境管制、情緒辨識等項目[4]。
參、事件評析
有關《人工智慧法案》雖歐洲議會已一讀通過，然而後續仍要面對與歐盟理事會的協商討論，並取得共識才能規範整個歐盟市場。因此上述規範仍有變數，但仍可推敲出歐盟對於人工智慧（含生成式）的應用規範態度。在面對日新月異的新興科技發展，其立法管制措施也將隨著橫向發展，納入更多種面向並預測其走向趨勢。因人工智慧有應用多元無法一概而論及管制阻礙創新等疑慮，觀察目前國際上仍以政策或指引等文件，宣示人工智慧應用倫理原則或其風險之管理，偏重產業推動與自律。
觀察歐盟《人工智慧法案》之監管目的，似期望透過其市場規模影響國際間對於人工智慧的監管標準。倘若法案後續順利完成協商並取得共識通過，對於如OpenAI等大型人工系統開發商或社群平臺等，若經執委會評估認定為高風險系統，勢必對於未來開發、應用帶來一定衝擊。因此，歐盟對於人工智慧監管的態度及措施實則牽一髮而動全身，仍有持續觀察之必要。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]The AI Act, Future of Life Institute, https://artificialintelligenceact.eu/developments/ (last visited Jun. 20, 2023)
[2]The ordinary legislative procedure, Council of European Union, https://www.consilium.europa.eu/en/council-eu/decision-making/ordinary-legislative-procedure/ (last visited Jun. 19, 2023)
[3]EU AI Act: first regulation on artificial intelligence, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence (last visited Jun. 21, 2023)
[4]MEPs ready to negotiate first-ever rules for safe and transparent AI, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai(last visited Jun. 21, 2023)
- 零售業個資保護及資訊安全教育講習
- 零售業個資安全宣導暨安全維護計畫規劃說明會
- (已額滿)114年「企業營業秘密保護實務座談會」(北部場)–營業秘密因應數位環境之保護風險及管理對策
- 數位經濟時代的隱私保護與商機－CBPR跨境隱私規則體系解析
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 零售業個資安全宣導暨安全維護計畫說明會（高雄場）
- 零售業個資安全宣導暨安全維護計畫說明會（台中場）
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 零售業個資法遵實務與資訊安全說明會
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 零售業個資法遵實務與資訊安全說明會（台中場）
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
王凱嵐
法律研究員 編譯整理
2020年7月澳洲競爭及消費者委員會(Australian Competition and Consumer Commission, ACCC)正式對Google提告，針對Google於2016年的一項個資改變政策的內容，以誤導的方式取得用戶同意，而擴大使用個資範圍的行為。 於2016年，Google希望透過在其帳戶中所取得的個資，連結到用戶在非Google網頁中的瀏覽紀錄，如此Google將能夠依據這些資訊，更準確的在其他網站中投放廣告，以提升廣告費收入。為結合用戶於Google及其他網站的資料，Google需更改原本的個資隱私政策，然而事實上Google並沒有實際取得用戶對於此項改變的同意，反而以類似服務改進的通知：「我們為您的帳戶加入了一些可選擇性的功能，讓您能更好掌控Google所蒐集的資訊及使用方式，同時允許Google向您展示相關的廣告」等文字，誤導用戶藉以徵得用戶對個資政策改變的同意。 雖然Google承諾於2022年後，逐步移除Chrome瀏覽器中第三方Cookie的啟用，此動作將會阻止其他網站透過網路，追蹤到Google用戶的瀏覽紀錄，但由於目前Google還是依據用戶的瀏覽紀錄，針對用戶的特定偏好投放廣告來賺取收益，因此這種廣告模式短期內不太可能有所改變。若ACCC在這次與Google的訴訟中勝訴，那表示未來業者對於取得客戶同意(包括收集使用個資)的方式，從原本習慣使用概括性描述並隱藏使用個資真正目的等用語，來取的客戶同意的模式將有所改變。
日本通過數位社會形成基本法日本國會於2021年5月12日，通過由内閣官房資通訊技術總合戰略室提出之數位社會形成基本法（デジタル社会形成基本法）。數位社會之形成，將有助於提升國際競爭力與國民便利性，因應少子化、高齡化與其他重要課題，本法之立法目的係為推動數位社會形成，使日本國內經濟健全發展，幫助國民幸福之實現。 本法之重點概如下述： 數位社會之定義係指藉由先進資通訊技術，適當有效活用各式各樣大量之電磁紀錄資訊，使各領域均得創新蓬勃發展之社會。 數位社會形成之理念係為了使國民生活能切實感受到寬裕和富足，實現國民得安全安心生活之社會，降低數位落差，並確保在數位社會下，個人與法人權利以及其他法律所保護之利益。 國家須制定數位社會形成之政策，具體包含確保高度資訊通訊網路與資通訊技術之可及性、整合國家與地方自治團體資訊系統、使國民得活用國家與地方自治團體之資訊、建立公部門基礎資訊資料庫、確保資通安全等。 為形成數位社會，明定國家、地方政府及企業之相關責任義務。 依數位廳設置法設置由內閣管轄之數位廳，並制定數位社會形成相關之重點計畫。 廢止高度資通訊網路社會形成基本法（IT基本法），以數位社會形成基本法為新資通訊技術戰略。
美國欲修改HIPAA規則以促進「整合醫療照護」，並發表公眾意見徵詢書美國《健康保險可攜性及責任法》（HIPAA）係「保護個人電子醫療資訊隱私」的法規。其「受規範對象」（Covered Entity）為：使用電子方式傳送任何醫療資訊的醫療計畫、健康資訊處理機構（Health Care Clearinghouses）或醫療照護提供者。2018年12月14日，美國衛生及公共服務部（下稱：官方）發表〈公眾意見徵詢書：修改HIPAA規則以促進整合醫療照護〉（Request for Information on Modifying HIPAA Rules to Improve Coordinated Care），擬修正方向如下： （一）促進醫療行為、整合醫療照護、專案管理的資料分享 HIPAA原先僅允許受規範機關在醫療行為、支付、營運中揭露受保護健康資訊（PHI）。然而，這並不包含醫療照護或專案管理。官方傾向修法讓醫療照護或專案管理成為允許揭露PHI的情形。同時，也希望修法讓PHI的取得更具時效性，以利於病歷在受規範對象間的流通。 （二）推動親友參與解決當事人鴉片類藥物成癮和精神疾病問題 HIPAA允許受規範對象在特定條件下，向照護者（Caregiver）揭露PHI，包含緊急狀況，也包含嚴重的精神疾病。然而，許多受規範對象因為擔心違反HIPAA，而不願通知當事人的親友。這種狀況相當不利於整合醫療照護和專案管理的發展。目前官方尚未研擬出具體改善方法，希望外界可以提出方案。 （三）會計資料的揭露以存取報告代替 在當事人申請下，受規範對象或其商業夥伴應提供近六年內與PHI相關的會計資料。然而，許多受規範對象的系統無法分離出應提供給當事人的部分，只好提供整份會計資料，因而造成龐大負擔。官方擬修法，只提供當事人「存取報告」（Access Report），該報告會載明誰曾經存取電子紀錄。 （四）隱私權行為通知（Notice of Privacy Practices） 受規範對象在許多狀況下，需取得當事人隱私權行為通知的書面同意書，這次的修法希望可以減少書面同意，以利於受規範對象發展整合醫療照護。
美國商務部發佈智財權活動對美國經濟影響之綜合報告美國商務部發佈智財權活動對美國經濟影響之綜合報告 科技法律研究所 法律研究員 曾文怡 101年5月16日 壹、事件摘要 美國商務部於今年3月發佈一份委由其所屬之「經濟統計局（Economics and Statistics Administration，ESA）」和「美國專利商標局（United States Patent and Trademark Office，USPTO）」共同執行的調查報告：「智慧財產和美國的經濟：產業焦點（Intellectual Property and the U.S. Economy: Industries in Focus）」。 報告除界定所選研究標的313種行業別中，共75種被認定為「智財密集型行業（IP-intensive industries）」；而這些「智財密集型行業」為美國帶來至少4千萬筆就業機會、超過5兆美元產值，佔美國GDP高達34.8%。 貳、報告重點摘要 一、「智財密集型產業」的篩選 此報告採用美國USPTO相關的行政數據，用以確認（identify）最密集利用商標、專利所提供的保護之行業；著作權方面，則係以是否主要為創作或生產受著作權保護素材，加以認定。以標準統計方法用以確認（identify）哪些美國行業（industries）是最具專利、商標及著作權密集型（intensive），並統稱為「智財密集型產業」。 (一)以該行業平均每人擁有專利數認定專利密集型行業 美國使用各美國行業標準分類 (North American Industry Classification System, NAICS) 於2004-2008這五年間的專利總數與該行業的平均就業人口的比例來測量行業的專利密集型： Measure of industry patent “intensity” = total patents over the five years in a NAICS category / average payroll employment by industry 就業人口能夠展現一個行業的大小，並確保各行業在比較時是公平的 (even playing field) 。最具專利密集型的行業並不是擁有最多專利，而是在該行業一個職位有最多專利 (patents per job) 。若專利/職位比例高於所有行業的平均值，則該行業將被認定為專利密集型的行業。 (二)以商標登記數統計資料認定商標密集型行業 有鑑於一個商標通常會同時登記於好幾個不同的類別下，因此在此統計的方式將以類別為單位，而非商標。美國使用了3種方式來認定商標密集型的行業 (three-pronged approach) ： 1.平均每人擁有商標數密集的行業 比照專利的方式，以商標登記與行業就業人口比例來測量商標密集性，首先過濾出屬於上市公司的商標登記，並比對該公司公開資訊中 (Compustat 資料庫 ) 的主要產業及員工人數，因為Compustat資料庫有包含公司的NAICS行業類別，如此就可以取得行業的商標登記數及就業人口數並計算該行業之比例。 2.前50家商標登記最多企業 (Top 50 Trademark-Registering Companies) 利用USPTO發佈的前50家商標登記最多企業名單 ( 不同於第一種方式將包含上市與非上市公司 ) ，並利用付費的OneSource資料庫找出這些企業的 NAICS 行業類別，並統計各行業在前50家企業名單中出現的次數，一個行業出現超過5次以上將被認定為商標密集型。 3.隨機取樣 (Random Sample of Trademark Registrations) 從2010年所有在登記的商標隨機抽樣300件，其中196件為美國公司申請登記，針對這196家企業試圖找出其NAICS行業類別，行業類別若有超過5筆商標登記，將被視為商標密集型。 上述三種方式總共產出60個商標密集型行業，同時使用三種方式係希望能夠彌補一種方式可能有的缺點，例如商標密集型方式可能會低估某些產業或忽略到較小型或沒有上市的企業，這部分由第二種及第三種方式試圖彌補。 最後被認定出為商標密集型的行業也與Interbrand的品牌排行作比較 (Best Global Brands in 2010) ，以確認被認定為最具品牌價值的企業是否屬於商標密集型的行業，此研究找出品牌排行中的企業的NAICS行業類別，並與之前被認定為商標密集型的行業作比對，發現具相當的重疊性。 二、以WIPO核心著作權產業標準界定著作權密集型行業 美國有關著作權產業的界定，主要根據WIPO於2003年發佈之「著作權產業經濟貢獻調查報告（Guide on Surveying the Economic Contribution of the Copyright-based Industries）」以及 Stephen Siwek 發表之「著作權產業對美國經濟之影響報告（Copyright Industries in the U.S. Economy）」。亦即，報告採用WIPO所界定之「核心著作權產業（core copyright industries）」作為其認定何謂「著作權密集產業」的基礎，再將單純只以銷售（distribution）受著作權保護客體為目的之行業加以排除。 三、「智財密集型產業」是驅動美國經濟發展的重要引擎 根據報告，「智財密集型產業」在2010年的產值超過5兆美元，佔美國GDP高達34.8%；同年「智財密集型產業」的貨物出口總金額約7億750萬美元，佔全部貨物出口總額的60.7%。另外，智財密集型的國際服務貿易相關數據資料雖有限，但研究者仍發現在2007年，智財密集型的國際服務貿易約佔全美民營企業服務貿易額的19%。 四、「智財密集型產業」提供至少 4 千萬個就業機會 2010年全美至少有4千萬筆工作，是直接或間接與「智財密集型行業」相關，佔所有工作機會的27.7%。其中直接相關者的從業人數約2,710萬人，佔所有工作機會18.8%；而與「智財密集型行業」間接相關的從業人數約1,290萬人。換句話說，每2個與「智財密集型行業」直接相關的就業機會，就帶來1個額外的工作機會。 五、「智財密集型產業」薪資待遇、教育水準優於其他行業 「智財密集型產業」的平均週薪在2010年為1,156美元，高出其他民營產業別的815美元約42%。其中又以專利及著作權密集產業的薪資成長幅度較高，專利密集行業的薪資從2005年的66%，成長到2010年的73%；著作權密集行業的薪資從2005年的65%，成長到2010年的77%。 而相對高的薪資待遇又與IP密集型行業的教育背景有關。據2010年的統計資料，超過42%的25歲從業人員係具有大專院校學歷，高於其他非IP密集型行業的34%。 參、事件評析 一、我國應建立智財密集行業界定標準並建立數據資料庫，以利掌握產業智財發展動向 智財法令可以保護發明者、創作者免於盜版之害，鼓勵其持續創新，維持競爭優勢，並確保智財權交易、流通市場得以順利運作。但智財保護的界線設定，也相對的影響創新、創意是否有足夠的發展空間，一套經過衡平設計的智財權，影響國家產業經濟甚鉅。 然而如何設計出衡平的法令，並非只須單純的以正義公理做邏輯推論，同時也須仰賴大量統計資料的數據分析，以調查實際運用情形，才能在智財保護體系分寸拿捏之際有所依據。美國商務部的報告開宗明義便指出，必須透過大量數據資料的分析，方能掌握智財在所謂的「智財密集型行業」所扮演的角色。 我國目前在建立智財相關數據資料庫面向，基礎建設不足，無法分析預估產業的發展趨勢及經濟特性，亦不能評估智財對於我國經濟的貢獻程度影響，肇致智財相關政策的立論說明欠缺實證，實應立即著手整備建置相關數據資料庫。 二、推動著作識別碼與存證登記並建立誘因，是評估我國著作權密集型產業經濟貢獻統計分析模式的核心措施 全球經濟發展重心已轉移到音樂、影視、遊戲等文化創意產業，權利別亦跳脫專利權而與著作權息息相關。從韓國等國家智財戰略的方向亦可發現，有賴政策擬訂與相關推動措施，實現以著作權為核心的產業結構。 但從報告中可看出，相較於專利、商標，著作權相關的數據資料較為不足。究其原因，或與著作權採創作保護主義，毋須進行註冊、登記程序有關。由於我國著作權法亦採創作保護主義，且未有存證登記管道，建議可參酌美國、韓國、中國大陸等著作權法與權利登錄有關之規定，並提供登錄者相關誘因，作為我國著作權產業相關統計指標及資料庫之基礎。 而除規劃推動著作物登記制度外，為降低網路侵權對產業經濟造成損害，應一併研議著作物來源識別機制，利用單一著作物內容識別碼，來協助交易雙方經由識別碼查證著作物之來源與權利歸屬，降低著作權授權之風險。同時開發追蹤非法重製物流通之系統，協助權利人進行侵權證據之蒐集與保全，以健全的著作權交易機制，作為發展我國文創軟實力之後盾。 三、確保研發創作者的智財受到有效保護，是促進創新活動、智財交易流通、帶動經濟發展的根本基礎 此報告於一開始即特別指出，專利、商標及著作權提供企業和個人創作者，將無形的發明、創意轉化為實質經濟利益之法律基礎，而一個國家的智財保護機制將連帶影響其整體經濟的商業活動，包括：提供驅動發明、創作的誘因、保護創新者免於未經授權之利用、促進技術市場之垂直分工、媒合資金與創新活動、透過併購及首次公開發行股票 (IPO) ，支援創業初期階段企業資產的流動性及成長、實現以技術授權為基礎的商業模式、促使技術移轉市場與技術及創意交易市場得以更有效率的運作。 為保護研發創作者的權益，國外已有許多國家採取積極主動的措施，例如：韓國為維護韓國業者著作權海外交易秩序及提升交易雙方的信賴，於2012年1月11日指定其所屬的韓國著作權委員會（Korea Copyright Commission）作為著作權認證業務之專責機關，負責推動著作權認證制度。於今年以輸出海外市場 ( 中國等 ) 之音樂、電影、電視劇等內容，作為第一階段著作權認證對象，並提供免手續費之優惠。韓國著作權委員會並設置數位著作交易所 ( 網站 ) ，著作 ( 權 ) 人可將其著作之權利相關資訊登錄至數位著作交易所的「著作權資訊管理系統 (Copyright Integrated Management System，簡稱 CIMS) 」上，CIMS就會給予該著作一組ICN識別碼，讓公眾便於取得授權。韓國文化體育觀光部與特許廳也分別開發有非法重製物及仿冒品之線上追蹤系統，由該二套系統主動蒐集、分析相關侵權資料後，協助權利人交由檢調相關單位採取管制措施。 但回頭檢視我國情況，同樣面臨降低著作權交易可能衍生紛爭之需求，卻沒有著作權官方存證管道，更遑論給予著作權認證制度與重製物及仿冒品之線上追蹤協助。未來著實應該借鏡韓國作法，規劃推動符合我國產業發展需求的著作權保護機制。 報告原文：The full report can be found online at http://www.uspto.gov/news/publications/IP_Report_March_2012.pdf