歐洲議會通過《人工智慧法案》朝向全球首部人工智慧監管標準邁進下一步
歐洲議會通過《人工智慧法案》
朝向全球首部人工智慧監管標準邁進下一步
資訊工業策進會科技法律研究所
2023年06月26日
觀察今年的科技盛事屬ChatGPT討論度最高，將人們從區塊鏈、元宇宙中，帶入人工智慧（AI）領域的新發展。ChatGPT於2022年11月由OpenAI開發的生成式人工智慧，透過深度學習模型，理解和生成自然語言，其功能包含回答各類型問題（如科學、歷史）、生成邏輯結構之文章（如翻譯、新聞標題）、圖形、影像等內容。然而對於人工智慧的發展，究竟如何去處理人機間互動關係，對於風險之管理及相關應用之規範又該如何，或許可從歐盟的法制發展看出端倪。
壹、事件摘要
面對人工智慧的發展及應用，歐盟執委會（European Commission）早在2018年6月成立人工智慧高級專家組（AI HLEG），並於隔年（2019）4月提出「可信賴的人工智慧倫理準則」（Ethics Guidelines for Trustworthy AI），要求人工智慧需遵守人類自主、傷害預防、公平、透明公開等倫理原則。於2021年4月21日歐盟執委會提出「人工智慧法律調和規則草案」（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts）（以下稱人工智慧法案），於2023年內部市場委員會（Internal Market Committee）與公民自由委員會（Civil Liberties Committee）通過並交由歐洲議會審議（European Parliament），最終《人工智慧法案》於2023年6月14日通過。後續將再歐盟理事會（Council of the European Union）與辯論協商，尋求具共識的最終文本[1]。
貳、重點說明
由於「歐盟議會通過」不等於「法案通過」，實際上歐盟立法機制不同於我國，以下透過法案內容說明的契機，概述一般情況下歐盟之立法流程：
一、歐盟立法過程
通常情況下，法案由歐盟執委會（下簡稱執委會）提出，送交歐盟理事會及歐洲議會，作為歐盟的「立法者」歐洲理事會（下簡稱理事會）與歐洲議會（下簡稱議會）將針對法案獨立討論並取得各自機關內之共識。大致上立法程序有可分為三階段，在一讀階段若理事會與議會對於執委會版本無修改且通過，則法案通過，若任一機關修改，則會進行到二讀階段。針對法案二讀若仍無法取得共識，則可召開調解委員會（Conciliation）協商，取得共識後進入三讀。簡單來說，法案是否能通過，取決於理事會與議會是否取得共識，並於各自機關內表決通過[2]。
目前《人工智慧法案》仍處於一讀階段，由於法案具備爭議性且人工智慧發展所因應而生之爭議迫在眉睫，議會通過後將與執委會、理事會進入「三方會談」（Trilogue）的非正式會議，期望針對法案內容取得共識。
二、人工智慧法案
（一）規範客體
《人工智慧法案》依風險及危害性程度分級，其中「不可接受風險」因抵觸歐盟基本價值原則禁止（符合公益目標，如重大或特定犯罪調查、防止人身安全遭受危害等例外許可）。「高風險」則為法案規範之重點，除針對系統技術穩健、資料處理及保存訂有規範外，針對人為介入、安全性等也訂定標準。
而針對高風險之範疇，此次議會決議即擴大其適用範圍，將涉及兒童認知、情緒等教育及深度偽造技術（Deepfake）納入高風險系統，並強調應遵循歐盟個人資料保護規範。此外對於社會具有高影響力之系統或社群平臺（法案以4500萬用戶做為判斷基準），由執委會評估是否列為高風險系統。針對目前討論度高的生成式人工智慧（ChatGPT），議會針對法案增訂其系統於訓練及應用目的上，應揭露其為生成式人工智慧所產出之內容或結果，並摘要說明所涉及之智慧財產權[3]。
（二）禁止項目
關於《人工智慧法案》對於高風險系統之要求，從執委會及理事會的觀點來看，原則上重點在於對弱勢的保護及生物資料辨識之權限。歐盟禁止人工智慧系統影響身理及心理，包含對於特定族群如孩童、身心障礙者等弱勢族群之不平等待遇。同時原則禁止即時遠端的生物辨識利用，包含對於人性分析、動作預測等對於人類評價、分類之應用，例外情況如犯罪調查、協尋失蹤兒童、預防恐怖攻擊、關鍵基礎設施破壞等情況時方被允許。此次議會決議提高禁止即時遠端生物辨識的標準，包含納入敏感資訊的蒐集如性別、種族、政治傾向等，及其他臉部辨識、執法、邊境管制、情緒辨識等項目[4]。
參、事件評析
有關《人工智慧法案》雖歐洲議會已一讀通過，然而後續仍要面對與歐盟理事會的協商討論，並取得共識才能規範整個歐盟市場。因此上述規範仍有變數，但仍可推敲出歐盟對於人工智慧（含生成式）的應用規範態度。在面對日新月異的新興科技發展，其立法管制措施也將隨著橫向發展，納入更多種面向並預測其走向趨勢。因人工智慧有應用多元無法一概而論及管制阻礙創新等疑慮，觀察目前國際上仍以政策或指引等文件，宣示人工智慧應用倫理原則或其風險之管理，偏重產業推動與自律。
觀察歐盟《人工智慧法案》之監管目的，似期望透過其市場規模影響國際間對於人工智慧的監管標準。倘若法案後續順利完成協商並取得共識通過，對於如OpenAI等大型人工系統開發商或社群平臺等，若經執委會評估認定為高風險系統，勢必對於未來開發、應用帶來一定衝擊。因此，歐盟對於人工智慧監管的態度及措施實則牽一髮而動全身，仍有持續觀察之必要。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]The AI Act, Future of Life Institute, https://artificialintelligenceact.eu/developments/ (last visited Jun. 20, 2023)
[2]The ordinary legislative procedure, Council of European Union, https://www.consilium.europa.eu/en/council-eu/decision-making/ordinary-legislative-procedure/ (last visited Jun. 19, 2023)
[3]EU AI Act: first regulation on artificial intelligence, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence (last visited Jun. 21, 2023)
[4]MEPs ready to negotiate first-ever rules for safe and transparent AI, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai(last visited Jun. 21, 2023)
- 【2023科技法制變革論壇】AI生成時代所帶動的ChatGPT法制與產業新趨勢
- 製造業及技術服務業個資保護及資安落實－經濟部工業局112年企業個人資料保護暨資訊安全宣導說明會
- 【已額滿】2023科技研發法制推廣活動—科專個資及反詐騙實務講座
- 「跨域數位協作與管理」講座活動
- 新創採購-政府新創應用分享會
- 【實體】數位發展部數位經濟相關產業個資安維辦法說明會（南部場）
- 【線上】數位發展部數位經濟相關產業個資安維辦法說明會（南部場）
- 數位發展部數位產業署113年資訊服務業安維計畫常見問題分享說明會
- 【線上場】113年「新創採購機制及鼓勵照護機構參與推動」說明會
- 【北部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【南部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 商業服務業個資保護宣導說明會
- 個人資料保護新思維企業法遵論壇
- 113年新創採購-照護機構獎勵說明會
- 【南部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【北部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【中部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【實體】2024科技研發法制推廣活動— 科專個資及反詐騙實務講座
- 【直播】2024科技研發法制推廣活動— 科專個資及反詐騙實務講座
- 【臺北場】113年度新創採購-招標作業廠商說明會
- 【臺中場】113年度新創採購-招標作業廠商說明會
- 【高雄場】113年度新創採購-招標作業廠商說明會
- 中部場–商業服務業個資保護工作坊
- 南部場–商業服務業個資保護工作坊
- 北部場–商業服務業個資保護工作坊
- 品牌企業商標管理實務課程
- 數位發展部數位產業署113年資訊服務業者個資安維辦法宣導說明會
- 【北部場】營業秘密保護實務座談會
- 電商零售業法制宣導說明會暨產學研座談會
- 零售業個資保護宣導暨座談會
- 零售業個資保護及資訊安全教育講習
- 零售業個資保護及資訊安全教育講習
王凱嵐
法律研究員 編譯整理
歐盟資料保護委員會（European Data Protection Board, EDPB）於2023年12月13日回覆歐盟執行委員會（European Commission, EC）有關Cookie協議原則草案（Cookie Draft Pledge Principles）之諮詢。該草案旨在處理「Cookie疲勞」（Cookie fatigue）所造成的隱私權保護不周全之處。 在電子通訊隱私指令（ePrivacy Directive）以及GDPR規範下，由於現行同意機制複雜，造成用戶對Cookie感到疲勞，進而放棄主張隱私偏好。 為了避免「Cookie疲勞」，EDPB提出以下原則和建議，大致可以分為三點： 一、簡化Cookie不必要的資訊 1.基本運作所需之Cookie（essential cookies）無需用戶同意，故不必呈現於同意選項，以減少用戶需閱讀和理解的資訊。 2.關於接受或拒絕Cookie追蹤的後果，應以簡潔、清楚、易於選擇的方式呈現。 3.一旦用戶拒絕Cookie追蹤，一年內不得再次要求同意。 二、確保資訊透明 1.若網站或應用程式的內容涉及廣告時，應在用戶首次訪問時進行說明。 2.不僅是同意追蹤的Cookie，用於選擇廣告模式的Cookie，仍需單獨同意。 三、維持有效同意 1.應同時顯示「接受」和「拒絕」按鈕，提供用戶拒絕Cookie追蹤的選項。 2.在提供Cookie追蹤選項時，除了接受全部的廣告追蹤或付費服務外，應提供用戶另一種較不侵犯隱私的廣告形式。 3.鼓勵應用程式提前記錄用戶的Cookie偏好，但強調在用戶表達同意時必須謹慎處理，預先勾選的「同意」不構成有效同意。 EC表示，該草案目的在於簡化用戶對Cookie和個人化廣告選擇的管理，雖然為了避免Cookie疲勞而簡化資訊，仍應確保用戶對於同意Cookie追蹤，是自願、具體、知情且明確的同意。將於後續參考EDPB之建議，並與利害關係人進行討論後，制定相關法規。
聯合國委員會通過聲明 禁止各種形式複製人研究面對科學界越來越無法抵擋的複製人浪潮，聯合國二月十八日召開一項特別會議，並表決通過聲明，呼籲各國政府禁止各種形式的複製人研究，包括用於研究人類幹細胞的技術等。不過項聲明並不具強制力。 聯合國法律委員會是以七十一票贊成，三十五票反對，四十三票棄權下，通過這項由宏都拉斯和美國布希政府提出的支持禁止複製人的聲明，委員會通過後交給聯合國大會，由一百九十一個會員國成員最後決定。回教國家已經表明，聯合國大會表決時將棄權，因為聯合國內部並無法達成共識﹔而目前各自有人類幹細胞研究的英國，比利時和新加坡都反對這項聲明，並稱聲明內容不會影響他們的「醫療性幹細胞研究」。 會中支持和反對陣營的最主要爭議核心，在於醫療性複製人類的研究，這類研究必須複製人類胚胎取得幹細胞，實驗結束後銷毀。支持這項研究技術的科學家認為，人類幹細胞研究為許多至今仍無法治療的疾病帶來新希望，例如阿茲海默症，各種癌症，糖尿病和脊椎傷害患者，影響約一億人﹔但是如美國，加拿大等反對國家則認為，這種研究不論是哪一種目的，都是在剝奪利用一個人的生命。聯合國成員在二○○一年起討論制定一項具約束力的全球性公約，禁止複製人，不過各國歧見擴大，一直無法達成共識。義大利因此提議制定不具強制力的宣言，呼籲各國各自立法「禁止任何透過複製程序產生人類生命的企圖，以及任何意圖達成此一目的的研究。」不過，宏都拉斯將此建議擴大，提議聯合國聲明「禁止所有形式的複製人行為。」
機關實體安全維護現行法制與實務運作之研析（上）機關實體安全維護現行法制與實務運作之研析（上） 科技法律研究所 2013年08月25日 機關實體安全維護，其主要內涵在於維護實體設施、設備、及辦公環境之安全性，確保機關業務不會因天災、刻意人為事故或意外而中斷運作，以及保障出入人員的人身安全。另就機關實體安全維護之任務，我國實務與通說均認其屬不涉及機密及公權力行使之一般業務，故極大的比例均是委由民間保全業者為之。 針對機關實體安全之規範，我國在法制設計上稍嫌不足，且對於保全業的管制寬鬆，參國外立法政策如英國、美國、澳洲，雖亦為求提升政府效能並合理運用預算，亦多將安全維護執行任務委外，但並不因此將責任全權轉嫁與保全業者，在法制設計上有相當嚴謹的政策、程序、細節性的機制與文件範本供各機關遵循，再藉由機關委外之法律規範、招標文件與契約設計，來規範民間保全業者；且對於保全業之工作，訂有證照制度、評鑑制度及豐富紮實的教育訓練等法制設計，因此保全人員之素質相較於我國，可謂已經嚴格之篩選。本文將從我國機關安全維護法制結構切入，並以澳洲之立法例為借鏡，最後提出我國現行待解決之問題，期能改善我國機關對於機關實體安全維護之概念。 壹、機關實體安全維護現行法制與運作 一、現行法制設計 機關可能遭遇的安全威脅來自於人為刻意或疏失及天災之危害。例如，辦公場所未列訂管制區或未有效率的把關，使具不同權限的內部人員或來訪的訪客，可輕易的接近、取走具敏感性的文件紙本，或以拍照、錄音的方式取得機密資訊；又或者，委外的資訊廠商、保全人員或清潔人員也能藉由職務上之便利進行側錄、側拍或安裝資料竊取裝置，爾後利用得來之消息販售獲利。另外，開放式機關和辦公場所位於商辦大樓內而與民間企業共構之機關，對於安全維護措施僅有參與權而無主控權，除出入人口複雜，對於火災、斷電等意外事故之預防控制，更是難以掌握。除了人為惡意破壞，單一意外事故亦能導致機關業務嚴重中斷或癱瘓。 目前機關安全維護責任是由各機關之政風機構所執掌[1]，主要係依「政風機構預防危害或破壞本機關事業作業要點」[2]及行政院所發佈之「安全管理手冊」[3]為依循，均屬行政規則之法位階。另外相關規定包括：各級警察機關安全防護工作實施要點[4]、屏東縣政府消防局機關安全維護作業要點[5]、行政院國家科學委員會維護機關安全工作作業要點[6]和臺中市稅捐稽徵處加強機關安全維護值日員工應確實遵守事項[7]。 二、實務運作現況 （一）駐警人力不再，委外保全成為趨勢 相較於採用駐衛警察擔任機關安全維護的角色，機關傾向委外給保全業者[8]，主因不外乎為預算考量，蓋依「各機關學校團體駐衛警察設置管理辦法」第10及11條[9]，駐衛警察之待遇可比照駐在單位職員之支給，且其訓練、保險、退職、資遣、撫慰、服裝等各項費用均由駐在單位負擔。政府為精簡人事預算，對於駐衛警一職採取「只退不補」的政策[10]，可預見未來機關對於委外安全維護的需求係不減反增。根據警政署的統計[11]，至99年止臺灣已共有594家保全公司，可見保全業市場之蓬勃。 （二） 保全業相關法制與運作 肩負安全維護任務的工作者，除專業能力外，身家清白、忠誠度與品格更屬必要條件，故依保全業法第10之1條及第10之2條對保全人員定有消極資格，包括年齡限制、不得有特定犯罪前科紀錄及職前培訓與在職訓練[12]。惟主管機關對保全人員之資格與專業能力僅負消極查核義務，相關事項之執行與落實係由保全業者自主管理。目前保全業的中央主管機關為內政部、業務主管機關為警政署；地方主管機關為縣（市）政府、業務主管機關為縣（市）警察局[13]，負責協助培訓的為警政署[14]。 基於政府與民間對於保全人力的益加倚賴，對其專業素質及品德操守的要求亦越發重視講究，警政署於95年起陸續邀集專家學者、相關行政機關及直轄市、縣（市）警察局代表研議保全業法的修正，但相關建議如證照制度、專業經營、分級管理、評鑑制度、排除旋轉門條款、落實嚴格監督管理、修正保全服務契約、輔導優秀軍警人員轉任保全與規範保全業越區經營範圍及報備制等規定均未列入現行法內[15]。 三、小結 承前，未來可預見現有駐衛警人力全部退休的情形下[16]，除非機關編列預算將駐衛人力編制進組織內，否則委外保全業者全權負責機關安全乃不可逆之趨勢。 我國有明確的機關實體安全維護規範方針，不過在實際執行面向及科技技術應用面向上，較欠缺細節性規定與技術性標準。又除少數機關配有駐衛警、而得由駐衛警負擔內部具機密性、私隱性高之部分外，整體的安全維護任務，包括外圍之交通、門禁管制、夜間巡邏、監視系統監看及警民通報聯防等，不可避免的均係由保全業者擔任[17]。 然而，我國現行保全業法制規範上稍嫌不足，實務運作上之弊病亦非一日之寒，包括保全人員因待遇及前景上難以吸引素質佳的人才但又缺工嚴重[18]，導致從業者素質良莠不齊且流動率極高；政府無統一職前培訓計畫與專業訓練輔導；另主管機關的定期查核流於形式等[19]。 針對保全業現況與法制研究，考量到文章主軸及囿限於篇幅關係，本文對此不再贅述。當務之急應係由機關本身有所警醒，對於實體安全維護的具體作法應建置更明確、細節的規範；其次是與保全業者的契約約定上，範本似有再修正及細緻化之空間。以下將介紹澳洲實體安全維護及委外服務安全管理之機制與作法。 [1]政風機構人員設置管理條例第4條；政風機構設置管理條例施行細則第10條；政風機構預防危害或破壞本機關事件作業要點。 [2]最後修訂日期：100年7月6日。 [3]發布日期：94年6月29日。 [4]發布日期：86年5月13日。 [5]發布日期：98年7月14日。 [6]發布日期：85年10月12日。 [7]發布日期：79年4月19日。 [8]如財政部各相關單位、交通部公路總局、郵局、台電、核電廠、中油、各級學校等均採委外保全。法務部調查局（2007，12月27日）‧政府部門委託民間保全辦理機關安全維護問題探討調查專報‧取自http://lkk73700.myweb.hinet.net/good/new_page_43.htm （最後瀏覽日：2013年6月4日）。 [9]最後修正日期：100年9月1日。 [10]筆者親自訪談台北榮民總醫院政風室（2013年，5月30日），台北榮民總醫院，石牌路二段201號。 [11]經濟日報（2010，1月28日）‧中華民國保全商業同業公會全國總會，開啟臺灣保全業嶄新里程碑‧取自http://edn.udn.com/article/view.jsp?aid=230903&cid=16''' （最後瀏覽日：2013年6月4日）。 [12]保全業法第10條之1： 「有下列情形之一者，不得擔任保全人員。但其情形發生於本法中華民國九十二年一月二十二日修正施行前且已擔任保全人員者，不在此限： 一、未滿二十歲或逾六十五歲。 二、曾犯組織犯罪防制條例、肅清煙毒條例、麻醉藥品管理條例、毒品危害防制條例、槍砲彈藥刀械管制條例、貪污治罪條例、兒童及少年性交易防制條例、人口販運防制法、洗錢防制法之罪，或刑法之妨害性自主罪章、妨害風化罪章、第二百七十一條至第二百七十五條、第二百七十七條第二項及第二百七十八條之罪、妨害自由罪章、竊盜罪章、搶奪強盜及海盜罪章、侵占罪章、詐欺背信及重利罪章、恐嚇及擄人勒贖罪章、贓物罪章之罪，經判決有罪，受刑之宣告。但受緩刑宣告，或其刑經易科罰金、易服社會勞動、易服勞役、受罰金宣告執行完畢，或判決無罪確定者，不在此限。 三、因故意犯前款以外之罪，受有期徒刑逾六個月以上刑之宣告確定，尚未執行或執行未畢或執行完畢未滿五年。 四、曾受保安處分之裁判確定，尚未執行或執行未畢。 五、曾依檢肅流氓條例認定為流氓或裁定交付感訓。但經撤銷流氓認定、裁定不付感訓處分確定者，不在此限。 保全業知悉所屬保全人員，有前項各款情形之一者，應即予解職。」 [13]臺北市政府警察局辦理保全業務作業要點第3點。 [14]以台北市保全商業同業公會為例，公會自主辦理「保全人員訓練護照」由中華保全協會策劃並請市警局督勤，另委請刑事警察局辦理「種子教官」訓練，解決各保全公司教育人員之不足。取自台北市保全商業同業公會網站（無日期）‧取自http://www.sca.org.tw/home/link1.asp?h=link1-45 （最後瀏覽日：2013年6月6日）。 [15]傅美惠、呂秉翰（2009，12月）‧保全業立法、修法與政策評析‧吳鳳學報，18，667-686。 [16]以台北榮民總醫院為例，現行駐衛警從原58名降為29名，平均年齡為60歲，可謂相當高齡化。筆者親自訪談台北榮民總醫院政風室（2013年，5月30日），台北榮民總醫院，石牌路二段201號。 [17]以台北榮民總醫院為例，醫院內部的1400顆監視鏡頭是由駐衛警負責監看，另保全公司所有的監控系統只負責醫院大門及停車場的部分，且會牽線至駐警室進行統一監看管理，不過夜間的巡邏及監看，因人手不足，需保全業者協力配合。筆者親自訪談台北榮民總醫院政風室（2013年，5月30日），台北榮民總醫院，石牌路二段201號。 [18]奇摩新聞（2013，2月2日）‧年前缺四成保全業全年徵人‧取自：http://tw.news.yahoo.com/%E5%B9%B4%E5%89%8D%E7%BC%BA%E5%9B%9B%E6%88%90-%E4%BF%9D%E5%85%A8%E6%A5%AD%E5%85%A8%E5%B9%B4%E5%BE%B5%E4%BA%BA-213000681.html （最後瀏覽日：2013年6月4日）。 [19]傅美惠、呂秉翰（2009，12月）‧保全業立法、修法與政策評析‧吳鳳學報，18，667-686。
美國FDA更新軟體預驗證計畫，以明確化數位健康科技的軟體器材審查流程美國食品及藥物管理局（the U.S. Food and Drug Administration）於2019年1月更新「軟體預驗證計畫（Software Precertification Program）」及公布該計畫「2019測試方案（2019 Test Plan）」與「運作模式初版（A Working Model v1.0）」，使審查流程更加明確及具有彈性，並促進技術創新發展。 在更新計畫中，FDA聚焦於審查架構的說明，包含考量納入醫療器材新審查途徑（De Novo pathway）及優良評估流程（Excellence Appraisal process）的審查內涵。在優良評估流程中，相關研發人員須先行提供必要資訊，以供主管機關驗證該軟體器材之確效（validation）及是否已符合現行優良製造規範（current good manufacturing practices）與品質系統規範（Quality System Regulation, QSR）的要求。而由於以上標準已在此程序中先行驗證，主管機關得簡化上市前審查的相關查證程序，並加速查驗流程。 在測試方案中，則說明FDA將同時對同一軟體器材進行軟體預驗證審查及傳統審查，並比較兩種途徑的結果，以確保軟體預驗證審查途徑中的每一個程序都可以有效評估產品上市前所應符合的必要標準。最後，FDA綜合軟體預驗證計畫及測試方案，提出「運作模式初版」，以協助相關人員了解現行的規範架構與處理程序，並期待藉此促進技術開發者及主管機關間的溝通。FDA並於運作模式文件中提到，將在2019年3月8日前持續接受相關人員的建議，而未來將參酌建議調整計畫內容。