以色列發布人工智慧監管與道德政策
以色列創新、科學及技術部（Ministry of Innovation, Science and Technology）於2023年12月17日公布以色列首個關於人工智慧的監管和道德政策，在各行各業將人工智慧作為未來發展方向的趨勢下，以多元、協作、原則、創新的理念為其導向，為了化解偏見、人類監督、可解釋性、透明度、安全、問責和隱私所帶來的衝擊，以色列整合政府部門、民間組織、學術界及私部門互相合作制定政策，以求解決人工智慧的七個挑戰，帶領以色列與國際接軌。
該人工智慧政策提出具體政策方向以制定措施，其中具有特色的三項為：
1. 軟性監管：人工智慧政策採取軟性監管制度，以OECD人工智慧原則（OECD AI Principles）為基礎，採行制定標準、監督與自律等方式促進人工智慧永續發展，注重以人為本的道德原則，強調創新、平等、可靠性、問責性。
2. 人工智慧政策協調中心（AI Policy Coordination Center）：邀集專家學者成立跨部門的人工智慧政策協調中心，進行人工智慧政策研議，向政府部門監管提出建言，為人工智慧的開發使用建立風險管理，並代表國家參與國際論壇。
3. 公眾參與及國際合作：政府機關與監管機構舉辦人工智慧論壇，提出人工智慧的議題與挑戰，邀請相關人士參與討論，並積極參與國際標準制定，進行國際合作。
我國科技部在2019年邀集各領域專家學者研議提出「人工智慧科研發展指引」，強調以人為本、永續發展、多元包容為核心，以八大指引為標竿，推動人工智慧發展。我國已有跨部會溝通會議對於人工智慧法制政策進行研討，可觀察各國軟性監管措施作為我國人工智慧風險管理及產業政策參考，與國際脈動建立連結。
毛定瑜
副法律研究員 編譯整理
Israel's Policy on Artificial Intelligence Regulation and Ethics, Ministry of Innovation, Science and Technology, https://www.gov.il/en/departments/policies/ai_2023 (last visited Feb. 20, 2024).
〈科技部訂定「人工智慧科研發展指引」 完善我國AI科研發展環境〉，國家科學及技術委員會，https://www.nstc.gov.tw/folksonomy/detail/dbf8da09-22be-4ef1-8294-8832fc6e8a26?l=ch（最後瀏覽日：2024/02/20）。
簡介〈歐盟提供合格信任服務者依循標準建議〉 資訊工業策進會科技法律研究所 2021年6月25日 壹、事件摘要 歐盟於2014年通過「歐盟內部市場電子交易之電子身分認證及信賴服務規章」（簡稱eIDAS規章）[1]，並於2016年7月正式生效。eIDAS規章是在歐盟1999年電子簽章指令[2]的基礎上，進一步建構一個更安全、更具信賴、更易於使用電子簽章的法律框架，以促進整個歐盟跨境間的電子交易環境，進而達到歐盟數位單一市場的目標[3]。 eIDAS規章共有六章，其核心包含兩大部分[4]，在第二章中規範了電子識別機制（Electronic Identification），並於第三章中建構一系列電子交易中相關信任服務（Trust Services, TS）的法律架構，包含電子簽章（Electronic signatures）、電子封條（Electronic seals）、電子時戳（Electronic time stamps）、電子註冊傳輸服務（Electronic registered delivery services）、網站認證（Website authentication）。每種信任服務，又可以區分由一般的信任服務提供者（Trust Service Provider, TSP）或由合格信任服務提供者（Qualified Trust Service Provider, QTSP）提供，要成為QTSP必須經各成員國的監督機關授予合格地位後，才能提供該類合格信任服務（Qualified Trust Service, QTS），在eIDAS規章中合格信任服務具有更高的法律效力。譬如，根據eIDAS規章第25條第2項規定，合格電子簽章（qualified electronic signature）與手寫簽章具有同等的法律效力。 歐盟網路安全局（European Union Agency for Cybersecurity, ENISA[5]）於2021年3月發布一份報告，提供合格信任服務者依循標準的建議（Recommendations For QTSPs Based On Standards） [6]，給想要申請成為QTSP的業者參考。 貳、重點說明 承前所述，eIDAS規章的目的是要建構一個促進跨境、跨產業的電子交易的環境，為弭平各會員國對於電子識別服務的落差，報告中指出，必須透過法律框架（Legal framework）、信賴框架（Trust framework）、標準化框架（Standardisation framework）共同達成，以提升歐盟數位單一市場中企業和消費者的信任，並促進信任服務和產品的使用。 （一）法律框架 eIDAS規章中規定了9種QTS的安全要求及其提供者的義務，包括： 1.電子簽章的合格憑證； 2.電子封條的合格憑證； 3.網站認證的合格憑證； 4.合格電子時戳服務； 5.合格電子簽章的合格驗證服務； 6.合格電子封條的合格驗證服務； 7.合格電子簽章的合格維護服務； 8.合格電子封條的合格維護服務； 9.合格電子註冊傳輸服務。 （二）信賴框架 其次，eIDAS規章透過事前（ex ante）和事後（ex post）監督的方式，來確保QTSP及其提供的QTS符合eIDAS規章中的法律要求。欲申請成為QTSP須先經過符合性評估機構（Conformity Assessment Body, CAB）的評估，由其出具評估報告後，再由各成員國的監督機關決定是否授予QTSP資格；取得QTSP資格後會受到不定期稽核，且至少每24 個月須再次自費通過CAB評估審核[7]。 （三）標準化框架 eIDAS規章中對各項TS的安全要求是採取技術中立（technology-neutral）的態度，並未限定要採用何種特定技術。換言之，TSP可以透過不同的技術達到eIDAS規章中要求的必要安全程度。事實上，歐盟希望在eIDAS規章所建構的法律框架和信賴框架中，透過產業自律，慢慢形成相關的標準共識。 歐盟從2009年開始，就由歐洲標準化委員會（European Committee for Standardization, CEN）、歐洲電信標準協會（European Telecommunications Standards Institute, ETSI）等歐盟標準化組織協助擬定和更新電子簽章的相關標準，希望可以建立一個更完整的標準化框架，以解決歐盟跨境使用電子簽章遭遇的問題，至今已經建構出一系列電子簽章和相關信任服務的標準，以滿足國際及eIDAS規章的要求，ETSI/CEN與數位簽章有關的標準包含七個面向。 1.介紹性 此類標準主要是關於各類簽章的共通定義、研究、其他關於整體性架構的介紹。 2.簽章的建立與驗證 此類標準主要是關於簽章建立及驗證的政策與安全要求、所要遵循的規則和程序、格式、保護剖繪（Protection Profiles, PP）[8]。 3.簽章建立和其他相關設備 此類標準主要是與電子簽章產生的設備，以及其他與數位簽章相關服務的設備有關。 4.加密 此類標準主要是與簽章的加密有關，譬如金鑰產生演算法（key generation algorithms）和雜湊函數（hash functions）等。 5.支持數位簽章及相關服務的TSP 此類標準主要是關於核發合格憑證的QTSP、網站認證憑證的TSP、時戳服務的TSP、提供簽章驗證服務的TSP等。 6.信任應用服務提供者 此類標準主要與應用電子簽章提供加值服務的TSP有關，如電子傳輸服務、資料檔案長期保存服務等。 7.信任服務資格提供者 此類標準主要與eIDAS規章中信任名單（trusted lists）相關的程序和格式有關[9]。 其中，在ETSI/CEN關於數位簽章的標準中，主要與QTSP有關的標準如下： 1.電子簽章的合格憑證（eIDAS規章第28條） ETSI EN 319 411-2（且要符合EN 319 401、EN 319 411-1、EN 319 412-2、EN 319 412-5）。 2.電子封條的合格憑證（eIDAS規章第38條） ETSI EN 319 411-2（且要符合EN 319 401、EN 319 411-1、EN 319 412-3、EN 319 412-5）。 3.網站認證的合格憑證（eIDAS規章第45條） ETSI EN 319 411-2（且要符合EN 319 401、EN 319 411-1、EN 319 412-4、EN 319 412-5）。 4.合格電子時戳（eIDAS規章第42條） ETSI EN 319 421（且要符合EN 319 401）、EN 319 422。 5.合格電子簽章的合格驗證服務（eIDAS規章第33條） ETSI TS 119 441（且要符合EN 319 401）、TS 119 442、EN 319 102-1、TS 119 102-2、TS 119 172-4。 6.合格電子封條的合格驗證服務（eIDAS規章第40條） ETSI TS 119 441（且要符合EN 319 401)、TS 119 442、EN 319 102-1、TS 119 102-2、TS 119 172-4。 7.合格電子簽章的合格維護服務（eIDAS規章第34條） ETSI EN 319 401、TS 119 511、TS 119 512。 8.合格電子封條的合格維護服務（eIDAS規章第40條） ETSI EN 319 401、TS 119 511、TS 119 512。 9.合格電子註冊傳輸服務（eIDAS規章第44條） ETSI EN 319 401、EN 319 521、EN 319 522、EN 319 531、EN 319 532。 參、事件評析 從歐盟ENISA的建議可以瞭解，歐盟希望透過介紹歐盟標準化組織所制定的相關電子簽章標準，來引導資通訊廠商申請成為QTSP，提供歐盟企業和使用者更安全、更值得信賴的電子簽章相關服務，以強化使用者的信心，進而促進整個歐盟電子交易的蓬勃發展。 近年來，我國企業也積極投入數位轉型，在邁向數位化的過程通常需要由外部的資通訊廠商協助。然而，由於企業對於資通訊技術不熟悉，因此在選擇資通訊廠商時，往往不知道如何判斷其專業能力，或許企業可以參考上述的介紹，以該廠商是否符合歐盟相關標準的要求，作為選擇資通訊廠商的參考依據，以確保資通訊廠商的能力具有一定水準，這樣對於企業數位轉型及進軍歐盟市場會相當有助益。 [1]Regulation (EU) No 910/2014 of the European Parliament and of the Council of 23 July 2014 on electronic identification and trust services for electronic transactions in the internal market and repealing Directive 1999/93/EC, https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=uriserv%3AOJ.L_.2014.257.01.0073.01.ENG (last visited Jun. 24, 2021). [2]Directive 1999/93/EC of the European Parliament and of the Council of 13 Dec. 1999 on the a Community Framework for Electronic Signatures, https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A31999L0093 (last visited Jun. 24, 2021). [3]參前註1，eIDAS前言(3). [4]中文介紹可參考李姿瑩，〈歐盟eIDAS對國內電子簽章和身分認證規範之可能借鏡〉，《科技法律透析》，第31卷第11期，25-32頁，（2019年11月）。 [5]「歐盟網路安全局」原名為「歐盟網路及資訊安全局」(European Union Agency for Network and Information Security)，2019年更改為現名，但該局的英文縮寫仍維持舊稱ENISA。The European Union Agency for Cybersecurity - A new chapter for ENISA, ENISA, https://www.enisa.europa.eu/news/enisa-news/the-european-union-agency-for-cybersecurity-a-new-chapter-for-enisa (last visited Jun. 24, 2021). [6]European Union Agency for Cybersecurity [ENISA], Recommendations for Qualified Trust Service Providers based on Standards (2021), https://www.enisa.europa.eu/publications/reccomendations-for-qtsps-based-on-standards (last visited Jun. 24, 2021). [7]參前註1，eIDAS規章第20條。 [8]保護剖繪是指申請者依共同準則規章（common criteria, CC）製作之資通安全產品安全基本需求文件，可提供資通安全產品開發者開發產品之依據。〈常見問題/Q02.何謂保護剖繪?〉，國家通訊傳播委員會，https://ise.ncc.gov.tw/faq（最後瀏覽日：2021/06/24）。 [9]參前註1，eIDAS規章第22條第2項、第4項。
美國加州「對話機器人揭露法案」美國加州議會於2018年9月28日通過加州參議院之對話機器人揭露法案（Bots Disclosure Act, Senate Bill No. 1001）。此一法案於美國加州商業及專門職業法規（Business and Professions Code）第七部（Division）第三篇（Part）下增訂了第六章（Part）「機器人」乙章，擬防範「利用對話機器人誤導消費者其為真人同時並誤導消費者進行不公平交易」之商業模式，本法案將於2019年7月1日正式生效。依此法案，企業如有使用對話機器人，則應揭露此一事實，讓消費者知悉自己是在與對話機器人溝通。 美國加州對話機器人揭露法案對於「機器人」之定義為全自動化之線上帳戶，其所包含之貼文、活動實質上並非人類所形成。對於「線上」之定義為，任何公眾所可連結上之線上網站、網路應用軟體、數位軟體。對於「人類」之定義為自然人、有限公司、合夥、政府、團體等其他法律上組織或擬制人格。如業者使用對話機器人進行行銷、推銷時，有揭露其為對話機器人之事實，將不被認定違反對話機器人揭露法案，但揭露之手段必須明確、無含糊且合理可讓消費者知悉其所對話之對象為非人類之機器人。值得注意者為，美國加州對話機器人揭露法案，針對「美國本土造訪用戶群在過去12月間經常性達到每月10,000,000人」之網站，可排除此規定之限制。 本法案僅課予業者揭露義務，至於業者違反本法之法律效果，依本法案第17941條，需參照其他相關法規予以決定。例如違反本法案者，即可能被視為是違反美國加州民法揭露資訊之義務者而需擔負相關民事賠償責任。最後值得注意者為，本法案於第17941條針對「利用對話機器人誤導公民其為真人同時影響公民投票決定」之行為，亦納入規範，亦即選舉人如有利用對話機器人影響選舉結果而未揭露其利用對話機器人之事實時，依本條將被視為違法。
何謂「三螺旋理論」三螺旋理論，又稱三螺旋創新模型理論（Triple Helix Theory），主要研究大學、產業以及政府以知識經濟為背景之創新系統中之型態關係，由Etzknowitz與Leydesdorff於1995年首次提出。 因應知識經濟時代來臨，三螺旋理論著重於政府、學術界與產業界（即為產、官、學）三者在創新過程中互動關係的強化。該理論探討如何協調產業、政府、學界三方於知識運用和研發成果產出上的合作；當社會動態產生改變，過去單一強大的領域將不足以帶動創新活動，推動創新也非單一方的責任，此時產業、政府、學界的三螺旋互動便隨之發生：大學透過創新育成機構孕育企業創新，而產業則扮演將研發成果商業化之要角，政府則透過研發相關政策、計畫或法規制定，鼓勵企業和大學間研究發展合作。 有別於早期經濟合作暨發展組織（OECD）將「產業」作為主要研發創新主體，三螺旋理論更重視產業、政府、學界三大主體均衡發展，三方主體各自獨立發展，且同時與其他方維持相互協力合作，共同推進經濟與社會之創新發展。 在三螺旋理論下，產、官、學因其強弱不等的互動狀態，形成不同的動態模型（例如國家干預模型、自由放任模型、平衡配置模型等等），這些動態模型被認為是產生創新的主要動力來源，對未來新知識和科技創造與擴散的能力以及績效具有決定性的影響力。
打擊網路犯罪 歐美強化資料保存法制繼歐盟於 2006 年通過資料保存指令（ Directive on the retention of data ）後，美國司法部亦開始關注資料保存的議題，但不同於英歐盟資料保存之目的乃著眼於對抗恐怖主義及打擊嚴重犯罪，美國資料保存的目地則偏重於根除兒童色情相關的問題。 為因應科技時代的犯罪， 檢察官常需要透過 ISP 業者提供客戶通聯紀錄等資訊以協助犯罪偵察 ， 因此美國在 United States Code, Section 2703(f) 便早已規定 ， 有線或電子通信服務業者必須配合政府要求提供調查犯罪所須的資訊。但由於該法並未明白要求業者應主動收集哪些項資訊，因此美國 ISP 業者僅保存與商業利益有關之網路使用記錄，美國司法部長 Alberto Gonzales 4 月 20 日於國家兒童權益保護中心（ National Center for Missing and Exploited Children ， NCMEC ） 表示，目前 ISP 業者能提供的資料相當有限，這相當程度地阻礙犯罪調查工作的進行，因此他認為應研擬更利於法庭證據取得之資料保存法令。 為避免人權團體以資料保存侵害個人的隱私權為由，而妨礙立法的進度，因此美國目前資料保存法令的推動方向可能有兩種不同的發展方向，其一是僅由 ISP 業者記錄特定期間內民眾的活動紀錄，另一種方向則是與歐盟相似，保存電話通聯、網頁瀏覽以及 mail 、即時通訊等內容。