日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
個人健康資料共享向為英國資料保護爭議。2017年英國資訊專員辦公室（ICO）認定Google旗下人工智慧部門DeepMind與英國國家醫療服務體系（NHS）的資料共享協議違反英國資料保護法後，英國衛生部（Department of Health and Social Care）於今年（2018）5月修正施行新「國家資料退出指令」（National data opt-out Direction 2018），英國健康與社會照護相關機構得參考國家醫療服務體系（NHS）10月公布之國家資料退出操作政策指導文件（National Data Opt-out Operational Policy Guidance Document）規劃病患退出權行使機制。 該指導文件主要在闡釋英國病患退出權行使之整體政策，以及具體落實建議作法，例如： 退出因應措施。未來英國病患表示退出國家資料共享者，相關機構應配合完整移除資料，並不得保留重新識別（de-identify）可能性； 退出權行使。因指令不溯及既往適用，因此修正施行前已合法處理提供共享之資料，不必因此中止或另行進行去識別化等資料二次處理；此外，病患得動態行使其退出權，於退出後重新加入國家資料共享體系；應注意的是，退出權的行使，採整體性行使，亦即，病患不得選擇部分加入（如僅同意特定臨床試驗的資料共享）； 例外得限制退出權情形。病患資料之共享，如係基於當事人同意（consent）、傳染病防治（communicable disease and risks to public health）、重大公共利益（overriding public interest）、法定義務或配合司法調查（information required by law or court order）等4種情形之一者，健康與社會照護相關機構得例外限制病患之退出權行使。 NHS已於今年9月完成國家資料退出服務之資料保護影響評估（DPIA），評估結果認為非屬高風險，因此不會向ICO諮詢資料保護風險。後續英國相關機構應配合於2020年5月前完成病患資料共享退出機制之建置。
日本專利法中舉發和異議制度之沿革及現況日本專利法中舉發和異議制度之沿革及現況 資策會科技法律研究所 法律研究員 蘇彥彰 104年11月30日 日本於2014年基於「促進創新以催生優秀技術和商品，作為產業競爭力的源頭」之目的，在兼顧國際化和中小企業使用需求的前提下，就整體智慧財產法制包括發明專利法（特許法）、新型專利法（実用新案法）、設計專利法（意匠法）、商標法、國際專利申請法、專利師法等進行相當程度的修正，而其中專利法的修正重點之一為重新建立專利[1]的異議程序，並修正原有舉發程序之主體資格。由於日本產業種類和專利法制均與我國相近，其產業界對於專利之運用策略亦為值得我國業者參考之對象[2]，因此我國對於日本在相隔超過十年後再次恢復異議程序，使專利撤銷重新回歸異議和舉發雙軌制度之修正背景和具體作法，應有進行了解之必要。 一、日本專利撤銷制度沿革 日本於2003年時，基於以下原因[3]，廢除了原已實行超過80年的專利異議制度，將異議制度的功能整合於專利舉發制度中： (1)異議和舉發在制度設計上的區別性不足，以致於實務上同樣都被視為解決私權紛爭的方式； (2)當時的異議制度，在過程中並未能充分給予異議人具夠的意見表達機會，使整體異議人對處理結果滿意度低落； (3)異議和舉發實際上常同時繫屬於專利廳（特許庁），且由於制度結構不同無法合併處理；又或者異議人在異議被駁回後再提出舉發，造成紛爭解決時程的拖延，增加當事人之負擔且不利專利之安定性。 然而日本廢除異議程序後發現，以言詞審理為原則的專利舉發程序，對於當事人間的人力、時間、金錢負擔較過去異議程序為大，尤其對於非都會區的使用者，或是偏向研發而不進行製造的大學單位更不易進行運用，造成專利撤銷制度的受使用數下降。如此一來雖然短時間內專利核准數量和速度可因而提昇，但長此以往恐將增加有瑕疵的專利在市場上存在和流通的可能性，而更令日本方面憂心的是若事業者於獲得專利後已大舉進行投資，經過相當時日與競爭者間發生侵權糾紛後才被專利廳或法院認定專利無效，將可能對事業造成致命的損害[4]。因此在商業活動全球化，國際專利也透過專利高速公路而加快取得速度的現在，提高專利權安定的必要性也與日俱增。 基於上述背景，日本於2014年修正之專利法中，重新納入了異議制度，允許任何人（包括利害關係人及其他第三人在內），在專利公告後六個月內以不符專利要件、不符權利互惠原則、不應核發專利之發明、重複核發專利、欠缺說明書支持等涉及公眾利益之理由，向專利廳聲明異議並進行書面審查。若專利廳審查後初步認定異議有理由，將向專利權人發出撤銷理由通知，專利權人則可在縮限專利申請範圍、訂正誤記誤譯、就不明瞭記載進行釋明等不使專利範圍擴大的前提下，提出專利內容的更正；另一方面，異議人也可就專利廳的撤銷理由通知以及專利權人的更正請求提出意見書。此作法除可有效落實異議制度提昇專利品質、排除不適當專利外，亦可提高異議人對於異議結果的滿意度；此外在恢復異議程序的同時，新制也針對舉發程序進行修正，將發動舉發程序的權利主體限於利害關係人。 二、修正後日本專利異議和舉發程序分析 修正後的日本專利法，針對已公告核准的專利權再次設有異議和舉發兩道事後審查程序 (1)異議程序[5] 異議程序之目的在於就已成立之專利權儘早進行內容檢討修正，因此除限於公告後六個月內提出、異議理由限於與公眾利益有關之事項外，並採取完全書面審查方式，以加快審查速度且減低程序上支出。若專利廳認為異議有理由並撤銷專利時，專利權人可向高等智財法院起訴尋求救濟，但若專利廳認為異議無理由時，異議人不得聲明不服。附帶一提，雖然異議人具備利害關係人身份時可另行發動舉發程序，但就制度設計目的和精神而言，舉發並非異議結果之救濟程序。 (2)舉發程序 相較於以公益為目的之異議程序，修法後舉發程序之目的更加明確導向解決當事人間的具體權利紛爭。新制下，舉發主體限縮為利害關係人，但相對在時點方面，則容許於專利公告後任何時點提出（包括專利權期滿消滅後），理由亦不限於公眾利益事項，包括專利權人實際上並非專利申請權人之權利歸屬事項在內亦可作為舉發之理由，且審查過程以言詞審查為原則，若當事人對舉發結果不服，無論權利人或舉發人，均可向高等智財法院起訴尋求救濟。 三、小結：對我國專利撤銷制度之啟發 (1)以舉發程序取代異議程序之成效似乎有限 我國於2003年修正專利法之規定，廢除異議制度，整合原有異議與舉發之法定事由，期望能簡化程序並使權利及早確定[6]。 然而如同日本方面經過統計後得知，其國內舉發案件量在異議程序廢除前後幾乎沒有區別。若分析我國智慧財產局自1996年至2014年所進行之專利統計資料後可發現，1996年至2003年間每年約有近2000件異議案件及600餘件之舉發案件提出，自2004年起，異議案件提出量當然完全歸零，但舉發案件之數量雖在初期大量增加，隨後便如同日本情形，舉發案件量呈現快速減少之趨勢，近兩年已回歸2003年異議程序廢除前每年約600餘件之舉發量[7]。在異議案件量完全歸零，而舉發案件量無明顯成長的情況下，原本以舉發程序取代異議程序之目的是否有效達成，實不無疑問。 (2)區別權利主體設計不同的專利撤銷制度 與日本較強調當事人間紛爭解決功能、強化當事人程序上保障、甚至專利法中明文準用民事訴訟法上證據調查之相關規定[8]相比，我國舉發制度或因從職權撤銷專利權制度逐步補充而形成，故較著重於原處分之糾正和撤銷不合法之專利權，對當事人紛爭解決的關注度程度較低[9]。 就此，近來即有實務意見指出，公眾審查制度的設計可依請求審查對象區分為任何人（不包含專利權人）與利害關係人兩種。其中，不涉及利害關係的第三人僅能在專利公告後一段期間內提出無效請求，而利害關係人只要在專利權存續期間均能提起無效請求，甚至在專利權消滅後亦能提出，使得無效爭議案件集中限制在現行涉訟優先審查的專利舉發案，如此可促使專利無效案件審查的加速化、高品質化。且無論該專利無效爭議案件的審理結果是否確定，均可作為智慧財產法院在審理專利有效性的依據，使得第一次判斷權回歸至專利專責機關。同時，也能保障專利權人的救濟機會與審級利益[10]，此一意見實與日本2014年專利法之修正方向一致。我國在專利法制研擬上或可參考之，就專利撤銷制度以權利主體和程序目的為出發點，再次進行類型化的區分。 [1] 和我國將發明專利、新型專利、設計專利均置於單一「專利法」中規範的作法不同，日本的「特許法」、「実用新案法」、「意匠法」均為個別獨立之法規，故本文中之所稱「專利」均係指我國之「發明專利」，不包括「新型專利」和「設計專利」在內。 [2] 莊榮昌，〈從日本企業的立場看專利無效審判〉，《專利法制與實務論文集（95年）》，頁545（2007）。 [3] 高畑豪太郎，《新・特許異議申立制度の解説―平成26年特許法改正―》，経済産業調査会，初版，頁37（2014）。 [4] 同前註，頁5。 [5] 「特許異議の申立」規定於2014年修正後日本專利法第113條以下。 [6] 〈歷年專利相關法規〉，經濟部智慧財產局，https://www.tipo.gov.tw/fp.asp?fpage=lp&ctNode=6678&CtUnit=3205&BaseDSD=7&mp=1（最後瀏覽日：2015/12/14） [7] 〈歷年統計〉，經濟部智慧財產局網站，https://www.tipo.gov.tw/lp.asp?ctNode=6721&CtUnit=3231&BaseDSD=7&mp=1（最後瀏覽日：2015/09/25） [8] 特許法（昭和三十四年四月十三日法律第百二十一号）第百五十一条「第百四十七条並びに民事訴訟法第九十三条第一項 （期日の指定）、第九十四条（期日の呼出し）、第百七十九条から第百八十一条まで、第百八十三条から第百八十六条まで、第百八十八条、第百九十条、第百九十一条、第百九十五条から第百九十八条まで、第百九十九条第一項、第二百一条から第二百四条まで、第二百六条、第二百七条、第二百十条から第二百十三条まで、第二百十四条第一項から第三項まで、第二百十五条から第二百二十二条まで、第二百二十三条第一項から第六項まで、第二百二十六条から第二百二十八条まで、第二百二十九条第一項から第三項まで、第二百三十一条、第二百三十二条第一項、第二百三十三条、第二百三十四条、第二百三十六条から第二百三十八条まで、第二百四十条から第二百四十二条まで（証拠）及び第二百七十八条（尋問等に代わる書面の提出）の規定は、前条の規定による証拠調べ又は証拠保全に準用する。」 [9] 蔡鴻仁，《發明專利舉發之研究》，輔仁大學法律學研究所碩士論文，頁22至23（2004）。 [10] 陳政大，〈我國專利公眾審查制度之調整初探〉，廣流智權事務所，http://www.wipo.com.tw/wio/?p=4316（最後瀏覽日：2015/09/30）
世界61個個資保護主管機關發布聯合聲明，避免AI生成私密影像危害兒少安全61個來自世界各國及歐盟之個資保護主管機關於2026年2月23日發布「AI生成影像及隱私保護聯合聲明」（Joint Statement on AI-Generated Imagery and the Protection of Privacy），旨在警示AI生成影像工具之開發者與使用者，未經當事人同意生成逼真私密影像及有害內容，不僅可能侵害個人隱私或名譽，亦可能嚴重威脅兒少安全。 本聯合聲明是在全球隱私大會（Global Privacy Assembly）國際執法合作工作小組（Internal Enforcement Cooperation Working Group）協調下所發起。其內容強調AI生成影像因廣泛融入社群媒體平臺，更易對兒少造成網路霸凌或剝削等潛在危害，呼籲開發及使用AI生成內容系統時，應遵循隱私與個資保護規則，並注意未經同意創建私密影像在某些國家可能構成刑事犯罪。 針對AI生成內容系統之開發者與使用者，聯合聲明提出下列基本指導原則： （1）實施健全的防護措施，避免濫用個人資料及未經同意生成私密影像或其他描述兒少之有害內容。 （2）確保透明度，有意義地揭露AI系統之功能、安全措施、可接受之用途及濫用後果。 （3）提供有效且易於使用之機制，以接收並快速回應移除有害內容之請求。 （4）向兒童、家長、監護人及教育工作者提供清晰、適齡之資訊，以應對特定兒少風險。 簽署聯合聲明之個資保護主管機關，將持續交流分享相關執法、政策推行與教育宣導經驗，共同努力應對全球隱私及兒少風險。
歐盟「人工智慧法」達成政治協議，逐步建立AI準則歐盟「人工智慧法」達成政治協議， 逐步建立AI準則 資訊工業策進會科技法律研究所 2023年12月25日 隨著AI(人工智慧)快速發展，在各領域之應用日益廣泛，已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act，以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構，並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1]，尚待正式批准。 壹、發佈背景 歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議，尚待正式批准。在法案普遍實施前之過渡期，歐盟執委會將公布人工智慧協定(AI Pact)，其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。 歐盟人工智慧法係歐盟執委會於2021年4月提出，係全球首項關於人工智慧的全面法律架構，該項新法係歐盟打造可信賴AI之方式，將基於AI未來可證定義(future proof definition)，以等同作法直接適用於所有會員國[2]。 貳、內容摘要 AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的，並尊重人類基本權利及歐盟價值觀，在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害，遵循以風險為基礎模式(risk-based approach)，即風險越高，規則越嚴格，現階段將風險分為：最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比，此次臨時協定主要新增內容歸納如下： 臨時協議確立廣泛域外適用之範圍，包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣，該協定規定不適用於研究和創新目的之人工智慧系統，也不適用於非專業原因之個人AI使用。 臨時協議針對通用AI(General purpose AI)[5]模型，訂定相關規定以確保價值鏈之透明度；針對可能造成系統性風險之強大模型，訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。 考量到人工智慧系統可用於不同目的之情況，臨時協議針對通用AI系統整合至高風險系統，並就基礎模型部分商定具體規則，其於投放市場之前須遵守特定之透明度義務，另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。 臨時協議針對違反禁止之AI應用，罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%，提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。 參、評估分析 在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素，如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議，係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果，對其他國家未來立法及規範有一定之指引效果。 此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義，確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務，間接擴大歐盟在人工智慧領域之管轄範圍，並對於人工智慧系統的定義縮小，確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管，並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣，仍需業界、科學社群、民間及其他利害關係人討論準則之制定。 面對AI人工智慧之快速發展，各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論，財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境，將持續觀測各國法令動態，提出我國人工智慧規範之訂定方向及建議。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023). [2]European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023). [3]Artificial intelligence act,P5-7,https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023). [4]GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023). [5]General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2(last visited December 25, 2023).