日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
全美各州醫療委員會聯合會（The Federation of State Medical Boards, FSMB）於2024年4月發布「引導人工智慧以負責任與符合倫理方式融入臨床實務」（Navigating the Responsible and Ethical Incorporation of Artificial Intelligence into Clinical Practice）指引，明確概述醫師於利用AI協助提供照護時可採取之步驟，以履行其倫理與專業職責，期能藉此降低對患者造成傷害之風險；本指引之特色在於，其要求醫師為AI之利用結果負最終之責任。 FSMB 向各州醫療委員會與其他利害關係人所提供之原則與建議如下，以支持對包含AI之臨床照護進行負責任與符合倫理之監管： （1）透明度與揭露（Transparency and Disclosure）： 應要求維持於醫療照護領域使用AI之透明度；各州醫療委員會應制定明確之指導方針，向患者揭露AI之使用情況，其有助於患者與醫師之理解，但不會造成不必要之行政負擔；FSMB 應制定文件，詳細說明最常用之AI工具之功能與局限性，以協助醫療委員會發揮監管者之角色，並應制定常見問題與最佳實務文件，作為提供照護時利用AI方面關於透明度之資源。 （2）教育與理解（Education and Understanding）： FSMB及其於醫學教育界之合作夥伴，應為醫師、醫療委員會與患者，確認有關醫療照護中AI之結構化教育資源，該等資源應包括協助瞭解AI如何運作、其優點、潛在風險以及對患者照護之影響。 （3）負責任之使用與問責（Responsible Use and Accountability）： 開發人員應協助醫師瞭解何時、以及如何於患者之照護中利用AI工具；選擇AI工具支援臨床決策之醫院系統、保險公司或其他機構應向醫師提供有關AI工具之教育、存取各工具之性能報告，並應設計一個定期檢視工具功效的流程；AI工具應以得使各州醫療委員會能稽核與理解之方式設計，以便適當評估依賴工具輸出結果之醫師是否偏離照護標準（standard of care）；FSMB 應支持各州醫療委員會針對臨床醫師如何負責任、可問責地使用AI之解釋。 （4）公平性與近用（Equity and Access）： 應努力確保所有患者皆能公平地近用AI帶來之好處；FSMB與各州醫療委員會致力於以下原則：醫療人員所提供之照護是公平的、且不受基於種族、民族或其他形式歧視之偏見影響；FSMB應與其他利害關係人一起理解並解決演算法偏差問題。 （5）隱私與資料安全（Privacy and Data Security）： AI工具之開發者必須實施嚴格之保護措施，以保護AI開發與評估時所利用之患者資料，通常情況下應告知患者資料如何被利用，且FSMB應與行業利害相關人一起制定AI系統使用與散布患者資料之政策，包括針對AI開發或評估中使用之患者資料之最低資料保護措施。 （6）監督與監管（Oversight and Regulation）： 各州醫療委員會必須保留對於提供醫療服務時，不當應用AI工具之醫生進行紀律處分之權力，其包括問責議題之考慮，特別是當AI系統變得更加自主時；各州醫療委員會應審查其管轄範圍內如何對「醫療行為」（practice of medicine）進行法律定義，以確保對提供醫療照護、人力或其他方面進行持續之監管監督。 （7）法律法規之持續審查與調整（Continual Review and Adaptation of Law and Regulations）： 各州醫療委員會應在FSMB之支持下，隨著AI之不斷發展，持續檢視與更新與AI相關之指引與法規；政策制定者應考慮AI對基本法律原則的影響，例如醫療行為之定義以及AI對企業醫學實務之影響；FSMB 應建立一個專門團隊，持續檢視與調整AI指引與法規。 本指引指出，AI工具通常無能力取代醫師之專業判斷、道德責任或對州醫療委員會之責任，醫療行為中之關鍵職業責任始終為確保診斷、臨床決策與建議不存在偏差。與用於診斷或治療疾病之任何其他工具或鑑別方法相同，醫療專業人員有責任確保基於證據結論之準確性與真實性，因此於將AI系統用於患者照護前，醫師應以合理努力識別與解決偏差（如虛假或不準確之資訊等）。
歐盟執委會授權各國決定GMO的提案遭抨擊 10月環境部長會議將繼續協商歐盟執委會（European Commission）於今（2010）年7月授權歐盟各會員國自行決定禁止或准許基因改造（GM）農作物的提案，過去幾個月來即已不斷遭受外界質疑，在近日（9月27日）召開的農業部長會議上又受到主要歐盟會員國的強烈抨擊；歐盟消費者健康及安全政策部門代表John Dalli表示，這個問題將會在10月14日召開的環境部長會議繼續進行協商。 事實上，歐盟執委會的提案同時引來了GMO支持者與GMO反對者的譴責，他們認為這項議案會給農民與農產業者製造法律上的不確定空間，徒增困擾；此外，綠色和平組織歐盟農業政策執行長Marco Contiero也表示，各會員國都不應該接受執委會的這項提案，反而必須對執委會施加壓力，以確保農作物的安全並預防環境污染。農業會議上，許多會員國農業部長也擔心執委會的提案不但會分裂農產品國際市場，並也可能與WTO規則相衝突。 由於預期執委會7月份的提案可能將被撤回或大幅修改，參與農業會議的各國部長也都同意在這過渡時期成立專責的工作小組，以資因應該提案所引致的眾多批評。就現階段看起來，GMO爭議還會在歐盟繼續上演，後續的相關討論值得繼續觀察。
日本智慧財產推進計畫2015分析（中）日本智慧財產推進計畫2015分析（中） 資策會科技法律研究所 104年10月02日 日本智慧財產戰略本部於今年6月19日所公布「智慧財產推進計畫2015」[1]，係以智慧財產的創造、保護、活用及三者間的有效連接作為宗旨，並以少子高齡化與地方經濟衰退、智財糾紛處理機制的使用狀況和便利性、以及內容產業海外拓展的潛力及對智財戰略之重要性為背景，提出三項核心議題並分別剖析各項議題其現狀課題及主管部會應努力之方向，其中第二項議題「活化智財紛爭處理機制」之內容如下： 一、活化智財紛爭處理機制 （一）現狀與課題 1. 證據收集未見確實 在訴訟中，為能作成適切的裁判，原告、被告兩側需提出充分的證據，惟專利侵權訴訟中，多數情況下證據是為被告所掌握，權利人主張侵權之立證較為困難，就此日本認為應就以下三點檢討證據收集程序的機能：在訴訟開始的階段，確保爭點整理之程序充分發揮效用；確保「文書提出命令」作為證明被告有侵害事實有力手段之一，能充分發揮效用；作為證據收集的前提，確保證據保全制度能充分發揮效用。 2.權利安定性不足 從權利賦予乃至於紛爭處理的過程中，專利權等智財權之安定性亦相當重要。日本於2004年針對專利侵權訴訟，於專利法新增第104條之3[2]，導入「專利無效抗辯」之制度，其後雖然有意見認為應廢止專利無效抗辯制度，但整體而言因無效抗辯制度的導入，確實使專利無效訴訟（無効審判）審理遲緩的狀況明顯獲得改善。而由於2015年日本再度導入專利異議制度（異議申立制度）[3]，因此無論就權利者及疑似侵權者之間的平衡，或是產業政策上就專利權進步性要件的判斷等，本年度的推進計畫中均指出有就本條之內容再作檢討之必要。 3.損害認定額偏定 在損害賠償的額度方面，雖然在歷年來多次專利法之修正後已經獲得一定程度的改善，但普遍看法仍認為訴訟實務上法院所認定的侵權損害賠償數額，和商業實態上所造成的影響及需求相比仍是顯然偏低。另日本為求簡化便利損害賠償額的舉證難度，雖已於1998年修正專利法第102條[4]之規定，但於司法實務上並未能充分運用，加以民法上對不法行為之賠償側重實際上造成之損害，而未能從研究開發投資所得之專利權受損之角度思考，造成日本在專利權等智財糾紛中損害賠償額普遍偏低，此一問題仍有待解決。 4.中小企業專利權人不易勝訴 根據日本知的財產戰略事務局之統計，日本專利侵權訴訟中有約六成為中小企業提起，但扣除和解之部分單以終局判決而言，中小企業的原告勝訴率在二成以下，其中對大企業的勝訴率更不到一成，探究其原因，日本認為除了中小企業與專利、法律專業人員間合作程度有所不足外，在權利取得的階段就未能針對未來權利行使、保護充分進行戰略性規劃也可能是問題所在，故應對中小企業的權利取得、行使及訴訟進行上給予一定的支援。 （二）今後施政方向 日本為強化智財紛爭解決體系的機能，於2015年智財推進計畫中指出三個方向：首先是「強化智財紛爭處理體系的機能」，在權利人及侵害嫌疑人間地位平衡的前提下，對證據收集手續、損害賠償額、權利安定性和禁制令的核發等各方面為綜合性的檢討；其次是「促進智財紛爭處理體系的活用」，針對中小企業與大企業的往來過程中，就智財保護、紛爭預防、訴訟對應等面向提供進一步的支援，例如廣設據點提供充分的諮詢、提供具有訴訟實績的專家團隊、減輕進行訴訟之負擔等。此外針對「智財紛爭處理有關之資訊普及化」，為創造能因應經濟全球化之商業環境，除有必要將日本智財相關法令翻譯為英文提供予世界各國，尚應持續針對各國法院、專利局、及訴訟外紛爭解決等智財紛爭處理體系，與日本制度間的異同進行調查研究並公開揭露。 （三）小結 智慧財產權的保護和國家經濟發展息息相關，而僅有優質的專利申請程序及審查品質，仍無法達到健全智慧財產制度及其相關產業之目的，完善的智慧財產爭議解決程序，乃其中不可或缺之一環。有鑑於此，我國於2008年7月參考德、美、日等智財先進國家之作法成立智慧財產法院，目的即在於藉由專業的審判人員及程序，解決具備國際性及高等專業性的智慧財產案件，進而達到智慧財產案件審判的專業化、效率化。 而在智慧財產法院成立已滿七年的今日，學術界和產業界仍持續對提出各項檢討意見，例如法院於專利侵權訴訟中可自行就個案認定專利無效影響專利安定性、專利權人勝訴率偏低、損害賠償數額偏低、訴訟當事人審級利益保障不足等[5]，此等議題和前揭日本智財推進計畫中所提出「活化智財紛爭處理機制」，當中的各項現況與課題同質性甚高，由此可知我國及日本目前在強化智財紛爭處理機制上，均面臨類似的問題有待克服。 二十一世紀為知識經濟時代，由於科技發展及商業型態的多元化，以知識產能為基礎所形成的專利、商標及著作權等智慧財產權，不僅 性質上與傳統的財產權有異，在權利保護上亦有不同的面貌。尤其高科技產業發達與否，攸關國家競爭力，而以鉅額投資研發取得高科技成果，常存有多種智慧財產權，必須藉由法律程序的保護，始能確保該產業在國際市場的競爭力。因此，就法律層面而言，必須建構妥適保護智慧財產權的制度程序，方足以維持國家在國際社會的競爭力[6]。我國後續或可參考前述日本作法，從事前紛爭預防和事後案件處理兩個面向同時著手，降低智財紛爭的發生率並提高解決效率和滿意度，逐步實現活化智財紛爭處理機制之目標。 [1]〈知的財産推進計画2015〉，知的財産戦略本部，http://www.kantei.go.jp/jp/singi/titeki2/kettei/chizaikeikaku20150619.pdf（最後瀏覽日：2015/08/14） [2] 特許法（昭和三十四年法律第百二十一号）第百四条の三（特許権者等の権利行使の制限）：「特許権又は専用実施権の侵害に係る訴訟において、当該特許が特許無効審判により又は当該特許権の存続期間の延長登録が延長登録無効審判により無効にされるべきものと認められるときは、特許権者又は専用実施権者は、相手方に対しその権利を行使することができない。 ２ 前項の規定による攻撃又は防御の方法については、これが審理を不当に遅延させることを目的として提出されたものと認められるときは、裁判所は、申立てにより又は職権で、却下の決定をすることができる。 ３ 第百二十三条第二項の規定は、当該特許に係る発明について特許無効審判を請求することができる者以外の者が第一項の規定による攻撃又は防御の方法を提出することを妨げない。」 [3] 日本於2003年廢止原有之專利異議制度，2015年專利法修正時雖再度納入，但其內容及性質與舊法時之規定略有不同。 [4] 特許法第百二条第一項（損害の額の推定等）：「特許権者又は専用実施権者が故意又は過失により自己の特許権又は専用実施権を侵害した者に対しその侵害により自己が受けた損害の賠償を請求する場合にお いて、その者がその侵害の行為を組成した物を譲渡したときは、その譲渡した物の数量（以下この項において「譲渡数量」という。）に、特許権者又は専用実施 権者がその侵害の行為がなければ販売することができた物の単位数量当たりの利益の額を乗じて得た額を、特許権者又は専用実施権者の実施の能力に応じた額を 超えない限度において、特許権者又は専用実施権者が受けた損害の額とすることができる。ただし、譲渡数量の全部又は一部に相当する数量を特許権者又は専用 実施権者が販売することができないとする事情があるときは、当該事情に相当する数量に応じた額を控除するものとする。」 [5] 李素華，〈智慧財產法院運作之觀察與檢討-以專利侵權訴訟為中心〉，《全國律師》，第18卷第10期，頁18以下。 [6] 同註5，頁42。
歐洲五大電信公司聯合呼籲歐盟建立Open RAN創新生態系統歐洲五大電信公司──德國電信（Deutsche Telekom）、法國Orange電信、義大利電信（Telecom Italia）、西班牙電信（Telefonica）與英國沃達豐電信（Vodafone）於2021年11月18日聯合發表聲明，呼籲歐盟執委會與成員國加速開放「開放式無線存取網路」（Open Radio Access Network, Open RAN）的技術應用，並提出「為歐洲建立Open RAN生態系統」（Building an Open RAN Ecosystem for Europe）研究報告。 本報告對Open RAN價值鏈和當前供應商進行分析，發現許多歐洲供應商正處於發展初期，未獲得Open RAN商業契約，且在Open RAN關鍵服務的部分類別（如雲端軟體）中，尚未有歐洲供應商。甚至綜觀Open RAN的各項關鍵服務分布，歐洲供應商僅有少數等。因此，本報告強調歐洲需迫切將Open RAN作為戰略重點，並提出以下五點建議： （一）歐盟的政策制定者應積極推動發展創新、開放及可互通之電信生態系統，並期望歐盟執委會、成員國與產業利害關係人，透過對話與討論，促使全歐洲對Open RAN生態系統之建立產生共識。 （二）執委會應成立下世代通訊基礎設施聯盟，如同過去其為雲端與半導體設立聯盟，作為推動該產業的關鍵力量。此外，為迎接Open RAN新興技術，應提倡如歐盟共同利益重要計畫（Important Projects of Common European Interest, IPCEI）的微電子和通訊技術、5G產業協會與共同承諾推動智慧網路服務多國計畫。 （三）政策制定者應降低歐盟供應商和新創企業之投資風險，並對歐洲未來具有戰略意義的技術領域，以資金與租稅等激勵措施，支持歐洲供應商合作。如由歐盟執委會和各國政府為財團提供資金，使歐洲公司建立穩固的合作關係，並成為Open RAN價值鏈中茁壯成長的供應商。 （四）O-RAN聯盟（O-RAN ALLIANCE）與第三代合作夥伴計劃（3rd Generation Partnership Project, 3GPP）及歐洲電信標準協會（European Telecommunications Standards Institute, ETSI）正式合作，支持採用O-RAN規範作為ETSI的自願性標準，可透過快速程序對現有3GPP規範進行補充。透過促進全球統一的Open RAN標準，確保開放性網路設備的互通性，如：全歐認證的品質與互通性，建立生態系統部署者的信心。 （五）歐盟應與國際合作，促進安全、多樣化及可持續的資訊與通訊技術供應鏈，如：利用七大工業國組織（Group of Seven, G7）、美歐貿易和技術委員會（EU-US Trade and Technology Council）與日歐資通訊技術對話（Japan-EU ICT Dialogue）促進發展和部署開放且可互通的網路架構。