日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
COVID-19大流行對公共衛生保健服務施加了巨大壓力，同時限制了實體醫療服務的近用，引起人們對實施或擴大實施遠距醫療（Telemedicine）的極大興趣。為了對應全球對遠距醫療服務的增長，世界衛生組織（World Health Organization , WHO）於今（2022）年11月9日發布《實施遠距醫療綜合指引》（Consolidated Telemedicine Implementation Guide），以幫助政策制定者、決策者與實行者設計與監管遠距醫療之實施。 遠距醫療，涉及使用數位科技來克服公衛服務的距離障礙，具有改善臨床管理和擴大醫療服務覆蓋範圍之潛力。遠距醫療已證明的好處包含減少不必要的臨床就診、提供更及時的醫護和擴大醫療服務的覆蓋率。 這份指引建議政策決策者以及設計和監管遠距醫療之實施人員，實施遠距醫療應分為三個階段，其詳細步驟重點如下： 階段一：評估情況 1.組建團隊，並確立目標：確定應參與遠距醫療設計、管理和實施的利害關係人。 2.定義衛生計畫的背景與目標：確定遠距醫療的服務計畫與其地理範圍。 3.對作業環境進行分析：對應用軟體（Software Applications）與通信平台的訊息傳遞通道（Channel）進行作業環境分析、評估應用軟體是否可符合硬體之需求。 4.評估有利環境：包含評估數位成熟度以確定基礎設施與組織需求、審查公衛工作者的能力、評估監管與政策之顧慮、考慮資訊跨域流動之影響、探討財政機制。 階段二：實施之規劃 1.確定遠距醫療系統將如何運作：定義功能性和非功能性需求、因應需求更新之工作流程、進行廣泛的用戶測試、變更管理計畫。 2.實施病人與衛生系統工作者之安全與保護機制：包含建立個資隱私、近用和保護病人個資的系統、實施公衛人員身分驗證之方式、決定並揭露是否會進行錄音錄影等事項。 3.建立標準操作程序（Standard Operating Procedures, SOP）：確定遠距醫療適用的案例與潛在責任、決定培訓方式與支持管道、建立確定身分之流程、建立明確的同意文件、討論是否需改變公衛人員的薪酬、建立聯網醫療器材（Connected Medical Devices）的管理計畫。 4.強化客戶/病人參與以及性別、公平與利害關係人權利：決定遠距醫療之推廣機制（Mechanisms for Outreach）、評估遠距醫療之公平性、對利害關係人權利的影響與確保殘疾人士的可近用性。 5.制定預算：確定總成本預算、計畫如何將遠距醫療服務整合到常態醫療服務和採購安排之中。 階段三：監測和評估（Monitoring and Evaluation, M&E）與持續改善 1.確定監測和評估目標：定義績效評估和影響指標。 2.計畫持續改善和適應性管理：加入日常監管和持續改善機制、降低潛在風險。 WHO最後提醒遠距醫療是對於醫療服務的補充而非取代，並提供一個確保病人安全、隱私、追溯性、問責制的可監督環境。 本文同步刊載於stli生醫未來式網站（https://www.biotechlaw.org.tw）
全美各州醫療委員會聯合會發布人工智慧（AI）治理指引，並要求醫師為AI之利用結果負最終責任全美各州醫療委員會聯合會（The Federation of State Medical Boards, FSMB）於2024年4月發布「引導人工智慧以負責任與符合倫理方式融入臨床實務」（Navigating the Responsible and Ethical Incorporation of Artificial Intelligence into Clinical Practice）指引，明確概述醫師於利用AI協助提供照護時可採取之步驟，以履行其倫理與專業職責，期能藉此降低對患者造成傷害之風險；本指引之特色在於，其要求醫師為AI之利用結果負最終之責任。 FSMB 向各州醫療委員會與其他利害關係人所提供之原則與建議如下，以支持對包含AI之臨床照護進行負責任與符合倫理之監管： （1）透明度與揭露（Transparency and Disclosure）： 應要求維持於醫療照護領域使用AI之透明度；各州醫療委員會應制定明確之指導方針，向患者揭露AI之使用情況，其有助於患者與醫師之理解，但不會造成不必要之行政負擔；FSMB 應制定文件，詳細說明最常用之AI工具之功能與局限性，以協助醫療委員會發揮監管者之角色，並應制定常見問題與最佳實務文件，作為提供照護時利用AI方面關於透明度之資源。 （2）教育與理解（Education and Understanding）： FSMB及其於醫學教育界之合作夥伴，應為醫師、醫療委員會與患者，確認有關醫療照護中AI之結構化教育資源，該等資源應包括協助瞭解AI如何運作、其優點、潛在風險以及對患者照護之影響。 （3）負責任之使用與問責（Responsible Use and Accountability）： 開發人員應協助醫師瞭解何時、以及如何於患者之照護中利用AI工具；選擇AI工具支援臨床決策之醫院系統、保險公司或其他機構應向醫師提供有關AI工具之教育、存取各工具之性能報告，並應設計一個定期檢視工具功效的流程；AI工具應以得使各州醫療委員會能稽核與理解之方式設計，以便適當評估依賴工具輸出結果之醫師是否偏離照護標準（standard of care）；FSMB 應支持各州醫療委員會針對臨床醫師如何負責任、可問責地使用AI之解釋。 （4）公平性與近用（Equity and Access）： 應努力確保所有患者皆能公平地近用AI帶來之好處；FSMB與各州醫療委員會致力於以下原則：醫療人員所提供之照護是公平的、且不受基於種族、民族或其他形式歧視之偏見影響；FSMB應與其他利害關係人一起理解並解決演算法偏差問題。 （5）隱私與資料安全（Privacy and Data Security）： AI工具之開發者必須實施嚴格之保護措施，以保護AI開發與評估時所利用之患者資料，通常情況下應告知患者資料如何被利用，且FSMB應與行業利害相關人一起制定AI系統使用與散布患者資料之政策，包括針對AI開發或評估中使用之患者資料之最低資料保護措施。 （6）監督與監管（Oversight and Regulation）： 各州醫療委員會必須保留對於提供醫療服務時，不當應用AI工具之醫生進行紀律處分之權力，其包括問責議題之考慮，特別是當AI系統變得更加自主時；各州醫療委員會應審查其管轄範圍內如何對「醫療行為」（practice of medicine）進行法律定義，以確保對提供醫療照護、人力或其他方面進行持續之監管監督。 （7）法律法規之持續審查與調整（Continual Review and Adaptation of Law and Regulations）： 各州醫療委員會應在FSMB之支持下，隨著AI之不斷發展，持續檢視與更新與AI相關之指引與法規；政策制定者應考慮AI對基本法律原則的影響，例如醫療行為之定義以及AI對企業醫學實務之影響；FSMB 應建立一個專門團隊，持續檢視與調整AI指引與法規。 本指引指出，AI工具通常無能力取代醫師之專業判斷、道德責任或對州醫療委員會之責任，醫療行為中之關鍵職業責任始終為確保診斷、臨床決策與建議不存在偏差。與用於診斷或治療疾病之任何其他工具或鑑別方法相同，醫療專業人員有責任確保基於證據結論之準確性與真實性，因此於將AI系統用於患者照護前，醫師應以合理努力識別與解決偏差（如虛假或不準確之資訊等）。
日本訂定氫燃料基本戰略，推廣氫燃料使用並降低碳排放。日本於2017年12月26日「第2次再生能源及氫氣等閣員會議」中，作為跨省廳之國家戰略，訂定「氫燃料基本戰略」（下稱「本戰略」），2050年為展望，以活用及普及氫燃料為目標，訂定至2030年為止之政府及民間共同行動計畫。此係在2017年4月召開之「第2次再生能源及氫氣等閣員會議」中，安倍總理大臣提出為了實現世界先驅之「氫經濟」，政府應為一體化策略實施，指示於年度內訂定基本戰略。為此，經濟產業省（下稱「經產省」）邀集產官學專家，召開「氫氣及燃料電池戰略協議會」為討論審議，擬定本戰略。其提示出2050年之未來之願景，從氫氣的生產到利用之過程，跨各省廳之管制改革、技術開發關鍵基礎設施的整備等各種政策，在同一目標下為整合，擬定過程中有經產省、國土交通省、環境省、文部科學省及內閣府為共同決定。 氫燃料基本戰略之訂定，欲解決之兩大課題： 第一，能源供給途徑多樣化及自給率的提高：日本94％的能源需依靠從海外輸入化石燃料，自給率僅有6-7％，自動車98％的燃料為石油，其中87％需從中東輸入。火力發電場所消費的燃料中，液態天然氣（LNG）所佔比例也在上升中，而LNG也幾乎全靠輸入。 第二，CO2排出量的削減。日本政府2030年度之CO2排出量預定比2013年度削減25％為目標。但是，受到東日本大地震後福島第一核能發電廠事故的影響，日本國內之核能電廠幾乎都停止運轉，因此LNG火力發電廠的運轉率也提高。LNG比起煤炭或石油，其燃燒時產生CO2之量較為少，但是現在日本電力的大部分是倚賴LNG火力發電，CO2排出量仍是增加中。 因此本次決定之氫燃料基本戰略，係以確實建構日本能源安全供給體制，並同時刪減CO2排出量為目標，能源如過度倚賴化石燃料，則係違反此二大目標，因此活用不產生CO2的氫燃料。但是日本活用氫燃料之狀況，尚處於極小規模，或者是實驗階段。把氫燃料作為能源之燃料電池車(FCV)，其流通數量也非常少，而氫燃料販賣價格也並非便宜。 氫燃料戰略之目標係以大幅提高氫燃料消費量，降低其價格為目的。現在日本氫燃料年間約200噸消費，預定2020年提高至4000噸，2030年提高至30萬噸，同時並整備相關商用流通網。為了提高氫燃料消費量，需實現低成本氫燃料利用，使氫燃料之價格如同汽油及LNG同一程度之成本。現在1Nm3約為100日圓，2030年降低至30日圓，最終以20日圓為目標，約為目前價格之5分之一為目標，在包含環境上價值考量，使其具備與既有能源有同等競爭力。 實現此一目標需具備：1.以便宜原料製造氫， 建立氫大量製造與大量輸送之供應鏈；2.燃料電池汽車（FCV）、發電、產業利用等大量氫燃料利用及技術之開發。 以便宜原料製造氫， 建立氫大量製造與大量輸送之供應鏈 透過活用海外未利用資源，以澳洲之「褐碳」以及汶萊之未利用瓦斯等得製造氫，目前正在大力推動國際氫燃料供應鏈之開發計畫。水分含量多之褐碳，價格低廉，製造氫氣過程中產生之CO2，利用目前正在研究進行中之CCS技術(「Carbon dioxide Capture and Storage，CO2回收及貯留技術)，將可製造低廉氫氣。為了將此等海外製造之氫氣輸送至日本，使設備大規模化，並開發特殊船舶運輸等，建立國際氫燃料供應鏈。再生能源採用的擴大與活化地方：再生能源利用擴大化下，為了確保能源穩定供應，以及有必要為剩餘電力之貯藏，使用過度發電之再生能源製造氫燃料（power to gas技術）而為貯藏，為可選擇之方法，目前正在福島浪江町進行相關實證。 燃料電池汽車、發電、產業利用等大量氫燃料之利用 （1）電力領域的活用：前述氫氣國際供應鏈建立後，2030年商用化實現，以17日圓/kwh為目標，氫燃料年間供應量約30萬噸左右（發電容量約為1GW）。未來，包含其環境上價值，與既有LNG火力發電具備相等之成本競爭力為目標。其供應量。年間500萬噸～1000萬噸左右（發電容量16～30GW）。2018年1月開始在神戶市港灣人工島（Port Island），以氫作為能源，提供街區電力與熱能，為世界首先之實證進行。 （2）交通上之運用：FCV預計至2020年為止，4萬台左右之普及程度，2025年20萬台左右，2030年80萬台左右為目標。氫氣充填站，2020年為止160站、2025年320站，2020年代後半使氫氣站事業自立化。因此，管制改革、技術開發及官民（公私）一體為氫氣充填站之策略整備，三者共同推進。 燃料電池（FC）巴士2020年引進100台左右、2030年為止1200台左右。（FC）燃料電池堆高機2020年引進500台左右，2030年1萬台左右。其他如：燃料電池卡車、燃料電池小型船舶等。 （3）家庭利用：家庭用氫燃料電池（ENE FARM），係以液態瓦斯作為能源裝置，使用改質器取得氫，再與空氣中氧發生化學變化，產生電力與熱能，同時供應電力與熱水。發電過程不產生CO2，但是改質過程抽出氫時，會排出CO2。降低價格，使其普遍化為目標，固體高分子型燃料電池（PEFC）在2020年約為80萬日圓，固態酸化物燃料電池（SOFC）約為100萬日圓價格。在集合住宅及寒冷地區、歐洲等需求較大都市，開拓其市場。2030年以後，開發不產生CO2之氫燃料，擴大引進純氫燃料電池熱電聯產。 其他例如： （4）擴大產業利用。 （5）革新技術開發。 （6）促進國民理解與地方合作。 （7）國際標準化作業等。 此一氫燃料戰略之推行下，本年3月5日為了擴大普及FCV，由氫氣充填營運業者、汽車製造業者、金融投資等11家公司，共同進行氫氣充填站整備事業，設立「日本氫氣充填站網路合作公司（英文名稱：Japan H2 Mobility，下稱「JHyM」）」，加速並具體化氫氣充填站之機制，今後以JHyM為中心，推動相關政策與事業經營。預定，本年春天再設立8個充氣站，完成開設100個氫氣充填站之目標。
因應2020年社會實現自動駕駛，日本訂定自動駕駛制度整備大綱日本IT綜合戰略本部及官民資料活用推進本部於4月17日公佈「自動駕駛制度整備大綱」。大綱設定2020年至2025年間，日本社會實現自動駕駛下，所需檢討修正之關連法制度。 本大綱中，係以2020年實現自動駕駛至等級4為前提（限定場所、速度、時間等一定條件下為前提，系統獨自自動駕駛之情形），以在高速公路及部分地區之道路實現為條件設定。社會實現自動駕駛有以下課題需克服： 道路交通環境的整備：以自駕系統為行駛，一般道路因為環境複雜，常有無法預期狀況發生，導致自駕車的電腦系統無法對應。 確保整體的安全性：依據技術程度，設定一般車也能適用之行駛環境、設定車輛、自動駕駛之行駛環境條件以及人之互相配合，以達成與一般車相同之安全程度為方針下，由關係省廳間為合作，擬定客觀之指標。此一指標，並非全國一致，應就地方之特性，設定符合安全基準及自動駕駛行駛環境條件，建構整體確保安全之體制。 防止過度信賴自駕系統：訂定安全基準，使日本事件最先端自動車技術擴及於世界，訂定包含自駕系統安全性、網路安全等自動駕駛安全性要件指針。 事故發生時之法律責任：自動駕駛其相關人為駕駛人、系統製造商、道路管理者等多方面，其法律責任相對複雜化。現在係以被害人救濟觀點，至等級4為止之自動駕駛，適用自動車損害賠償責任險（強制責任險）方式，但是民法、刑法及行政法等法律全體之對應，仍為今後之課題，必須為早期快速處理。為了強化民事責任求償權行使、明確刑事責任之因果關係、並實現車輛安全性確保、避免所有人過度負擔等，車輛行駛紀錄器之裝置義務化、事故原因究明機制等，關係機關應合作為制度檢討。 本大綱最後並提出，在自動駕駛技術快速發展下，就其發展實際狀況應為持續半年1次召開會議檢討檢討。