日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
聯合國國家安全組織(U.N. National Security Agency)計畫於一項名為Q6/17之「網路使用者身份管理計畫」提案中，討論如何以修改網路架構之方式，確保網路通訊來源之真實性與可追溯性。此項計畫被認為可能對網路匿名性產生極大衝擊。 目前網路所賴以溝通訊息之TCP/IP通訊架構，仍允許使用者於一定範圍內保有於網路上匿名發言或活動之可能，例如Tor線上匿名軟體(Tor: anonymity online)之運作即是。然而，此種匿名式的運作架構，被抨擊可能威脅網路安全，例如駭客可利用大量偽造來源地址(spoofed source IP addresses)，發動分散式阻斷服務(DDoS)攻擊。 有鑑於此，Q6/17提案乃嘗試藉由網路連線技術架構的調整，確保未來任何網路上之活動皆可追蹤出原始網路通訊來源(“IP Trackback”)。然而，此種作法被批評為將摧毀網路匿名特性，並對個人隱私造成侵害，或成為各國政府打擊政治異議人士的工具。發表匿名言論權利曾受許多國家憲法或國際條約的肯認，例如1995年美國最高法院於McIntyre v. Ohio Elections Commission一案，做出「匿名發表權乃受憲法保護之人民基本權」見解，歐盟亦有「網路通訊自由宣言(Declaration on Freedom of Communication on the Internet)」。故Q6/17嘗試消弭發表網路匿名言論之技術突破，是否能通過世界各國憲法之嚴格檢驗，仍值得後續關注研究。
新加坡將推動國家電子醫療紀錄新加坡自今年（2018年）1月5日起推動「醫療服務法案（Healthcare Services Bill）」之制定，該法案預計取代現有「私人醫院和醫療診所法（Private Hospitals and Medical Clinics Act）」。其中「國家電子醫療紀錄（National Electronic Health Record），下稱NEHR」將整合並改善國營醫療機構及非國營醫療機構兩種醫療紀錄無法互通之情形，而行動醫療及遠端醫療亦納入之。 根據目前之諮詢狀況（已於今年2月15日結束），提案單位衛生部（Ministry of Health）表示，由於現代醫療技術已趨近複雜，若能整合各醫療單位之就診紀錄，將可大幅提升醫療效率，特別是在急診的狀況下，整合過的單一病歷將可降低評估所需的時間。 而對於病患之個資方面保護，該部表示，首先，NEHR並不會蒐集全部患者的醫療參數，只有患者之核心醫療參數才會上傳至NEHR之資料庫內，此外亦不提供非醫療目的外之使用（例如就業及保險評估）。而為降低非法使用之機率，非法使用亦將處罰之。 另外為尊重病患個人之資訊自決權，NEHR亦提供了病患選擇退出機制（opt-out）以作為個資保護的最後屏障。然而該退出機制仍不同於一般的退出機制（即退出後不得蒐集、處理及利用），該機制僅禁止各醫療機構讀取該病患之醫療紀錄，但是各該機構依NHER之架構仍應將每次就診紀錄上傳之，此一設計係避免緊急情況下或病患同意讀取電子病歷時，卻無醫療紀錄可供查詢之窘境。
新加坡修正通過電子交易法新加坡於2010年5月19日修正通過電子交易法，並於7月1日正式施行。此次新修正之「電子交易法」，是依據新加坡資通訊發展局（Infocomm Development Authority，IDA）及司法部於2004到2005年間推行之公眾意見諮詢，進行法條之全面翻修。作為電子交易法制之先驅國家，新加坡於此次修法中納入聯合國「跨國契約中使用電子通訊公約」（United Nations Convention on the Use of Electronic Communications in International Contracts）之相關規定，此一公約旨在促進全球之電子通訊及交易以相同之法律模式加以運作。 該法之修正係為因應新加坡電子商務之日趨成長以及國民對電子化政府之需求，以建立新加坡成為全球可信賴之資通訊中心。此次修正重點如下： 一、參照聯合國「跨國契約中使用電子通訊公約」之規定，調整電子簽章之要件以及對於收發電子文件時間與地點之認定。納入以自動處理訊息系統做為契約訂立之方式，以電子文件作為正本以取代實體書面之正本文件，並就電子交易中要約之引誘以及電子通訊中發生錯誤時之解決方式加以規定，使新加坡之法律制度能與國際電子商務法律制度接軌。 二、促進民眾及企業與政府機關進行互動時，更有效率地使用電子文件相關服務，以加強電子化政府服務之應用。如提供綜合性電子表格，讓使用者僅需填寫一次相關資訊，即能利用不同種類的電子化政府服務。 三、對憑證管理中心之規範採用技術中立的認證架構，未來憑證管理中心不一定要使用公開金鑰基礎建設（Public Key Infrastructure，PKI）之相關技術作為提供驗證服務之方式，相對地，在其他技術逐漸開發之狀況下，也可採用其他技術提供驗證服務，如生物鑑識技術。當然，主管機關仍會以相同標準對採用不同驗證技術之憑證管理中心進行監督，以確保憑證服務之安全性及有效性。 。
歐盟將擬訂關鍵促成技術（Key Enabling Technologies）促進總策略因為生物科技（Biotechnology）、奈米科技（Nanotechnology）、微（奈）米電子與半導體（Micro- and nanoelectronics, including semiconductor）、光電（Photonics）、及先進材料（Advanced materials）等五大科技，能夠被廣泛的應用在各種產業上，並可協助現有科技作出重大的改善，故在2009年9月歐盟委員會（European Commission）所公布的一份溝通文件（Communication）當中，被認定為是可以加強競爭力，並協助經濟永續發展的關鍵促成技術（Key Enabling Technologies, KETs）。 在該份名為「為我們的未來做準備：發展歐洲關鍵促成技術促進總策略」（Preparing for our future: developing a common strategy for key enabling technologies in the EU）的文件中，歐盟委員會指出，KETs的技術外溢效益和其所能產生的加成效果，可以同時提昇其他領域的表現，如通訊技術、鋼鐵、醫療器材、汽車、及航太等領域，故將對歐盟地區未來的經濟永續發展有著重大的影響，也可以協助面對社會與環境的重大挑戰。 該文件指出，雖然歐盟擁有許多KETs的相關研發成果，對促進研發成果產業化之措施卻有所不足。在此溝通文件中所規劃的發展策略，配合歐盟持續的在研發作出更多的投資，將會協助歐盟充分應用這些可提高歐盟未來競爭力的KETs。 因為KETs的推展須注意系統性的相關聯性，所以數個不同的政策必需被同時考慮。在溝通文件中提出了十項應被考慮的面向，包括（1）將研發政策專注於KETs；（2）促進境內產學研單位間以及產業供應鏈間的技術移轉；（3）促進歐盟與會員國間發展共同的策略方案和操作專案；（4）運用各會員國境內之補助政策；（5）結合KETs的應用與氣候變遷政策；（6）創造市場需求並配合公共採購；（7）與國際間高科技政策相比較並加強國際合作；（8）透過雙邊或多邊貿易談判創造KETs有利的貿易條件；（9）促進歐洲投資銀行（European Investment Bank, EIB）給予高科技產業優惠貸款；以及（10）透過高等教育與在職訓練提昇技術水準。 歐盟委員會將會建立一個獨立的高階專家團體，去繪製歐盟有關各KETs的長期策略藍圖，並將於2010年年底向部長會議（Council of Ministers）報告。