日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
歐盟執委會（European Commission, EC）於2021年6月21日發布2021歐洲創新計分板報告（European Innovation Scoreboard 2021, EIS），其以「整體架構條件」（Framework conditions）、「投資」、「創新活動」和「影響力」（Impacts）四大評比指標，其下再細分為12個次標和32個子標，次標例如人力資源、企業創新、就業影響力等；子標則例如政府部門研發創新支出、企業專業職能訓練、專利與商標申請、高科技產品出口等。相較於2020年創新計分板報告的10個次標和27個子標，本次新增2個次標為列屬在「投資」下的資通訊運用（Use of information technologies），以及在「影響力」下的環境永續。資通訊使用廣度又可分為（1）企業是否提供教育訓練以提升員工的資通訊技能、（2）是否聘用資通訊專家。而環境永續下又可細分為（1）資源生產力（Resource productivity）、（2）產業排放PM2.5狀況、（3）環境相關技術發展狀況；以上即為今年新增的5項子標。 歐洲計分板依前述指標將歐盟會員國創新表現分為四組，2021年綜合創新能力分別為：（1）創新領導者（Innovation Leaders）：包含瑞典、芬蘭、丹麥、比利時，為創新表現大於歐盟成員國平均創新度，且超過25%以上者；（2）優秀創新者（Strong Innovators）：包含荷蘭、德國、盧森堡、奧地利、法國等，創新表現大於歐盟成員國平均但不超過25%者；（3）中等創新者（Moderate Innovators）：包含義大利、馬爾他、西班牙、葡萄牙等國，其創新表現小於歐盟平均者；以及最後一組（4）新興創新者（Emerging Innovators）：包含匈牙利、波蘭、羅馬尼亞等，為創新表現低於歐盟平均之70%。其中第四組新興創新者為新名稱，以取代2020年的適度創新者（Modest Innovators），且今年共有7個國家落入第四組，相比2020年的2個國家還要增加許多。 此外，在各特定領域上，該報告亦有對不同國家進行排名。例如在數位化領域，表現最好者為丹麥、芬蘭、荷蘭。在企業投資部分，以德國、瑞典和比利時為最佳。而在全球綜合創新表現上，歐盟綜整OECD和世界銀行的數據分析，南韓為創新表現最佳，其次才是加拿大、澳洲、美國、日本和歐盟。歐盟於2020年之創新排名領先美國，但在2020年到2021年之間，美國之中小企業產品與流程創新大幅增長至2020年的兩倍，故創新排名從第6進步到第4。
歐盟啟用半導體供應鏈示警系統，監測各成員國半導體供應鏈狀況歐盟執委會（European Commission, EC）於2023年5月10日宣布啟用《歐盟晶片法案》（EU Chips Act）三支柱之一的半導體供應鏈示警系統（Semiconductor Alert System），其目的在於監測半導體供應鏈短缺之問題。 根據《歐盟晶片法案》，歐盟各成員國的半導體供應鏈主管機關須定期執行半導體供應鏈的觀測任務，以隨時確認半導體供應鏈之狀況。然而，由於歐盟係由眾多不同的國家所組成，各成員國間訊息的流通相比於其他單一國家可能較為緩慢，故EC決定創建半導體供應鏈示警系統，交換半導體供應鏈資訊以解決上述問題。在此系統中，私人企業得單獨對所處產業中的早期半導體短缺進行回報，惟個別產業常常單獨誇大或高估危機的發生可能性，對此，EC成立了歐盟半導體專家小組（European Semiconductor Expert Group, ESEG），協助收集各半導體產業與成員國所回報之訊息，除將其用於建立風險評估外，亦彙整並分析成有價值的資訊後再分享給各成員國。 若資訊收集完成後，ESEG或EC察覺歐盟確實有發生半導體供應鏈崩潰的危險，EC將召開特別委員會會議（extraordinary board meeting），共同尋求解決方案，包含聯合政府採購（joint procurement），或與第三國進行合作，以合力解決半導體供應鏈之危機。
英國公告「2014年資料保存和調查法」，落實「歐盟基本權利憲章」精神英國政府於2014年7月17日公告施行「2014年資料保存和調查法」（Data Retention and Investigation Powers Act 2014）(下稱新法)。新法係為因應歐盟法院2014年4月8日判決，由於全面資料保存不合比例地干預隱私權和「歐盟基本權利憲章」（EU Charter of Fundamental Rights）對個人資料的保護，歐盟2006/24/EC資料保存指令(Data Retention Directive 2006/24/EC)應予廢棄。該指令要求歐盟各國電話及網際網路公司搜集使用者電話及電子郵件通聯紀錄，包括時間、地點及受話人或收件人，並儲存至多兩年。 新法規範重點摘要如下： 1.相關通訊資料保存： (1)通訊相關資料保存權力受到管制保障： 新法除規範資料蒐集與保存制度，並規定英國政府得要求國內外電話及網際網路業者搜集其客戶通訊資訊，最長可保存12個月。 (2)於第二節補充前一節用語定義。 2.調查權： (1)新法授權政府得基於國家安全和預防或偵查重大犯罪而監聽取得國內外通訊相關資訊。 (2)修正「2000年調查權規範」(Regulation of Investigatory Powers Act of 2000)第一編之域外規範。 (3)擴大「電信服務」定義，納入提供接取、促進使用、促進傳播通訊之創建、管理、儲存或透過相類似系統之傳播者。 (4)通訊監聽委員(the Interception of Communications Commissioner)每半年提出報告。 (5)調查權力及規範之複審。 3.開始、持續期間、範圍和簡稱：新法落日條款之規範，2016年12月31日將失其效力。
知己知彼，兩岸研發經費比一比依據本（2013）年9月26日中國大陸國家統計局、科學技術部、財政部聯合發布之統計公報顯示，去（2012）年全中國投入在研究與試驗發展（R&D）之經費支出達人民幣（以下同）10,298.4億元，較前（2011）年增加1,611.4億元，成長約18.5%。而大陸地區之研究與試驗發展經費約佔其國內生產總值（GDP）之1.98%，較2011年的1.84%提高0.14個百分點。惟同期（2012年，即民國101年）我國研發經費總計為新台幣4,312.96億元，佔臺灣地區GDP比率為3.07%，較中國大陸1.98%之比率略高。 另據大陸統計公報顯示，在中國大陸10,298.4億元之研發經費內，用於「基礎研究」之支出為498.8億元，比2011年增長21.1%；在「應用研究」之經費則為1,162億元，增長13%；至於「試驗發展」經費支出則為最大宗，達8,637.6億元，增長19.2%。總體來說，大陸地區之基礎研究、應用研究和試驗發展3項，佔其研發經費總支出之比率分別為4.8%、11.3%和83.9%；而臺灣地區則是以基礎研究、應用研究及技術發展等3類為區分，在2011年時分別為9.7%、23.7%及66.6%，說明臺灣地區在基礎與應用研究2部份佔研發經費總支出之比率較中國大陸為高。 然而相關研發經費投入至後續產出專利、運用，能否有效結合，或因而強化國家競爭力、減少需用單位間之落差，已是兩岸或其他國家所關切的焦點。因此，為利知己知彼，除了瞭解競爭國家之資源投入情形外，其研發成果相關運用情形等，亦實值得我們後續觀察、研究。